박태웅의 AI강의 줄거리(2)

---

독서 후 남기고 싶은 부분만 발췌, 기록한 일기
​
​​​​​​​​​​​​​​​​​​​​​​​​책 : 박태웅의 AI강의
저자 : 박태웅
독서 : 6 - 63
​

판도라의 상자는 열렸다.

​
어제 말한 것처럼 최근 딥러닝 기술을 가진 AI의 기술에 열광을 했다. 왜 그럴까? 기존에 없었던 것이기 때문이다. 기존에는 시장에 알려지지 않은 기술이었겠지만 상상이상으로 너무 강력한 기술이었고 그것을 우리가 접할 수 있기에 더 큰 파급으로 다가왔던 것 같다. 이런 파급력을 알기에 수많은 기억들이 AI의 규모를 키우는데 열중하고 있다. OpenAI가 개발한 GPT4.0뿐만 아니라 구글의 바드, 메타의 라마, 네이버의 하이퍼클로바X 등 생성형 AI는 계속 나오고 있다. 왜 기업들은 규모를 키우고 시장을 선점하려고 노력을 하는 것일까? 그만큼 시장의 파급력이 커지고 더 커질 것을 알기 때문인 것이다.

챗 GPT는 1,750억 개의 매개변수, 5조 개의 문서, 1만 개의 A100 GPU 학습을 했다고 한다. 그리고 GPT-4는 약 1조 개의 매개변수를 가지고 있을 것이라고 추정하고 있다. 이런 학습을 위해서 얼마나 많은 GPU가 필요했겠을까? 그리고 그것을 구동하기 위해서는 얼마나 많은 파워가 들어갔을까? 아마 상상하는 것 이상의 리소스가 들어갔을 것이다.

AI는 효과적인 프롬프트를 작성하기 위해 생각의 연결고리와 단계적 추론이 필요하다. 하지만 AI가 학습능력이 아무리 뛰어나다고 하더라도 인간의 방식과 똑같을 수 있을까. 거기에 100% 동의할 수 있는 사람은 없을 것이다. 그것은 언어와 사고가 분리되어 있기 때문에 AI가 학습을 한다고 하더라도 그 미묘한 차이는 아직 남아있는 것이다. 언어에는 규칙과 패턴에 대한 지식을 포함한 형식적 언어능력과 실제로 사람 간 언어를 이해하고 사용하는데 필요한 인지 능력인 기능적 언어능력이 있는데, 형식적 언어능력은 일정한 메커니즘이 있기에 거대 언어 모델이 인상적인 성과를 보이지만, 기능적 능력이 필요한 테스트에서는 아직 차이를 보인다고 한다. 사실 이 또한 시간이 지나고 학습이 된다면 차이를 많이 좁히지 않을까 싶다.

딥러닝 기술이 알려지고 openAI가 나오면서 많은 발전이 있었다. 그 발전 속도는 엄청났고 앞으로의 속도 또한 엄청난 것이라고 추측하고 있다. 챗 GPT에 사람이 열광하였던 이유는 무엇일까? 방대한 데이터도 있었겠지만 시스템과 우리의 언어로 대화가 가능했기 때문이다. 앞으로 AI는 어떻게 될까? 산업혁명의 초창기들에 대해서 생각해 보자. 전기가 처음 나오고, 증기기관이 처음 나오고, 컴퓨터가 처음 나왔을 때 말이다. 그것들 또한 혁신적인 기술이었지만 결국은 그 기술이 도구로 쓰일 때 더 큰 혁명이 찾아오게 되었다. AI라는 방대한 지식과 인간의 노동력을 대체할 수 있는 시스템으로 인하여 산업구조의 혁명은 반드시 찾아올 수밖에 없다.

강력한 AI는 위험하다. 어제 말한 핵기술도 무기로 쓴다면 인류를 파멸로 이끌 수 있다. AI 또한 잘못 쓰게 되면 사람의 필요성을 위협할 수 있다. 그렇기에 AI에게 절대 하지 말아야 할 것들이 있다고 한다. 코딩을 가르치지 않고 인터넷은 인간을 돕기 위한 학습을 할 때만 연결하고 악의적인 사용을 하지 않기 위해 공개 API를 제공하지 않는 등의 것을 이야기하고 있다. 예전 SF 영화에서 나온 것처럼 인간을 위해 만든 시스템에게 인간이 굴복당하는 일이 생길 수도 있지 않을까. 지금은 로봇이 대중화되지 않았지만 인간형 로봇이 대중화되고 이 시스템이 인근을 위하지 않았을 경우는 SF 영화가 현실이 될 수밖에 없다. 인간을 위해 만든 시스템이 시스템을 위한 시스템이 될 경우는 생각지 못한 현실이 될 수도 있는 것이다.

AI를 운영하기 위해서는 환경적·재정적으로 엄청난 이용이 든다고 한다. 학습하고 운영을 하기 위해서 천문학적인 비용이 든다. 상상이상의 전력과 발생되는 탄소는 환경을 막대하게 오염시킨다고 한다. 또한 거대 언어 모델이 이해할 수 없는 내용에는 왜곡과 편견이 들어갈 수 있는데 이것을 잘못 판단할 수도 있다. 또한 이 기술을 이용할 수 있는 사람과 아닌 사람에게는 큰 차이를 만들 수 있다. 이뿐만 아니라 수많은 문제를 야기할 수 있을 것이다

판도라의 상자는 열렸다. 그것을 어떻게 사용할지는 우리 인간에게 달려있다. 인간을 위해 사용할지 인간을 위협하기 위해 사용할지.