인공지능과 디스토피아
인간보다 더욱 인간 같은 인공지능
인공지능이 만들어낼 디스토피아를 상상하면서 우리는 영화 '터미네이터'를 떠올리곤 한다. 기계가 스스로 판단하여 사람들에게 반란을 일으키고 죽이기까지 하는 폭력적이고 끔찍한 장면 말이다.
그러나 딥러닝 자연어처리(NLP) 분야의 프로젝트에서 직접 일하면서 느낀 현실은 공상과학 영화와는 매우 다른 것이었다. 현재의 인공지능 기술들은 사람처럼 고객을 응대하는 챗봇과 음성봇을 만들고, 업무를 효율화하는 등 인간의 편의성에 초점이 맞추어져 있다.
하지만 안심하긴 이르다. 인공지능은 우리가 전혀 생각해본 적 없는 방식으로 영화보다 훨씬 무서운 디스토피아를 초래할 수도 있기 때문이다.
권력의 집중과 인본주의의 종말
유발 하라리의 베스트셀러 '호모데우스'에서 저자는 다가올 미래의 모습이 인간 중심의 민주화된 현대 사회와는 거리가 멀며, 오히려 소수의 초엘리트 집단에게 모든 권력과 권한이 집중된 독재 사회에 가까운 모습일지 모른다고 경고한다.
Google이나 OpenAI같은 소수의 초거대 기업에 모든 데이터와 기술력이 집중되면서, 작은 기업과 개인들은 그들의 기술력에 의존할 수밖에 없게 되기 때문이다. 또한 인공지능이 발전을 거듭하게 되면서 인간 본연의 가치를 중시하는 '인본주의'의 의미마저 사라져 버린다면 대다수의 사람들에게는 그야말로 '디스토피아'가 펼쳐질 것이라는 주장이다.
2018년 처음으로 그의 책을 읽었을 때 받았던 충격을 아직도 기억한다. 굳게 믿어 의심치 않던 인간의 존엄성, 자유, 의지와 같은 개념들이 실제로는 허상에 불과하며 기술의 발전에 따라 얼마든지 사라져 버릴 수 있다는 그의 주장은 당시의 나에게는 참 센세이셔널했다.
대규모 딥러닝 모델의 위험성 : BERT와 GPT
물론 유발 하라리의 경고를 터미네이터와 비슷한 공상과학 정도로 취급하는 사람들도 많다. 나 역시 먼 미래의 일 따위를 고민할 여유는 없었다. 그의 주장에 반박하는 사람들의 이야기에 어느 정도 동조하게 되면서 그가 말하던 디스토피아 따위는 잊고 살게 되었다.
그러나 현업에서 일을 하다 보면 그의 말이 단순히 근거 없는 허무맹랑한 주장이 아닐지 모른다는 섬뜩한 직감을 더 이상 무시할 수 없다. 실제로 대부분의 NLP(자연어처리) 프로젝트에서 활용되는 모델들은 Google사의 BERT나 OpenAI사의 GPT-3 등 세계 초일류 기업들이 천문학적인 액수의 자금과 긴 시간을 들여 만들어 놓은 대규모 딥러닝 모델이다.
약 33억개의 텍스트 데이터로 사전학습을 마친 언어 모델 BERT(Bidirectional Encoder Representations from Transformers)를 작은 스타트업이나 개인이 만들어 내는 것은 불가능하다. 약 1750억개의 매개변수를 가지고 있는 GPT-3 모델은 사용을 위해 훈련을 마치는 데에만 해도 약 130억원이라는 돈이 든다.
물론 이러한 기술들은 오픈 소스로 활용이 가능하기 때문에 관련 기술에 대한 어느 정도의 이해가 있으면 접근이 용이하며, 비교적 적은 시간과 노력을 들이고도 좋은 결과를 도출해 낼 수 있다는 장점이 있지만, 모델이 어떻게 그러한 결과를 도출해내게 되었는지에 대한 과정은 철저한 블랙박스로 남아있다.
그러나 업계에서 선택지는 GPT나 BERT같은 사전학습 모델로 점점 줄어들고 있다. 경제성과 성능면에서 기존의 모델과는 비교가 되지 않기 때문이다.
GPT-4, 인간보다 더 인간 같은 언어 모델
일론 머스크와 샘 알트만이 공동 창립한 openAI사에서는 2023년 상반기 출시 목표로 GPT-4를 개발하고 있다고 한다. GPT-3에 비해 수십 배에 달하는 조 단위의 매개변수를 가지고 있으며, 단순 텍스트 데이터뿐만 아니라 영상이나 이미지 데이터 등 다양한 형태의 데이터를 학습할 수 있는 multimodal 방식을 채택하고 있다.
사람이 무언가를 학습하는 방식과 똑같다. 이쯤 되면 인간의 뇌를 그대로 컴퓨터에 옮겨놓는 것도 전혀 무리는 아니라는 생각이 든다. 과연 GPT-4의 다음에는 무엇이 우리를 기다리고 있을까? GPT-5,6,7... 기하급수적으로 늘어나는 데이터와 발전하는 기술의 끝에 컴퓨터는 결국 인간처럼 '의식'을 획득할 수 있을까?
그러나 기술의 발전보다 더욱 중요한 것은 결국 인간을 집어삼켜버릴지 모르는 초거대 기업에게서 자유를 획득하는 것 아닐까? 또한 자유롭기 위해서는 우리 스스로 인간 본연의 가치를 버리지 않을 수 있는 용기가 필요하지 않을까?
