인공지능의 미래 - 디스토피아 혹은 유토피아(1)

인공지능은 어떻게 인류의 몰락을 초래하게 될까?

인공지능이 초래할 디스토피아(Dystopia)에 대해 이야기할 때 사람들은 SF영화 아이로봇이나 터미네이터를 떠올리곤 합니다. 기계가 인간의 명령을 거부하기 시작하더니 종국에는 인류가 지구에 해롭다는 판단을 내리고 사람들을 죽이고 문명을 파괴하는 폭력적이고 끔찍한 장면말이죠. 시대를 막론하고 이러한 디스토피아를 다룬 SF영화가 꾸준히 나오는 것을 보면 로봇의 반란은 인공지능에 대한 사람들의 막연한 두려움을 상징하는 것 같습니다.

영화 '아이로봇(I, Robot)'

그러나 제가 현업에서 다양한 딥러닝 모델을 활용하고 초거대언어모델(LLM)을 개발하면서 느낀 인공지능의 실체는 공상과학 영화와는 매우 다른 것이었습니다. 현재의 인공지능 기술들은 업무를 자동화하고 사람들의 창의적 활동을 보조하는 등 인간의 편의성에 초점이 맞추어져 있기 때문이죠. 또한 AGI(일반인공지능) 파헤치기 - 뇌는 진화의 산물이다에서 살펴보았듯이 뇌과학과 인지과학은 기계가 자유의지를 가지도록 만드는 것은 현시점에서 기술적으로 매우 어려운 일이라고 말합니다. 뿐만 아니라 경제적 측면에서도 별다른 실익이 없기 때문에 SF영화에서 그리는 형태의 디스토피아는 개연성이 없다고 할 수 있습니다.

인공지능은 분명 인류에게 새로운 종류의 위협을 초래할 수 있지만 그것은 우리가 상상하는 SF영화 속 장면과는 매우 다른 우리가 전혀 생각해 본 적 없는 종류의 것이 될 것입니다. 인공지능은 잘 활용되면 우리의 삶을 윤택하게 해 주겠지만 잘못된 방향으로 흘러가면 영화보다 훨씬 무서운 디스토피아를 초래할 수도 있습니다. 이번에는 인공지능이 어떻게 인류의 소중한 가치들을 파괴할 수 있는지 그리고 그것을 막기 위해서 우리가 할 수 있는지 이야기해보도록 하겠습니다.

1. 인공지능과 초엘리트 중심 사회

유발 하라리는 2015년 그의 저서 '호모데우스(Homodeus)'에서 앞으로 다가올 미래의 모습은 인간 친화적인 민주화된 현대 사회와는 거리가 멀며 소수의 초엘리트 집단에게 모든 권력과 권한이 집중된 독재 사회에 가까운 모습일지 모른다고 경고했습니다.

출처 : 교보문고

호모데우스가 출간된 지 약 10년이 지금 2024년 유발 하라리의 예측처럼 인공지능 기술을 적극적으로 활용하는 사람들과 그렇지 못한 사람들 간의 격차는 점점 더 벌어지고 있는 것처럼 보입니다. 2022년 말 OpenAI가 챗GPT를 공개한 이후 많은 기업과 개인들이 생성형 AI 활용에 열을 올리면서 직업과 일을 둘러싼 패러다임의 변화가 일어나기 시작했기 때문입니다.

유발 하라리는 인공지능을 능숙하게 활용하는 소수의 집단이 대다수의 사람들을 지배한다고 주장하고 있는 것일까요? 그의 말처럼 우리는 초엘리트가 지배하는 독재 사회로 나아가고 있는 것일까요?

2. GPU + 데이터 = 생성형 AI

그런데 인공지능 숙련도 차이가 초래하는 양극화보다 더욱 근본적인 문제가 있습니다. 그것은 바로 압도적으로 큰 모델 사이즈로 규모의 경제(Economy of scale)를 실현하는 기업이 모든 것을 가져가는 현재의 초거대언어모델(LLM)의 기술적 특성입니다. 병렬처리(Parallelism)를 통해 막대한 양의 단순계산을 빠르고 정확하게 수행하는 GPU(Graphics Processing Unit)는 초거대언어모델(LLM)의 근간이 되는 딥러닝(Deep learning) 기술의 핵심이라고 할 수 있습니다.

출처 : Nvidia Korea

또한 데이터 수집에도 양극화가 진행되고 있습니다. 현재의 생성형 AI 산업구조는 더 많은 양질의 데이터를 손에 쥔 기업이 더욱 성능 좋은 모델을 만들어낼 수 있는 구조입니다. 자동차가 석유를 필요로 하듯 인공지능은 데이터를 필요로 합니다. 데이터는 생성형 AI의 원료라고 할 수 있습니다. 양질의 텍스트와 이미지 등 비정형 데이터(Unstructured data)를 실시간으로 데이터 센터의 서버에 저장하고 수조 개에 달하는 매개변수로 이루어진 거대 딥러닝 모델을 실시간으로 훈련(Training) 시키는 파이프라인 구축은 초거대 기업이 아니면 할 수 없는 작업입니다.

결론적으로 OpenAI와 Google과 같은 소수의 초거대 기업에 모든 데이터와 생성형 AI 운용을 위한 고성능 GPU 등 계산 리소스가 집중되면서 작은 기업과 개인들은 원하던 원하지 않던 그들이 api를 기반으로 제공하는 서비스와 기술력에 의존할 수밖에 없게 되었습니다. 또한 이러한 기업들에 GPU를 공급하는 Nvidia와 AMD 등 거대 반도체 회사들은 반사이익을 보게 됩니다. 인공지능을 둘러싼 또 하나의 카르텔이 탄생하는 것입니다.

3. AGI의 등장과 인본주의의 몰락

인본주의란 인간의 존재를 중요시하고 인간의 능력과 성품 그리고 인간의 현재적 소망과 행복을 귀중하게 생각하는 정신입니다. 현재 우리가 살아가고 있는 민주주의 사회는 인간의 존엄성, 최소한의 권리, 자유와 같은 핵심 가치들의 굳건한 토대 위에 쌓아 올려져 왔습니다.

그런데 유발 하라리는 인공지능이 발전을 거듭하게 되면서 사람처럼 생각하고 행동하는 일반인공지능(AGI)이 등장하게 되면 인간 본연의 가치를 중시하는 '인본주의'의 의미마저 사라져 버릴 가능성이 크다고 주장합니다. 단순히 인공지능에 우리의 지능을 구현하는 것을 넘어 자유의지나 선과 악의 개념까지 학습시켜 버린다면 우리 인간을 인공지능과 구분해 주는 고유의 가치인 인본주의마저 종말을 고할 수 있습니다. 

모두가 알다시피 인공지능은 밥도 먹지도 않고 쉬지도 않고 24시간 일하며 고퀼리티의 결과물을 만들어낼 수 있습니다. 인간은 자연스럽게 경쟁에서 되태될 것이고 그렇게 된다면 우리는 단순히 인공지능에게 데이터를 공급해 주는 노예와 같은 존재로 전락해 버린다는 것이죠.

출처 : Freepik

사실 AGI가 실현될 미래까지 가지 않더라도 지금 이러한 문제를 마주할 수 있습니다. 아주 가까운 미래에 우리는 인간 의사보다 생성형 AI의 진단 결과를 신뢰하게 될 수 것입니다. 마찬가지로 AI 판사는 수많은 판례 데이터를 바탕으로 인간 판사를 너무나도 쉽게 대체해 버릴 것입니다. 교육현장에서는 AI 선생님이 인간 선생님들을 대체해 버릴 수도 있습니다. 이처럼 모든 것이 인공지능으로 대체되어 버린 사회에서 우리는 어떻게 스스로의 존재가치를 찾을 수 있을까요?

유발 하라리는 저서에서 인간의 존엄성, 자유, 의지와 같은 개념들이 실제로는 허상에 불과하며 기술의 발전에 따라 얼마든지 사라져 버릴 수 있다고 말합니다. 물론 그의 주장은 너무 극단적이고 논리적 비약이 심합니다. 그러나 논증 방법의 문제는 차치하고서라도 이미 GPT-4o가 등장하고 사람보다 그럴듯하고 신빙성 있는 답변을 해주는 생성형 AI 전문가들이 등장할 것이 매우 유력한 이 시점에서 인본주의의 몰락은 충분히 중요하게 다루어야 할 주제입니다. 인공지능 규제와 AGI 관련 법안 등 우리가 더 늦기 전에 관련 논의를 중점적으로 다루어야 하는 이유입니다.