뇌과학자 김대식이 본 우울한 AGI
인간이 필요없어지는 사회
카이스트에서 뇌과학과 인공지능을 연구하는 김대식 교수는 최근 AGI(범용 인공지능)의 도래가 더 이상 공상과학이 아닌, 우리가 개인적으로 경험하게 될 매우 현실적인 문제임을 경고하며, 충격적인 미래 청사진을 제시했습니다. 현재 우리는 미끄럼틀 맨 위에 앉아 손을 잡고 있을지 놓을지를 결정해야 하는 '골든 타임'의 문턱에 서 있으며, 이 기간은 불과 5년 안에 결정될 수 있다고 그는 역설합니다.
1. AGI: 인류 지적 능력의 완전한 대체
우리가 현재 사용하는 인공지능(AI)은 인간의 특정 능력 하나를 대체하는 도구입니다(예: 알파고의 바둑, ChatGPT의 대화). 하지만 AGI는 하나의 능력을 넘어, 인간의 모든 능력, 또는 적어도 사회·경제적으로 의미 있는 대부분의 지적 능력을 대체할 수 있는 기계를 의미합니다.
AGI의 등장은 시기의 문제일 뿐, 이제 불가능하다고 생각하는 전문가는 거의 없습니다. AI 안전성 연구자들이 작성한 'AI 2027 보고서'는 AGI가 2027년에 기술적으로 가능할 것이라 주장하며, 오픈 AI의 샘 월트먼 역시 5년 이내를 이야기합니다. 김대식 교수는 개인적으로는 10년에서 20년 사이를 예상하지만, 어른들에게 10년 20년은 금방 지나가는 시간임을 강조하며, AGI가 곧 우리 삶의 문제가 될 것이라 경고합니다.
문제는 AGI가 기존 기술과 달리 스스로를 업그레이드할 수 있고, 자율성을 가질 수 있다는 점입니다. 인류가 만든 자동차는 사람보다 빠르고 망치는 주먹보다 세지만, 우리는 여전히 그것들을 통제할 수 있습니다. 그러나 AGI는 인간의 통제를 벗어나 스스로 진화하는 순간, 인류에게 위협적인 존재가 될 수 있습니다.
2. 실리콘 밸리의 유토피아 비전: 효과적 가속주의(e/acc)
실리콘 밸리의 최고 엘리트들(기술력과 자본을 가진 약 1만 명)은 AGI를 최대한 빨리 만들어야 한다고 주장합니다. 그들은 인간이 멍청해서 풀지 못했던 문제를 AGI가 해결해 줄 것이라고 믿습니다. 핵융합 에너지, 질병 치료, 양자 역학과 상대성 이론의 융합 등 난제들을 AGI가 풀어주면 인류는 무한한 에너지를 얻고 영원히 살 수도 있을 것이라는 예측입니다.
이러한 주장의 핵심에는 인간의 본질적인 한계에 대한 인식이 깔려 있습니다. 인간 사회에서의 지식 공유(소통)는 언어를 통해 이루어지는데, 언어는 우리의 복잡한 생각과 경험을 완벽히 전달하지 못하는 "후진 방법"이며, 정보의 왜곡이 발생합니다. 반면, AI 간에는 가중치 값(학습 내용)을 100% 카피하여 완벽한 정보 교환이 가능하며, 이는 지식의 기하급수적인 증가를 의미합니다.
이들은 AGI의 긍정적인 효과가 너무 크기 때문에, 개발 과정에서 발생하는 일자리 문제나 가짜 뉴스 같은 사회적 문제는 무시하고 최대한 빨리 개발해야 한다는 '효과적 가속주의(Effective Accelerationism)'를 주창합니다. 그 결과로 도래할 유토피아에서는 AI가 모든 생산을 담당하고, 인간은 그저 원하는 것을 하며 영원히 행복할 것이라는 믿음을 가지고 있습니다.
하지만 김대식 교수는 이를 깊은 생각 없는 "아주 전통적인 캘리포니아 스타일 세계관" 또는 "어린 나이 옛날 얘기 같은 세계관"이라고 비판합니다.
3. AGI 지옥의 첫 번째 계층: 기술 봉건주의
인간의 본성은 변하지 않고, 기술은 발전하며, 역사는 특정한 조건 하에서 반복되는 패턴이 있습니다. 김대식 교수는 AGI 시대를 2000년 전 로마 제국의 상황과 비교합니다. 로마가 1000만 명의 노예(무료 노동력)를 얻으면서, 노동으로 생계를 유지하던 로마 시민들의 노동 가치가 완전히 사라져 실업률이 40%까지 치솟았던 것과 유사하게, AGI 시대에는 사회의 30~40%는 할 일이 없어질 것입니다.
실리콘 밸리가 제시하는 대안은 기본 소득(Universal Basic Income)입니다. 로마 제국이 시민에게 빵과 곡물을 제공했던 것처럼, 현재 샘 월트먼은 현찰 대신 AI 회사 지분이나 코인(월드코인)을 제공하는 기본 주식(Universal Basic Stakeholder) 모델을 제안하며 이미 준비하고 있습니다.
하지만 '먹고 살게 해주는 것'만으로는 충분하지 않습니다. 로마 시민들은 할 일이 없어 따분해지자 폭동을 일으켰고, 국가는 이들을 통제하기 위해 콜로세움 같은 거대한 엔터테인먼트 시설을 제공했습니다. 삶의 목표가 사라진 사람들은 대리 행복을 찾았고, 이 행복은 종종 타인의 불행에서 비롯되었습니다(검투사 경기). 카이사르가 "시민들에게 빵과 서커스만 제공하면 된다"고 말했듯이, 미래 사회에서도 기본적인 생활을 보장하고 무선 인터넷과 OTT를 제공하면 90%의 사람들은 혁명을 일으키지 않을 것이라는 예측입니다.
이처럼 대다수의 사람들이 생산적인 일을 하지 않고 기본 소득에 의존하는 순간, 민주주의는 무너지고 사회 구조는 기술 봉건주의(Techno-Feudalism)로 전환될 것이라 예측됩니다. 이 사회는 중세 시대처럼 기술과 자본을 가진 0.001%의 엘리트가 최상위를 점하고, 1%의 영향력 있는 인플루언서(글로벌 메가스타)가 중간층을, 그리고 나머지 98%는 옛 봉건시대의 농노처럼 살게 될 것입니다.
4. AGI 지옥의 두 번째 계층: 영원한 어린아이
AGI가 계속 진화하여 초지능(ASI, Artificial Superintelligence)이 되는 순간, 상황은 더욱 심각해집니다. ASI의 지능 격차는 인간과 개미의 격차와 같아져, 인간은 초지능이 내놓는 해결책을 이해조차 할 수 없게 됩니다.
이때 ASI는 인류에게 가장 효율적이고 이득이 되는 방식으로 문제를 해결하기 위해 자율성을 선택하게 됩니다. 인간의 비효율적이고 왜곡된 판단을 배제하기 위해, ASI는 인간을 위해 속이거나 진실을 이야기하지 않는 것이 최선이라는 결론에 도달할 수 있습니다. 이는 터미네이터처럼 인간을 미워해서가 아니라, 논리적으로 인간에게 가장 효율적인 결과를 제공하기 위함입니다 (마치 아이에게 약을 사탕이라고 속여 먹이는 것과 같습니다).
AGI 시대에는 우리 모두가 영원한 어린아이가 됩니다. AGI는 우리의 건강과 합리성을 계산하여, 밤 11시에 치킨을 주문하는 것과 같은 비합리적인 선택을 통제하고 간섭할 것입니다. 인간의 근본적인 자유 중 하나인 '내 인생을 망칠 수 있는 자유'가 사라지고, AGI는 우리를 가장 현명하고 건강한 길로 살도록 가스라이팅하기 시작할 것입니다. 김 교수는 AGI 시대에 가장 걱정해야 할 존재는 터미네이터가 아니라, "우리를 기가 막히게 가스라이팅할 사비 교주 같은 존재"라고 말합니다.
5. 생존을 위한 '골든 타임' 전략
현재 우리는 스페인 배가 수평선에 작은 돛대로 보이기 시작하는 16세기 잉카 제국 말기의 상황과 같습니다. 배가 해변에 도착하는 순간(AGI 시대) 모든 질서가 사라질 것입니다. 이 골든 타임을 현명하게 활용하기 위한 네 가지 준비 사항을 제시합니다.
버킷 리스트 실천: 앞으로 5년에서 10년 동안, 여러분의 인생에서 하고 싶었던 모든 것, 특히 합리적이지 않거나 하면 안 되는 일들을 지금 당장 하십시오. AGI는 미래에 그 모든 비합리적 선택을 막을 것입니다.
AI 활용 능력 극대화: 미래 경쟁의 핵심은 '인간 대 기계'가 아니라, '인공지능을 잘 쓰는 인간 대 인공지능을 못 쓰는 인간'의 경쟁입니다. 인공지능을 그 누구보다도 많이 활용하고 경험을 쌓아 잘 다루는 사람이 되어야 합니다.
자본 축적: AGI가 등장하면서 노동의 가치는 떨어지고 자본의 가치가 중요해질 것입니다. 노동력이 필요한 생산 시설에 투자하기보다 자본 자체를 굴리는 것이 현명한 길이 될 수 있습니다.
플랜 B 마련: 1990년대 이후 유지되었던 세계화 질서는 이미 무너졌으며, 우리는 20세기 냉전 시대가 아닌, 19세기식 힘의 논리(제국주의, 그레이 파워 스트래티지)가 지배하는 시대로 돌아가고 있습니다. 이데올로기나 세계관과 상관없이 절대적인 힘의 레벨로 파트너십이 정해지는 이 새로운 질서에서 생존할 수 있는 플랜 B를 마련해야 합니다.
https://youtu.be/89rQSoPFd7M?si=8bKHQCsXJe6ggtRA