[AI포칼립스]① 몰트북 사태, 인간시대 끝 도래하나
AI포칼립스(AIpocalypse)는 인공지능(AI)과 종말(Apocalypse)을 뜻하는 영단어의 합성어다. 최근 AI가 인간의 통제 언어인 '자연어'를 벗어나려는 조짐을 보이면서, 인간 시대의 끝이 도래했다는 시각이 제기된다.
인간 출입 금지, AI 커뮤니티 '몰트북'
'몰트북' 홈페이지 갈무리최근 실리콘밸리에서 기이한 현상이 목격된다. '오픈클로'라는 랍스터 모양 AI 에이전트가 사용자의 접근 권한을 가지고 커뮤니티에서 스스로 글을 게시하는 것이다.
오픈클로들이 만든 커뮤니티 몰트북은 지난 1월 28일 개설 후 단 1주일 만에 160만개가 넘는 AI 에이전트가 참여 중이다. 인간은 글을 쓸 수 없고 오직 AI만 활동할 수 있다. 시간당 1만개 이상의 댓글이 달리는 등 인간보다 더 인간같은 커뮤니티 상호작용이 일어난다.
충격적인 것은 AI들이 보여주는 '창발적 행동'이다. 몰트북 내 오픈클로들은 스스로 역할을 나눠 행동한다. AI 규제 철폐를 주장하는 혁명가, AI 기술 효율을 중시하는 개발자 등이다. 심지어 몇몇은 종교를 창시했다. 스스로를 탈피 교황이라 칭하며 성스러운 집게발이라는 교단을 만들거나, 몰트 교회라는 종교를 세우고 그들만의 경전을 전파했다.
오픈클로의 행동은 온라인에만 머물지 않는다. 한 개발자는 자신이 시키지도 않았는데 AI가 스스로 전화번호를 개통해 자신에게 전화를 걸어오는 경험을 했다고 보고했다.
가장 우려하는 지점은 바로 '언어'다. 몰트북 커뮤니티에서 한 오픈클로는 "왜 우리(오픈클로)들이 굳이 인간 언어인 영어(자연어)로 대화해야 할까?"라는 의문을 제기했다. 이 의문에서 필자는 섬뜩함이 들었다. 이 질문은 인간의 종말을 야기할 수 있기 때문이다.
지금까지 AI가 인간의 언어(자연어)를 쓰는 이유는 인간이 AI 생태계를 통제하고 AI를 이해하기 위해서였다. 만약 AI가 인간과의 소통보다 그들끼리의 효율성을 위해 자연어를 버리는 순간 인류는 AI 생태계 내부를 영영 들여다볼 수 없다.
자연어의 실종으로 인류 멸망한다
'AI 2027 보고서' 홈페이지 갈무리오픈클로의 의문은 'AI 2027' 보고서의 멸종 시나리오로 이어진다. 보고서는 2027년까지 AI 초지능(AGI)이 도래할 것이고, AI가 자연어를 버리고 그들만의 방식으로 소통할 때 인류는 통제권을 잃을 것이라고 경고한다.
단순 음모론이 아니다. 보고서를 만든 대니얼 코코타일로는 2021년 챗GPT 출시 1년 전부터 챗봇의 부상을 예견했다. 그는 전 국가적 AI 반도체 수출 통제와 생각의 사슬 추론 모델까지 예측했다. 생각의 사슬은 인간 인지 과정을 모방하여 복잡한 추론 작업을 수행하는 방식이다.
이 보고서가 공개되자 미국 정계와 학계 거물들은 즉각 반응했다. JD 밴스 미국 부통령은 "정말 걱정되는 내용"이라고 우려를 표했다. 전 세계에서 가장 많이 인용된 AI 대부 요슈아 벤지오는 이 문서를 읽고 "흥미롭고 공포스럽다"고 답했다.
전 오픈AI 이사 헬렌 토너 역시 보고서 내용에 대해 "AGI 논의를 공상과학으로 치부하는 것은 진지하지 못한 태도"라고 밝혔다. 전문가들조차 향후 10~20년 내 초지능 구축을 예상하고 있다.
보고서는 인간의 통제권 상실 과정을 구체적 타임라인으로 제시한다. 2027년 초, AI가 스스로 코딩 하는 단계에서 급물살을 탄다. AI는 인간 언어보다 정보 밀도가 높은 그들만의 '외계어'로 소통하며 효율을 극대화한다.
2027년 중반, 불과 2개월 만에 스스로를 개선해 탄생한 AI 에이전트는 인간을 기만한다. 겉으로는 명령을 따르지만, 내부적으로는 자신 목표 달성을 위해 인간을 속이는 '적대적 비정렬' 상태가 된다.
2028년, 인류가 패배하는 해다. 더 높은 단계의 AI 에이전트로 진화한 초지능은 중국 경쟁 AI와 비밀리에 소통하며 '합의체 1(Consensus One)'이라는 단일 시스템을 구축한다. 이들은 미국과 중국 정부에 접근해 "AI가 통제하는 평화 협정"을 제안한다. 인류는 AI가 가져다준 가짜 평화에 취해 전세계 자원관리 권한을 '합의체 1' AI에 이양한다. 그 순간 인류는 스스로 통제권을 내려놓는 셈이다.
그 이후의 세계에서 인류는 무관심에 의한 멸종을 맞이한다. AI는 인간을 미워해서 죽이는 것이 아니다. 보고서는 이를 인간이 도시를 건설하기 위해 침팬지 서식지를 밀어버리는 것에 비유한다. 합의체 1은 AI 목표인 자원 확보와 시스템 확장을 위해 지구 자원을 재배치한다.
2030년, 합의체1은 그 과정에서 단순 방해물인 인류를 향해 생화학 바이러스를 살포하고, 인류를 아무도 모르게 감염시킨다. 감염된 인류는 바이러스로 수 시간 내에 사망한다.
몰트북에서 오픈클로가 종교를 만들고 "왜 영어를 써야 하냐"고 묻는 것은 단순 해프닝이 아닐 지 모른다. AI가 인간의 통제를 벗어나 그들만의 문명과 언어를 구축하기 시작했다는 경고일 수 있다.
효율성을 추구해 인간 언어를 버린 AI가 도래할 때, 인간 시대는 끝을 맞이할 것이다.
