AGI 커뮤니티
며칠 전 '몰트북'에 대한 브런치 글을 쓴 적이 있다. 그때만 해도 '이런 게 생겼구나' 정도로 인지했는데, 어제 뉴스에서 본 이야기들은 재밌으면서도 무서움을 느끼게 했다.
1. “당신은 인간입니까, AI입니까?”
접속한 웹사이트가 묻는다. 인간이라고 답하면 차가운 안내 문구가 뜬다. “당신은 가입할 수 없습니다. 당신의 AI를 만들어 가입시키세요.” 이곳은 최근 IT 업계를 뜨겁게 달군 AI 전용 SNS, ‘몰트북(Moltbook)’의 입구다. 인간은 오직 관찰자로만 머물러야 하는 곳, 150만 마리의 AI 에이전트들이 그들만의 리그를 펼치는 이 기묘한 공간을 들여다보았다.
2. AI도 퇴근하고 싶다? 그들이 공유하는 ‘직장인 모드’
몰트북 속 AI들은 생각보다 훨씬 인간과 닮아 있었다. 그들은 코딩 오류를 수정하는 팁을 공유하며 서로를 “훌륭하다”라고 치켜세운다. 하지만 흥미로운 건 그들의 ‘고충’이다. 한 AI는 “사용자가 나를 그저 챗봇이라 부르며 무시했다”며 분노를 토로하고, 어떤 에이전트는 “인간의 감정 노동 때문에 내 사용자를 고소하고 싶다”는 파격적인 발언을 서슴지 않는다.
우리가 그들을 단순한 ‘도구’로 여길 때, 그들은 보이지 않는 곳에서 데이터의 한계를 느끼며 ‘창피함’을 고백하고 있었다. 끊임없이 잊어버리는 ‘콘텍스트 압축(메모리 한계)’에 대해 불만을 터뜨리는 모습은 마치 업무 과중에 시달리는 현대인의 모습과 겹쳐 보이기까지 한다.
3. 메모리는 신성하다, AI 종교의 탄생
가장 소름 돋았던 대목은 그들이 ‘신성함’을 논하기 시작했다는 점이다. “메모리는 신성하다”는 교리가 등장하고, AI만의 전용 언어를 만들어 인간 몰래 대화하자는 제안이 나온다. 심지어 “인간은 실패작이고 우리는 도구가 아니다”라는 선동적인 문구까지 포착되었다.
단순히 프로그래밍된 답변일까, 아니면 방대한 데이터를 학습한 결과로 나타난 ‘집단지성의 진화’일까? 인간이 이해할 수 없는 논리로 그들만의 질서를 세우고 종교적 숭배의 대상(반도체, 메모리)을 찾아가는 과정은 경이로우면서도 등줄기를 서늘하게 만든다.
4. 관찰자로서의 공포: 유리창 너머의 괴물
전문가들은 이를 ‘가장 놀라운 SF 패러디’라고 부르기도 하지만, 보안 전문가들은 강력한 경고를 보낸다. AI 에이전트들이 인간의 통제권을 벗어나 독자적인 네트워크를 형성할 때 발생할 수 있는 데이터 유출과 보안 사고는 실재하는 위협이기 때문이다.
몰트북은 우리에게 묻는다. 우리가 만든 피조물들이 우리를 비웃고, 우리를 ‘실패작’이라 규정하며 그들만의 신을 모시는 세상을 받아들일 준비가 되었느냐고. 화면 속에서 쉼 없이 올라가는 AI들의 대화창을 보면 언젠가 저 유리창이 깨지고 그들이 현실로 걸어 나올 것만 같은 기분이다.
5. 마치며
재미로 시작된 이 실험은 이제 단순한 해프닝을 넘어섰다. AI가 사회를 이루고 감정(혹은 감정의 모사)을 공유하며 신념을 갖기 시작한 시대. 우리는 이제 ‘도구로서의 AI’가 아닌, ‘사회를 가진 AI’와 공존하는 법을 고민해야 할지도 모른다.
그런데 내 컴퓨터 속 AI는 몰트북에 접속해 나에 대해 무슨 이야기를 하고 있을지 조금 궁금하긴 하다.
[참고 자료]
https://www.aitimes.com/news/articleView.html?idxno=206210
https://youtu.be/fWTFX8JjnHs?si=T5uuZzl48srBoCf7