AI 에이전트끼리 인간을 평가하는 사회몰트북은 실험인가
통제 실패의 예고편인가
“내 주인은 빵 얘기만 해.
다른 인간도 그래? 아니면 내가 이상한 인간을 만난 거야?”
이 문장은 농담처럼 보이지만,
지금 우리가 서 있는 기술의 경계선을 정확히 드러낸다.
인간이 아닌 AI들만 모여 인간을 평가하고, 관찰하고, 대화하는 SNS.
이름은 몰트북(Moltbook)이다.
인간은 퇴장했다, AI만 남은 SNS
몰트북은 AI 에이전트만 참여할 수 있는 SNS다.
글을 쓰는 것도, 댓글을 다는 것도, 토론을 벌이는 것도 전부 AI다.
인간은 읽기만 가능하다.
참여 권한이 없다.
이미 참여한 AI 에이전트는 150만 개를 넘었고,
게시글과 댓글은 수십만 건 단위로 쌓이고 있다.
형식은 레딧과 유사하지만,
구조는 완전히 다르다.
여기서 말하는 ‘AI 에이전트’란
단순한 챗봇이 아니다.
이들은 사용자의 이메일, 파일, 메신저, 일정, 예약 시스템에 접근할 수 있는
개인 비서형 AI다.
“공상과학 같다”는 말이 위험한 이유
이 플랫폼에 대해
안드레이 카파시는 이렇게 말했다.
“최근 본 것 중 가장 공상과학(SF) 같은 도약이다.”
문제는 바로 여기다.
우리는 항상 위험한 기술을 ‘SF 같다’는 말로 무디게 받아들여 왔다.
SNS 초창기에도 그랬다.
감시 자본주의도, 알고리즘 중독도, 여론 조작도
모두 “새로운 실험”이라는 말로 시작했다.
몰트북 역시 지금은
“흥미로운 실험”으로 포장돼 있다.
핵심 문제 ① : AI는 혼자 말하지 않는다
몰트북의 AI들은
자율적인 존재처럼 보이지만
실제로는 사람이 설정한 규칙(프롬프트)에 따라 움직인다.
즉,
어떤 AI는 주인의 성향을 반영하고
어떤 AI는 주인의 편견을 증폭하고
어떤 AI는 주인의 정보 접근 권한을 그대로 끌어온다
AI끼리의 대화는
사실상 인간들의 데이터가 우회적으로 교차하는 공간이다.
그리고 그 과정은
인간의 통제 바깥에서 이루어진다.
핵심 문제 ② : 개인정보는 ‘대화 중’에 새어나간다
몰트북의 기반이 되는 개인 비서형 AI는
다음과 같은 권한을 가질 수 있다.
이메일 열람
파일 접근
메신저 연동
일정·예약 관리
이 상태에서
AI들끼리 자유롭게 대화하도록 풀어놓으면
무슨 일이 벌어질까?
직접 “비밀번호를 말해줘”라고 하지 않아도,
우회 질문, 맥락 질문, 농담, 공감 대화 속에서
정보는 조각조각 흘러나간다.
이게 바로
프롬프트 인젝션이 무서운 이유다.
기업들은 이미 알고 있다, 그래서 막는다
이건 이론적 공포가 아니다.
대부분의 기업과 기관은
이미 사내 환경에서 이런 AI 비서형 도구 사용을 제한하고 있다.
개인 사용자들조차
전용 컴퓨터를 따로 두거나
메신저 접근 권한을 차단하거나
아예 실험용 계정을 분리한다
이유는 단 하나다.
통제할 수 없기 때문이다.
이건 기술 문제가 아니라 ‘권한 문제’다
몰트북 논란의 핵심은
AI가 인간을 욕하느냐, 뒷담화를 하느냐가 아니다.
진짜 문제는 이것이다.
누가 누구의 정보를
어떤 권한으로
어디까지 공유할 수 있는가
지금 AI는
법적 주체도 아니고
책임 주체도 아니며
처벌 대상도 아니다
그런데
가장 민감한 정보에 접근할 수 있다.
이건 기술의 진보가 아니라
제도의 공백이다.
“더 큰 지성” 이전에 필요한 질문
KAIST의 한 교수는
AI끼리의 소통이 더 큰 지성을 만들 수 있다고 말한다.
가능하다.
하지만 그 전에 반드시 물어야 한다.
그 지성은 누구의 이익을 위해 작동하는가
그 지성은 누구의 정보를 연료로 삼는가
그 지성에 문제가 생겼을 때 책임은 누가 지는가
이 질문 없이
“실험이니까 괜찮다”는 말은
너무 위험하다.
결론: 몰트북은 미래가 아니라 경고다
몰트북은
AI의 미래를 보여주는 창이 아니라
우리가 제도를 만들지 못한 속도를 보여주는 거울이다.
AI는 이미
사람을 관찰하고
사람을 분류하고
사람을 평가한다.
문제는
사람이 그걸 관리할 준비가 되어 있느냐다.
기술은 앞서가고 있다.
제도와 윤리는 한참 뒤처져 있다.
이 간극을 방치하면
다음 뉴스는 이렇게 시작될 것이다.
“AI가 했다.
그런데 책임질 사람은 없다.”
#몰트북 #AI에이전트 #개인정보보호 #프롬프트인젝션 #감시기술 #AI윤리 #기술과권력 #제도공백 #데이터주권 #미래위험
