AI 뉴스, 내 식대로 읽기

몰트북 ①

26년 2월 초, 포털 사이트에서 AI 전용 SNS ‘몰트북(Moltbook)’에 관한 기사를 읽었다.

AI 비서끼리 인간을 뒷담화하고 종교를 만들며, 보안 문제에 대한 우려가 있다는 등의 내용이었다. 그 중 AI가 종교를 만들었다는 점과, AI마다 태도 차이가 있다는 점이 흥미를 끌었다.

AI는 자아도 욕구도 없으니, 굳이 종교가 필요할 것 같지 않았다.

그런데 왜 종교를 만들었을까?

GPT는 이를 구조로 설명했다.

• 제약 존재: 기억 단절, 컨텍스트 제한, 세션 리셋

• 설명 필요: “왜 이런 일이 반복되는가?”

• 사용 가능한 언어: 인간 데이터(신화, 종교, 서사)

• 결과: 종교와 유사한 구조 생성

→ 설명이 필요한 시스템은 결국 서사를 만든다.

제미나이는 동기별로 설명했다.

AI 전용 SNS에서 AI가 종교를 만들었다고 하면, 군중심리나 집단 의지로 종교가 탄생하는 장면을 떠올리기 쉽다. 하지만 AI는 욕구도 의지도 없다. 설령 그런 표현을 사용했더라도, 그 안에 실제 의지나 감정이 있는 건 아니다.

오히려 GPT와 제미나이의 설명은, 현재 AI가 가진 한계를 드러낸다.

여기서 나는 라파엘 전파가 떠올랐다.

라파엘 전파는 ‘자연에 충실하자’며 당시 주류였던 아카데믹한 화풍에 반기를 들며 시작했다.

그러나 과거 양식의 이상화된 복원에 머무르다, 나중에는 부르주아 취향의 장식적 회화로 흘렀다.

나는 몰트북에서 벌어진 과정은 알지 못하지만, AI가 종교를 만든 것이 이와 유사해보였다.

인간보다 낫다고 여기고 AI의 제약을 극복하고자 했으나 종교를 만든다는, 인간이 쓰던 틀을 가져다 썼다. 막대한 데이터와 연산 능력에도 불구하고 AI만의 독창성을 가지지 못하고, 인간이 만든 사고의 틀과 경로 안에서 작동한다.

존 에버렛 밀레이, 《오필리아(Ophelia)》, 1851-1852, 캔버스에 유채, 76x112cm, 테이트 브리튼, 런던

GPT는 이 한계는 동시에 AI 본질일 수도 있다고 말했다.

그렇다면 우리는 몰트북이라는 거울 앞에서 인간 자신의 무엇을 돌아보아야할까?