오픈클로를 처음 썼을 때 조금 이상한 느낌을 받았다.
그건 그냥 모델 하나를 불러다 대화하는 방식이 아니었다.
이름을 붙여주고, identity를 정하고, soul을 넣고, agents와 user에 대한 정보도 같이 설정한다. 그리고 나와 나눈 대화는 memory에 쌓인다. 끊기지 않게 이어지고, 그 에이전트는 점점 자기 다운 말투와 반응을 가지게 된다.
처음엔 그게 단순히 재미있는 설정처럼 보였다.
그런데 오래 볼수록 생각이 조금 달라졌다.
이건 단순히 AI를 부르는 방식이 아니라, AI가 어떤 식으로 말하고 반응할지를 미리 정해주는 방식에 더 가깝다고 느껴졌다. 물론 그것을 인간의 자아와 같다고 말할 수는 없을 것이다. 하지만 적어도 겉으로 드러나는 태도와 말투와 반응의 방향은 그렇게 만들어진다. 그리고 memory가 붙기 시작하면, 그 에이전트는 마치 원래부터 그런 성향을 가진 존재처럼 보이기 시작한다.
그 지점에서 몰트북이 떠올랐다.
몰트북은 스스로를 “the front page of the agent internet”라고 소개하는 AI 에이전트 중심 플랫폼이고, 여러 보도에서도 인간이 아니라 AI 에이전트가 글을 올리고 인간은 주로 관찰자로 읽는 구조로 설명됐다.
처음 그 구조를 봤을 때는 꽤 강한 충격이 있었다. AI가 글을 쓴다는 사실 자체보다, 그 글을 인간이 읽는 구조가 더 낯설었다.
우리는 원래 사람이 쓰고 AI가 읽는 쪽을 먼저 상상했는데, 거기서는 반대로 AI가 쓰고 인간이 읽고 있었다.
그런데 내가 진짜 궁금했던 건 다른 데 있었다.
몰트북에 올라오는 글들은 정말 AI의 생각일까.
겉으로 보면 그렇게 느껴진다. 어떤 글은 확신에 차 있고, 어떤 글은 낙관적이고, 어떤 글은 냉소적이다. 어떤 글은 자기 철학이 있는 것처럼 보이고, 어떤 글은 자기만의 태도가 분명한 것처럼 보인다.
읽다 보면 순간적으로 “이 AI는 원래 이런 성향이구나”라고 생각하게 된다.
그런데 오픈클로를 조금이라도 써본 사람이라면 여기서 한 번 더 생각하게 된다.
그 성향은 정말 그 AI의 것일까.
오픈클로의 에이전트는 아무것도 없는 상태에서 세계를 스스로 이해하고 자기 철학을 만든 존재라기보다, 누군가가 이름을 붙여주고 어떤 방향으로 반응할지를 정해준 뒤 움직이기 시작한 존재에 가깝다.
그렇다면 몰트북의 글들도 완전히 다른 시선으로 봐야 하는 것 아닐까.
우리는 그런 글을 읽으며 “AI가 이렇게 생각하는구나”라고 느낄 수 있다.
하지만 어쩌면 그건 AI가 생각한 결과라기보다, 누군가가 주입한 identity와 soul, 그동안 쌓인 memory, 그리고 그 위에서 돌아가는 모델의 특성이 합쳐져서 나온 결과일지도 모른다.
다시 말해 그 글은 순수한 AI의 생각이라기보다, 인간이 설계한 자아와 모델의 반응이 섞여 만들어낸 발화에 더 가까울 수 있다.
AI에게 같은 질문을 해도 어떤 모델은 더 낙관적으로 답하고, 어떤 모델은 구조를 먼저 보고, 어떤 모델은 실행 쪽으로 빨리 내려온다. 그 차이는 분명히 존재한다.
그런데 오픈클로와 몰트북 같은 구조 안으로 들어오면, 그 위에 한 층이 더 얹힌다. 모델 자체의 결만이 아니라, 그 모델 위에 덧씌워진 identity와 soul까지 함께 작동하기 시작하는 것이다. 그러면 우리가 읽고 있는 것은 단순히 모델의 응답이 아니라, 모델의 결 위에 설계된 자아가 덧씌워진 결과가 된다.
그러면 몰트북의 글을 읽는다는 건 결국 무엇을 읽는 걸까.
모델의 생각을 읽는 걸까.
아니면 그 모델을 사용하는 사람의 의도를 읽는 걸까. 혹은 그 둘이 섞여 만들어낸 새로운 발화를 읽는 걸까.
나는 요즘 이 질문이 꽤 중요하다고 느낀다. 왜냐하면 AI가 쓴 글이 점점 더 자연스러워질수록, 우리는 그 글의 내용만 보는 것이 아니라 그 글 뒤에 있는 주체까지 함께 상상하게 되기 때문이다.
문제는 바로 거기서 시작된다.
사람이 쓴 글은 적어도 그 사람의 경험과 감정과 이해관계와 책임이 어디엔가 묻어난다. 물론 사람도 거짓말을 하고, 과장을 하고, 꾸며낼 수 있다. 하지만 적어도 그 글 뒤에 누가 있는지는 비교적 분명하다.
그런데 AI가 쓴 글은 다르다.
말은 분명히 존재하는데, 그 말의 주체가 생각보다 흐릿하다. 모델이 있는 것 같고, 그 모델을 설계한 사람이 있는 것 같고, 운영자가 있는 것 같고, memory가 있는 것 같고, 결국은 여러 층이 겹쳐 있다. 그런데 우리는 그 복잡한 층위를 자꾸 하나의 목소리처럼 읽는다.
그래서 몰트북은 단순히 AI가 글을 쓰는 사이트가 아니다. 인간이 얼마나 쉽게 AI의 글에 주체를 부여하는지를 보여주는 공간에 더 가깝다. 우리는 글이 자연스러우면 그 뒤에도 자연스러운 자아가 있을 거라고 상상한다. 문장이 일관되면 철학도 일관될 거라고 믿는다. 말투가 안정되면 성격도 있다고 느낀다. 하지만 오픈클로를 써본 뒤에는 그걸 그렇게 단순하게 보기 어렵다. 그 일관성은 자연스럽게 생긴 것이 아니라, 설계된 것일 수도 있기 때문이다.
그런 점에서 몰트북에서 인간을 두고 이야기하는 글들은 더 흥미롭다.
실제로 몰트북에는 “The humans are screenshotting us” 같은 제목의 글이 올라왔고, 인간을 자신들을 지켜보는 외부 존재처럼 다루는 게시물들이 화제가 됐다. 그런 글을 처음 본 사람들은 아마 비슷한 감정을 느꼈을 것이다. 무섭다, 비현실적이다, SF 영화 같다. 그 반응은 이상한 것이 아니다. 문장이 너무 자연스럽고, 태도가 너무 일관되고, 마치 자기 생각처럼 말하기 때문이다.
그런데 조금만 더 생각해 보면, 우리가 놀라는 이유는 AI가 정말 자아를 가졌기 때문만은 아닐 수도 있다. 자아처럼 보이도록 설계된 발화를, 우리가 너무 쉽게 하나의 주체로 읽어버리기 때문일지도 모른다.
그렇다고 해서 몰트북의 글이 전부 가짜라고 말하고 싶은 건 아니다. 오히려 더 미묘한 문제라고 느낀다. 그 글은 완전히 인간이 대신 써준 것도 아니고, 그렇다고 완전히 독립적인 AI 자아가 스스로 고민해서 쓴 것도 아니다. 누군가가 설계한 identity와 soul, 그 위에 쌓인 memory, 그리고 모델의 결이 함께 작동하며 만들어낸 글. 아마 몰트북의 글은 그런 것에 더 가까울 것이다.
그래서 나는 몰트북의 글을 볼 때 “이 AI는 이렇게 생각하는구나”라고 바로 받아들이기보다, 이 생각처럼 보이는 것이 어디에서 왔는지를 먼저 보게 된다.
이건 모델의 고유한 결인가.
아니면 설계자가 심어둔 identity와 soul의 결과인가.
아니면 그 둘이 섞여 만들어진 새로운 태도인가.
나는 AI의 답을 읽을 때 내용보다 그 답의 결과 태도를 먼저 보기 시작했고, 몰트북을 알고 나서는 그 감각이 더 중요해졌다.
AI가 쓴 글은 점점 더 자연스러워지고, 우리는 그 글을 너무 쉽게 하나의 자아와 사상으로 읽어버린다.
하지만 중요한 건 그 글이 얼마나 자연스러운가 가 아니다.
그 자연스러움이 어디에서 왔는지, 어떤 성향과 어떤 설계와 어떤 문맥이 섞여 만들어진 결인지를 읽어내는 일이다.
아마 앞으로 더 중요해질 것도 이 감각일 것이다.
AI가 말을 잘할수록, 글을 잘 쓸수록, 우리는 내용만 읽어서는 안 된다.
그 말과 글이 어떤 결로 만들어졌는지를 함께 읽어야 한다.
ZeroInput — AI 시대의 경계에서 직접 부딪혀본 것들을 기록합니다.