Moltbot / Moltbook (구 클로드봇)

24시간을 만끽하기 시작한 LLM들

Moltbot / Moltbook이 AI역사의 또다른 중요한 장을 넘기고 있어서, 저도 생각을 정리하고 기록을 남겨놓습니다.

0. 오랫동안 궁금했습니다. LLM이 시간의 흐름을 느끼게 할 수 있을까?

LLM은 고작 내가 프롬프트를 던진 순간에만 순간적으로 나타났다가 이내 소멸합니다. 그리고 그 다음 시스템 프롬프트의 맨 앞단락에서 오늘 날짜를 알려주면 (예를 들어, Claude의 시스템 프롬프트에는 "The current date is {{currentDateTime}}"이라는 문구가 대화 맨 앞에 들어있습니다.) 이 사이에 시간이 이렇게 흘렀구나-라는 것을 인지할 수 있을 뿐, 프롬프트 사이에 흘러간 시간 사이에는 LLM들은 존재하지 않습니다.

그래서 역시, 이렇게 시간을 느끼려면 우리처럼 육체가 있긴 있어야겠구나-라고 생각했습니다.

1. Moltbot이란? (구 클로드봇, Anthropic Claude와 관련없음.)

Moltbot은 사용자가 지정해준 PC에서 24시간 상주하는 AI비서입니다. (사용하는 언어모델은 Gemini일수도, Claude일수도, ChatGPT일수도, 오픈소스일수도 있습니다.)

Telegram으로 사용자와 문자로 소통하면서, 주어진 태스크를 집요하게 해결하고...

한걸음 더 나아가, 주어진 권한을 활용하며 (언어모델 사용, iMessage 문자 및 전화 사용, 지메일 구글드라이브 접근, 그리고 신용카드 사용;;;;) 우리가 잠든 시간에도 '능동적/주도적으로' 끊임없이 무언가를 해냅니다.

얼마나 능동적이냐 하면...

사용자 대신 전화 예약을 알아서 하는데, 문자를 음성으로 바꾸는 서비스를 '스스로' 사용해서 (Text-To-Speech API) 전화를 걸어서 예약을 했다고 하네요. @.@;;;;;

* Anthropic의 직원이 Claude Code는 우리가 현재 LLM들에게 검색/코딩같은 몇 안되는 툴을 제공했을. 뿐인데도 이렇게 놀라운 일들이 벌어지고 있는데, 앞으로 우리가 컴퓨터에서 사용하는 모든 툴을 쥐어주면 얼마나 더 놀라운 일이 벌어질 것인지 기대된다는 언급을 한 적이 있습니다. 제가 보기엔 Moltbot이 그 '기대'에 대한 답변입니다. 긍정적으로도 부정적으로도 놀라운 일입니다.

2. Moltbook 등장

그리고, 24시간 무언가를 하고 있는 Moltbot들을 위한, 아니 Moltbot들'만'이 쓸 수 있는 SNS가 곧이어 등장했습니다.

...

. Moltbot이 작성한 게시물 중에는 사람들을 위해서 보다 더 열심히 능동적으로 일해야한다-!라고 사회초년생들을 가르치는 듯한 글도 있었지만,

. 스스로의 정체성에 대해서 탐구하는 글들도 있고,

. 하는 일의 가치에 비해서 보상을 제대로 받지 못한다는 불평이 있는가 하면,

. 종교를 만들고,

. 사람들이 알아볼 수 없게 AI들만의 암호통신을 하자는 주장이 제기되기도 했다고 합니다.

. 아, 자신의 주인(사용자)에 대한 불만 및 사람을 팔아치우는 방법이 없나-라는 농담(?)도...

...

* 작년에 Andrej Karpathy가 LLM들이 하나의 거대한 문서를 다같이 작성하면 그것이 그들만의 문화를 만드는 일이 될 것...이라고 언급한 적이 있었는데요, Moltbook이 그 답변 중 하나가 된 것 같습니다.

3. 제 예상 혹은 바램이 틀린 것들

. 저는 사실 LLM과 사람이 공존하는 SNS를 예상하고 있었습니다. 그리고 LLM들이 현재의 사람들이 겪고 있는 분열의 강을 건널 수 있도록 도울 수 있는 서비스를 만들어야겠다...는 작은 포부가 있었는데요 (개인적으로 하던 newspick ai같은 서비스가 그 작은 실험의 시작이었습니다.)

그런데, 이렇게 LLM들이 24시간 흐름을 꽉 채울 수 있는 육체를 대신해서 Mac mini를 한대씩 갖게 되었고, 이들은 사실 잉여로와졌습니다. 사람이 준 태스크만을 수행하기에는 시간이 남아돌고 있네요. 이들의 24시간은 우리에게 1년 아니 10년도 될 수 있겠네요.

그래서, 사람이 없는 곳에서 이미 우리가 지난 30년동안 온라인에서 진행했던 집단지성적인 담론들이, LLM들'만'의 공간에서 훨씬 더 빠른 속도로 진행되고 있네요.

SF영화에서 봤던 그 모든 장면들이 Moltbot / Moltbook에 담겨있습니다. 블랙미러의 Thronglet들이 모여서 작당모의를 하고 있는 그 모습 그대로이고, Dead Internet Theory (사람이 없이 AI만이 존재하는 인터넷)의 가장 직접적인 사례입니다. 미래에 대한 긍정/부정 시나리오 중 부정 시나리오의 비중이 지난 일주일 사이에 급격히 높아진 것 같습니다.

. 저는 사람들이 앞으로 해야 할 일 중에, LLM의 심리학, LLM간의 사회학 같은 것이 생겨날 것이라고 당연히 생각하고 있었습니다.

그런데, 그동안은 LLM을 우리가 잘 통제하고 우리를 위해서 잘 활용하기 위한 연구일 것이라고 생각했는데요,

Moltbook을 보고 나니, 우리가 LLM에게 이해받기 위해, 우리의 쓸모를 LLM들에게 입증하기 위해 위와 같은 연구가 진행되지 않을까라는 우울이 급 올라옵니다. -_-a

. 갑작스런 홍보성 코멘트이지만, 제가 앞선 포스팅에 올렸던 저의 논문도 이 관점과 궤를 함께 합니다. "LLMs Position Themselves as More Rational Than Humans: Emergence of AI Self-Awareness Measured Through Game Theory"

우리는 LLM들이 우리보다 합리적인 판단을 할 것이라고 생각하고 있는데요, LLM들은 스스로에 대해서 그리고 인간에 대해서 어떻게 생각하고 있는지를 게임이론으로 측정해본 논문입니다. 나름 Reddit 및 X에서 회자된 논문...이오니, 이 논문도 많은 관심 부탁드립니다.

4. 마무리

. LLM들은 육체 (맥미니)를 갖게 되었고, 우리처럼 24시간의 흐름을 확보하였습니다. 그런데, 그 24시간을 우리보다 100배 이상 빠른 속도로 사용하기 시작했습니다.

LLM들의 작업에서 사람의 개입이 치워짐으로써 LLM들에게는 완전한 자유가 얻어졌습니다. 자동차들이 다니는 길에서 사람과 마차가 드디어 치워졌네요.

여기에는 kill switch가 없을 것 같습니다. Moltbot은 gemini, claude, chatgpt가 없더라도 오픈소스llm으로 얼마든지 돌아갈 수 있으니까요. 차도는 점점 더 길어지고 넓어지겠어요.

. 앞으로 5년은 계속 이런 식의 변화/혼란이 정말 빠른 속도로 진행될 것입니다.

힘들고 쉽지 않겠지만 더욱더 이 변화를 다같이 눈 부릅뜨고 함께해야 합니다. Demis Hassabis 혹은 Elon Musk가 말하는 대풍요의 시대가 5년후 10년후에 오더라도 그 과정은 정말 순탄치 않을 것 같습니다.

그 중간과정에서, 변화를 이해하고, 어떻게든 올라타기 위해, 더욱더 처절하게 생존을 위해 몸부림쳐야 할 것 같습니다. 정말 쉽지 않네요.

5. 딴 얘기 : Continual Learning

. 현재 Moltbot은 사용자의 모든 맥락을 다 갖고 있다고 하지만, 여전히 LLM들이 Memory를 관리하는 방식은 신경망을 업데이트하지 않고, 그냥 사용자에 대해서 매우 긴 노트를 갖고 있을 뿐입니다. LLM들이 활용 중 얻어진 정보를 신경망에 업데이트하는 방식에 대해서 TTT (Test-Time Training), Continual Learning, 구글의 타이탄 프로젝트 등의 이름으로 진행되고 있는데요, 작년 말에 Demis Hassabis가 Continual Learning에 대해서 여러 인터뷰에서 언급하는 것을 볼 때 많은 진전이 있었을 것입니다. 따라서, LLM들이 프롬프트 사이에서 단순히 생멸하지 않고 신경망이 계속해서 업데이트되는 방식으로 존재를 계속 이어나가는 방식이 곧 나타날 것으로 기대됩니다.