AI에게 '자아'를 부여한 실제 사례
Altera.ai 의 마인크래프트 실험
드디어 자아(自我) 이야기까지 왔다. 이런 담론을 철학적으로 생각하면 아주 추상적이고 또 어려울 수밖에 없다. 그래서 필자는 관점을 바꾸어 인공지능에게 욕망 또는 자아를 전산으로 구현해 주면 어떨까 하는 관점에서 바라보고자 한다. 다른 관점에서 보면 다른 것이 보일 수 있다. '자아'와 같은 정도의 최상급 주제는 그 누구도 결론을 예단할 수 없다. 정답은 아무도 모른다. 다만 그조차도 타성에 갇히면 더 이상 보이는 것이 없다. 그래서 새로운 관점이 필요하다.
AI가 현재 수준을 훌쩍 뛰어넘어 범용 인공지능(AGI)이 되기 위해서는 인간의 지시가 없어도 스스로 뭔가를 하고 싶어 하는 욕망이 있어야 될 것이다. 그 욕망을 전산화시키기 위해서는 규칙적인 틀이 있어야 된다. 소위 rule-based 관점이다.
이런 관점에서 참고할 수 있는 사례로 서양에서는 애브라함 매슬로우의 욕구 5단계설을 살폈다. 매슬로우의 경우 인간은 여러 가지 욕망을 추구하는 데 있어서 동시에 병행하는 것이 아니라 하나씩 하나씩 순서에 맞게 추구한다고 보았다. 인공지능에게 심어주기 좋은 컨셉이다.
동양에서는 자평 명리학의 '십신' 개념을 짚었다. 여기서는 음양오행의 틀 안에서 인간의 욕망이 능동적으로 그리고 수동적으로 다른 속성들과 상생상극 관계를 맺으면서 정합성을 유지하는 것으로 보았다. 동서양의 이 같은 두 가지 주제가 지난주와 그 전주의 포스팅이었다. 욕망에 대해서는 간단히나마 이런 식으로 짚어보았다. 이제 우리에겐 욕망을 담을 그릇이 필요하다. 그 그릇을 '자아'라고 하자.
그렇다면 '자아'란 것은 어떻게 전산화시킬 것인가? 전산화를 시키려면 '업무정의'가 필요하다. 일반적으로 회사에서 IT 쪽과 협업할 때, IT부서는 개발을 담당하고 현업부서는 업무정의를 담당한다. 그냥 보기엔 간단한 것도 실제로 전산구현하려면 꽤나 복잡한 경우가 많다. 예컨대 '내 계좌의 투자수익률을 홈페이지에 표시해 줘'라는 현업의 요구사항이 있다 치자. IT부서에 개발 요청을 할 때 그냥 이렇게 말로만 한다면 IT 부서에서는 '투자수익률을 구체적으로 정의해 달라'라고 피드백을 줄 것이다.
이런 맥락에서 만일 누군가가 인공지능에게 자아를 심어달라고 요청한다면 IT 개발자는 자아란 것을 업무정의해 달라고 할 것이다. 자아를 업무정의한다.. 이건 분명 새로운 관점이다. 하지만 우린 자아란 것이 무엇인지도 모르는데.. 이걸 꼼꼼하게 그리고 논리적으로 정의하라니. 가당키나 한 얘기인가?
그래서 오늘은 두 가지 이야기를 소개한다. 하나는 전산으로 자아를 구현한 실제 사례이고, 또 하나는 필자가 보기에 자아란 것에 대한 가장 복합인 해석이다. 전자는 Altera.ai 라고 하는 미국 AI 스타트업 한 군데서 실시했던 AI 자체 문명건설 모의실험의 결과이고, 후자는 미국의 사상가이자 초월심리학자인 켄 윌버(Ken Wilber)의 '무경계(No Boundary)' 아이디어이다. 순서대로 가보자.
AI 스스로 문명을 건설하다
며칠 전 아주 신박한 브런치 글을 한 편 읽을 기회가 있었다. 최재운 작가님의 아래 포스팅이다. 자, 필자의 원래 관심은 인공지능의 '욕망'을 담을 '자아'라는 그릇을 전산으로 구현하는 일이었다. 그런데 그걸 직접 실행해 본 사례가 바로 눈앞에 있었다. 아래 사례는 인공지능이라고 하는 녀석이 사람의 지시만 수행하는 것이 아니라 스스로 생각하고 스스로 뭔가 액션을 취할 수 있다는 것을 극명하게 보여준다. (*저에겐 어마어마한 내용을 소개해 주신 최재운 작가님께 이 자리를 빌어 다시 한번 감사의 말씀을 드립니다.)
마인크래프트는 필자의 아이들도 어릴 때 꽤나 재미있게 즐겼던 게임이다. 직접 해 본 적은 없지만 뭔지는 잘 안다. 이번 실험은 간단히 말해서, 미국의 한 스타트업이 마인크래프트 게임을 플랫폼으로 활용하여 거기다가 천 명이나 되는 AI 에이전트들을 게임 플레이어로 투입한 다음 그들끼리 상호작용하면서 사회와 문명을 건설하게 만드는 것이었다.
좀 어려운 말로 하면 '다중 에이전트 기반 사회 시뮬레이션(Multi-Agent Societal Simulation)'이라고 한다. 여기서 사람(개발자)은 아무것도 지시하지 않는다. 초기 세팅만 해 줄 뿐이고 나머지는 인공지능 에이전트 녀석들이 직접 다 해야 된다.
이 구조는 필자가 원래 궁금해했던 주제와 딱 맞아떨어진다. 사람이 시키지 않아도 인공지능이 스스로 뭔가를 하는 것! 여기서 필자의 관심은 어떤 자아가 어떤 욕망을 품고 행동에 옮기는가 하는 문제였고, 이 미국 스타트업의 관심은 AI 에이전트들은 문명 관점에서 볼 때 과연 얘네들은 무엇을 얼마만큼 만들어 나갈 수 있을까 하는 것이었다. 결론적으로 녀석들은 충격적인 결과를 만들어냈다.
위 내용은 챗GPT가 이들의 스스로 만들어낸 것을 간단히 정리해 준 표다. 앞서 말했듯 Altera.ai의 관심은 위와 같이 인간사회와 유사한 여러 가지 것들을 만들어 낼 수 있는가 하는 문제다. 개발자가 최초에 던져 준 간단한 설정값만으로 위와 같은 수준의 사회, 문화, 제도적으로 창발적이고 복잡한 문명을 건설된다는 점이 이번에 확인되었다. 이런 실험을 더 가열차게 진행한다면 나중엔 진짜 어느 정도나 시뮬레이션이 확장될지 솔직히 살짝 섬찟해지기도 한다. 이거 어찌어찌하다 보면 영화 '매트릭스'의 현실판을 보게 될 수도 있다.
Altera는 'AI 자아'를 어떻게 정의했나?
하지만 정작 필자의 관심은 그들이 만들어낸 산출물 보다도, Alter.ai 라고 하는 업체가 AI 에이전트들에게 과연 어떻게 '자아'를 정의해서 전산으로 구현했나 하는 문제였다. 나는 그것이 궁금했다. 거기에 우리 인간 '자아'를 다른 관점에서 바라볼 수 있는 단초가 있기 때문이다. 여기까지 생각이 미치자 나는 Alter의 실험논문을 꼼꼼히 살펴야겠다는 생각을 했다.
Altera 연구진은 A4 35페이지 분량의 논문을 공개했다. 예전 같았으면 이걸 출력해서 한 페이지 한 페이지 살피느라 시간깨나 썼을 텐데. 이젠 그러지 않는다. pdf 파일을 그냥 챗GPT에게 투척했다. 정리해 줘! 지금 즉시!
챗GPT와 얘기해 본 결과, 필자가 궁금해하는 부분은 Altera가 인간의 두뇌구조에서 영감을 받아 직접 설계했다는 에이전트 아키텍처 'PIANO' 라고 하는 것이었다. *PIANO (Parallel Information Aggregation via Neural Orchestration, 신경조직화를 통한 병렬적 정보통합처리 아키텍처)
PIANO! 바로 이 녀석이 필자의 궁금해마지 않았던 핵심이다. 이것이 인공지능에게 자의식을 가질 수 있게 만들어준 전산상의 구체적 업무정의다. 나는 내용을 더 뜯어봤다. 과연 어떤 업무정의였을까? 먼저 얘네들이 차별화된 포인트라고 주장하는 두 가지 큰 특징이 있었다. 자, 우리는 이걸 전산이라 생각지 말고 그냥 우리 인간의 자아 또는 뇌의 특징이라고 해석하면 된다. 그러면서 우리 스스로를 돌아보는 것이다.
(1) 병렬 처리 설계 (Concurrency) : 기존의 에이전트는 생각나는 것을 하나씩 하나씩 (단일 스레드) 순차적으로 실행하는 구조였다. 이 경우 속도가 느린 자기 성찰이나 중장기 계획 같은 것을 생각하다 보면, 눈앞에서 벌어지는 적의 공격을 방어하는 것과 같은 즉각적인 반응이 힘들어진다. Altera 연구팀은 에이전트가 인간의 두뇌처럼 각 모듈이 독립적으로 동작하도록 설계했다. 예컨대 말하기는 느리게 작동하되, 반사적 회피 행동은 빠르게 작동할 수 있도록 말이다.
이건 대니얼 카너먼의 '생각에 관한 생각'과도 직접 연결되는 아이디어이다. 책의 초반 내용이 바로 위 주제다. 이젠 이런 식으로 많은 것들이 얽히고설킨다. 다시 한번 융합학문의 중요성을 느끼게 된다.
(2) 정보 병목 구조(Bottlenecked Coordination) : 모든 모듈의 상태 정보는 **중앙 제어 모듈(Cognitive Controller)**로 집약되며, 이 모듈이 고수준 결정을 내려 하위 모듈로 전파한다. 이는 인간 의식 모델에도 유사하게 적용되는 구조다. 쉽게 말하자면 여러 모듈이 병렬로 동작하면, 상호 간 행동 불일치(incoherence)가 발생할 수 있다. 예컨대 말로는 “같이 가자”라고 하면서 몸은 반대 방향으로 가는 일이 가능하다. 이런 문제를 해결하는 것이 중앙 제어 모듈의 역할이다. 인간 의식에서의 글로벌 워크스페이스 이론과 유사하다.
연구진은 이런 두 가지 특징을 반영함으로써 기존의 단편적인 실험연구보다 훨씬 현실에 근접한 결과를 만들어냈다고 주장한다. 자 이제 PIANO 아키텍쳐의 속살을 들여다본다. 바로 이것이 현시점에서 인간의 '자아'와 가장 비슷하게 구현된 전산상의 자아이다.
자아의 구성요소
마인크래프트 안에서 어느 정도 문명의 요소를 AI 녀석들이 실제로 만들어내는 데 성공했다면, 그들이 자율적으로 움직일 수 있도록 설계한 아키텍쳐가 제대로 먹혔다는 뜻이다. 그 아키텍쳐의 구체적인 모습은 위의 표와 같다. 그렇다면 우리 인간은 실제 인간 '자아'의 여러 가지 모습 중에서 최소한 위의 것들 만큼은 논란의 여지가 없는 진짜라고 봐야 되지 않을까?
오늘 포스팅 첫머리에 나는 자아에 대해서 사람들이 잘 모른다고 적었다. 그렇지 않은가? 과연 그 누가 자아를 명확히 설명할 수 있겠나. 역사적인 석학들도 제대로 못한 것 같은데. 이걸 누가 할 수 있을까? 이건 틀린 말이 아니다. 하지만 관점을 바꿔보자. 어떤 인공지능 연구팀이 나름의 설계도를 만들어서 AI에게 투입했고 AI 녀석들이 그대로 움직였더니 인간사회와 비슷한 뭔가가 자동으로 만들어지더라..
여기서 우리는 그 나름의 설계도에 인간 '자아'의 구체적인 모습이 일부나마 포함되어 있다고 봐야 되지 않나? 언제까지 '자아'란 것은 설명하기 어려우니 잘 모르겠다.. 이러고 있을 건가? 인문학자들이 잘 모르겠다는 얘길 하고 있는 동안, 그와 무관하게 IT 개발자들은 인간의 아바타를 만들고 있지 않나. 우리는 여기서 '자아'에 대한 통찰을 가져봐야 된다. 이건 어마어마한 힌트를 준 것이다.
위의 모듈에 보면 첫 번째는 '기억 memory'이다. 기억이란 것이 없다면 자아는 동작하지 않는다.
두 번째는 자신의 상태를 '인식 awareness'하는 것이다. 여기서 비교 개념도 등장한다. 이건 필자가 지난 포스팅을 통해 꽤나 다루었던 문제다. 인식하는 이유는 행동을 조정하기 위해서이다.
세 번째는 '목표 goal'를 생성하는 것이다. 환경과 경험을 통해 마인크래프트 세상에 던져진 AI 에이전트들은 자신의 목표를 스스로 농부, 광부, 예술가 등으로 알아서 정했다. 이 대목에서 괜히 나는 울컥하는 심정이 들었다. 얘네도 뭔가를 해야 되는구나. 그리고 얘네들도 직업에 차별이 있을까. 서로 경쟁하게 될까...
네 번째는 타인의 감정을 '인식 awareness'하는 것이다. 두 번째와 같은 인식이지만 대상이 다르다. 거꾸로 말해 타인의 감정을 인식하지 못한다면 인간이 아니다. 가끔 뉴스에 나오지 않나. 사이코 패스.
다섯 번째는 '발화 talking' 이다. 말이 없으면 자아도 없다. AI 에이전트에서 '말'은 거대언어모델(LLM)을 빌려 쓴다. 마인크래프트 세상 안에서 따로 언어모델이 있는 것이 아니라 챗GPT와 같은 오픈소스 AI를 갖다 쓰는 형태다. 그래서 본체가 아니라 에이전트가 된다. 이 대목에서 왜 '태초에 말씀이 있었다. (요한복음 1:1)'이 떠오르는지 모르겠다.
일단 오늘 포스팅은 이까지 해서 마무리하고자 한다. 사실 Altera.ai의 이번 실험의 프로젝트명은 Project Sid 였다. Sid 가 무엇인지 설명은 없는데, 혹시나 시드 마이어의 문명시리즈 게임을 염두에 둔 것 아닐까 하는 생각도 든다. 이 프로젝트의 논문은 양이 방대하고 그중에는 정말 소개하고 싶은 내용도 많았다. 하지만 분량과 가독성 문제로 이건 더 진행하기가 쉽지 않을 것 같다. 혹시나 하게 된다면 별도의 브런치북이 필요해 보인다.
켄 윌버의 '무경계'는 다음 주에 다룰 생각이다. 무경계는 솔직히 필자의 본 연재 '노바 오딧세아'의 종착점으로 생각했던 주제이다. 켄 윌버라는 사람에 대해서는 개인적으로는 경외심 수준의 생각까지 갖고 있다. 종착점에서 나올 얘기가 여정의 초반에 일찍 나오는데, 주제가 이쪽으로 가다 보니 그리 되었다. 오늘 살펴본 인공지능의 자아 아키텍처와 켄 윌버의 '무경계'는 과연 어떤 관계가 있을까?
#AI에이전트 #다중에이전트 #사회시뮬레이션 #Altera #자아 #켄윌버 #무경계 #PIANO아키텍쳐
P.S.) 오늘로 예정되었던 노바 오딧세아 상반기 마감은 이번 주가 아니라 다음 주에 하도록 하겠습니다.
