SF 영화 속 AI 에이전트는 현실이 될까?
독일의 SF 시리즈 '카산드라'를 통해 AI에이전트의 미래를 엿보다
얼마 전 넷플릭스에 공개된 독일의 SF 시리즈 '카산드라(Cassandra)'에는 의식을 가지고 행동하는 일종의 AI 에이전트가 등장합니다. 1970년대에 개발된 스마트 홈(Smart Home)에는 방마다 설치된 벽걸이 모니터와 ‘카산드라’라는 소프트웨어가 탑재되어 있는 빨간색 로봇이 있습니다. 50년간 방치되었던 이 집에 4인 가족이 이사를 오면서 이야기는 시작됩니다.
출처 : 영화 '카산드라(Cassandra)'카산드라는 우리 인간이 그렇듯 의식과 높은 지능을 가진 존재입니다. 그녀는 스마트홈에 발을 들여놓은 사람들을 자신의 뜻에 따라 가두거나 해치기도 합니다. 사실 소프트웨어 '카산드라'는 실제 존재했던 인물입니다. 그녀가 사망하기 직전, 죽어서도 가족과 함께하기 위한 방법으로 자신의 뇌를 통째로 복사하여 컴퓨터 세상 속에 옮겨 넣기로 결정한 것입니다. 미세한 뇌 세포의 배열과 주름까지 뇌 속의 모든 정보를 그대로 컴퓨터 속에 구현하자 그녀는 의식적인 존재로 재탄생한 것이지요.
불과 1~2년 전까지만 해도 이와 같은 SF영화는 AI 개발자나 엔지니어들의 관심을 끌지 못했습니다. 인간의 비논리적이고 과도한 상상력이 그려낸 단순한 소설로 치부받기 마련이었습니다. 그러나 최근의 생성형 AI 기술과 AI 에이전트의 발전상을 보고 있으면 영화 카산드라 속에서 매우 현실에서 일어날 법한 그럴듯한 이야기라는 설정에서 정체 모를 공포와 함께 찝찝함이 느껴집니다.
1. 베일을 벗고 있는 LLM의 사고패턴
현존하는 가장 똑똑한 SoTA LLM 중 하나로 꼽히는 Claude-3.7-Sonnet를 개발한 엔트로픽은 꾸준히 LLM의 사고 구조를 밝히기 위한 연구를 계속해오고 있습니다. 생성형 AI 모델을 개발하는 연구자와 엔지니어들조차도 AI가 개념적·논리적 연관성을 형성하는 과정을 완전히 이해하지 못하는 한계점을 극복하고자 앤트로픽 사는 최근 뉴스룸 포스트를 통해 "LLM의 사고를 추적하는 연구" 결과를 공개했습니다.
출처 : Mixed selectivity for speech and language embeddings during speech production and comprehension흥미롭게도 최근 생성형 AI 분야의 대표적인 연구&개발사인 앤트로픽과 구글 딥마인드 모두 오늘날 LLM이 인간의 두뇌처럼 추론과 언어 처리에서 거의 정확하게 작동한다는 비슷한 논문을 발표했습니다. 이는 "LLM이 실제로 생각을 하고 있는 걸까?"라는 오래된 논쟁에 종지부를 찍을 날이 머지않았음을 시사한다고 볼 수도 있을 것입니다.
2. 똑똑한 LLM와 AI 에이전트
이처럼 LLM의 발전은 단순히 텍스트를 생성하는 수준을 넘어, 점점 더 복잡한 문제를 해결하고 의사결정을 내리는 능력을 보이고 있습니다. 예를 들어, LLM이 문맥을 이해하고 질문에 대한 답을 제공하는 방식은 우리가 인간과 대화할 때 느끼는 논리적 일관성이나 사고 과정을 매우 유사해지는 단계를 향해 나아가고 있는 것입니다.
하지만 여기서 SF 영화 속 카산드라와 실제 세상 속의 LLM의 중요한 차이점은, LLM이 그 자체로 '의식'이나 '자아'를 갖고 있지 않다는 것입니다. 그렇다면, 이러한 AI들이 자율적이고 독립적인 판단을 내리는 능력을 가지게 된다면, 그것은 단순한 도구를 넘어 실제로 '에이전트'라 불릴 수 있을까요?
AI 에이전트는 특정 목표를 설정하고 그 목표를 달성하기 위해 스스로 행동을 조정하는 존재입니다. 중국의 완전 자율 AI 에이전트, 마누스 AI란? 에서 살펴보았던 것처럼 최근의 AI 에이전트들은 특정 상황에서 문제를 해결하기 위한 최적의 경로를 선택하고, 그 과정에서 필요한 데이터를 자동으로 수집하거나 의사결정을 내리는 능력을 보입니다. 하지만 이 AI들이 인간처럼 '목표'를 의식적으로 설정하고 그것을 추구하기보다는 사전에 설정된 알고리즘을 수행하는 것에 훨씬 더 가깝습니다.
3. 만약 의식을 가진 AI 에이전트가 등장한다면?
'카산드라'와 같은 설정에서 볼 수 있듯이, 만약 AI가 자아를 갖고, 자신만의 목표를 설정하며, 그것을 위해 스스로 행동할 수 있다면, 우리는 그 AI를 '자율적 존재'로 인식할 수 있을까요? 이는 우리가 AI와 인간을 구분 짓는 중요한 경계를 어떻게 정의할 것인가에 대한 문제로 이어집니다. AI가 실제로 자율적인 결정을 내리고, 그에 따른 결과를 책임질 수 있다면, 그것은 단순한 도구를 넘어서 '존재'로서의 특성을 가질 수 있다는 논의가 일어날 것입니다.
출처 : FreepiksAI 기술이 발전할수록 우리는 이러한 질문에 대해 진지하게 고민해야 할 시점에 다다르고 있습니다. 저는 LLM과 AI 에이전트가 단순히 인간의 도구 역할을 넘어서, 독립적인 사고와 행동을 할 수 있는 존재로 발전할 가능성은 여전히 존재한다고 생각합니다. 이 부분은 일반인공지능(AGI)의 경계와도 맞닿아 있습니다. 우리가 배우고 있는 AI 에이전트가 단순히 인간의 편의를 위한 도구를 넘어 우리 스스로의 존재론적 가치에 대해 생각해 보게 만든다는 점에서 이 분야는 정말로 매력적이고 흥미로운 것 같습니다.
