『메멘토』로 읽는 인공지능의 기억법

AI 디코딩 #001

기억을 잃은 남자, 레너드

---

크리스토퍼 놀런 감독의 영화 『메멘토』(Memento, 2000)는 선행성 기억상실증에 걸린 주인공이 등장한다. 그는 폴라로이드 사진이나 문신, 메모를 이용해 자신의 행적을 기록한다. 그리고 기억이 초기화될 때마다 이 흔적들을 단서 삼아 행적을 유추하고, 다음 행동을 이어 나간다.

우리가 사용하는 AI 응용 서비스들의 중심에는 문장을 생성하는 핵심 엔진인 ‘모델'이라고 하는 것이 있다. 이 모델의 처지는 『메멘토』의 주인공과 비슷하다. 이 모델은 단어의 출현 확률을 계산해 문장을 생성하지만, 무언가를 기억할 수 없으며, 심지어 자신이 방금 한 말조차 기억하지 못한다.

기억하는 '척'하기 위한 고군분투

---

IT에서는 ‘stateless’라는 표현을 자주 쓴다. 이런 표현이 붙는 시스템들은 접속 상태를 유지하지 않거나 이전의 요청이나 입력값을 기록하지 않는다. 방화벽에도 stateless 형태가 있고, 인터넷에서 가장 많이 사용하는 HTTP/HTTPS도 stateless 프로토콜이다. 그리고 우리가 지금 다루고 있는 AI 중 가장 핵심 대상이 되는 LLM은 stateless이다. 이 말은 AI가 사용자의 요청, 질문, 그리고 자신의 답변 등의 대화 이력을 기억하지 않는다는 말이다.
-『에코로 AI 읽기 - 움베르토 에코의 기호학으로 읽는 인공지능』中 -

많은 연구자와 개발자들이 대화를 기억하고, 이어 나가는 AI를 만들기 위해 꾸준히 시도해 왔지만, 아직은 맥락을 스스로 구성하고, 일관된 흐름을 유지하는 수준에는 도달하지 못했다.

응용 서비스의 중심에 있는 이 모델은 입력 텍스트에 반응해 문장을 일회성으로 생성하기 때문에, 대화가 이어지는 것처럼 보이려면 외부의 보조 수단이 필요하다. 초기에는 개발자들이 매번 사용자의 이전 요청과 AI의 응답, 즉 대화의 이력을 프롬프트에 함께 실어 보내는 방식으로, 이 모델에게 대화의 맥락을 전달했다.

마치 『메멘토』의 주인공이 정신을 차릴 때마다 사진, 문신, 메모를 되짚으며 자신의 행적을 유추하듯, 이 AI 모델도 이렇게 전달받은 대화 이력을 바탕으로 이어질 다음 문장을 생성한 것이다.

이후에는 개발 도구 중에 대화 흐름을 저장, 반출하는 '메모리 기능'이 등장하면서, 과거처럼 대화 이력을 명시적으로 프롬프트에 직접 넣는 방식은 잘 사용하지 않는다. 하지만, 기본 원리는 변하지 않았다. 여전히 모델은 기억이 없고, 대화의 맥락은 메모리에서 꺼내서 전달해 줘야 한다.

여기서 말하는 메모리란, 대화 이력을 기록하고 다시 꺼내오는 영역 혹은 기능을 말한다. 개발 도구가 개발자의 수고를 덜어, 대화 이력을 모델 외부의 저장소에 자동으로 저장하고, 필요할 때 이를 모델에 전달해 준다.

피부 면적의 한계와 단절

---

문제는 전 세계 불특정 다수의 사용자를 대상으로 하는 범용 AI 서비스들은 사용자별로 메모리 용량을 크게 만들기 어렵다. 또한, 메모리 용량을 크게 한다고 해서 완전한 해결책이 되는 것도 아니다. 결국 모델에 전달할 수 있는 프롬프트 자체의 크기가 정해져 있기 때문이다. 메모리에 아무리 풍부한 대화 이력을 저장한다 한들 이 프롬프트에 담지 못하면 무용지물이다. 비싼 기업형 서비스는 이 메모리와 프롬프트의 크기가 더 크지만, 그래도 한계는 있다.

이러한 기억 없음은 움베르토 에코가 말하는 "사실적 단언"을 축적을 하지 못하는, 지능체로서는 치명적인 결함으로 작용할 수밖에 없다.

AI는 대화를 통해 새로운 사실적 단언을 접해도, 사전 훈련된 자신의 근본적인 코드(파라미터)를 수정하지 않는다. AI의 기억처럼 보이는 것은 대화의 맥락(context) 안에서만 유지되는 일시적인 정보일 뿐, 그 경험이 AI를 영구적으로 변화시키거나 성장시키지 못한다.
-『에코로 AI 읽기 - 움베르토 에코의 기호학으로 읽는 인공지능』中 -

결국, 대화가 길어질수록, 오래된 정보는 점점 손실된다. 사용자가 대화의 주제를 답변에 맞춰 순차적으로 이어서 하면 크게 티가 나지 않을 수도 있다. 하지만, 이 대화가 비교적 오래된 주제와 다시 연결되면 이전에 했던 말과는 완전히 다른 내용의 말을 할 수 있다.

사용자는 그보다 더 많은 것을 기억하고 있기 때문에, 이 대화가 갑자기 어색해지는 순간이 온다. 대화의 상대는 심지어는 반말하다가, 존댓말 하는 등의 말투를 바꾸거나, 국적이 바뀐 듯 영어로 말하기도 한다. 그렇다고 해도 여기에 『엑소시스트』(1973)가 끼어들 자리는 없다.

모니터에 성수를 뿌린다고 해결될 문제는 아니다.

맺음말

---

『메멘토』의 레너드 셀비는 기억하기 위해 몸에 문신을 새긴다. 하지만 피부 면적은 유한하다. AI도 마찬가지. 한 번에 입력할 수 있는 토큰(기억)의 양은 정해져 있다. 몸에 빈 공간이 없으면? 더 이상 기억하지 못한다. 그래서 레너드가 단편적 단서들만으로 구성한 사건의 인과는 엉망진창이다. 마찬가지로, AI 모델이 만들어내는 말들도 뒤죽박죽 앞뒤가 바뀔 수 있다.

의도한 바는 아니었겠지만, 이 영화는 오늘날 AI 모델의 완전한 메타포가 되었다.

---

『메멘토』(Memento, 2000)