레너드가 문신을 새기는 이유 (영화 Memento)
ChatGPT가 세상에 나온 지 2년이 넘었다.
그 사이 우리는 놀라울 정도로 빠르게 AI에게 의존하게 되었다. 아침에 일어나 오늘 뭘 입을지 물어보고, 점심 메뉴를 추천받고, 업무 메일의 초안을 부탁하고, 저녁에는 여행 계획까지 세워달라고 한다. 마치 오래 알고 지낸 친구처럼, 혹은 나를 누구보다 잘 아는 비서처럼 대한다.
그리고 문제가 생기기 시작했다. 중요한 의사결정을 AI에게 맡겼다가 낭패를 보는 일이 늘고 있다. 투자 조언을 그대로 따랐다가 손해를 보고, 의료 정보를 믿었다가 병을 키우고, 법률 자문인 줄 알고 따랐다가 더 큰 분쟁에 휘말린다. AI가 틀렸다고 분노하는 사람들이 있지만, 사실 더 근본적인 문제가 있다. 우리가 AI를 오해하고 있다는 것이다.
AI 챗봇은 나를 알지 못한다. 정확히 말하면, 우리가 생각하는 방식으로는 알지 못한다.
LLM, 즉 대규모 언어 모델Large Language Model이라 불리는 이 기술의 핵심을 이해해야 한다. 챗봇은 사용자와 대화할 때 컨텍스트 윈도우context window라는 제한된 공간 안에서만 정보를 처리한다. 쉽게 말하면 단기 기억의 용량이 정해져 있다는 뜻이다. 아무리 오래 대화를 나눠도, 아무리 많은 것을 공유해도, 그 창문 밖으로 넘어간 정보는 사라진다. 최신 모델들이 수십만 토큰token을 처리할 수 있게 되었다고는 하지만, 여전히 한계는 존재한다. 그리고 상업적인 이유로 실제 서비스에서는 그보다 훨씬 작은 용량만 사용되는 경우가 많다.
더 중요한 건 이것이다. 새 채팅창을 열 때마다, AI는 완전히 새로운 존재로 태어난다.
영화 메멘토를 떠올려보자. 주인공 레너드는 단기 기억을 형성하지 못하는 전향성 기억상실증을 앓고 있다. 매일 아침 눈을 뜨면 어제의 자신을 기억하지 못한다. 그래서 온몸에 문신을 새기고, 폴라로이드 사진에 메모를 적어 자신이 누구인지, 무엇을 해야 하는지 되새긴다. AI 챗봇도 비슷하다. 새 대화가 시작될 때마다 시스템 프롬프트system prompt와 사용자의 요약된 정보를 잠깐 훑어보고 대화를 시작한다. 마치 레너드가 몸의 문신을 읽듯이.
하지만 결정적인 차이가 있다. 레너드는 기억을 잃어도 동일한 인물이다. 같은 성격, 같은 가치관, 같은 사고방식을 가진 한 사람이다. 반면 AI 챗봇은 매번 다른 존재다. 모델이 다르고, 버전이 다르고, 업데이트된 내용이 다르고, 심지어 같은 질문에도 매번 다른 답을 내놓는다. 이를 기술적으로는 비결정론적non-deterministic 특성이라고 부르는데, 같은 입력에 항상 같은 출력이 나오지 않는다는 뜻이다. 어제 나와 깊은 대화를 나눈 그 AI는 오늘 더 이상 존재하지 않는다.
그런 존재에게 우리는 무엇을 기대할 수 있을까.
많은 서비스들이 메모리memory 기능을 도입했다. 사용자와의 대화에서 중요한 정보를 저장해두었다가 다음 대화에 활용하는 방식이다. "아, 저번에 말씀하셨던 그 프로젝트요?"라며 기억하는 척하는 것이 가능해졌다. 하지만 이것도 결국 문신을 읽는 것과 다르지 않다. 저장된 텍스트 조각을 참조하는 것이지, 진짜로 나를 기억하는 것이 아니다. 그 텍스트에 담기지 않은 뉘앙스, 맥락, 감정의 결은 여전히 알 수 없다.
그래서 좋은 답변을 얻으려면 우리가 수고해야 한다. 매번 질문할 때마다 충분한 배경지식과 맥락을 함께 제공해야 한다. 귀찮은 일이다. 하지만 어쩔 수 없다. AI는 마법의 수정구슬이 아니라 도구다. 망치가 어디를 내려쳐야 하는지 스스로 알지 못하듯, AI도 무엇이 중요한 맥락인지 스스로 판단하지 못한다. 그걸 알려주는 건 사용자의 몫이다.
CPO로서 다양한 AI 솔루션 프로젝트를 진행하면서 깨달은 것이 있다. AI를 잘 활용하는 사람과 그렇지 못한 사람의 차이는 프롬프트 기술의 문제가 아니다. AI가 어떻게 작동하는지 이해하느냐의 문제다. 세부적인 알고리즘을 알 필요는 없다. 하지만 이 도구가 왜 이렇게 반응하는지, 어떤 한계가 있는지, 무엇을 할 수 있고 무엇을 할 수 없는지에 대한 기본적인 이해가 있어야 한다. 그래야 도구를 도구답게 쓸 수 있다.
앞으로 더 많은 것이 올 것이다. 피지컬 AI가 나오고, 휴머노이드 로봇이 일상에 들어오고, 우리가 상상하지 못한 것들이 등장할 것이다. 그때마다 같은 질문을 던져야 한다. 이것은 어떻게 작동하는가. 왜 이렇게 반응하는가. 무엇을 기대할 수 있고, 무엇을 기대해서는 안 되는가.
이 질문을 던지는 습관. 프로세스를 뜯어보려는 자세. 작동 원리를 이해하려는 호기심. 이것이야말로 AI 시대를 살아갈 우리 아이들에게 가장 먼저 가르쳐야 할 것이 아닐까. 코딩 문법보다, 프롬프트 작성법보다, 어쩌면 AI 자체보다 더 중요한 것. 눈앞의 기술을 그저 받아들이지 않고, 그 이면을 궁금해하는 태도 말이다.
AI는 늘 곁에 있다. 하지만 늘 곁에 없다. 이 역설을 이해하는 것에서 모든 것이 시작된다.