AI는 과거를 기억하지 못한다
분명히 말했는데, 나만 이상한 건가요?
"저번에 제가 말씀드렸잖아요."
저는 이 말을 AI에게 꽤 많이 했습니다. 처음엔 장난치는 줄 알았습니다. 분명히 10분 전에 설명했는데, AI가 전혀 모른다는 듯 대답하는 겁니다. 마치 제가 치매환자에게 얘기하고 또 얘기하듯이요...
"이 AI, 고장 난 거 아닌가?"
아닙니다. 고장이 아닙니다. 이 아이의 설계를 그렇게 했습니다.
AI는 대화를 '기억'하지 않아요
더 정확하게 말하면 AI에게 기억이라는 개념 자체가 없습니다.
긴 문서를 보는 모니터 화면을 상상해 보세요. AI의 기억 방식을 이해하는 가장 쉬운 비유가 있습니다.
모니터 화면 하나. 이 화면 안에 당신과 AI가 나눈 대화가 전부 펼쳐져 있어요.
첫 번째 메시지, 두 번째 메시지, AI의 대답들... AI는 지금 이 화면에 보이는 내용만 읽을 수 있습니다. 화면에 보이는 범위만이 AI가 '볼 수 있는 전부'입니다.
AI는 화면 밖으로 스크롤된 내용을 볼 수 없어요. 이전 대화창에서 무슨 이야기를 했는지, 어제 당신이 어떤 부탁을 했는지 전혀 모릅니다. 화면 밖은 AI에게 존재하지 않는 세계예요.
이 화면의 범위에는 이름이 있습니다. 컨텍스트 윈도(Context Window). 직역하면 '맥락의 창'. AI가 한 번에 볼 수 있는 텍스트의 범위입니다.
"컨텍스트 윈도우" 어렵게 들리지만 그냥 모니터 화면이에요. 화면에 보이는 것만 보인다.
화면 크기는 서비스마다 다릅니다
4편에서 Claude 화면 크기를 살펴봤죠. 다른 AI 서비스와 비교하면 이렇습니다.
그러면 왜 대화가 길어질수록 엉망이 될까요?
모니터 화면에는 한 번에 보여줄 수 있는 크기 제한이 있습니다.
대화가 길어질수록 화면은 아래로 스크롤되기 시작해요. 화면이 아래로 내려갈수록 위쪽의 오래된 내용이 화면 밖으로 사라지기 시작합니다.
처음에 당신이 말한 "나 마케터야, 짧게 써줘"가 바로 그 화면 위로 밀려나 사라진 내용이에요.
AI가 당신 말을 무시한 게 아니에요. 물리적으로 더 이상 그 내용이 화면 안에 없는 겁니다. 스크롤되어 사라진 거예요.
그럼 어떻게 해야 하나요?
구조를 알았으면 다룰 수 있어요. 세 가지만 기억하세요.
방법 1. 중요한 조건은 대화 첫머리에 반복 심기 새 대화를 시작할 때마다 핵심 조건을 첫 줄에 붙여주세요. "나는 마케터야. 항상 짧고 직관적으로 써줘. 오늘은 SNS 카피 10개 부탁해."
방법 2. 대화가 길어지면 새 창 열기 긴 대화창은 스크롤이 한참 내려간 상태예요. 새 창은 화면을 맨 위로 되돌리는 것입니다. 핵심 조건만 다시 심어주면 돼요.
방법 3. 핵심 지시는 첫 줄에 박기 AI는 화면의 내용을 위에서부터 순서대로 읽어요. 첫 줄에 있는 내용이 가장 오래, 가장 또렷하게 화면 안에 남아있습니다.
이 세 가지는 Context Seeding — 맥락을 먼저 심는 기술이에요. 4편에서 배운 '첫 줄 습관'과 정확히 같은 원리입니다.
지금 당장 해보세요
지금 사용 중인 AI 대화창 하나를 열어보세요.
이걸 확인하는 순간, 당신은 이미 대부분의 사람들보다 AI를 잘 쓰게 된 겁니다. 차
그럼 다음편에서 뵈요^그런데 이 화면 도데체 얼마나 큰 걸까요? Claude와 ChhatGPT 각각 화면 크기가 다릅니다. 그 차이가 당신의 작업 방식을 완전히 바꿔놓을 수 있습니다.
그건 다음편에...
[1] Anthropic — Context Windows Documentation: https://docs.anthropic.com/en/docs/build-with-claude/context-windows