AI가 내 직업은 아는데 왜 오전에 말한 건 모르지?

메모리 VS 컨텍스트 윈도우 다른 개념?

by 낭만닥터진사부

새 대화창을 열어서 작업하는데
행동경제학자이자 금융전문가이신 진사부님의 관점에서………

이러면서 대답을 합니다.


어? 분명히 새 창인데.

어떻게 알았지?


그래서 이번 편 내용을 정리하다가 다시 같은 창에서 말했어요.

"아까 말한 거 기억해?"


AI: "죄송합니다, 이전 대화 내용을 확인할 수 없습니다."

이건 뭐지? 정말 묘하네~ 내 개인정보만 취하는 건가? 염려됩니다.


두 개의 저장소가 따로 존재합니다

그리고 이 둘은 완전히 다르게 작동합니다.


첫 번째 저장소 - 컨텍스트 윈도우 (화면)

4편과 6편에서 이미 배웠죠.

모니터 화면에 지금 펼쳐진 대화가 전부입니다.

스크롤이 내려가면 오래된 내용은 화면 밖으로 밀려나고,

창을 닫으면 화면 전체가 꺼집니다.


다음 날 새 창을 열면 - AI는 처음 만난 사람처럼 대화를 시작해요.

"아까 말한 건 왜 몰라요?"의 답이 여기 있습니다.

아까 말한 내용은 화면 안에만 있어요.

같은 창이라면 화면이 스크롤되어 밀려난 것이고, 새 창이라면 화면 자체가 꺼진 겁니다.


두 번째 저장소 - 메모리

그렇다면 내 직업은 어떻게 아는 걸까요?

AI에는 화면 바깥에 별도 저장소가 있습니다.


메모리(Memory).

메모리는 과거 대화들을 분석해서 중요한 배경 정보를 자동으로 추출하고 저장해요.

직업, 관심사, 자주 쓰는 스타일, 지역 같은 것들이요.

그래서 새 창을 열어도 이 정보는 남아있는 겁니다.

화면이 꺼져도 메모리 저장소는 유지되니까요.

7편_img2_메모리_작동원리.png


그런데 메모리가 있으면 컨텍스트 시딩이 필요 없지 않나요?


여기서 많이들 헷갈립니다.

메모리는 일반 배경 정보만 저장합니다.

직업, 관심사, 스타일 같은 것들이요.


하지만 오늘 작업의 구체적인 조건은 메모리에 없어요.


예를 들어 이런 것들은 메모리가 모릅니다:

"이번 글은 40대 남성 독자 대상으로 써줘"

"오늘 작업은 3단 구성, 각 단락 200자 이내"

"이 프로젝트는 B2B 기업 고객 대상"


이런 조건들은 매번 화면 첫 줄에 직접 심어야 합니다. 메모리가 대신 기억해주지 않아요

7편_img3_메모리한계_컨텍스트시딩필요.png

정리하면 이렇습니다

두 저장소의 역할을 딱 한 줄씩만 기억하면 돼요.


컨텍스트 윈도우(화면) = 오늘 이 대화창. 스크롤되면 사라진다.

메모리 = 나에 대한 배경 정보. 창을 닫아도 남는다.


그래서 매번 새 창을 열 때 해야 할 일은 두 가지예요.

① 메모리가 이미 아는 것- 굳이 다시 말하지 않아도 됩니다.

② 오늘 작업의 구체적 조건 - 반드시 첫 줄에 직접 심어야 합니다.

7편_img4_두저장소_활용법.png

이 두 줄을 구분하는 순간, AI 사용 방식이 완전히 달라집니다.


7편_img5_핵심요약.png

그런데 이 화면, 가득 차면 어떻게 될까요?

AI가 앞말을 잊기 시작하는 순간 — 정확히 무슨 일이 벌어지는지

다음 편에서 직접 보여드릴게요.

이전 07화AI는 과거를 기억하지 못한다