이제 AI도 '기억력'을 먹는다

Agentic Memory(AgeMem) 이야기

혹시 AI와 긴 대화를 나누다 보면, AI가 방금 전의 중요한 내용을 까먹어서 답답했던 적 없으신가요? AI에게는 '컨텍스트 윈도우(한 번에 기억할 수 있는 범위)'라는 한계가 있기 때문인데요. 이 논문은 AI가 마치 사람처럼 "아, 이건 중요한 거니까 장기 기억에 저장해야지!" 혹은 "이건 쓸데없으니 잊어버리자!"라고 스스로 결정하는 똑똑한 기억법을 다루고 있습니다.

AI의 기억은 수동적이었다

기존에는 사람이 미리 정해놓은 규칙(휴리스틱)에 따라 AI의 기억을 관리했습니다. "몇 단어 이상이면 요약해라", "오래된 건 지워라" 식이었죠. 하지만 복잡한 문제 해결을 위해서는 상황에 맞는 유연한 기억 관리가 필요했습니다.

Agentic Memory (AgeMem) - 기억도 도구처럼!

이 논문에서 제안하는 AgeMem의 핵심은 AI가 스스로 기억을 관리하는 '행동'을 한다는 점입니다. AI가 마치 계산기를 꺼내 쓰듯, 자신의 기억 장치를 관리하는 5가지 도구를 가집니다.

• 저장(Store): 이 정보는 나중에 꼭 필요해, 저장하자.

• 검색(Retrieve): 아까 그 내용이 뭐였더라? 기억 저장소에서 찾아오자.

• 업데이트(Update): 새로운 정보가 들어왔네? 기존 기억을 수정하자.

• 요약(Summarize): 기억이 너무 길어, 핵심만 간추리자.

• 삭제(Discard): 이건 이제 필요 없으니 휴지통으로!

어떻게 가르쳤을까? (3단계 강화 훈련)

AI가 처음부터 기억 관리를 잘할 수는 없겠죠? 연구진은 3단계 점진적 강화학습(RL) 전략을 썼습니다.

특히 GRPO(Group Relative Policy Optimization)라는 최신 기법을 활용해, 기억 관리 행동이 실제 정답을 맞히는 데 얼마나 도움이 되었는지를 평가하며 AI를 훈련시켰습니다.

똑똑해진 AI, 효율적인 뇌 구조

실험 결과, AgeMem을 장착한 AI는 긴 시간이 걸리는 복잡한 작업에서 기존 방식보다 월등한 성능을 보였습니다.

• 성능 향상: 장기 기억의 품질이 높아져 어려운 문제도 척척 해결합니다.

• 효율성 증대: 불필요한 정보는 지우고 꼭 필요한 것만 남겨서 연산 효율이 좋아졌습니다.

마무리: 점점 똑똑해지는 Agent

이 논문은 AI가 단순히 정보를 읽는 수준을 넘어, 자신의 뇌(메모리)를 스스로 운영하는 '관리자'가 되게 함으로써 진정한 지능형 에이전트로 거듭나게 하는 방법을 제시하고 있습니다. 이제 AI에게 "너 방금 내가 말한 거 기억나?"라고 물어볼 때, AI가 자신 있게 "네, 제가 중요한 거라 따로 저장해 뒀죠!"라고 대답할 날이 머지않은 것 같네요.