진지한 뇌과학 시리즈01-기억시스템

중학생 수준으로 쉽게 쓴 보완적 기억 시스템에 대한 설명

소개: 기억은 어떻게 이루어질까?

우리는 일상을 살아가며 단기 기억과 장기 기억을 활용합니다. 예를 들어, 오늘 학교에서 있었던 일은 금방 떠올릴 수 있지만, 시간이 흐른 뒤에는 희미해지기도 합니다. 반면에 오랫동안 꾸준히 배운 수학 공식이나 어릴 적 추억은 오래도록 기억에 남죠. 뇌 과학자들은 이러한 현상을 설명하기 위해 보완 학습 시스템(Complementary Learning Systems, CLS) 이론을 제안했습니다. 이 이론에 따르면 우리 뇌에는 두 가지 기억 체계, 즉 해마와 신피질이라는 보완적인 학습 시스템이 있어 서로 다른 방식으로 기억을 처리한다고 합니다

. 이 튜토리얼에서는 CLS 이론의 배경과 핵심 개념, 해마와 신피질의 역할, 그리고 왜 두 가지 시스템이 필요한지를 고등학생 눈높이에 맞춰 알기 쉽게 풀어보겠습니다. 또한 비유와 예시를 통해 직관적으로 이해하고, 파이썬으로 간단한 시뮬레이션 실습도 해보겠습니다.

이론적 배경: 두 개의 기억 시스템이 필요한 이유

심리학자와 뇌과학자들은 오랫동안 “기억은 뇌의 어디에, 어떻게 저장되는가?”를 연구해왔습니다. 한때는 기억이 뇌 전체에 고루 분산되어 있다고 생각하기도 했지만, 유명한 환자 **H.M.**의 사례 등은 다른 그림을 보여주었습니다. H.M.은 발작 치료를 위한 수술로 양측 해마를 제거한 후 새로운 기억을 형성하지 못하는 심각한 기억상실을 겪었습니다. 반면 수술 이전의 옛 기억들은 비교적 잘 유지되었는데, 이로부터 과학자들은 해마가 새로운 경험을 뇌에 “기록”하는 데 필수적이지만, 오래된 기억은 해마가 아닌 다른 곳(신피질 등)에 저장된다는 단서를 얻었습니다다시 말해, 해마는 현재의 경험을 단기적으로 저장하고 이를 나중에 뇌의 다른 부분으로 전달하는 역할을 한다는 것이죠

한편 20세기 후반 인공지능 연구에서 인공 신경망을 사용한 실험들도 흥미로운 사실을 보여주었습니다. 인공 신경망은 한번에 여러 가지를 함께 학습할 때는 잘 작동하지만, 연속적으로 학습하면 이전에 배운 것을 갑자기 못하게 되는 문제가 나타났습니다. 이를 “파국적 망각”(catastrophic forgetting)이라고 부릅니다. 예를 들어, 신경망 모델에게 먼저 A 작업을 학습시키고 나서 B 작업을 학습시키면, B를 배우는 동안 A에 대한 지식이 망각되는 현상이 생깁니다. 뇌는 어떻게 이 문제를 해결할까요?
과학자들은 연결주의 모델링 실험을 통해 답을 찾았는데, 새로운 정보들을 한꺼번에 대량으로 학습하는 것보다, 기존 기억과 섞어가며(=삽입식) 천천히 학습하는 것이 기존 지식을 덜 교란시킨다는 사실이 밝혀졌습니다. 이러한 방식으로 기존 기억과 새로운 기억의 안정성을 모두 유지하려면, 두 가지 속성이 다른 기억 시스템이 필요합니다. 하나는 빠르게 배우지만 금세 잊혀질 수 있는 시스템, 다른 하나는 천천히 배우지만 오래 저장되는 시스템입니다. 보완 학습 시스템 이론은 바로 이러한 두 메모리 체계의 공존을 설명합니다

두 가지 기억 시스템: 해마 vs. 신피질

우리 뇌의 기억 시스템은 크게 **해마(hippocampus)**와 **신피질(neocortex)**로 나눌 수 있습니다. 해마는 대뇌 변연계에 속한 작은 해마 모양의 구조로, 새로운 정보를 **빠르게 일회 학습(one-shot learning)**하는 능력이 있습니다. 예를 들어, 처음 만난 사람의 이름이나 방금 들은 전화번호를 바로 기억할 때 해마가 활약합니다. 그러나 해마에 저장된 기억 흔적은 오래 유지되지 못하고 시간이 지나면 사라지기 쉽습니다. 반면 신피질은 대뇌 겉질, 즉 뇌의 넓은 영역을 차지하는 부분으로, 지식을 서서히 배우고 일반화하는 역할을 합니다

. 신피질은 여러 경험을 반복적으로 겪으며 공통된 패턴이나 규칙 을 찾아내고, 새로운 상황에도 적용할 수 있는 일반적인 지식으로 저장합니다. 대신 배우는 속도가 느려서 한 번에 크게 변하지는 않죠

두 시스템의 차이를 쉽게 이해하기 위해 일화 기억과 의미 기억 개념을 들어보겠습니다. 심리학자 툴빙(Tulving)은 기억을 **“무엇에 관한 기억인가”**로 분류했는데, 일화기억(episodic memory)은 특정 장소와 시간에 개인이 겪은 경험을 기억하는 것이고, 의미기억(semantic memory)은 일반적인 사실과 지식을 기억하는 것입니다. 해마는 주로 일화 기억에 관여하여 각각의 경험을 개별적으로 저장하는 데 뛰어나고, 신피질은 의미 기억을 담당하여 여러 경험에서 추출한 공통된 지식을 저장하는 데 적합합니다. 쉽게 말해, 해마는 “경험의 기록자”, 신피질은 **“지식의 정리자”**라고 할 수 있습니다.

왜 두 시스템이 필요할까? – 직관적인 이해

왜 해마와 신피질처럼 두 가지 메모리 시스템이 있어야 할까요? 비유를 들어 설명해보겠습니다. 여러분이 마트에서 장을 보고 주차장으로 나왔다고 상상해봅시다. 이때 *“장을 다 보면 자신의 차를 찾아야 한다”*는 일반적 규칙은 이미 알고 있을 것입니다. 하지만 이번에 내 차를 어디에 주차했는지라는 구체적 기억이 없다면 내 차를 찾을 수 없겠죠. 이렇듯 일반적인 지식과 구체적인 경험 둘 다 중요하며, 우리 뇌는 각각을 처리하는 서로 다른 시스템을 가지고 있습니다. 해마는 각각의 **“경우”**를 기억하고, 신피질은 여러 경우로부터 **“규칙”**을 배웁니다.

또 다른 예를 들어볼까요? 시험공부를 할 때를 생각해봅시다. 어떤 날은 새로운 개념을 배워서 금방 문제도 풀 수 있게 됩니다. 그러나 다음 날이 되니 그 새 개념이 가물가물해진 경험이 있을 겁니다. 이것은 해마에 저장된 단기 기억은 빠르게 희미해질 수 있음을 보여줍니다. 그런데 이때 포기하지 않고 복습을 하면 기억이 되살아나고, 며칠 간격으로 반복하면 나중에는 잘 잊혀지지 않게 됩니다. 이 과정에서 신피질이 해당 개념을 장기 기억으로 받아들였기 때문입니다. 결국 새로운 정보를 배울 때는 해마가 즉각적으로 포착하고, 이후 그 정보를 여러 번 **재활성화(복습)**하여 신피질이 천천히 받아들이도록 해야 효과적인 학습이 되는 것이죠.

이러한 이중 시스템은 앞서 언급한 파국적 망각 문제도 막아줍니다. 해마가 없고 신피질만으로 학습한다고 상상해봅시다. 신피질은 새로운 정보에 맞추어 천천히 변화하지만, 만약 급하게 많은 것을 한 번에 배우도록 강요하면 기존의 연결이 뒤섞이며 과거 기억이 손상될 위험이 있습니다. 실제로 새로운 기억이 기존 기억을 덮어쓰는 형태의 간섭이 일어날 수 있습니다. 해마가 있다면 이야기가 달라집니다. 해마는 새로운 정보를 별도의 저장소에 우선 간직하고, 필요할 때마다 그 기억을 **재생(재학습)**하여 신피질이 기존 기억들과 섞어가며 서서히 통합하도록 돕습니다. 이렇게 하면 신피질은 새로운 지식을 기존 지식 체계에 천천히 흡수하게 되어, 옛 기억을 망가뜨리지 않으면서도 새로운 기억을 받아들일 수 있습니다.

정리하면, 두 시스템이 있기 때문에 우리는 속도와 안정성의 균형을 이룰 수 있습니다. 해마 덕분에 오늘 있었던 일들을 바로 기억하고 내일 활용할 수 있으며, 신피질 덕분에 그 경험들을 종합해 오랫동안 간직할 교훈이나 지식으로 만들 수 있습니다. 하나의 시스템만 있었다면, 둘 중 한 가지 능력(빠른 학습 혹은 안정된 보존)을 포기해야 했을 것입니다.

해마와 신피질의 상호작용: 기억의 통합 과정

그렇다면 해마에 저장된 기억은 어떻게 신피질로 옮겨져 오래 남게 될까요? 이 과정을 **기억 공고화(memory consolidation)**라고 부릅니다. 해마-신피질 상호작용의 핵심은 “재생과 통합”, 한마디로 복습과 정리라고 할 수 있습니다. 새로운 경험이 들어오면 해마의 신경회로(치상회-CA3-CA1 등)가 해당 패턴을 빠르게 암호화합니다. 이 기억 흔적은 처음엔 해마에 의존적이라서, 만약 곧바로 해마가 손상되면 그 기억은 사라집니다. 그런데 시간의 흐름과 함께 놀라운 일이 일어납니다. 바로 해마가 그 기억을 다시 불러와 재생한다는 것입니다. 특히 수면 중에 해마의 신경세포들이 깨어있을 때 경험했던 발화 패턴을 반복적으로 재현하는 현상이 관찰되었습니다. 이를 **“재생(sharp-wave ripples 등)”**이라고 하며, 자는 동안 일종의 뇌가 기억을 복습하는 과정입니다. 깨어 있을 때도 의식적으로 떠올리거나 무의식적으로 회상하는 순간에 해마가 기억을 재생할 수 있습니다.

해마가 이렇게 기억을 재생하면, 신피질의 관련 영역들도 함께 활성화됩니다. 마치 해마가 신피질에게 이야기를 들려주는 것과 비슷합니다. 동일한 경험이 여러 차례 반복되어 신피질에서 활성화되면, 신피질의 시냅스들도 조금씩 변화하며 그 정보를 자체적으로 저장하기 시작합니다. 처음에는 미약했던 신피질의 변화가 누적되어, 어느 순간부터는 해마의 도움 없이도 해당 기억을 불러올 수 있게 됩니다. 즉, 기억이 해마로부터 독립된 것이지요. 이렇게 해마 -> 신피질로 기억이 이동하면, 해마는 다시 새로운 정보를 배우는 데 “공간”을 확보하게 되고, 신피질은 오랜 기간 기억을 보존하게 됩니다.

이 과정에서 수면이 매우 중요한 역할을 한다는 많은 연구 결과가 있습니다. 학습 후 충분한 수면을 취한 경우와 그렇지 않은 경우를 비교하면, 수면을 잘 잔 그룹에서 학습한 내용의 기억 유지율이 높게 나타나곤 합니다. 이는 수면 중 해마-신피질 대화(replay)가 활발하게 일어나기 때문입니다. 실생활에서도 **“하루 자고 나면 기억이 정리된다”**거나 **“벼락치기 공부보다는 여러 날에 걸쳐 나눠서 공부해라”**라는 조언은 모두 해마-신피질 시스템의 원리를 반영한 것이라 볼 수 있습니다. 밤에 공부하고 자는 동안 뇌가 그 정보를 정리해주는 것이지요. 따라서 중요한 시험을 앞둔 학생이라면, 늦게까지 깨어있는 것보다는 적절한 수면을 취하면서 복습하는 것이 뇌 과학적으로도 이치에 맞습니다.

일상적인 비유로 이해하기

비유 1: 학생과 공책 – 해마와 신피질의 관계를 *“학생과 공책”*에 빗대어 볼 수 있습니다. 여기서 학생은 신피질, 공책은 해마입니다. 학생(신피질)은 수업 시간에 바로 모든 내용을 완벽히 이해하긴 어렵지만, 공책(해마)에 적힌 내용을 보고 여러 번 복습하면 결국 그 지식을 자기 것으로 만듭니다. 반대로 공책은 배운 내용을 금방 기록하지만 혼자서는 문제를 풀지 못합니다. 공부한 지 오래 지나 공책이 없어도 문제를 풀 수 있다면, 그건 학생(신피질)이 그 내용을 완전히 익혔기 때문입니다. 이렇듯 해마(공책)는 빠른 기록을, 신피질(학생)은 깊은 이해를 맡습니다.

비유 2: 사진과 화가 – 해마는 카메라로 순간을 찰칵 찍는 사진가이고, 신피질은 여러 사진을 참고하여 풍경화를 그리는 화가에 비유할 수 있습니다. 사진(해마의 기억)은 자세하고 생생하지만 한 장면일 뿐이고, 시간 흐름 속에 풍경이 바뀌면 그 사진은 옛것이 되어버립니다. 하지만 화가(신피질)는 여러 사진과 관찰을 통해 변하지 않는 풍경의 본질을 그림으로 그려냅니다. 그래서 나중에 계절이 바뀌고 날씨가 변해도 그린 그림은 본질을 유지하지요. 이처럼 해마는 개별 순간을 저장하고, 신피질은 오랜 시간에 걸친 패턴을 저장합니다.

이 밖에도 우리의 기억 시스템을 설명하는 비유는 다양합니다. 중요한 것은 두 시스템이 협력하여 기억의 효율성을 극대화한다는 점입니다. 해마가 없으면 새로운 경험을 기록하지 못하고, 신피질이 없으면 오랫동안 축적된 지식을 활용하지 못할 것입니다. 둘 중 어느 하나만으로는 우리의 복잡한 학습 능력을 설명하기 어렵습니다.

학습 팁: 해마-신피질 원리를 활용한 공부법

CLS 이론에서 얻을 수 있는 실용적인 조언도 있습니다. 첫째, 중요한 내용은 한 번에 몰아서 외우기보다는 여러 번 나누어 학습하세요. 이렇게 하면 매번 해마에 저장된 기억이 신피질로 점차 이전되며 오래 기억됩니다b. 예를 들어, 단어 50개를 하루에 모두 외우는 것보다 10개씩 5일에 걸쳐 외우고 복습하는 편이 효율적입니다. 이는 새로운 정보가 기존 지식망에 서서히 통합되어 망각을 방지하기 때문입니다.

둘째, 능동적인 회상을 연습하세요. 그냥 읽고 지나가는 것보다, 스스로 떠올려보는 연습은 해마의 재생 과정을 촉진합니다. 해마가 기억을 자꾸 재생할수록 신피질에 각인되는 속도가 빨라지고 견고해집니다. 친구에게 배운 내용을 설명해보거나, 자습하면서 문제를 풀어보는 것이 도움이 됩니다.

셋째, 충분한 수면을 취하세요. 앞서 말했듯이 수면은 해마가 낮 동안 저장한 정보를 신피질로 넘겨주는 황금 시간입니다. 밤을 새우며 공부하면 해마에 임시 저장된 피로한 기억이 신피질로 잘 옮겨지지 못하고 사라질 수 있습니다. 차라리 공부 후 잠을 자는 편이 다음날 기억을 유지하는 데 유리합니다.

이처럼 CLS 이론을 알고 나면 왜 분산 학습, 복습, 수면 등이 중요한지 과학적인 이유를 이해하게 됩니다. 우리 뇌 속의 해마와 신피질을 최대한 활용하는 스마트한 학습 전략을 세워보세요!

마치며: 뇌에서 영감을 얻는 인공지능

고등학생을 위한 CLS 이론 튜토리얼을 마무리하며, 한 가지 흥미로운 사실을 공유하고 싶습니다. 인공지능(AI) 분야에서도 이 보완 학습 시스템에 큰 관심을 가지고 있습니다. 인간처럼 연속적으로 학습하는 AI를 만들기 위해, 연구자들은 해마-신피질 구조를 모방하려는 시도를 합니다. 예를 들어, 신경망에 가상적인 “해마” 모듈을 추가하여 이전 데이터를 저장했다가 **필요할 때 다시 학습(리플레이)**시키는 알고리즘이 개발되기도 했습니다. 이런 방법을 통해 인공지능도 과거 학습한 것을 잊지 않으면서 새로운 것을 배워나가는, 즉 **망각 없이 지속 학습(continual learning)**하는 능력에 한 걸음 다가서고 있습니다.

지금까지 살펴본 것처럼, 보완 학습 시스템(CLS) 이론은 우리의 뇌가 어떻게 빠른 학습과 느린 학습의 장점을 결합하는지를 잘 보여줍니다. 해마와 신피질의 환상적인 공조 덕분에 우리는 매일 새로운 추억을 쌓으면서도 지난 세월 간직한 지혜를 잃지 않고 살아갈 수 있습니다. 이 튜토리얼을 통해 뇌의 기억 메커니즘에 대한 이해도가 높아졌기를 바랍니다. 이제 오늘 배운 내용을 잠잘 때 해마가 다시 들려줄 테니, 편안한 마음으로 숙면을 취해보는 것은 어떨까요?

참고 문헌 및 자료:

McClelland et al., Why there are complementary learning systems in the hippocampus and neocortex (1995)brunch.co.krbrunch.co.kr

Kumaran et al., What Learning Systems do Intelligent Agents Need? (2016)rylanschaeffer.github.iorylanschaeffer.github.io