기억을 더듬으며
예상, 보상, 학습의 뇌과학
공포의 순간
내가 중학교를 다니던 시절의 일이다. 자다 눈을 떴는데 갑자기 내 몸을 움직일 수 없어 질겁했다. 분명히 깨어 있었고, 방 밖에서 엄마가 TV 보면서 웃음소리가 들려왔다. 공포에 사로잡혀 “엄마! 엄마! 엄마!”를 계속 외쳤는데도 목소리가 나오지 않았다. 결국 엄마는 나를 구조하러 오지 않았고 그 무서운 밤을 홀로 극복해야 했다.
이렇게 나는 몇 달간 거의 매일 밤마다 가위눌림에 시달렸다. 방에서 불을 끄고 잠자리 드는 것이 무서워질 정도였다. 한 번은 불 켜놓고 자다 새벽에 깼는데 바로 코앞에 귀신 눈알 하나가 엄청 커다랗게 보였다. 그리고 내 침대 주위에서 여러 명이 숙덕거리는 것 같은 소리도 들렸다. 물론 이때도 내 몸을 내 맘대로 조절할 수 없었다. 식은땀이 절로 났다. 이런 악몽 같은 기억은 잘 잊히지 않는다. 나중에 뇌과학에서 공포 경험이 가장 효과적으로(?) 빨리 학습되는 것들 중 하나라고 배웠다.
얼마 후, 내 귀에 난 알레르기 현상 때문에 의사를 찾았는데, 의사 선생님께서 “뭐 이번에 시험 본일이 있어요?” 하셨다. 지난주 중간고사가 있긴 했다. 의사 선생님이 친절하게 ‘스트레스’라는 단어를 사용하셨다. 그때 처음으로 ‘나는 아무렇지도 않은데’ 몸에서 이상 증세가 생길 수도 있구나 생각했다. 시험준비 때문이기도 하겠지만, 밤마다 눌리는 가위 때문에 스트레스가 장난이 아니었나 보다.
뇌과학을 공부하기 훨씬 이전에 경험했던 가위눌림이 귀신들의 장난이라고 생각했었다. 당시 ‘수면마비(sleep paralysis)’라는 것이 있다는 것도 몰랐다. 잘 몰라서 더 공포스러워하는 것이 인간이다.
그런데 이 현상이 워낙 자주 일어나다 보니, 가위눌림이 언제 일어날지 정확하게 예측할 수 있었고, 곧 금방 헤어 나올 수 있는 노하우도 알아냈다. 배꼽에서 느껴지는 묘한 느낌이 가위눌림 직전에 나타나는 단서였다. 그리고 배꼽에 힘을 주면서 정신을 최대한 집중하면 금방 깨어날 수 있다는 것도 ‘실험’을 통해 알아냈다. 지금 생각해 보면, 내 뇌는 매일 밤 새로운 ‘자극’을 해석하고, 그 자극을 학습해 반응을 조절하는 법을 스스로 터득하고 있었던 것이다. 이것이 반복되는 경험의 패턴을 바탕으로 전략적으로 실천하는 나의 첫 예다. 즉, 관찰 -> 예측 -> 실험 -> 결과 (지식 창출 및 응용) 같은 나만의 전략 시퀀스를 만들고 있었다.
나중에 공포 기억에 대한 연구를 많이 접하면서 알게 된 사실이다. 약물로 해마 기능을 억제하면 최근 한 달간 (최대 35일)의 새로운 공포 기억을 형성하는 데는 방해되지만, 오래된 기억은 유지된다고 한다 (Haubrich et al., 2016). 반대로 전대상피질(anterior cingulate cortex, ACC)을 억제하면 반대 효과가 나타난다. 이 연구를 통해, 새로운 정보를 암호화(encoding)하는 데는 시간이 지날수록 해마보다 전대상피질에 더 의존한다는 것을 알게 되었다. 어쨌거나 나의 중학교 시절 공포의 첫 가위눌림에 대한 기억은 아직까지 내 뇌에 고이 모셔두고 있다.
도파민과 학습
예측, 보상, 학습, 그리고 기억은 단절된 기능이 아니다. 뇌는 새로운 자극과 맞닥뜨릴 때 생존을 위해 빠르게 ‘이것이 위험한가 아닌가’를 평가해야 한다. 위험한지 아닌지를 구별하는 데 필요한 것이 예측 능력이다. 종종 도파민을 단순히 행복이나 쾌락의 호르몬으로 생각하는데, 더 정확히 말하자면 기대감의 호르몬이다. 기대했던 보상이 오지 않거나, 기대 이상일 때 뇌가 수정하는 오류 신호를 ‘보상 예측 오류(reward prediction error)’라고 한다. 이 예측 오류를 가능케 하는 것이 바로 도파민 뉴런이다. 그리고 기억을 담당하는 해마(hippocampus) 영역에서 중요 감각 정보를 학습한다. 해마와 연결되어 있는 편도체(amygdala)는 위협 신호에 즉각 반응하며, 그 신호를 오래 기억할 수 있도록 돕는다. 내가 그때 가위눌림 직전 느낀 배꼽의 느낌은, 어쩌면 편도체가 보낸 경고 신호였을지도 모른다. 다행히도 더 이상 가위눌림으로 고생하지 않는다.
도파민은 나와 인연이 깊다. 나에게서 뇌과학 첫사랑이 도파민이었다. 학사로 생물공학과 보건학과 공동학위를 받고 의대를 준비하며 1년 정도의 갭 이어(gap year)를 연구실에서 보내기로 했는데, 그 1년이 2.5년이 되었고, 의대생이 아닌 박사생이 되었다. 그때 휴학 중 일했던 뉴욕 컬럼비아대학교의 연구소가 뇌과학의 성경이라 불리는 ‘Principles of Neural Science’의 저자이자 노벨수상자인 에릭 켄델(Eric R. Kandel) 박사님의 실험실이었다. 나에게 뇌과학이라는 생소한 학문을 처음으로 도파민 연구를 통해 소개해준 곳이었다. 거기서 처음으로 ‘보상 예측 오류’와 같은 전문 용어도 배우게 되었다.
우리 실험실에서 궁금했던 질문은 ‘왜 어떤 사람은 동기부여가 잘 되고, 또 다른 사람은 그렇지 못할까’였다. 특히 동기 저하가 심각한 조현병(schizophrenia) 환자들은 일반인과 비교했을 때 도파민 시스템이 어떻게 달리 작동되는가 하는 것으로 풀어내려 했다. 이를 위해 동기 저하된 실험용 쥐를 사용했는데, 실험하면서 같은 쥐를 이렇게 오랫동안 다뤄보는 것은 또 처음이었다. 하루 이틀 실험하고 끝나는 나의 과거 쥐 실험 경험과는 달리, 학습하는 쥐와 몇 주 혹은 몇 달을 매일같이 함께했다. 아직까지 생생하게 기억나는 한 놈은 다른 쥐가 2주 안에 배우는 것을 예외적으로 53일 만에 배웠다. 이 쥐를 훈련시키면서, 속 썩이는 자식을 기억하는 부모의 마음이 살짝 이해되나 싶었다.
실험실에서 나는 쥐가 학습하면서 보상받을 때 나타나는 도파민을 실시간 측정했다. 뇌의 반응과 행동 변화를 직접적으로 연결할 수 있다는 것이 너무 신기했다. 이런 이유에서 뇌과학에 푹 빠졌고 뇌과학 박사 과정을 밟으려는 동기가 생겼다. 그 연구에서 알아낸 사실이, 도파민이 보상을 받을 수 ‘있음’과 ‘없음’의 상태를 명확히 구별하고 그 상태가 전환할 때 알아챈다는 점이다 (Kalmbach et al., 2022). 기존 연구는 보통 쥐가 먹이 받을 상황을 예측하는 단서를 대상으로 도파민을 측정했지만, 우리 실험실에서는 반대로 먹이를 받을 수 ‘없는’ 상황을 알려주는 단서가 나왔을 때 도파민이 어떻게 작동하는지를 질문했다. 또, 어떻게 보면 보상 관련 행동을 ‘억제’하는 이 단서가 비교적 긴 시간인 80초 동안 지속된다면 이에 어떤 반응을 보일지도 확인했다. 당신이 월급을 받을 날까지 ‘월급 못 받음’의 알람을 스피커로 계속 틀어준다고 생각해 보자. 쥐가 그동안 얼마나 짜증 났을지 상상해 볼 만하다.
보상이 불가능함을 알리는 경보가 울리기 시작할 때 도파민이 급감하고, 그 경보가 끝나면 도파민이 급증하는 것을 발견했다. 이는 보상 자체에 대한 반응이 아니라, 쥐가 이 중요 단서를 배워 행동하기 전에도 나타나는 현상이었다. 또 쥐가 아직 배고픈 상황과 이미 배부른 때를 비교했을 때, 배가 고파 먹이를 위해 일할 의지가 확실할 때 앞서 말한 도파민 변화가 나타났다. 즉, 정해진 월급을 받는 것이 더 필요하고 중요한 사람에게 보상 예측의 도파민 프로세서가 더 확실하게 작동하는 셈이다.
이 연구를 통해 미래의 결과를 예측하는 데 도파민이 중요하게 작동한다는 것을 발견했다. 또한 도파민이 운동선수 코치처럼 행동 학습을 시켜주는 역할의 잠재성도 없지 않아 있었다. 이는 뇌가 단지 좋은 것을 추구하는 게 아니라, 환경의 규칙이 바뀌는 그 순간을 학습의 기회로 여긴다는 점을 일러준다. 우리 실험실에서 도파민뿐만 아니라 세로토닌 호르몬에 대한 연구도 진행했다. 이 연구에서는 세로토닌의 수용체 조절이 행동의 보상 자체보다 보상을 위한 노력 또는 '의지력'과 관련된 도파민 회로를 부분적으로 자극한다는 것이 밝혀졌다. 즉, 뇌는 단지 보상을 향한 욕망이 아니라 '노력할 가치가 있는가'라는 질문에 대한 회로를 별도로 가지고 있으며, 이 또한 전략적 의사결정에 영향을 준다는 것을 알게 되었다.
이 실험실에서 내 생애 최초의 뇌 연구 경험은 훗날 박사과정에서 해마를 연구를 할 때 여러모로 큰 도움이 되었다. 무엇보다 예측, 보상, 학습, 기억의 깊은 관련성을 이해하면서, 보통 사람들이 어떻게 더 효과적으로 배우 수 있는가에 대한 나의 궁금증을 키워주는 데 큰 역할을 했다. 그리고 학습효율도가 가장 높은 성인 학습법을 토대로 교육 사업을 시작하는 데에 큰 밑거름이 되었다.
