뇌를 닮은 물리학, 세상을 학습시킨 인공지능

2024년 노벨 물리학상 소식이 발표되었을 때, 저는 참 놀랐는데요.

통상 물리학 분야의 노벨상은 우주, 입자, 혹은 물질의 근본 법칙을 다루는 연구에 주어지기 마련이죠. 그런데 이번에는 수상자가 뇌의 정보 처리 원리를 물리학적으로 해석한 연구자들이었습니다. 뇌과학, 인공지능, 그리고 물리학이 이렇게 한자리에서 만난 건 정말 이례적인 일이었어요.

‘학습’이라는 인간의 복잡한 뇌 현상을 물리학의 언어로 풀어낸 이들의 시도가 이제는 세계 최고 권위의 과학상으로 인정받았다는 사실이, 저에게는 단순한 놀라움을 넘어 ‘학문의 경계가 사라지고 있다’는 강한 인상으로 다가왔었거든요.

수상자는 바로 물리학자 존 홉필드(John Hopfield)와 인지과학자 제프리 힌튼(Geoffrey Hinton). 이 두 사람은 공통적으로 ‘뇌의 정보 처리 원리를 물리학의 언어로 해석한 연구자들’이었지요.

홉필드는 1980년대 초, “뇌는 어떻게 기억을 저장하고 꺼내는가”라는 질문을 물리학적으로 접근했습니다. 그가 제안한 홉필드 네트워크(Hopfield Network)는 뉴런 간의 상호작용을 ‘에너지 최소화’라는 개념으로 설명했어요.

즉, 혼란스러운 입력 속에서도 뇌는 스스로 가장 안정적인 상태, 즉 에너지가 가장 낮은 상태를 찾아가며 기억을 복원한다는 것이죠. 이 원리는 이후 이미지 복원이나 패턴 완성 알고리즘의 기초 개념으로 응용되어, 대학원 시절 저희 실험실에서도 몇몇 분들이 이를 기반으로 훼손된 영상을 더 잘 복원하는 알고리즘 개발에 몰두하기도 하셨지요.

어쨌든, 불완전한 정보 속에서도 전체를 재구성하는 뇌의 능력을 과학적으로 설명하는 계기가 되었습니다.

이러한 홉필드 모델은 뛰어났지만, 뉴런의 반응 함수가 계단 함수 형태의 단순한 구조였기 때문에 현실의 뇌가 보이는 확률적 다양성을 충분히 반영하지는 못했죠. 이 지점을 확장한 사람이 바로 힌튼입니다.

힌튼은 뇌의 학습이 단순한 결정 과정이 아니라 확률적 탐색 과정이라고 보았어요. 그가 제안한 볼츠만 머신(Boltzmann Machine)은 뉴런이 확률적으로 활성화되며 ‘더 좋은 해답’을 찾아가는 모델인데요. 뿐만 아니라, 네트워크의 단층 구조를 넘어 은닉층(hidden layer)을 도입하고 여러 층을 겹친 딥 빌리프 네트워크(Deep Belief Network)로 발전시키면서 현대 딥러닝의 기초를 마련했죠.

뇌를 이해하려는 시도가 결국 ‘에너지의 질서’를 탐구하는 물리학에서 비롯되었다는 사실, 그리고 그것이 지금의 인공지능으로 이어졌다는 흐름은 학문의 경계를 넘어 ‘하나의 통합된 인식 체계’를 보여주는 예라고 여겨지네요.

뇌는 여전히 미지의 영역이지만, 그 작동 원리를 물리학의 언어로 해석하려는 시도는 앞으로도 열정적으로 계속될 것으로 보입니다.

---

“과학으로 세상을 밝힙니다. 최정미의 뇌과학.”

---

네이버 카페 : https://cafe.naver.com/obraincenter

관련 동영상 링크 : https://youtu.be/u8G55JHGTQ4