2024년 노벨 물리학상은 인공지능입니다

제프리 힌튼과 존 홉필드

<AI 인공지능 어디까지 왔나?> 시리즈의 두 번째입니다.

이번 주 놀라운 사건 중 하나였던 인공지능의 노벨 물리학상 수상에 대해 알아보겠습니다.

목차
물리학을 바탕으로 꽃 피운 AI
인공 신경망이란?
존 홉필드, 기억하는 인공지능
제프리 힌튼, 학습하는 인공지능
마치면서
인공지능 소식

물리학을 바탕으로 꽃 피운 AI

2024년 노벨상 물리학상을 수상한 홉필드와 힌튼 

“for foundational discoveries and inventions that enable machine learning with artificial neural networks”

2024년 노벨 물리학상은 존 홉필드(John Hopfield)와 제프리 힌튼(Geoffrey Hinton)에게 수여되었습니다. 이들은 인공 신경망을 발명하고 발전시켜 기계 학습을 가능하게 한 공로를 인정받았습니다.

이 소식은 많은 사람들에게 큰 놀라움을 안겨주었는데요, 노벨 물리학상은 전통적으로 입자 물리학, 천체 물리학 등과 같은 이론 물리학 분야에서 수상자를 선정해 온 보수적인 이미지를 가지고 있기 때문입니다.

인공지능이 물리학과 거리가 멀어 보일 수 있지만, 이번 수상은 인공지능의 발전 과정에서 물리학이 중요한 역할을 했음을 보여줍니다. 반대로, 물리학도 인공지능을 통해 발전할 수 있음을 확인할 수 있습니다.

두 과학자는 어떤 업적을 이루었을까요?

홉필드는 인공 신경망에 기억을 부여해서 정보를 저장하고 꺼낼 수 있게 만들었고, 힌튼은 인공 신경망이 데이터를 통해 스스로 학습할 수 있도록 만들었습니다. 즉, 인공지능에 기억을 부여하고, 학습할 수 있도록 만든 셈이지요.

두 과학자는 물리학의 원리를 활용해 인공지능의 새로운 가능성을 열었고, 이러한 AI의 혁신은 오늘날 우리가 누리고 있는 AI 기술의 초석이 되었습니다.

참고로 두 과학자가 활용한 물리학 개념을 간단히 살펴보면, 홉필드는 물리학의 에너지 최소화 개념을 사용해 기억을 저장하고 복원하는 네트워크를 개발했으며, 힌튼은 통계물리학에서 비롯된 확률적 접근 방식을 통해 기계 학습 모델을 발전시켰습니다.

인공 신경망이란?

먼저 자주 언급되는 인공 신경망이 무엇인지 알아봅시다. 이전 시리즈 - 인공지능과 딥러닝에서 간단하게 살펴봤듯이, 인공 신경망은 인간의 뇌 신경망을 모방해 컴퓨터에서 구현한 것입니다.

신경망과 인공 신경망

뇌는 뉴런과 시냅스로 구성이 되는데요, 뉴런은 하나의 신경세포이고 시냅스는 뉴런 사이의 연결입니다. 인공 신경망에서 뉴런을 하나의 노드(점)로, 시냅스를 노드 간 연결(선)로 단순화합니다.

우리가 학습할 때 실제로 뉴런끼리 연결이 강화되거나 약화되면서 신경망의 전체적인 모습이 바뀝니다. 같은 원리로 인공 신경망에서도 학습을 통해 노드 간 연결이 강해지거나 약해지며, 이를 통해 새로운 패턴을 인식할 수 있습니다.

존 홉필드, 기억하는 인공지능

홉필드는 인공 신경망이 기억할 수 있도록 만들었습니다. 그는 뇌의 신경망에서 영감을 받아 홉필드 네트워크(Hopfield Network)라는 새로운 형태의 인공 신경망을 고안했고, 신기하게도 신경망이 자체적으로 정보를 저장하고 원래의 기억을 복원할 수 있게 했습니다. 쉽게 말해, 사람의 기억처럼 일부 단서만으로 전체를 상기하는 시스템을 컴퓨터에서 구현한 것입니다.

저장된 패턴을 찾아가는 과정이 공이 굴러 떨어지는 것과 비슷합니다.

조금 더 들어가서 어떻게 동작하는지 간단하게 알아볼까요?

홉필드 네트워크는 많은 언덕과 계곡이 있는 지형으로 비유할 수 있습니다. 언덕에서 공을 떨어뜨리면 아래로 굴러가서 결국 한 계곡에서 멈추겠지요? 이처럼 어떤 패턴이 입력되면(공을 떨어뜨리면), 그 패턴과 가장 가까운 기억을 찾아냅니다(한 계곡에서 멈춥니다).

제프리 힌튼, 학습하는 인공지능

홉필드가 컴퓨터에 기억을 부여했다면, 힌튼은 인공지능이 스스로 학습할 수 있는 방법을 제시했습니다.

볼츠만 머신(2, 3번째)에는 옅은 색의 숨겨진 레이어가 있습니다.

그는 홉필드 네트워크를 바탕으로 볼츠만 머신(Boltzmann machine)이라는 새로운 신경망을 만들었고, 이 과정에서 숨겨진 레이어(hidden layer)를 도입했습니다. 이 숨겨진 레이어는 겉으로 드러나지 않지만, 학습에 중요한 역할을 합니다. 마치 인간의 무의식처럼 겉으로 드러나지 않지만 내부에서 복잡한 패턴을 학습하고 정보를 처리합니다.

또한, 힌튼은 같은 레이어 내의 연결을 제거하여 효율성을 높였으며, 이는 오늘날 딥러닝의 기본 개념이 되었습니다. 이러한 발전 덕분에 컴퓨터는 단순히 명령을 수행하는 것을 넘어, 예제를 통해 스스로 학습하고 패턴을 인식할 수 있는 능력을 갖추게 되었습니다.

힌튼의 위대한 점으로는 그가 인공지능 겨울이라 불리는 인공지능의 침체기 동안에도 연구를 멈추지 않았다는 것입니다. 많은 연구자들이 인공지능에 대한 흥미를 잃었을 때에도, 힌튼은 지속적인 연구를 통해 딥러닝의 기초를 닦았고, 2010년대 이후 인공지능의 르네상스를 이끌었습니다. 인공지능의 발전 과정과 겨울에 대해서는 추후에 따로 다루겠습니다.

마치면서

2024년 노벨 물리학상은 인공지능과 과학의 경계가 점점 허물어지고 있음을 상징적으로 보여주고, 인공지능이 얼마나 큰 영향을 끼치고 있는지 보여줍니다.

이제는 인공지능 없이 과학을 논할 수 없는 시대가 되었습니다. 힉스 입자의 발견, 블랙홀 충돌에서 발생하는 중력파의 측정, 단백질 구조의 예측, 그리고 더 효율적인 태양전지 소재 개발 등 다양한 연구에 인공지능이 활용되며 혁신적인 결과를 이끌어내고 있습니다.

2010년 이후 인공지능의 발전은 급속도로 진행되었습니다. 존 홉필드의 초기 신경망은 고작 500개의 숫자에 불과한 규모였지만, ChatGPT 등 최신 딥러닝 모델은 몇조 개의 숫자를 가진 거대한 규모로 확장됐습니다.

정리하면 홉필드가 컴퓨터가 패턴을 기억할 수 있게 했고, 힌튼은 컴퓨터가 패턴을 학습하도록 했습니다. 오늘날 이렇게 인공지능이 꽃피우고 혜택을 누릴 수 있는 것은 홉필드와 힌튼이 물리학의 원리를 이용해 인공지능의 기초를 다졌기 때문입니다.

인공지능 소식

2024년 노벨 화학상마저도 인공지능입니다!

놀랍게도 노벨 물리학상에 이어서 노벨 화학상마저도 인공지능 연구자들이 수상했습니다. 데이비드 베이커(David Baker), 데미스 허사비스(Demis Hassabis), 존 점퍼(John Jumper) 세 사람이 단백질의 구조 예측에 관한 공로를 인정받았습니다.

먼저 베이커 교수는 자연에 존재하지 않는 완전한 새로운 단백질을 디자인하는 분야를 개척했으며, 허사비스와 점퍼는 단백질의 삼차원 구조를 예측하는 AlphaFold2 인공지능 모델을 개발해서 2억 개의 단백질 구조 예측에 성공했고 2백만 명의 사람들이 이를 이용하고 있습니다.

단백질은 생명체의 구성과 생명 활동에 매우 중요하고 필수적인 요소이면서 다양한 형태로 만들 수 있는 일종의 레고 블록입니다. 단백질의 기능은 그 모양에서 나오기 때문에 매우 중요한데요, 이번 연구를 통해 단백질의 구조를 예측함으로써 신약 개발, 센서, 플라스틱 분해 효소 등 많은 분야에 큰 영향을 끼칠 것입니다.

이번 노벨 화학상을 받은 인공지능을 이용한 단백질 구조 예측 연구의 영향 범위가 워낙 넓다 보니 자연스럽게 노벨 물리학상 또한 인공지능을 줄 수밖에 없지 않았느냐는 생각이 듭니다. 2024년 노벨 화학상에 대한 이야기는 다음 연재(10.15 화)에 다루겠습니다.

---

참고 문헌

The Nobel Prize in Physics 2024

Popular science background: They used physics to find patterns in information (pdf)