4. 기계는 어떻게 학습하는가?

오늘날의 기계학습은 기계가 스스로 규칙을 파악하고 분류하며 미래의 현상을 예측한다. 사람이 미리 입력해놓은 규칙에 따르는 규칙기반 시스템에서 한 발 더 나아가서 스스로 규칙을 파악하기 시작한 것이다. 그렇다면 어떻게 기계가 스스로 학습하도록 만들었을까? 원리는 간단하다. 인간의 뇌 속에서 학습이 이루어지는 과정을 따라한 것이다. 다음의 이야기를 통해 우선 인간의 학습 과정에 대해 알아보자.

처음 ‘사과’라는 단어를 배우는 어린아이를 상상해보자. 아이는 사과를 ‘사과’라고 발음한다고 배운다. 사과의 겉모습도 보고 사과의 맛과 식감을 느끼기도 할 것이다. 사과와 관련된 다양한 자극들이 아이의 뇌 속으로 전달된다. 그리고 아이는 사과의 겉모습과 맛, 식감을 ‘사과’라는 단어와 연결짓기 시작한다. 결국 아이는 사과가 ‘사과’임을 학습하게 된다.

이 아이의 뇌 속에서는 어떤 일이 벌어진 걸까?

<뉴런>

위의 사진은 우리의 뇌를 이루고 있는 신경세포, 뉴런이다. 학교 과학 시간에 배운 동물세포, 식물세포의 모양과는 조금 다르다. 끈처럼 생긴 무언가를 주렁주렁 달고있는 이 모습이 마치 밧줄을 닮았다고 하여 밧줄을 뜻하는 라틴어 ‘뉴런(neuron)‘이라는 이름을 가지게 되었다고 한다. 그렇다면 뉴런 세포는 왜 밧줄같은 긴 구조로 되어 있을까?

뉴런에서 밧줄마냥 길게 늘어진 부분은 ’축삭돌기‘라고 한다. 축삭돌기는 자극을 다른 뉴런과 기관으로 전달하는 역할을 한다. 즉, 신경세포체에서 받아들인 자극을 전기신호로 바꾸어 전달하기 위해 이러한 모양을 가지고 있는 것이다. (+추가하기 : 머릿속에는 이러한 뉴런 세포가 약 40억개~ 거대한 신경망으로 연결되어 있다.)이제 축삭돌기의 끝 부분을 살펴보자. 축삭돌기의 말단은 마치 나무의 뿌리처럼 여러 갈래의 돌기가 뻗어있는 모습을 볼 수 있다. 이 부분에 시냅스가 있다.

<시냅스>

시냅스는 또 다른 이웃 뉴런과 맞닿아있는 구조를 말한다. 축삭돌기를 통해 전달된 자극을 다른 뉴런 세포로 매개해주는데, 이때 전달되는 강도가 결정된다. 즉, 자극이 온전히 다 전달될 수도 있고 약한 강도로 전달될 수도 있는 것이다.

캐나다의 심리학자 도널드 헵(donald hebb)에 따르면 우리의 뇌 속 시냅스는 우리가 하는 경험과 반복 여부에 따라 연결이 생기고 끊어지길 반복한다. 즉, 어린 아이에게 사과의 발음, 사과의 맛, 사과의 모양새에 대해 반복적으로 경험하게 하면 아이의 뇌 속에서는 사과의 발음과 사과의 맛, 사과의 모양새에 대한 시냅스가 강한 강도로 연결될 것이다. 이처럼 사람의 뇌 속에서는 뉴런들끼리 시냅스가 연결되는 과정을 통해 학습이 이루어진다. 그렇다면, 인간의 뇌 신경망과 비슷한 구조를 컴퓨터에게도 만들어준다면 컴퓨터도 인간처럼 학습을 할 수 있다는 것 아닐까? 이러한 생각을 바탕으로 만들어진 것이 바로 인공신경망이다. 1943년, 워렌 맥컬록(Warrem Sturgis McCulloch)과 월터 피츠(Walter Pitts)는 인공신경망을 구성하는 수학적 기초를 제안했다.

인공신경망은 인간의 뇌와 비슷한 구조를 컴퓨터에서 구현한 알고리즘을 의미한다. 아래 그림은 인공신경망을 설명할 때 가장 흔히 볼 수 있는 그림이다. 인간의 뇌 신경망과 기계의 인공신경망 그림이 언뜻 비슷해보인다. 뉴런 세포의 신경세포체에서 축삭돌기를 통해 자극을 전달하듯이, 인공신경망에도 뉴런의 신경세포체와 축삭돌기, 시냅스의 역할을 하는 요소들이 존재하기 때문이다.

다음 장에서는 인공신경망의 구체적인 학습 방법에 대해 알아보자.