일반인공지능(AGI)과 '오래된 뇌'

뇌와 인공지능 알고리즘의 공통점과 차이점 찾기(2)

뇌와 인공지능 알고리즘의 공통점과 차이점 찾기(2)

일반인공지능(AGI)과 '오래된 뇌'

지난 시간 '뇌와 인공지능 알고리즘의 공통점과 차이점 찾기(1)'에서는 뇌와 딥러닝 인공지능 모델의 공통적인 작동원리에 대해 이야기했다. (이는 한 명의 업계 종사자의 지극히 개인적인 의견에 불과함을 밝혀둔다.) 인공신경망(artificial neural network, ANN)은 가중(weight)과 편향(bias)을 조정하는 매개변수(parameter)를 통해 인간 뉴런(neuron) 간의 연결인 시냅스(synapse)를 수학적으로 구현해 내는 것에 성공했다. 또한 뇌의 작동 메커니즘이 담당 기관별로 서로 단절되어 있는 것이 아닌 천문학적인 개수의 뉴런이 유기적으로 얽혀있다는 점에서(이를 병렬주의 혹은 연결주의라고 한다.) 인공지능의 작동 방식과 매우 유사하다는 것도 살펴보았다.

그렇다면 현재의 기술로 인간의 지시 없이도 인간처럼 다방면의 일을 스스로 척척 해내는 일반인공지능(artificial general intelligence, AGI)의 개발이 가능할까? 실제로 인공지능 학계에는 GPT나 LLaMA와 같은 초거대언어모델(LLM)의 매개변수(parameter)를 점점 더 늘려나가면 인간과 비슷한 수준의 추론능력뿐 아니라 인지능력까지 획득하게 되어 일반인공지능(AGI)의 개발이 가능해질 것이라고 주장하는 사람들이 있다. 이는 과연 사실일까?

결론부터 말하자면 이는 우리 뇌의 작동방식에 대한 이해가 부족하기 때문에 생겨난 오해라고 생각한다. 많은 인공지능 연구자들은 뇌과학에 관심이 없고, 뇌과학자들은 인공지능의 매우 한정적인 부분만을 알려고 한다. 그러나 이 두 가지는 AGI 개발을 위한 두 개의 바퀴와 같아서 떼려야 뗄 수가 없다.

현재의 기술로 AGI를 실현하는 것은 불가능하다. 인공일반지능 개발이 가능할지 여부를 살펴보기 위해서는 우선 우리 뇌의 구조에 대해서 조금 더 자세하게 살펴볼 필요가 있다. 그리고 컴퓨터가 과연 진짜로 데이터를 '이해'하고 있는지에 대해 엄밀히 살펴볼 필요가 있다.

오래된 뇌의 존재

흔히 SF영화에 등장하는 인공지능은 스스로 판단하여 인간을 공격하거나 감정을 가지고 스스로의 존재를 궁금해하며 고뇌하는 존재로 그려진다. 이러한 행동은 모두 인공지능이 우리 뇌 속에 존재하는 '오래된 뇌'를 가지고 있다는 가정하에 생겨난다. 오래된 뇌는 우리가 감정을 느끼고 공격적인 행동을 하거나 동정심을 느끼는 등 지극히 인간적인 일을 하도록 도와준다.

1952년 뇌 과학자 폴 맥린이 주장한 삼위일체뇌 이론에 따르면, 우리 뇌는 진화의 순서에 따라 세 개의 부분으로 나뉘어 진화했다. 가장 먼저 진화한 것은 흔히 '파충류의 뇌'로 알려진 R복합체인데, 이는 인간의 생존을 위한 부분을 담당한다. 생존의 위협으로부터 스스로를 지키기 위한 인간의 공격성이나 무리를 이루고 누군가를 따돌리고자 하는 행위 등 지극히 원초적이고 인간스러운 부분을 담당한다.

출처 : pure Dhamma

그 밖에도 정서적 교감과 모성애 등 감정을 담당하는 변연계라는 부분이 있는데, '포유류의 뇌'라고도 불린다. '파충류의 뇌'와 '포유류의 뇌' 모두 이름에서 알 수 있듯이 인간보다 지능이 떨어지는 여러 동물들에게서도 발견되는 부분이다. 이 두 가지를 가장 최근에 발달한 이성과 지능적인 행위를 담당하는 '새로운 뇌'인 신피질과 구분하기 위해 '오래된 뇌'라고 표현했다.

문제는 우리 뇌의 '새로운 부분'인 신피질이 '오래된 뇌'의 지배를 받는다는 사실이다. 한 가지 예로 우리의 신피질은 밤늦게 야식을 먹는 것이 건강에 해롭다는 사실을 알고 있다. 그러나 우리가 꽤나 잦은 빈도로 비이성적인 판단을 내리고 밤늦게 야식을 시켜 먹는 이유는 바로 우리 뇌가 여전히 생존을 위해 에너지를 비축해 두어야 한다는 '오래된 뇌'의 지배를 받기 때문이다.

이처럼 인간의 뇌는 오래된 뇌와 새로운 뇌의 싸움이 매 순간 반복되는 전쟁터다. 인간이 항상 이성적인 판단을 내리지 않는다는 사실은 그 누구보다 우리 스스로가 잘 알고 있을 것이다. 문제는 인공지능에게는 이러한 '오래된 뇌' 자체가 존재하지 않는다는 사실이다. 지난 시간에 살펴본 인공지능과 인간 뇌의 유사점은 모두 신피질이라는 이성적 판단과 지능을 담당하는 영역과 관련 있는 부분에서 착안되었다.

따라서 무언가를 끊임없이 배우고, 생존 욕구와 의도를 가진 사람 같은 인공지능을 만들어내기 위해서는 단순히 지능뿐 아니라 스스로 삶의 목적을 가질 수 있는 부분을 구현해내야 한다. 그러나 많은 사람들이 알고 있듯이 현재로서 이런 기계는 존재하지 않는다. 즉 의식과 자아를 가진 존재를 구현해 내야 하는 것이다. 다음시간에는 현재의 인공지능이 일반인공지능(AGI)이 될 수 없는 또 하나의 결정적인 이유에 대해 소개하도록 하겠다.