인공지능은 마음을 지닐 수 있을까?
인간의 정신은 일종의 정보 처리 과정, 그 이상도 이하도 아니다.
뉴런들이 서로 연결된 네트워크를 따라 흐르는 전기 흐름이 우리 정신 활동의 본질이라고 하는 생각은 우리의 지성과 인공지능의 본질이 어느 정도로 유사한가에 대한 생각으로 이어진다.
우리의 뇌과학이 다 밝히지 못한 뇌의 작동 원리도 많이 있고 현 단계의 인공지능 알고리즘으로 인간 정신의 모든 특성을 구현해 낼 수 있을 것으로 생각되지는 않지만 기술은 급속도로 발전 중이다. 인공지능의 지적 역량이 인간을 넘어설 수 있는 가능성은 더 이상 상상에 머무르지 않는다. ChatGPT와 대화를 나누면서 왠만한 부하직원이나 동료보다 말이 잘 통한다고 느끼는 경험을 하기도 하고 현재 부족한 부분이 있더라도 오래 지나지 않아 극복될 수 있을 거라는 믿는 사람들이 많다. 로봇이 눈이 쌓인 숲 속을 조심스럽게 걸어가는 영상은 몇 년 전에 충격을 주었지만, 이제는 로봇이 공중제비돌기를 도는 모습을 보더라도 그런가 보다 하게 되었을 정도이다.
현 인공지능의 뼈대를 이루는 알고리즘은 뇌의 작동 방식과 본질적으로 유사하다. 뉴런의 네트워크처럼 변수들로 구성된 네트워크를 구성해 둔다. 네트워크는 컴퓨터 기억 장치 안의 숫자로 그 구조를 표현할 수 있다. 이 네트워크에 입력값을 제공하면 출력값이 계산된다. 입력값과 출력값으로 구성된 방대한 데이터 집합을 통해 네트워크의 내부 구성을 최적화하는 과정이 학습이다. 즉 학습용 입력값을 제공해서 나오는 출력값에 따라 더 나은 출력값을 산출하는 방향으로 네트워크를 변형하는 학습 알고리즘을 통해 반복 학습을 마치고 나면, 주어진 입력 값에 대해 적절한 출력을 내 놓게 된다.
적절한 입력에 대해 적절한 출력을 내놓는 것, 그리고 그럴 수 있는 역량을 스스로 향상시키는 것. 이것이 인간의 정신 활동의 본연의 역할이다. 세상의 모든 정보는 디지털로 변환되어 입력으로 주어진다. 컴퓨터는 자신이 가진 네트워크에 입력값을 흘려 보내 출력값을 산출한다. 출력은 텍스트일 수도 있고, 로봇의 인공 관절에 보내는 디지털 신호일 수도 있다.
이런 유사성은 인공지능에게도 인간과 비슷한 마음이 있다는 것을 의미할까?
여러 철학자들은 이를 부정한다. 이와 관련된 유명한 철학적 사고실험 중에는 데이비드 차머스의 철학적 좀비, 프랭크 잭슨의 메리의 방, 존 설의 중국어 방 등이 있다. 하지만, 이런 주장들은 인공지능이 마음을 가질 수 없다는 근거로서 부족하며 동어반복적인 논리라는 반박을 받아 왔다.
예를 들어, 철학적 좀비 이론은 겉으로 인간과 모든 면에서 똑같은 행위를 하고 반응을 보이지만 인간이 느끼는 것과 같은 주관적 경험을 할 수 없는 좀비가 논리적으로 가능하다고 주장한다. 그렇기 때문에 어떤 알고리즘으로 완벽히 인간처럼 보이는 튜링머신을 구현해 냈다고 해서 그 인공지능이 마음을 지녔다고 볼 수는 없다는 것이다. 하지만, 데이빗 데닛과 같은 이들은 겉으로 보기에 인간과 똑같은 존재의 내면이 인간의 내면과 다를 것이라고 보는 것은 근거 없는 단정이라고 반박한다.
메리의 방 이론에서는 어떤 방 안에 갇혀 평생 빨간 색을 직접 볼 기회가 없었지만, 공부를 통해 빨간 색과 관련한 모든 정보와 지식을 알게 된 메리라는 사람을 가정한다. 메리가 빨간 색에 대한 모든 지식을 가졌다고 하더라도 빨간 색을 실제로 보는 순간 메리는 처음으로 하게 되는 어떤 경험을 갖게 된다. 그렇기 때문에 인공지능에게 빨간 색에 대한 모든 정보를 다룰 수 있다고 해도 인공지능이 이해할 수 없는 어떤 느낌이 존재한다는 이야기다. 하지만, 이 역시 컴퓨터는 계산만 할 수 있기 때문에 어떤 느낌 같은 것은 갖지 못할 것이라는 전제에서 비롯된 동어반복에 불과해 보인다. 메리가 빨간 색에 대한 모든 이론적 지식을 배웠다고 하더라도 빨간 색을 한 번도 접하지 않은 상태에서는 빨간 색에 대한 충분한 지식을 지녔다고 할 수 없다. 경험을 해 봐야지만 알 수 있는 지식이 있고, 경험만을 통해 가능한 학습이 있는 것이다. 마찬가지로 인공지능에 대한 학습 역시 텍스트나 숫자로 표현 가능한 대상에 국한되지 않는다. 빨간 색의 수많은 물체들과 빨간 색이 아닌 수많은 물체들을 통해 학습을 한 인공지능은 빨간 색에 대한 아무런 다른 지식이 없더라도 빨간 색을 구분할 수 있는 역량을 갖게 된다. 이는 논리와 무관한, 빨간 색에 대한 하나의 직관이다. 이것은 인공지능이 센서와 운동 장치 등을 통해 외부 세계를 직접 경험하며 학습할 수 있다는 것의 가장 간단한 예시일 것이다. 실제로 이미 로봇들은 이미 그런 학습을 통해 외부 세계와 상호작용하고 있다. 빨간 색을 식별할 수도 있고, 그에 반응할 수도 있고, 관련된 온갖 지식들을 응용할 수도 있는 로봇이 있다고 하면, 이 로봇이 메리가 빨간 색을 직접 봐야만 알 수 있는 무엇인가를 모른다고 할 수 있는 근거가 무엇일까?
중국어 방 이론에서는 중국어를 모르는 사람이 방 밖에 있는 사람한테 중국어로 질문을 받아 매뉴얼을 보고 적절한 답변을 뽑아내어 밖에 건네 주는 상황을 가정한다. 그런 경우 방 안의 사정을 모르는 외부의 질문자에게 방 안에 있는 사람이 중국어를 이해한다고 보이겠지만, 실제로 그 사람은 중국어를 모른다는 것이다. 이처럼 인간처럼 기능하는 튜링 머신이 인간처럼 진정한 이해력을 갖지 못한다는 것이다.
하지만 중국어를 이해하지 못하는 것은 중국어 방 안에 있는 인간 뿐이다. 인간과 매뉴얼을 합쳐 하나의 시스템으로 본다면 그 시스템은 중국어를 이해한다고 해야 할 것이다. 아니, 사실 인간은 외부인의 질문을 보고 매뉴얼에서 해당되는 답변을 뽑는 인터페이스의 역할만 할 뿐, 외부인이 인간으로 착각할 만큼 광범위한 질문에 적절한 답을 내놓을 수 있는 매뉴얼이 존재한다면 그 매뉴얼이 중국어에 대한 진정한 이해를 갖지 못했다고 할 근거는 적어도 이 중국어 방 이론 안에서는 찾을 수 없다.
이처럼 인공지능이 마음을 가질 수 없다고 하는 것을 증명하려는 시도는 기계는 마음을 가질 수 없다는 전제로 주장하려는 바를 증명하려는 순환 논증에 빠지기 쉽다.
이런 논증들이 계속 시도되는 것에는 인공지능이 마음을 가질 수 있다는 생각에 대한 거부감, 인간의 마음은 정보 처리 알고리즘 이상의 신비한 무엇이라는 믿음이 작용하지 않나 생각하게 된다. 얼마 전에 작고한 유명한 철학자이자 인지과학자인 데니얼 데닛은 이런 인식을 천동설에 비유하면서, 결국 사람들이 우주의 중심이 지구라고 하는 천동설에 비해 인간의 위치를 격하시키는 듯한 지동설을 거부하다가 받아들이게 되었듯이 인간의 마음이 일종의 정보처리 과정이라는 생각을 받아들이게 될 것임을 주장했다.
지금까지 한 이야기들은 두 가지 방면의 함의들을 갖는다. 하나는 인공지능이 마음을 가질 수 있다는 것의 의미이다. 이것은 우리가 향후에 로봇이나 다른 형태의 인공지능에게 윤리적 태도를 취해야 할 필요성을 비롯해 많은 논제로 이어질 수 있다.
다른 하나는 인간의 마음이 일종의 정보처리 과정이라는 것의 의미이다. 이것이 인간의 정신을 폄하하는 의미로 해석될 필요는 없다. 이런 폄하의 느낌은 편협한 연상에서 비롯된 것이기 쉽다. 기계적 정보 처리 과정으로 인간의 의식이 구현될 수 있다고 할 때 경직되어 뻣뻣하게 움직이는 로봇이나 감정이 없고 차가운 계산만 수행하는 컴퓨터를 연상해서는 안된다. 우리 인간이 낮아지는 것이 아니라 기계들이 인간적이 될 가능성을 갖는 것이다. 우리가 체험하는 정신적 경험들의 의미는 그 자체로 남게 된다.
오히려 우리의 정신적 경험들을 떠받치는 복잡성과 광대함에 주목을 할 수 있다. 우리 뇌의 정보 처리 과정은 우리의 의식 속을 지나가는 단편적인 생각들이나 감정들보다 훨씬 방대하다. 뉴런의 수는 대략 860억개이며, 하나의 뉴런은 보통 1000개에서 10000개 정도 되는 다른 뉴런들과 연결되고, 뉴런들끼리의 연결 갯수는 100조개가 넘는다. 100조란 숫자를 상상하는 것은 쉬운 일이 아니다.
그렇기 때문에 인공지능이 마음을 가질 수 있다는 생각은 오히려 마음의 신비에 대한 경이감과 호기심을 더 높이는 효과를 가져올 수 있다고 나는 생각한다. 인공지능이 가질 수 없는 인간 고유의 의식이라고 하는 것은 오히려 말로 표현해 놓으면 별 것 없는 평범한 사고의 흐름만 이어가는 단순한 자아에 가깝지 않을까? 그에 비한다면 100조개의 시냅스 연결이 떠받치는 우리의 정신 활동은 아무리 탐구해도 그 일부밖에 알 수 없는 신비한 보물창고가 될 수 있지 않을까?
