AI는 스스로 생각하는 주체일 수 있는가?
A의 뇌가 그의 신체와 분리되어 뇌에 자양물질을 공급해 주는 통 속에 갇혀 있다. 뇌신경들은 전기 장치를 통하여 슈퍼 컴퓨터와 연결되어 있어서 컴퓨터의 지시에 따라 반응한다. 그래서 A는 실제로 세계를 보고, 듣고, 느끼고 , 생각하고 경험하는 듯 보인다. 그러나 그 모든 것은 사실 컴퓨터가 심어 준 환각에 불과하지 않은가? 불쌍한 뇌는 이런 상황에서 자기 자신이 통속에 든 뇌라는 사실을 자각할 수 있을까? 그런 수단을 가지고 있을까? 그런데 어쩌면, 우리가 마치 A의 뇌와 같이 통 속에 갇힌 뇌일지도 모른다. 통 속의 뇌가 아님을 보장해 줄 만한 근거가 없다. 우리가 통 속의 뇌라면, 우리는 통 속의 뇌가 아니라고 말할 수 있을까?
위와 같은 '통 속의 뇌' 가설(brain-in-the-vat hypothesis)은 미국의 철학자 힐러리 퍼트넘이 1981년 그의 책 <이성, 진리, 역사(Reason, Truth and History)>에서 제기한 가설로서, 데카르트의 악마 가설을 현대적으로 각색한 일종의 사고 실험이다. 데카르트가 자신에게 생각을 심어주는 악마가 있을 수 있다는 의심을 떨쳐내지 못할 때, 이를 현대화한 '통 속의 뇌' 가설은 사악한 과학자에게 그 악마의 역할을 넘긴다. 우리는 그 의심을 떨쳐낼 재간이 없다.
만약 누군가가 왜 갑자기 나 = 뇌가 되었는가? 하고 물어보면 사고 실험자와 그 지지자는 어떻게 대답할까? 나라는 존재는 애초에 뇌로만 구성된 적이 없는데도 갑자기 뇌에 초점이 가게 된 것은 '통 속의 뇌' 가설이 그리는 그림이 그 자체로 '주체성'에 대한 더 큰 그림에 기초한 것임을 보여준다. 데카르트가 제공한 근대적 그림을 그의 말을 빌려서 설명하면 "내 안에 있는 관념을 통해서가 아니면 내 밖에 있는 것에 대한 지식을 가질 수 없다는 것을 확신한다"는 것이다. 그에 따르면 내가 파악하고 싶어 하는 대상은 모두 정신 밖에 있는데, 그 대상에 대한 지식은 모두 내 정신 안에 있다. 만약 내 정신에 나타난 것이 내 정신 밖에 있는 대상을 정확하게 표상한다면, 나는 그 대상에 대한 '지식'을 가진다. 따라서 나는 외부의 대상을 올바르고 신뢰할만하게 표상하게 해주는 지식, 즉 '관념(Idea)'을 가질 때에만 지식을 가진다고 할 수 있다.
흥미롭게도 '통 속의 뇌' 실험을 실제로 '뇌'가 작동하는 방식과 연결 지을 수 있도록 해주는 책이 있다. 바로 이안 맥길크리스트(Iain McGilchrist)의 <주인과 심부름꾼(The Master and His Emissary)>이다. 이 글에서 그 책의 방대한 내용을 축약하는 것이 쉽지는 않지만 주요 골자를 정리하자면 다음과 같다.
그는 책의 전반부에서 실제로 좌뇌와 우뇌의 활동 양식이 어떻게 다른지에 대해서 설명하기 위해서 좌반구 또는 우반구에 병변이 생겨 기능이 영구적 또는 일시적으로 상실되거나 저하된 상태에 있는 환자들에 대한 연구 사례를 든다. 실제로 좌뇌와 우뇌가 하는 일이 완벽하게 이분법적으로 나누어져있지는 않지만, 대체적인 역할을 나누어 보는 것이 우리에게 어떤 철학적 실마리를 준다는 것이 그의 주장이다.
그는 좌반구는 분석, 조작, 분할의 역할을, 우반구는 맥락, 전체, 살아있는 장(場) 인식에 더 치우친 경향을 보인다고 설명한다. 그에 따라서 좌뇌는 대상화, 분할, 명시화, 규칙과 문법, 도구성, 그리고 지도(Map) 만들기에 적합한 역할을 가지고, 우뇌는 관계성, 전체성, 가치, 맥락, 은유, 아이러니, 지형(Terrain)과의 접속에 더 적합하다. 예를 들면 우반구의 특정 영역에 병변을 가진 사람이 자신의 신체를 전체적으로 인식하지 못하고 누군가 "당신의 왼팔은 지금 어디에 있나요?"라고 물었을 때 멀쩡히 자신의 왼쪽 팔이 있음을 보면서도 자신의 왼쪽 팔은 지금 침대 밑에 있다고 이야기하게 되는 식이다(이 사례는 실제 책에 나온 예시이다). 또는 좌반구가 손상된 사람은 실어증에 걸리거나 사물을 명명하지 못하는 등 명시적 기호화의 손상이 두드러지지만, 많은 경우에 상황이나 맥락, 암시의 이해는 상대적으로 보존되는 모습을 보인다. 우반구가 살아있기 때문이다.
우반구는 지금-여기의 살아 있는 장면(변화, 모호함, 관계적 의미)에 접속하여 현존(presence)을 경험하는 역할을 하고, 좌반구는 그 장면을 추출, 편집, 부호화하여 조작 가능한 표상(re-presentation)으로 만드는 역할을 한다. 그래서 좌반구는 그 자체로 폐쇄적이고 완결된 일관적 서사를 선호하며, 그래서 과잉확신, 과잉 일관화로 기우는 경향이 있다. 이에 반해 우반구는 전체적인 상황과 불확실성, 아이러니를 참고하여 맥락적 판단을 유지하는 경향을 가진다. 따라서 좌반구에서 처리된 정보는 반드시 우반구를 거쳐 맥락을 입은 뒤에야 정상적인 기능을 하게 되는데, 만약 우반구가 손상된다면 은유, 농담, 맥락을 이해하지 못하게 되고, 타인에게 공감을 하지 못하게 된다. 따라서 우반구는 주인(The Master)이고, 좌반구는 그의 심부름꾼(His Emissary)이다.
위와 같은 좌반구와 우반구의 대체적 경향을 다시 정밀하게 인과관계로, 또는 이분법적으로 나누고 싶은 충동이 든다면 그것은 다시 좌반구의 반란이 시작된 것이라고 볼 수도 있다. 이안 맥길크리스트의 논지를 따라서 퍼트남의 '통 속의 뇌' 실험을 보게 되면, 그러한 실험 자체가 철저히 좌반구적 사고 실험에 해당한다는 것을 보게 된다.
'통 속의 뇌' 실험은 "신경 압력이 같으면 경험도 같다"라는 전제 위에 서있다. 그래서 사악한 과학자는 통속의 뇌에게 실제와 동일한 경험을 신경학적인 자극만으로 줄 수 있다고 가정된다. 그러나 정말 그러한가? 오히려 우리의 경험의 성격은 입력 자체가 아니라 그 입력을 가능하게 하는 '주의의 방식', 즉 세계와의 관계적 접속에 달려 있지 않은가? 즉, 뇌가 A의 뇌라는 사실보다 중요한 것은 A가 어떤 건강한 신체를 가지고 있느냐이다. 만약 우리가 신경 압력 = 경험이라고 생각한다면, 이는 체화(embodiment)와 상호작용의 중요성을 무시하는 것이다. 맥락이 빠진 순수한 표상은 살아있는 경험을 구성하지 못한다. 다시 말해, 사회적-세계적-실천적 맥락을 삭제한 채, 기호 입력만으로 '같은 의미'를 생산한다고 가정하는 것은 지도가 지형을 대체한다고 오인하고 있는 셈이 된다.
또한, 우반구는 변화, 과정, 열림에 민감하고 불확실성을 견디면서 판단을 유보하는 경향이 있다. 즉, 시간과 공간이라는 자신이 놓인 조건 자체에 열려있다. 그러나 '통 속의 뇌'는 본질적으로 폐쇄회로 시스템을 가정한다. 따라서 개방된 세계에서 오는 예기치 못한 만남이 주는 새로움, 학습, 가치 업데이트의 과정이 삭제되고, 살아있는 시간을 마치 사진을 찍어서 보관하듯이 정지된 표상으로 대체하게 된다. 그러나 우리는 세계를 '데이터'로 보지 않고 오히려 '의미'를 부여하면서 본다. 이렇게 세계와의 얽힘이 약화되면 '같은 입력'으로 '같은 경험'을 만들어낼 수 없다는 점은 사고 실험이 아니라 실제 뇌에 대한 임상 실험으로 증명된다.
그런 면에서 '통 속의 뇌' 실험은 또 한 번 좌반구가 만든 정합적 지도를 현실 전체와 동일시하는 '심부름꾼의 반란'에 해당한다. 뇌는 사실 단순히 자극을 받아들이는 수동적 기계가 아니라 주의(attention)의 방식에 따라 전혀 다른 세계를 구성한다.
AI에 대해서도 우리는 같은 생각을 해볼 수 있다. "충분히 정교한 시뮬레이션, 알고리즘은 곧 의식"이라는 주장을 해볼 수 있는 것이다. 그러나 맥길크리스트의 관점에서는 이는 좌뇌적 환원에 불과하다. AI가 단순히 거대한 언어모델이나 이미지 모델로서 '패턴을 흉내 내는 것'을 넘어서 살아있는 주체적 인식을 가지려면 세계와의 열린 상호작용이 가능해야 한다.
물론 인공지능에 관한 연구는 체화된 AI(Embodied AI)나 인공 에이전트의 생태계 학습으로 나아가고 있다. 물리적 로봇 몸을 가진 AI는 '몸'을 가지고 있지 않은가? 그리고 가상 멀티에이전트 환경에서 서로 협력하고 경쟁하고 의사소통하는 AI 생태계가 있다면, 그 생태계는 단순한 시뮬레이션을 넘어서서 세계와 얽힌다는 조건을 갖추어가는 것은 아닐까?
우리가 그것이 가능한지 여부를 완전히 아는 것은 (거의 미래를 완전히 알 수 없는 것과 같은 이치로 당연히) 불가능하다. 게다가 설령 AI가 관계적, 맥락적 반응을 보인다고 하더라도, 그것이 그렇게 보이는 것인지(즉, 행동적 유사성인지) 아니면 실제로 주체성을 가지는지(즉, '현상적 주체성(qualia)'을 가지는지)를 구분하는 것이 기술적으로 가능한지도 불분명하다는 난점까지 있다. 오히려 우리는 우리가 AI에게 빌려준 지향성(borrowed intentionality)으로 인해 도구가 아닌 주체로 간주하려는 유혹에 빠지는 것에 더 집중해야 할지도 모른다. 기술은 끊임없이 AI를 인간의 위치로 올리기 위해 인간을 모방할 것이다. 그러나 그 과정에서 만약 우리가 나서서 우리 자신을 '통 속의 뇌'로 축소시킨다면, 그것은 인간의 승리일지 패배일지 고민해보아야 할 것이다.
퍼트넘은 묻는다. "개미 한 마리가 모래밭에서 기어 다니면서 지나간 경로를 선으로 남긴다. 순전히 우연으로 그 선이 구부러지고 교차하면서 그림을 이루는데, 그 그림은 누가 봐도 윈스턴 처칠의 캐리커처처럼 보인다. 그 개미는 윈스턴 처칠의 그림을 그린 것일까? 처칠을 모사한 그림을?"(<생각이란 무엇인가?>, 마르쿠스 가브리엘, p146.) 당연히 아닐 것이다. 우리는 처칠을 알기 때문에 개미의 그림에서 처칠을 볼 수 있으나, 개미는 처칠을 모르기에 처칠의 캐리커처를 제작할 수 없다. AI의 경우에도 그렇지 않을까 하는 물음을 던져본다.