인공지능은 몸이 필요하다

[책을 읽고] 안토니오 다마지오, <느끼고 아는 존재> (3)

의식과 앎

다마지오는 의식이란 두 가지 뚜렷한 특징을 가진 마음 상태라고 말한다.

첫 번째 특징은 마음이 드러내는 마음의 내용물들이 느껴진다는 점이고,

두 번째 특징은 이 내용물들이 단일한 관점을 가진다는 점이다.

다시 말해, 의식이란 해당 유기체의 '관점'을 공유하는 심적 이미지의 집합이 '느껴지는 것'이다.

저자가 분명하게 말하지는 않지만, 의식이 명시적 지능의 충분조건은 아닌 듯하다.

박테리아의 정족수 감지는 명시적 지능의 일종이지만, 박테리아는 분명 의식이 없다.

명시적 지능은 비명시적 지능에 비해 더 다양한 환경에서 생존 투쟁을 할 수 있게 한다.

의식에 있어 기질(substrate)은 중요하다.

많은 이들의 생각과 달리, 의식은 하드웨어와 분리될 수 있는 소프트웨어가 아니다.

의식이라는 게 소프트웨어라 해도, 그것은 하드웨어와 분리될 수 없는 성질의 것이다.

우리 마음의 내용물이 그 내용물을 담는 유기적 기질, 즉 뇌 그리고 뇌를 포함하는 몸으로부터 자유로울 수 있을까? 절대 그렇지 않다. (226쪽)

이제는 많은 사람들이 공유하는 생각이지만, 나는 이 문장이 이 책에서 제일 중요한 문장 중 하나라고 본다.

인공지능

책 끝부분에서, 다마지오는 갑자기 인공지능 개발에 관한 조언을 한다.

인공지능이 인간의 것과 유사한 일반 지능을 모사하려는 것이라면,

인공지능에게도 '몸'이 필요하다는 것이다.

우리에게는 항상성 명령에 따르는 느낌대로 작동하는 기계를 만들 충분한 능력이 있다. 그렇게 하기 위해서는 로봇에게 지속적인 존재를 위해 조절과 조정을 필요로 하는 '몸'을 주어야 한다. 바꿔 말하면, 역설적이게도 로봇의 강점인 튼튼함에 어느 정도의 취약성을 추가해야 한다. (247쪽)

다만, 이렇게 만든 느낌이 있는 로봇이라도 아직 의식은 갖추지 못할 것이라고 저자는 말한다.

저자의 이론 체계에 따르면 이는 당연하다.

느낌 이후에 의식이 오는 것이다.

느낌을 느끼는 단계가 되어야 의식이 가능하다.

SF의 단골 소재인 의식 있는 인공지능은 사이버 세계에 숨어 있는 존재가 아니다.

그것은 몸을 가지고 있음은 물론, 내부 감각과 외부 감각 사이에서 풍부한 대화를 이끌어낼 정도로 복잡한 표상이 가능한 시스템이어야 한다.

귀가 얇은 나에게 갑자기 기술적 특이점(technological singularity)이 멀어 보인다.

소결

다마지오 이론의 핵심 개념은 결국 느낌이다.

저자는 물론 옮긴이와 감수자도 의식의 출현 '순서'에 집착하고, 나도 여러 차례 책을 읽고 정리하면서 순서에 집착했다.

그러나 느낌이라는 것 자체가 상호작용의 결과 내지 상호작용 그 자체다.

피드백이 포함된 순서도에서 어느 것이 먼저냐를 따지는 일도 우습다.

느낌이란 외부 데이터와 내부 데이터의 혼합, 상호작용, 대화다.

바로 이 '섞임'이 느낌의 핵심이고, 의식의 단초다.

간략하게 도식화해보겠다.

비명시적 지능, 즉 알고리즘에 의해 항상성을 유지하던 유기체가 더 복잡한 생존 문제를 해결하기 위해 신경계라는 모니터링 시스템을 개발했다.

신경계는 외부 감각과 내부 감각을 모두 입력으로 받아들였고, 이 과정에서 느낌이 탄생했다.

감각 입력과 느낌의 피드백은 (다마지오가 정의하는) 마음이라는 공간에 이미지(패턴)로 저장되고 재사용(기억)된다.

내부 감각의 하나인 고유감각(근골격계에 대한 감각)이 내부와 외부를 구별하면서, 우리는 이들 이미지가 나의 것임을 자각한다.

'의식 있는 마음'(통상적인 의미의 마음)이 탄생하는 순간이다.