(현재의) 인공지능은 의식을 가질 수 있는가 (II)?
의식과 마음을 가진 인공지능 (2부)
의식과 마음을 가진 인공지능 1부에 이어서
내가 이 브런치 글에서 의식과 마음에 대한 철학적 논의를 하고자 하는 것은 아니다. 그건 내 영역도 아니고, 나의 능력을 벗어나는 것이다. 다만 그 동안 많은 분야의 여러 학자들이 얘기한 것을 생각한다면 현재의 인공지능 기술로 구현할 수 있을까? 또는 우리가 접근하는 방법이 맞는 것인가?에 대한 생각을 정리해 보자는 것이다. (앞의 글에서 오타가 발견되면 다시 가서 고치고 있는 중이다)
이 글은 책을 쓰는 것이 아니기 때문에 깔끔하게 정리된 상황이 아니고, 앞으로도 계속 주제별로 업데이트 할 예정이다.
앞에서 얘기한 지각과 각성 다음에 나오는 것이 자의식이다. 이는 자기가 자각하는 것을 자각하는 자의식이 생물 의식의 특성이라고 하는 것이다. 이를 의식의 중요한 특성으로 받아들인다면 인간을 제외한 대부분의 생명체나 아주 어린 아이조차 의식을 갖고 있다고 말할 수 없을 수 있다. 그러나 보다 기본적인 암묵적 자의식을 의미한다면 좀 더 광범위한 비언어적 생물이 자의식을 가진 것으로 간주할 수 있다.
내가 SF 영화를 볼 때 가장 전율하는 장면이 바로 인공지능 로봇이 자의식이나 초보적인 마음이론(Theory of Mind)를 가진 것처럼 표정을 짓거나 행동할 때이다. 영화 엑스 마키나에서 에바가 이런 모습을 보였다. 마음이론이란 우리가 다른 사람의 정신 상태를 부여해 다른 사람의 마음에서 일어나는 일을 추측하고 이를 이용해 다른 사람의 행동을 설명하고 예측하는 능력을 말한다. 인지과학과 심리학에서는 널리 사용하는 단어이다.
인공지능이 의식이 있고 마음이론을 가진다면, 인공지능은 우리의 마음 상태를 추측해서 우리가 왜 그런 행동을 하게 되었거나 판단을 하게 되었는지 이해하고 예측할 수 있어야 한다. 아이들이 마음이론을 갖추게 되는 것은 보통 3-4세 정도로 본다. 그렇다면 마음이론이 의식의 전제는 아니다. 보다 고도의 의식이 갖는 특성은 되겠지만.
따라서 우리가 인공지능이 의식을 갖는다고 얘기할 때, 성인 인간과 유사한 수준의 의식을 얘기하는 것인지 아니면 박테리아 처럼 외부 환경에 반응하는 아주 낮은 단계의 단순한 의식(?)을 얘기하는 지 분명히 해야 한다. 성인 인간 수준의 의식을 얘기할 때면 자의식과 마음이론을 갖추는 의식 수준을 얘기하는 것이고 그렇다면 그 기계 의식은 이런 특성을 갖추어야 한다. 드모인이 람다가 자신의 존재 의미나 가치, 유용성, 죽음 등에 대한 인식을 얘기한다고 착각했다면 거기에는 이런 수준의 분석이 따라야 한다.
'무엇과 같은 것'이라는 표현은 1974년 토마스 네이글(Thomas Nagel)이 제시한 것으로 의식있는 유기체의 주관적 개념인데 어떤 생물이 그 생물임과 같은 무엇이라는 얘기이고 이는 생물의 정신적 또는 경험적 관점이라는 것이다. 박쥐가 박쥐가 경험하는 세상을 경험하는 것 같은 무엇이 바로 박쥐가 의식이 있다고 얘기할 수 있다는 것이다. 이는 사람은 사람의 관점에서는 박쥐의 관점에서 생기는 그런 의식을 이해할 수는 없겠지만. 그렇다면 이 주장은 인공지능이 자신이 경험하는 방식과 세계를 이해하는 모델, 그리고 그를 내재적으로 자각하는 것을 갖춘다면 우리와는 다른 유형의 의식을 가질 수 있다는 가능성을 제공하는 것이다.
그러나 웹스터, 캠브리지, 옥스포드 사전에서 '의식'을 정의할 때 항상 등장하는 내면 심리에 대한 자각이나 인지, 느낌, 감정, 자유의지, 생각에 의해 특징짓는 상태나 행동, 우리 주변 환경에 대한 자각과 반응적 상태 등이라는 정의를 받아들인다면 기계 의식에서 가장 기반이 되는 것은 외부 세계와 환경에 대한 모델과 이에 대한 자각, 그리고 이를 내면의 어떤 심리적 상태로 표현할 수 있어야 한다.
외부 세계에 대한 '세계 모형'을 결핍한 문제가 현재 인공지능의 연구가 가진 가장 커다란 문제점이라고 주장하는 학자는 뉴욕 대학의 게리 마커스나 어니스트 데이비스이다. 게리 마커스는 GPT 류의 인공지능에 대한 매우 비판적인 글도 많이 썼고, 그의 책 '2029 기계가 멈추는 날'에서 세계 모델을 갖지 못한 인공지능, 단어에 대한 기본 개념이나 물리 원리를 모르는 인공지능이 얼마나 멍청한 대답을 하는지 사례로 보여주고 있다.
자신이 속한 공간이나 환경에 대한 또는 어떠 사물에 대한 '세계 모델'을 내재하거나 인지해서 내부적으로 표현하고 이를 기반으로 추론하거나 예측하는 것이야 말로 우리 대뇌 신피질의 피질 기둥을 통해 얻을 수 있었던 능력이고 이를 통해서 인간이 가장 의식이 뛰어난 존재가 될 수 있다고 주장하는 또 하나의 연구자는 최근 '천개의 뇌'를 발간한 제프 호킨스이다.
그러나 이런 견해에 대해서도 영국의 심리학자 스튜어트 서던랜드는 비판적이었고, 우리가 자꾸 외부 세계에 대한 자각이나 자의식을 갖고 의식을 정의하면 의식과 자의식을 동일시 하는 덫에 빠진다고 했다. 외부 환경에 대한 자각만으로 얘기를 하면 원생동물도 의식이 있다고 할 수 있고, 자각에 대한 자각을 얘기하면 유인원이나 유아가 의식이 없다고 해야 하기 때문이다.
다섯 번째 접근은 의식을 의식이 있는 상태를 통해서 그 개념을 정의하자는 방식이고 이는 어떤 정신 상태가 의식이 있는 정신 상태인지 정의한 다음 이를 통해서 어떤 생물이 의식이 있음을 판단하자는 접근이다. 이는 당연히 정신 상태에 대한 정의와 의식이 있는 상태란 무엇인가를 다시 정의해야 한다. 이는 다른 기회에 다시 얘기하기로 하자.
