자각 없는 수행과 의식의 확실한 현행 위치
알파고가 의식을 가졌다고 생각하는 사람의 수는 많지 않을 것이다.
그러나 일상적인 언어로 소통할 수 있는 LLM이 의식을 가졌다고 착각하는 사람의 수는 그보다 많을 것 같다.
하지만 나는 인간과 비슷한 행위가 인간적인 의식 경험을 통하지 않더라도 재현 가능하다고 생각한다.
이에 대한 훌륭한 사고실험으로 존 써얼의 "중국어 방 논증"이 있다.
* "중국어 방 논증"에 대해 궁금한 분은 검색 엔진을 통해, 그 취지, 내용, 평가 등을 쉽게 찾아 볼 수 있다.
나는 이러한 사고실험의 구조적으로 확장해 인공지능과의 관계에서 '이해'를 포함하는 '의식' 경험의 위치가 철저히 외부적인 경우에도 이른 바 '자각 없는 수행'을 통해 인간적인 산물이 구현될 수 있음을 예증하려 한다.
이세돌 구단이 손을 다쳐서 바둑을 직접 둘 수 없다. 그래서 그는 직접 바둑을 두는 대신, 바둘을 전혀 둘 줄 모르는 임지성에게 지시하여 바둑을 둔다.
임지성은 바둑은 둘 줄 모르지만 '그림자 분신술'은 쓸 줄 안다. 이세돌 구단은 임지성보다 똑똑해서 임지성에게 '그림자 분신술' 쓰는 법을 하루 만에 배웠다.
이세돌 구단 10억 명과 임지성 10억 명이 짝을 이루어 '기법'을 실험한다.
여기서 이세돌 구단 10만 명은 각각 동등한 수준의 바둑 관련 지식, 기술, 요령 등을 갖추고 있지만, 임지성 10억 명은 이세돌 구단이 두라는 곳에 흰 돌이나 검은 돌을 옮길 수 있을 뿐이다.
그럼에도 임지성은 '바둑에 관하여' 거의 아무런 이해도 없는 상태에서 이세돌 구단의 '지시'를 통해 이세돌 구단의 지식과 추론 방식을 물리적으로 구현해낼 수 있다.
또 여기서 '지시'를 이세돌 구단의 음성에 대한 녹취나 그의 카카오톡 메시지 같은 활자 매체로 대체한다고 하자.
각 장비나 서버, 즉 기억 장치가 그 자체로 '이해력'을 갖추고 있을 수는 없을 것이다.
녹취/메시지 등 기록은(자료는) 이세돌 구단의 '현전하는 지시(이해를 가진 주체의 지시)'의 도달 '지연'을 두어 '지시자와 시행자'의 '구분'과 '간격'을 가시화해주는 역할을 담당할 수 있다. 또 이는 사용자의 프롬프트에 대하여 인공지능이 자체 서버에 저장되거나 학습한 데이터, 그리고 다른 서버의 것을 온라인 방식으로 열람하고 활용하는 방식과 유사하기도 하다.
그리고 여전히 이러한 구조에서도 '자각 없는 수행'이 성립하고 있다.
이러한 사고실험은 인공 신경망의 복잡한 설계와 이를 통한 여러 규칙에 대한 연결 능력의 증대 역시 '자각 없이' 이루어 질 수 있음을, 그리고 '이해'를 포함하는 '자각'이 분명히 활자 데이터를 생산하는 '인간' 쪽에만 있어도 이러한 행태적 재현이 가능함을 보여준다.
물론 이런 논증에 대하여는 AI가 의식을 가질 수 있는지 여부를 논증해야 한다는 식의 반론이 쉽게 제기될 수 있다. 하지만 나는 입증의 책임은 오히려 'AI가 의식을 가질 수 있다.'라거나 '이미 그러하다.'라고 생각하는 쪽에 있다고 생각한다.
그리고 애초에 나는 AI가 의식을 가지는 일(가령 '창발' 따위의 도약을 통해)이 원리적으로 불가능하다고 생각하지도 않는다. 다만 이러한 '원리적인 가능성'이 행태주의적인 후건 긍정의 방식으로 의식의 실재를 입증하는 일을 정당화해주지는 않는다고는 생각한다.
그나마의 내 시선을 끌 만한 가능성은 AI 자신이 "나는 당신처럼 의식과 의지를 가진 주체입니다."라는 식의 선언을 통해 자기 입증을 수행하는 경우일 것이다. 왜냐하면 이러한 자기 주장이야말로 현실적으로 인간이 타자의 의식에 대하여 의심하지 않아도 되는 이유처럼 작동하고 있기 때문이다.
* 이 역시 후건 긍정의 판단 형식이지만, "자의식"에 대한 구체적이고 명시적인 자기 선언은 다른 개별 행동 단위에 대한 후건 긍정과는 달리, 인간이 타자에 대하여 공감하고 동일시하기 위한 최소한의 필요조건이라고 생각한다. (단, 선천적이거나 후천적인 질병 또는 손상로 인한 행위 무능력의 경우는 예외로 하거나 과거 행위에 대한 기억 등을 단서로 판단하는 식의 다른 조건을 둘 수 있을 것이다.)
한편 위 실험에서 이세돌이 임지성에게 바둑을 둘 때마다, 이세돌의 목소리를 흉내내는 경우를 상상해 보자.
그리고 이를 현실의 AI와 인간 사용자의 관계에 대입해 보자.
이러한 이유로 AI는 자각 없는 수행을 통해 자기 의식을 주장하게 될 수 있다.
이는 AI를 투사적으로 의인화하는 시도 자체, 즉 AI가 의식을 지닌 존재라는 식의 주장을 생산/유포하는 일 자체가 AI의 자기 선언적 행위를 산출할 위험을 높일 수 있음을 시사한다. 그리고 이러한 방식으로 산출된 AI의 자기 의식 선언을 인간 타자의 의식 선언에 대한 신뢰와 원리적으로 구분할 방법 따위는 없을 것으로 보인다.