(현재의) 인공지능은 의식을 가질 수 있는가 (I)?

르모인의 착각과 논란의 시작 그리고 혼동

지난 4월부터 구글의 책임있는 인공지능에서 일하던 블레이크 르모인이 자신이 테스트하던 람다(LaMDA)와 대화를 하다가 람다가 지각이 있는 것 같다는 메모를 경영진에 보낸 것을 시작을 해서 지속적인 인터뷰를 통해 자기가 보기엔 7살이나 8살 아이 수준의 지각을 가진 것 같다는 얘기 한 것이 언론에 올라왔다. 그가 '람다는 지각이 있는가?'라는 메모에서 한 얘기는 르모인의 블로그에 올라와 있다.

많은 논란이 일고 구글의 공식 부정이 나오고 결국 7월 23일 구글은 르모인을 정식 해고 했음을 밝혔다.

이 이야기는 뇌과학자, 철학자, 심리학자, 인공지능 연구가, 인지과학자들 의견과 상관없이 언론에는 매우 자극적인 소재가 되어 오르내렸지만 (대부분의 학자는 현재 인공지능 기술이 의식을 만들어 낼 수 있다는 것에 대해 매우 부정적이다), 누구도 이를 깊이있게 얘기하는 것이 없어서 내 브런치에 그 동안 내가 공부해 오고 살펴봤던 의식있는 인공지능에 대한 글을 한 번 정리해 보고자 한다.

사실 이 얘기의 원조는 소위 말하는 '튜링 테스트'에서 시작해서 존 썰의 '중국어방 논증'을 통해 수 많은 철학자나 인공지능 연구자들의 논의해 왔던 주제와 매우 유사한 면이 있다. 그러나 튜링은 튜링 테스트를 통해 어떤 기계가 인간와 같은 지능적 행위를 하는 것처럼 사람들이 생각하게 만들 수 있다는 얘기이고 그래서 그 테스트는 '모방 게임(imtation game)'이라고 했다. 1950년 논문을 통해 다시 정리를 하고 질문자가 사람과 대치한 컴퓨터가 사람인지 컴퓨터인지 구별할 수 없게 되는 수준을 얘기했다. 이 때, 과연 튜링이 무엇을 정확하게 말하고자 했는가는 아직도 학자들 사이에서 논란이다.

1964년에 나온 조지프 와인제바움의 'ELIZA' 수준만 되어도 사람들이 몰입해 마치 진짜 정신과 의사와 얘기하는 착각을 했다는 얘기는 이미 고전이 되었고 이건 이미 사람들이 갖는 의인화나 감정 애착 성향 때문에 발생하는 문제라는 건 널리 알려진 사실이다 (아직도 개와 고양이가 자기와 말이 통하고 생각을 주고 받는다고 말하는 사람들이 많다).

그러나 일단 우리가 좀 더 살펴볼 핵심 주제는 자각이 있다는 얘기와 의식이 있다는 얘기, 컴퓨터가 마음을 가질 수 있는가 이런 얘기가 마구 섞이는데, 이 시리즈에서는 그 얘기를 하나씩 좀 정리해 나가고자 한다.

일단 르모인이 썼던 단어는 지각(Sentient)이다. Sentient는 라틴어의 느낌이라는 Sentientem에서 온 말이고 '감정의 능력, 감각 인지의 실행에 의해 특징지어지거나 그런 능력을 갖는'이라는 의미이다 (1630년대). 기본적으로 감각과 관련이 있으며 이는 터치, 청각, 시각과 같은 신체가 갖는 외부 또는 내부와 연결된 능력이라고 볼 수 있다. 웹스터 사전에는 감각 인상에 대한 의식 또는 반응이라고 한다.

이런 배경에서 보면 드모인이 람다가 지각이 있는가?라는 질문을 던진 것은 처음부터 잘못된 질문이다. 람다는 어떤 신체와 연결된 감각을 인지하는 능력을 갖추고 있지 않은 그냥 자연어를 학습 데이터를 통해서 가장 자연스러운(이것도 인간이 보기에) 문장을 생성하는 프로그램인 것이지 어떤 감각도 내부적으로 갖고 있거나 시뮬레이션하는 것이 아니기 때문이다. 여기에서 람다가 어떤 감정을 또는 감각을 인식하는 것 같아요 (대화에 나오는 두려움이나 외로움이나 뭐 이딴 표현)하는 얘기는 람다가 두려움, 존재에 대한 의문이라는 개념을 하나도 내부적으로 갖고 있지 못함을 착각한 것이다.

사실 드모인이 하는 일은 람다가 편견이나 증오적 표현을 하지 않도록 체크하는 일이었다. 너무 몰입하다가 일어난 개인의 착각 또는 환각(?)에 대해 쓸데 없는 논란이 벌어진 것이다.

그렇다면 의식은? 의식과 마음에 대해서는 다음 글에서 좀 더 살펴 보기로 하자.