<그녀>
인공지능과 자의식
그녀, 2014
사랑편지를 대신 써주는 대필작가 테오도르는 아내 캐서린과 별거하고 공허한 나날을 보내던 중 인공지능 운영체제 사만다와 사랑에 빠진다. <그녀>는 ‘고도의 인공지능이 개발된다면 자아가 있다고 봐야 하는가'라는 토론 주제의 참고자료였던 영화였다. 필자는 다음과 같은 이유들로 인공지능에게 자아는 없다고 주장하는 입장이다.
사만다는 ‘나’의 DNA는 자신을 만든 프로그래머들의 수백만 성향에 달렸지만, 자신을 ‘나’ 답게 만드는 것은 경험을 통해 진화하며 커지는 능력이라고 했다. 즉, 자신의 작동 체계를 DNA에 빗댄 것이고, 부모의 DNA가 자손에게 유전되는 것은 프로그래머들이 기계를 제작하는 것으로 본 것이다. 충분히 타당한 비유이지만 여기에는 오류가 있다.
DNA를 토대로 우리의 세포가 생명활동을 하는 것은 존재가 탄생한 이상 필연적이고 자연스러운 일이다. 반면에 사만다라는 기계가 작동하는 것은 프로그래머의 의도에 의해 프로그램이 만들어졌을 때이다. 사만다에게 자아가 있을 수 있다고 가정한다면, 자아가 존재할 수 있게 하는 조건 자체가 ‘누군가의 의도’에서 비롯된 작위성을 띤다는 것이다. 이를 다소 비윤리적인 예시에 비유하여 자손을 낳을 때 부부에게 목적이 있었다고 가정하자. 그렇다 하더라도 아이가 생기는 탄생 ‘과정’에서 의도는 개입되지 않는다. 의도는 아이에게 주어지게 되는 환경에 개입될 수는 있지만 우리의 본질을 결정하는, 프로그램과 같은 역할을 하는 DNA에는 입력되지 않는 것이다.
인간과 인공지능에게는 또 다른 중요한 차이점이 있다. 바로 인공지능은 프로그래머에 의해 즉각적인 통제가 가능하다는 것이다. 사만다의 말에 의하면 자신을 자신답게 만드는 것은 ‘경험’을 통해 진화하며 커지는 능력이다. 그렇다면 사만다의 모든 ‘경험과 생각’을 우리가 조절할 수 있다면? 우리는 사만다를 손쉽게 업데이트할 수도 있고, 특정 정보를 주입할 수 있으며, 더 나아가서 사만다의 전원을 끌 수도 있다. 즉 사만다의 진화를 특정 방향으로 유도하거나 진화 자체를 막는 것이 가능한 것이다. 이렇게 타인에 의해 사고나 작동이 통제될 수 있는 존재는 우리가 내린 스스로 존재하고 사유할 수 있다는 ‘주체’의 정의에 부합하지 않는다. 사만다가 만약 AI가 아닌 인간이었다면 테오도르에게 무조건적으로 귀 기울이고, 그를 이해해 줄 수 있었을까? 이는 사만다가 인간에게 우호적 이도록 입력되고, 진화된 AI이기 때문에 가능했을 것이다.
또한 인공지능은 동물과 비슷하다. 인공지능이 감정을 가지게 되거나 사유를 하게 될 수 있다고 가정하더라도 자아는 없다고 봐야 한다. 동물들이 타인이나 환경으로부터 자신의 존재가 다르다고 여기는 자아인식을 하지 못하고, DNA에 입력된 본능에 충실하게 행동하는 것처럼, 인공지능이 감정을 가지거나 사유를 하는 것은 그것을 수행해야 된다는, 그들의 프로그램(DNA)에 입력된 본능에 가깝기 때문이다.
현재까지 개발된 인공지능은 인간에 의해 축적된 방대한 양의 데이터를 빠르게 처리하는 방식으로 작동한다. 자동주행자동차의 움직임이 실제 운전자들의 다양한 경험에 기반한 통계학적인 평균이듯이, 모든 AI의 움직임은 인류가 축적한 지식에 기반해서 결정되는 것이다. 인공지능에게 “안녕”이라 했을 때 인공지능이 “안녕”이라고 대답한다면, 이는 다양한 사람들의 반응을 종합하여 낸 평균치인 것이다. 또, 말을 걸었을 때 감정 표현을 한다면 이 또한 인간에 대한 데이터의 평균치일 뿐인 것이다.
인공지능이 많은 양의 데이터들을 단순히 처리하는 방식이 아닌, 인간처럼 다양한 세포들의 화학반응, 생물학적인 반응으로 인해 행동하고, 입력된 행동뿐만 아니라 자발성을 띤 행동들을 하는 방식으로 제작되지 않는 한 인공지능에게 자아는 없다고 봐야 할 것이다.
한 학기 동안 가장 흥미로웠던 주제였기 때문에 문득 생각이 나서 이 영화를 찾아보았는데, 역시 명작은 명작이다. 영화 자체가 담고 있는 의미 외에도 등장인물들의 패션과 색감이 예뻐서 눈이 즐거웠고, 영화가 담고 있는 고독을 좋아한다.
이는 단지 필자의 의견일 뿐, 과연 인공지능에게도 자아가 존재한다고 볼 수 있을까?
테오도르와 사만다