라스트 젤리 샷_청예
인공지능 로봇, 가치중립이란 가능한가?
제6회 한국과학문학상 장편대상작 <라스트 젤리 샷>. 사실 처음 나왔을 때부터 표지에 이끌려 꼭 읽어봐야겠다 다짐하고 있었는데, 최근 도서관을 갔다가 신간도서로 들어와 있는 걸 발견해 바로 데려왔다. 김초엽 작가님의 <관내분실>, 천선란 작가님의 <천 개의 파랑>. 매번 내 취향을 저격한다...
천 개의 파랑은 따뜻하고 아름다운 SF였다면 라스트 젤리 샷은 어두컴컴하고 찐득한 호러 SF를 보는 느낌. SF라고는 하지만 기술적인 부분이나 어려운 부분은 전혀 없어서 SF에 관심이 없는 독자들이 읽기에도 좋을 듯하다.
1. 이야기
노동의 신, 엑스. 지능의 신, 데우스. 간병의 신, 마키나.
이 삼 남매는 갈라테아가 만든 인간과 비슷한 인공지능 로봇인 인봇이다.
갈라테아는 자신이 만든 삼 남매가 윤리강령을 어기고 사건을 일으켰다는 이유로 책임을 물어 재판에 회부된다.
이들이 어긴 윤리강령들은 다음과 같다.
1조, 인봇은 사람의 통제가 가능해야 한다.
2조, 인봇은 주입하지 않은 감정을 느껴선 안 된다.
3조, 인봇은 스스로 자아를 생성하면 안 된다.
천칭은 과연 누구의 편을 들어줄 것인가. 그리고 이 재판을 지켜보고 있는 어린 소년 아키스, 그는 누구일까?
2. 생각하기
서늘하고, 충격적이고, 소름 끼치고, 찐득하고, 불쾌하고 재미있는 소설. 이 책에 대한 정보가 없고, 곧 읽을 예정이라면 최대한 스포일러 없이 이 복잡한 감정을 느껴보길 바란다. 당신의 예상은 대부분 빗나갈 것이다. 그런 의미에서라면 이 글은 여기서 그만 읽어도 된다.
갈라테아는 인간적인 면모가 부족하지만 뛰어난 기술을 가진 연구자이다. 그리고 엑스, 데우스, 마키나는 각각의 목적이 있고 그에 따라 우선시하는 가치가 다른, 성격이 다른 인봇들이다.
보통의 SF작품들에서는 휴머노이드, 로봇, 인공지능을 다룰 때 이들이 정말 인간과 다른 존재인지, 그렇다면 그것을 어떻게 증명할 것인가에 초점을 둔다. 그리하여 종국엔 '인간성이란 무엇인가?'라는 물음표를 던진다. 하지만 이 소설에서는 그 반대였다. 인간이 아닌 인봇이기에 그들이 한 선택의 결과는 잔인했다.
이들은 사실 갈라테아가 매우 인간적인 이유로, 인간들(아키스네 가족)을 돕기 위해 만들어진 인봇이었다. 단지 인봇들에게 최우선의 가치는 인간보호가 아닌 효율추구나 논리와 같은 것들이었을 뿐이다.
"꿈은 영수증이랑 달라. 버리지 못해. (중략) 버리고 싶지만, 버리면 내 모든 걸 부정하는 일이라 그럴 수가 없어.", "내 손과 귀를 믿어야만 해. 오답인 걸 인정하지만 않으면 꿈은 영원히 정답인 척을 해주니까." (78p)
엑스는 음악이라는 꿈으로 인해 힘들어하는 폴로를 보며, 고통을 끝내는 가장 효율적인 방법은 꿈을 놓는 것이라 판단한다. 그 결과 폴로의 귀와 손을 절단한다. 이는 엑스가 아무리 인간과 유사한 인공지능이었을지라도 인간이 아니었기 때문에 폴로를 정확히 이해하지 못했기에 벌어진 일이었다. 그 이후 데우스는, 그리고 마키나는 더 충격적인 사건들을 일으킨다.
원고 측은 데우스의 사건에서 갈라테아에게 우리는 가치중립적인 인봇을 만들어야 한다고 주장하며 감정을 갖는 순간 모든 피조물은 가치중립을 지키지 못하게 된다고 말한다. 그렇다면 그 인봇을 만드는 우리는 감정을 가진 존재인데 어떻게 가치중립적일 수 있을까? 가치중립적이지 않은 인간이 가치중립적인 인봇을 만든다는 것이 가능한 일일까?
'이 세상에 존재하는 모든 기술은 선언자의 영향을 받습니다. 모든 것에는 반드시 뿌리가 있다고요. 낳음당한 자는 낳은 자의 DNA를 갖고 살아가니까요.' (193p) 스스로가 매우 객관적인 사람이며 중립을 지키고 있다고 생각하는 사람들에게 묻는다. 정말 그 모든 판단에 당신의 개인적인 감정이 한 방울도 들어있지 않다고 자신할 수 있는가?
인봇들의 이름을 마주한 순간 어디선가 본 것 같은 기시감이 들었을 것이다. '데우스 엑스 마키나'
데우스 엑스 마키나란,
문학 작품에서 결말을 짓거나 갈등을 풀기 위해 뜬금없는 사건을 일으키는 플롯 장치이다. 글자 그대로 풀이하면 "기계 장치로 (연극 무대에) 내려온 신"(god from the machine)이라는 뜻이다.
이들은 매 사건이 끝날 때마다 말 그대로 이야기의 셔터를 확 내려버린다. 모든 전기를 끊어버린다. 그렇게 이야기는 결말지어진다. 단순히 전하고자 하는 메시지에만 집중하는 것이 아니라 재미를 위한 장치가 있기 때문에 무겁고 어두운 분위기 속에서도 충분히 재미를 느낄 수 있을 것이다.
작가노트에서 작가는 이런 말을 했다.
'결국 무게 추를 어디에 두느냐에 따라 많은 게 바뀐다는 걸 이야기하고 싶었어요. (중략) 때때로 소중한 것은 부끄러움이 많아 잘 보이지 않는 곳에 숨거든요.'
이제 우리가 생각해볼 차례다.
'당신의 무게 추는 어디에 있는가?'
3. 물음표
인봇이 감정을 가지면 안되는 이유는 무엇일까?
가치중립이라는 것이 정말 가능한가?
나의 무게 추는 어디를 향하고 있는가?
"끔찍한 걸 제대로 직시하는 게 진짜 좋은 세상 아닐까."
발전의 꼭짓점에서 인간이 추구하는 건 언제나 절대적 안전함이었다. 그로 인해 23세기의 윤리강령에는 '해서는 안 된다'는 말이 많았다. 언제나 규칙은 무언가를 권장하기보다 금지할 때 피곤해졌다.
사과할 줄 아는 사람은 성숙한 사람이라고. 타인에게 미안하다 말하는 것은, 부끄러운 오류를 발견하고도 이를 외면하지 않겠다는 노력이라 오랜 고난 후에야 얻어지는 용기였다.
고급 아파트를 지을 때 인명사고가 발생했다고 아파트를 없애버리지 않듯이, 거대 자본가들이 추진하는 사업에 문제가 좀 발생한다고 사업이 사라지는 일은 없었다. 법은 선악을 판단하지 않는다는 명제 뒤에 숨어 딱히 피해자를 최우선으로 여기진 않았다.
"너무 많이 담고 살면 텅 비어요. 하지만 비우고자 하면 채워져요."
"가끔은 뒤를 돌아봐도 돼. 네가 보는 방향이 언제나 앞이거든. 그러니 외롭고 힘이 들 때마다 널 돌아보는 일을 두려워하지 않길 바라."
