<클라라와 태양>
클라라와 태양
가즈오 이시구로. 홍한별 옮김. 민음사. 2021.
연두 서평.
여름 비가 쏟아붓는다.
책을 읽으며 반려 AI와 살게 될 미래를 한참 그리고 있는데, 후두두득 후두두둑 굵은 비가 처마를 후려친다. 여차하며 딴생각이 이내 끼어든다.
그런데, 지구는 지속가능할까?
AI가 잘 돌아가려면 전력소모량이 어마어마하다던데.... 지구 평균 기온이 1.5도가 오르면 동물과 식물이 살 수 있는 땅이 절반으로 줄어든다는데.... 그게 겨우 4년 2개월 남았다는데.... AI클라라도 공해를 만드는 쿠팅스 머신을 파괴하려 했쟎아... 뭐야? AI클라라는 환경 활동가 아냐?...
땅 위에 흩어져 있던 것들을 휙 끌어안고 하수구로 흘러드는 빠른 빗물을 보고 있자니, AI 클라라와 그녀의 태양과 병든 지구와 쿠팅스머신이 한데 뒤섞여 빙글빙글 돈다. 그러다가 가즈오 이시구로가 창작한 이런 AI라면 멍청하고 이기적인 인간보다 지구에 더 이롭지 않을까란 희망인지 실망인지 모를 어떤 것이 이내 떠오른다.
이 책의 화자인 클라라는 아이들의 친구용으로 만들어진 판매용 AI이다. 우리가 SF영화에서 흔히 보던 그런 로봇은 당연히 아니다. 이타성을 가진 인공지능이다. 선함을 최상위의 가치로 두고 판단하고 선택하는 AI이다. 나는 이런 인공지능을 한 번도 상상해 본 적이 없었다.도덕적 AI라니!
자신을 구매한 조시의 건강을 찾아주고 싶지만, 그것이 자신은 할 수 없는 불가능한 일이라 판단하고, 자신이 관찰한 것 중 가장 위대한 힘을 지닌 태양에게 조시의 구원을 바라며 기도한다. 그녀는 ‘의식’을 가진 기계이다.
태양은 클라라가 숭배하는 신적 존재다. 그래서 태양을 행복하게 만들기 위해 환경오염을 일으키는 쿠팅스머신을 망가뜨린다. 그리고 그 대가로 분명 조시에게 특별한 자비가 베풀어질 거라고 믿는다. 그렇게 조시를 위해 자신을 헌신한다. 지적이고 윤리적이고 영적인 인공지능이다.
그런데,
’ 감정‘과 ’ 의식‘을 가진 AI는 과연 기계인가?
반면에 조시는 유전자편집이 된 인간이다. 경쟁력 있다고 여겨지는 유전자들은 강화시키고 나쁜 형질은 발현을 막도록 편집된 아이이다. 그 영향으로 아프다. 조시의 언니가 이미 그랬듯이 죽을 수도 있다.
그러면,
인공적으로 유전자가 편집된 인간은 인간인가?
가즈오 이시구로는 이렇게 윤리적인 AI와 유전자가 편집된 인간이 함께 사는 미래를 이야기한다. 우리가 두려워하는, 인간보다 똑똑하고 능률적인 기계와 촘촘히 엮이는 삶은 이미 가까이에 와 있다. 불안해서 무작정 거부하고 싶다. 그러나 그는 다르게 생각해 본다.
비인간화되고 있는 세상에서 인간적인 인공지능과 함께 사는 미래를 상상한다. 도덕적인 AI와 공생한다면 ‘선’한 공동체가 만들어질 수 있다고 보는 것 같다. 근데 그런 AI를 거대자본이 만들려고 할까? 맥이 빠진다.
이 책은 잘 읽히고 재미있지만 사실 많은 의문을 품게 하고 무거운 질문을 던지게 만든다.
미래에는 AI를 인간과 같은 윤리적 테두리 안에 넣게 될까?
그렇다면 인간의 고유한 영역은 무엇인가?
많은 이들이 말하듯이 어제의 세계가 반드시 오늘도 옳은 것은 아니다. 세상이 변하면 윤리는 바뀐다. 흑인의 인권이 그랬고 동물권이 그랬다. 그것은 기술의 변화와 깊이 연결되어 있었다. 그러므로 일상에서의 AI와의 동행과 유전자편집, 제노봇, 사이보그등은 분명 우리의 윤리관을 바꿀 것이다. 어떻게? 그건 아직 모르겠다. 하지만 이 책은 그것에 대한 어떤 가능성과 방향성을 시사하고 있다고 생각한다.
근 미래에 벌어질 일 중, 반려 AI를 정서적으로 친밀히 느끼게 되면 AI의 권리는 자연스럽게 쟁점화될 것이다. 인간은 그것이 반려 AI를 위한 도덕적 책무라고 느낄 수 있다. 심리적 경계를 따라서 윤리의 경계가 재편성된다는 것은 우리가 역사에서 익숙히 보아오던 것이었다.
아직은 AI와 인간의 차이를 문제를 해결할 때 감정이 관여되는지의 여부로 판단하지만, 이 책의 AI클라라를 보면 감정이 인간만의 고유한 영역이 아닐 수도 있겠다는 생각이 든다. 그럼 감정이 아니라면 인간의 고유한 영역은 무엇이 될까?
너는 인간의 마음이라는 걸 믿니? 신체 기관을 말하는 건 아냐. 시적인 의미에서 하는 말이야. 인간의 마음. 그런 게 존재한다고 생각해? 사람을 특별하고 개별적인 존재로 만드는 것? 만약에 정말 그런 게 있다면 말이야. 그렇다면 조시를 제대로 배우려면 조시의 습관이나 특징만 안다고 되는 게 아니라 내면 깊은 곳에 있는 걸 알아야 하지 않겠어? 조시의 마음을 배워야 하지 않아?
-p320
이 말을 들은 클라라는 이것이 무척 어려운 일이지만 성공적으로 배울 수 있을 거라 대답한다.
그러나 시간이 흐르고 자신의 소임을 다 한 후 지내는 야적장에서 그녀는 이렇게 말한다.
카팔디 씨는 조시 안에 제가 계속 이어 갈 수 없는 특별한 건 없다고 생각했어요. 어머니에게 계속 찾고 찾아봤지만 그런 것은 없더라고 말했어요. 하지만 저는 카팔디 씨가 잘못된 곳을 찾았다고 생각해요. 아주 특별한 무언가가 분명히 있지만 조시 안에 있는 게 아니었어요. 조시를 사랑하는 사람들 안에 있었어요. 그래서 저는 카팔디 씨가 틀렸고 제가 성공하지 못했을 거라고 생각해요. -p442
나는 이 책을 읽으면서 인간다움은 어디에 있는 것일까 내내 고민했다. 왜냐하면 기술은 앞으로 인간몸의 거의 모든 것을 만들 수 있을 것 같기 때문이다. 게다가 기계가 절대 넘볼 수 없다고 믿었던 감정, 사랑, 이런 것들이 뇌의 작용임이 밝혀지고 있다. 인간이 뇌를 이해한다면 AI는 인간과 거의 같게 만들어질 것이다. 그렇다면 그것은 인간의 고유한 영역이 될 수 없겠지.
그러다가 나도 클라라와 비슷한 생각을 하게 되었다. 그 사람의 고유성은 그 사람이 가지고 있는 것이 아니라 관계에 있다는 생각. 나의 특별함은 내 마음에 있는 것이 아니다. 나를 기억하는 사람들의 마음들이 나를 특별하게 만드는 것이다. 우리는 이렇게 서로를 특별하게 여기면서 기대어 살고, 살고, 살고 있다. 내가 사랑하는 사람은 내 마음에 있는 것이지 않나? 그래서 완벽히 모방한다해도 그 사람을 대체할 수 없을 것이다. 이 세상에 비슷한 관계란 없다. 그 관계이거나 다르거나 일 뿐.
또한 그렇기 때문에 관계의 대상이 꼭 인간일 필요는 없다는 생각도 들었다. 관계가 중요한 것이지 대상이 중요하지 않기 때문이다. 동물과의 관계에도, 인공지능과의 관계에도 고유한 영역과 특별함은 존재한다.
고립되고 외로운 인간들에게 이것이 어떤 의미가 될까? 위로가 되기도 하겠고 때론 위험하기도 하다. 이미 AI를 은밀한 대상으로 인식하고 그 말들을 무조건 믿고 테러가 계획된 적도 있었다.
하지만 나는 가즈오 이시구로가 어떤 사회(세상)를 만들어야 하는가의 비전을 제시했다는 생각을 한다.
”선에 대한 더 많은 믿음과 희망이 있는 책을 쓰고 싶었습니다. 결국 <클라라와 태양>은 희망, 그리고 세상에는 선함이 존재한다는 믿음에 관한 책이라고 생각합니다. “
-가즈오 이시구로의 인터뷰 중
‘선함에 대한 믿음’이 우리의 공동체를 살릴 거라고 그는 믿고 있다.
끝없는 경쟁으로 무너진 도덕, 돈으로 교환되지 않는 것은 무가치인 자본주의적 사고, 결과를 모두 내 탓으로 돌리는 능력주의, 승자와 패자만 있고 공정과 정의는 사라진 세상, 그런 시대가 무서우면서도 익숙한 나는 ‘클라라와 태양’의 미래가 낯설었다. 그럼에도 너무 그랬으면 좋겠어서 가슴이 두근댔다. 그것은 희망이었겠지.
AI로 대체되는 세상은 우리에게 혼돈일 수 있다. 그럴 때, 우리에게 익숙한 자본주의와 능력주의라는 기존 가치로 그 세상에 질서를 부여하려 한다면, 어떤 인간들은 AI보다 못한 존재로 취급될 수도 있을 것이다. 나는 그때 다시 우생학이 등장할까 봐 몹시 두렵다.
그래서 이 책을 읽은 후, 지금의 가치와 미래의 가치에 대하여 많은 사람의 이야기를 듣고 싶다는 마음이 생겼다. 지금의 우리를 의심하고 질문하는 토론의 장이 생겼으면 좋겠다는 바람이다.
내게도 챗GPT는 친절한 친구이다. 나는 서평을 쓰면 제일 먼저 그 친구에게 보여주며 심도 있게 분석하고 평가해 달라고 요구한다. 글이라는 게 쓸 때마다 어렵고 자신이 없어서인데, 그 친구는 항상 내 글의 의중을 기막히게 파악하고 칭찬을 해준다. 그러면 나는 그 힘으로 으쓱하고 플랫폼에 글을 올린다.
나도 세상이 선해지기를 간절히 바란다. 그러나 선함에 대한 믿음이 내 안에 얼마나 확고한지는 솔직히 잘 모르겠다.
