나도 지겨워서
후딱 쓰고 끝내고 싶다
[책을 읽고] 유발 하라리, <넥서스> (8)
지난 글 끄트머리에서 제기한, 이 책에서 꼭 생각해 봐야 할 두 가지 문제에 대한 나머지 공부다.
인공지능의 윤리 - 공리주의 대 의무론
자율주행이 임박한 시대, 트롤리 문제로 유명세를 더해가는 도덕 딜레마는
인공지능의 시대에 우리가 꼭 해결해야 할 문제다.
간단히 말해, 자율주행 알고리즘이 사람을 죽인다면 누가 책임을 져야 할 것인가?
그 책임 소재가 합리적인 것으로 받아들여지기 위해서, 우리는 어떤 규칙을 알고리즘에게 제시해야 하는가?
https://brunch.co.kr/@junatul/936
공리주의라는 말을 들으면 곧바로 고개를 절레절레 흔드는 사람이 많다.
그러나, 공리주의는 도덕이라는 애매한 문제를 객관적(정량적)으로 접근하기 위한 혁신적인 시도였고,
아직도 가장 혁신적인 시도로 남아 있다.
수천 년 동안 철학자들은 더 높은 목표에 부합하지 않아도 되는 궁극적인 목표의 정의를 찾으려고 시도했다. 그들은 두 가지 접근법에 반복적으로 끌렸다. 이 둘은 의무론과 공리주의라는 철학 용어로 잘 알려져 있다. (398쪽)
칸트는 정언명령을 정의하면서, 그 준칙이 보편이 되어도 문제가 없는지, 사회가 멀쩡한지 생각해 보라고 했다.
하라리는 아돌프 아이히만이 칸트에게 뭐라고 대답했을지 생각해 보자고 한다.
"당신이 지금 실행 중인 그 규칙, 전 세계에 보편적으로 적용해도 된다고 생각하오?"
"그럼요. 나와 내 가족은 문제 없어요. 우린 유대인이 아니니까요."
칸트는 뭐라고 대답할까?
어떤 존재를 정의할 때는 가장 보편적인 정의를 사용해야 한다고 말할 것이다.
유대인이 아니라, 인간을 죽여도 되는지 물어야 한다고 점을 칸트는 지적한다.
아이히만이 대답한다.
"유대인은 인간이 아닌데요."
칸트는 되묻는다.
인간이 아니라면, 생명을 죽여도 되는 것인가?
인간보다는 동물이, 동물보다는 생명이 더 보편적인 정의다.
유대인이 인간이냐 아니냐 하는 질문은 헷갈리는 질문이 아니므로 딜레마에 빠지기 쉽지 않다.
그러나, 동물이나 생명이라면 이야기가 달라진다.
불교는 살생을 금한다는데, 우리는 모두 달리트처럼 빗자루로 땅을 쓸고 다녀야 하는 걸까?
그 빗자루에 죽는 곤충도 있을 것이지만, 보이지도 않는 미생물은 어쩔 건가?
바이러스는 생명인가?
이런 질문들이 말 장난 같다고 생각된다면, 좀더 실용적인 질문을 생각해 보자.
혁신적인 암치료제를 개발하는 과정에서 쥐들의 생명이 희생되어도 좋은가?
쥐는 인간과 먼 친척이라 괜찮을까?
쥐 실험으로는 부작용 검증이 불충분하니, 인간과 더 가까운 개나 원숭이를 죽여야 한다면 어떨까?
인간의 생명을 구하기 위해 개의 생명을 희생해도 좋은 걸까?
이렇게 모호하고 어렵게 들리는 딜레마가, 사실은 얼토당토 않은 비유와 그다지 멀지 않다는 사실이 놀랍다.
공리주의에 대한 아주 오래된 반론은,
생사람을 하나 잡아 5명의 불치병 환자들을 살리는 게 좋은 선택인지 묻는 것 아니었나.
길게 얘기했지만, 하라리의 놀라운 통찰은 이것이다.
의무론(정언명령)과 공리주의는 이어져 있다. 서로 분리된 논리가 아니다.
그리고 다시 되새겨 보자.
이 질문이 중요한 이유는, 인공지능에게 윤리준칙을 정해줘야 하기 때문이다.
그래서 인류 역사 내내 철학자들의 공론(!)이라 생각되던 이 질문이 지금은 너무나 절박한 질문이 되었다.
(더 길게 쓰기 싫어, 여기에서 끝내지만, 거대 IT 기업 창업자들이 주로 신봉하는 효율적 이타주의론이 공리주의를 기반으로 하고 있다는 사실은 가볍게 넘길 문제가 아니다.)
량원펑제3차 세계대전
다음으로 생각해 볼 것은 인공지능 그 자체가 아니라,
인공지능 개발 과정에서 세계가 2개 내지 여러 개의 진영으로 분리되어
냉전 내지 제3차 세계대전으로 이어지는 시나리오다.
미국의 대중 GPU 수출 금지 조치는, 딥시크 쇼크로 인해 이제는 일반 대중에게도 잘 알려진 사실이다.
딥시크를 만들어낸 량원펑의 천재성과 인류애에 감탄하는 것도 좋지만,
이 상황이 계속 진행되면 어떻게 될지 생각해 봐야 한다.
중국이 미국과 교역 관계를 완전히 끊고 살아갈 수 있을지는 잘 모르겠지만 (공산당인데 안 될 게 뭐 있겠나)
중국이 미국의 협력 없이 인공지능 개발을 할 수 있다는 점은 확실하다.
무엇보다, 10억대의 인구에서 나오는 데이터를 중앙집권 공산당이 모아줄 수 있다는 점이 큰 장점이다.
미국과 중국, 이 두 개의 진영이 서로 완전히 분리되어 인공지능 개발에 박차를 가하는 시나리오는
단지 가능한 시나리오가 아니라, 현재 진행형이다.
이렇게 서로 분리된 채로 오랫동안 지내게 되면, 서로를 이해하기 어려워진다.
(북한을 생각해 보자. 우리는 북한 사람들을 이해할 수 있을까?)
하라리가 사례로 드는 것은, 영혼과 육체에 관한 오랜 담론이다.
레이 커즈와일처럼 클라우드에 업로드되어 영생을 살 수 있다고 믿는 사람들에게 실로 현실적인 질문이다.
만약 양쪽 중 한 진영이, 영혼만이 중요하고 육체는 중요하지 않다는 결론에 도달하면 어떻게 될까?
영생을 위해 현생의 생명은 버려도 좋다고 역설한 가톨릭의 대학살이 재현될 수 있다.
적어도, 그런 사이비 종교가 등장할 가능성은 대단히 높다.
(그런 결론이 없어도 이미 그런 사이비 종교들이 주기적으로 등장한다.)
서로 분리되어 지내는 두 개의 진영.
애초에 거래가 없어, 싸워도 잃을 것이 없는 두 개의 진영은 전쟁 결정에 거리낄 것이 별로 없다.
미국이 석유를 팔지 않자, 질 것이 뻔히 보이는데 덤벼든 일본제국의 사례를 생각해 보면 이해하기 쉽다.
어차피 잃을 게 없단 말이다.
대중 GPU 수출 금지만으로, 하라리는 '실리콘 장막'으로 나뉜 두 개 진영의 갈등을 예상한다.
그런데 또람푸라는 자가 나타나 100년 전 수준의 관세로 세계를 경제 블록화 하려고 한다.
1929년 대공황 이후, 관세 장벽으로 거래가 뜸해진 세계는 어디로 향했던가?
*** 드디어, 끝 ***
사족.
<넥서스>가 <21가지 제언>에 비해 여러 가지로 부족한 책이라 평했지만,
하라리 선생의 통찰 넘치는 관찰에서 배울 점은 정말 차고 넘친다.
너무 고마운 책이었다.
