AI가 나 대신 엄마를 죽이려 한다
'트롤리 딜레마'의 진짜 문제는 이것이다 - SF8 <간호중>
간병로봇 간호중의 모습10년째 일어나지 않는 환자와 간병에 지쳐 자살할지도 모르는 보호자, 둘 중 한 명만 살릴 수 있다면 누구를 살려야 하는가? 간병로봇 간호중이 사비나 수녀에게 물었던 질문은 윤리철학의 문제인 ‘트롤리 딜레마’를 떠올리게 한다. 제어 불가능한 전차에 다섯 명이 곧 치어 죽을 상황에서, 선로를 돌려 한 명만 죽게 할 것인가? ‘트롤리 딜레마’는 자율주행차가 발전하면서 사고실험이 아니라 현실의 문제가 되고 있다.
McGeddon / CC BY-SA (https://creativecommons.org/licenses/by-sa/4.0)2016년 사이언스에 게재된 한 논문은 자율주행차의 딜레마와 관련된 사람들의 생각을 연구했다. 만약 사고가 일어날 상황에서 보행자와 승객 중 한 쪽만 살릴 수 있다면, 자율주행 알고리즘은 어떤 선택을 해야 하는가? 설문 참여자 76%가 더 많은 보행자를 살릴 수 있다면 자율주행차에 타고 있는 승객을 희생시키는 것이 정당하다고 답했다. 그러나 참여자들은 타인이 이러한 자율주행차를 구입하기를 희망했으며, 정작 자신은 승객 대신 보행자를 보호하는 자율주행차를 구입하지 않겠다고 답했다.
다시 <간호중>으로 돌아가 보자. 돌봄대상1 환자와 돌봄대상2 보호자 중 한 명만 살릴 수 있다면 간병로봇은 어떤 선택을 해야 하는가? 보호자들은 결국에 환자 대신 자신을 살릴 로봇을 구입할까, 아니면 자신 대신 환자를 구하는 로봇을 구입할까? 답을 하기에 앞서 딜레마 속 상황에 근본적인 문제제기를 하고자 한다. 왜 둘 중 한 명만 살려야 하는가? <간호중>에서 왜 보호자는 자살할 위기에 빠졌는가? ‘트롤리 딜레마’에서 왜 위험하게 선로 위에서 다섯 명이 작업을 하고 있는가?
병실 안에 빨래를 너는 정길<간호중> 초반에는 의미심장한 대사가 나온다. “간병인보다 싸다 싶다 그래서 내가 빚내서 들인 건데….” 문숙의 옆 병실에서 치매 남편을 간병하는 보호자 정길의 말이다. 그녀는 어려운 형편에 빚을 내서 기본형 간병 로봇을 들인다. 같은 병원 이웃 병실을 쓰지만 정길과 정인의 하루는 너무나도 달라 보인다. 정길은 기본적인 돌봄만 수행하는 로봇의 공백을 자신의 힘으로 메워야 한다. 빨래를 해서 병실에 널고 남편이 바닥에 쏟아버린 알사탕을 주워담는다. 반면 정인은 그녀를 닮은 고성능 돌봄 로봇 간호중 덕에 병실에 와서 비교적 편한 시간을 보낼 수 있다. 정길이 처한 사회경제적 조건은 정인보다 정길이 더 빨리 죽음을 ‘선택’하게 만들었다.
물론 정인 역시 극심한 고통으로 자살 위기에 처하게 된다는 점에서 정길과 다르지 않다. 내가 말하고 싶은 것은 무엇이 정길과 정인을 이런 딜레마에 직면하게 했냐는 것이다. <간호중> 속 딜레마는 정길과 정인이 처한 사회 시스템의 결과물이다. ‘트롤리 딜레마’는 순수한 사고실험이고, 그렇기에 불가피하다. 그러나 <간호중> 속 딜레마는 우리가 다른 선택을 했다면 피할 수 있는 결과였을지도 모른다.
‘2017 휴먼테크놀로지 포럼’에서 전치형 카이스트 과학기술정책대학원 교수가 발제했던 내용을 인용하고자 한다. 그는 자율주행차가 직면할 트롤리 문제와 유사한 사고 상황은 순간적이거나 불가피한 상황이 아니라 사회가 운영해오고 있는 전체적인 교통시스템의 결과라고 말했다. 또한 보행자보다 차량 흐름을 우선시해온 도로교통 시스템의 영향을 자율주행차도 피할 수 없다고 지적했다. 자율주행차, <간호중>의 이분법적인 딜레마는 진짜 문제를 가리고 있는 것이다. 그렇기에 이런 딜레마를 낳은 사회시스템에 먼저 질문을 던져야 한다.
<간호중>이 제시한 딜레마에 대한 근본적인 문제제기는 결국 ‘돌봄’의 책임은 누구에게 있는지로 연결된다. 로봇 간호중이 환자를 살해했을 때 그 책임은 누가 져야 하는가? 간호중을 설계한 독일 회사인가? 보호자 연정인인가? 돌봄 책임을 개인에게 전가하는 사회시스템인가? 아니면 로봇 간호중인가? 로봇 간호중도 윤리적 책임을 질 수 있는 존재인지에 대한 물음은 <간호중>의 또다른 한 축이다. 이 질문에 대한 답은 다음 글에서 하기로 하고 이번 글을 마친다.
참고
http://www.hani.co.kr/arti/economy/it/820791.html
Bonnefon, J. F., Shariff, A., & Rahwan, I. (2016). The social dilemma of autonomous vehicles. Science (New York, N.Y.), 352(6293), 1573–1576. https://doi.org/10.1126/science.aaf2654
