자율주행 자동차의 윤리적 딜레마
디자인인가 싶은 이야기
❝ 이 글은 16년 3월, **버 블로그에 썼던 글을 브런치로 이전하며 갖고 와 다듬은 글입니다.
[어느 버스기사의 선택]이라는 이야기가 있다
스위스 한 마을의 버스기사가 내리막길을 운행 중 브레이크가 고장 난 것을 알게 되었다. 앞을 바라보니 한쪽에는 다수의 관광객들, 다른 한쪽에는 어린아이가 있었다. 버스기사는 '다수를 살릴 것인가, 아니면 하나의 어린 생명을 살릴 것인가'에 대한 선택을 해야 했고 결국 아이를 치어 죽였다. 사람들은 버스기사에게 어린아이를 죽인 살인자라며 손가락질했으나 버스기사는 죽은 아이에게 가서 '미안하구나, 아들아..'라고 했다는 가슴 아픈 이야기.
사.람.의.목.숨.은 그 누구도 결.정.할.수.없.어.요! (재밌게 보고 있습니다)만약 다른 선택을 했다면..
만약 버스기사가 다른 선택을 했다면 사람들에게 비난을 받지 않았을까? 아니다. 사람의 목숨의 경중은 그 누구도 결정할 수 없다. 어떤 선택을 하더라도 그 선택이 옳다고 할 수 있는 윤리적인 잣대가 없기 때문이다. 하지만 이 어려운 선택을 사람이 아닌 자율주행 자동차가 해야 한다면?
Why Self-Driving Cars Must Be Programmed to Kill / 이미지만 봐도 논문 내용을 알 것만 같다.[왜 자율주행 자동차는 누군가를 죽이도록 설계되어야 하는 가]
자동차의 소프트웨어화, 스마트카, 전기자동차, 자율주행 자동차까지! 많은 기업들이 새로운 시대의 새로운 자동차산업을 확장하며 떠오르고 있는 문제가 바로 자율주행 자동차의 윤리적 선택에 대한 딜레마다.
16년 2월 22일 MIT 테크놀로지 리뷰에 [Why Self-Driving Cars Must Be Programmed to Kill]이라는 논문이 소개되었다. '왜 자율주행 자동차는 누군가를 죽이도록 설계되어야 하는가'라는 섬뜩한 제목의 이 논문에서는 자율주행 자동차가 피할 수 없는 사고를 앞둔 상황을 가정하며 그 윤리적 딜레마를 다뤘다.
최근 시험 중이던 구글의 자율주행 자동차가 처음으로 상대 운전자 과실이 아닌 컴퓨터의 판단 착오로 사고를 내며 그에 대한 신뢰는 현실적인 문제가 되었다. 인명 피해는 없었지만 돌발 상황에서 어떤 선택을 내려야 하는 컴퓨터가 인명을 희생시킨다면 그 책임은 누구에게 있을 것인가는 생각해볼 만한, 생각해야 봐야 할 문제다.
벤츠의 자율주행자동차 모델 F105제조사는 시스템을 어떻게 설계를 해야 할까?
자율주행 자동차 제조사는 제어시스템을 어떻게 설계해야 할까? 그런 상황에서 컴퓨터는 무엇이 옳은지를 스스로 결정할 수 없다. 물론 다음에 이어질 행동에 대한 선택은 해야 한다. 그렇다면 판단 기준이 '인명 손실의 최소화'일 수도 있겠고 '차체와 탑승자의 피해 최소화'일 수도 있겠다. 결국 이 판단 기준은 제조사가 선택해야 한다.
그리고 이 결정의 책임은 누구를 향할까? 시스템을 설계한 제조사? 아니면 자율주행 자동차를 구입하며 모든 조항에 동의한 탑승자? (운전자가 아닌)
저는 돌발 상황에서 더 적은 사람을 희생하도록 설계된 자동차를 구입하는 것에 동의합니다.
저는 돌발 상황에서 여러 명이 죽는 것보다 제가 희생하도록 설계된 자동차를 구입하는 것에 동의합니다.
위는 가상의 조항입니다어느 누구도 책임에서 자유로울 수 없는 상황에서 구글과 테슬라는 자율주행 자동차 상용화라는 목표를 2~3년 내로 잡고 있다. 기업이기에 시장을 먼저 잡아야 하는 것도 이해가 가지만 앞서 언급한 문제들은 '어느 정도' 해결되었다고 상용화할 수 있는 문제가 아니라고 생각한다.
윌 스미스가 수동운전 모드로 바꾸자, 왼쪽 여성은 "위험하게 누가 수동 운전을 해요!"라고 말한다.그리고 그 판단 기준에 만족할 수 있을까?
유사한 예로 로봇의 윤리 문제를 다룬 대표적인 영화 [아이, 로봇]이 있다.
델 스프너(윌 스미스)는 한 아이와 차를 타고 가다가 물에 빠졌는데 이를 발견하고 물에 뛰어든 로봇에게 아이를 구할 것을 명령했으나 로봇은 스프너를 살릴 수 있는 확률이 더 높다며 스프너를 살리고 아이는 죽게 된다. 이 사고가 트라우마가 된 델 스프너는 로봇에 대한 불신과 아날로그에 대한 향수를 간직하게 된다.(컨버스를 사랑하는 남자)
설계된 대로, 로봇의 3원칙(https://goo.gl/G9srCJ)대로, 가능성에 기반해 자신의 생명을 구했음에도 이 선택은 델 스프너로 하여금 로봇에 대해 병적인 집착과 의심을 갖게 한다.
출처 : autoherald.co.kr새로운 기술엔 새로운 제도가 선행되어야 한다
이런 논란이 무의미해질 정도로 시스템이 고도화된 시대가 오면 고민할 필요 없는 문제다. 하지만 지금은 자율주행 자동차의 시대라기보다는 과도기적 시대가 아닐까 한다. 결함이 존재할 수 있고 학습이 덜 되었을 수도 있다. 최근 상용화를 주도하고 있던 테슬라가 오토파일럿 시스템 상의 결함으로 인해 사망자가 발생했고 한 차례 법적 공방을 겪기도 했다. (http://thegear.co.kr/13800)
상용화를 위해서는 현실적이고 절대적인 원칙에 기반, 범용적으로 적용될 수 있는 원칙을 설계하고 이를 표준화하는 과제가 남아있다. 이는 상용화되고 나서 마련될 수 없다. 우리는 드론 산업의 발전 속도를 법과 규제가 쫓아가며 충돌하고 있는 예를 보고 있다. 나는 과학의 발전을 반대하는 단체 회원이 아니지만 앞서 말한 것들이 해결되어 기계적으로도, 제도적으로도 완벽해진 자율주행 자동차 시대를 맞이하고 싶다.
