brunch

매거진 딴생각

라이킷 9 댓글

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 딴생각 Sep 27. 2018

자율주행차의 딜레마

자율주행차는 기술이 아니라 철학의 문제다.

- 딴생각

당신에게 도덕적 견해를 묻는 아주 유명한 질문을 하나 던져 보겠다. 당신은 브레이크가 고장 난 기차의 기관사다. 기차는 선로에서 작업하고 있는 인부 5명을 향해 맹렬히 달리고 있다. 그대로 달리면 인부 5명을 해치게 된다. 마침 당신 앞에는 선로 변경 스위치가 있는데, 그 스위치를 누르면 인부 5명을 피할 수 있지만 또 다른 선로에 있는 인부 1명을 해치게 된다. 당신은 스위치를 누를 것인가?

이 질문을 묻는 설문조사에서 89%의 사람들이 스위치를 누르겠다고 답했다. 이번엔 질문을 바꿔보자. 당신은 기관사가 아니라 그 상황을 지켜보고 있는 구경꾼이다. 마침 당신 앞에는 덩치 큰 사람이 있는데 이 사람을 선로에 떠밀면 기차를 멈출 수가 있고 인부 5명을 살릴 수가 있다. 대신 그 덩치 큰 사람은 죽게 된다. 당신이라면 덩치 큰 사람을 밀겠는가?

이 질문을 받은 사람들은 앞선 질문과 달리 고민에 빠진다. 스위치를 누르는 행위와 사람을 떠미는 행위 사이에서 인간의 감수성은 달라진다. 두 질문은 <정의란 무엇인가>의 저자 '마이클 샌델'이 자주 인용하여 널리 알려진 일명 '트롤리 딜레마'다. 결론적으로 말하자면 두 번째 질문에 대다수의 사람들(78%)은 밀지 않겠다고 답했다.

'최대 다수의 최대 행복'이라는 공리주의적 관점에서 보자면 두 질문에 대한 사람들의 반응은 모순이다. 우리는 다수를 위해 소수가 희생해야 한다고 생각하지만 동시에 다수를 위한 명분이 소수를 희생시켜서는 안 된다고 생각하는 이율배반적인 존재가 된다. 과연 이것은 모순일까?

최근 뇌 과학의 발달은 이러한 윤리적 딜레마에 대한 인간의 반응이 모순이 아니라는 근거를 제시한다. 심리학자 조슈아 그린은 fMRI(기능성 자기공명영상)을 이용해 두 질문을 받은 사람들의 뇌 활동을 비교해 보는 실험을 했다.

실험 결과를 보면 두 질문에 반응하는 사람의 두뇌는 다르게 나타났다. 첫 번째 질문처럼 스위치만 조작해서 결정을 내리는 경우엔 전전두엽이 활성화되는 사람들이 많았는데 이것은 그 상황에 대해 이성적 판단을 했다는 의미다. 하지만 두 번째 질문처럼 누군가를 밀어 버리는 행동, 즉 적극적인 행위가 필요한 경우에는 편도체가 활성화되는 사람들이 많았는데 이것은 그 상황에 대해 정성적 판단을 했다는 의미가 된다.

해석하자면, 인간이 윤리적 결단을 내려야 하는 순간에는 이성적 판단과 정서적 판단 사이에서 합당한 쪽을 선택한다는 뜻이다. 따라서 트롤리 딜레마에 대한 인간의 반응은 모순이 아니다. 조슈아 그린의 표현을 빌리자면, 인간의 이러한 행동은 이중 처리 방식의 도덕적 뇌를 가지고 있기 때문이다.

다만 이것은 인간의 반응에 대한 근거를 제시했을 뿐, 트롤리 딜레마에 대해 어떤 판단이 옳은 것인지 사회적 합의에 도달한 것은 아니다. 만약 인부 5명이 나의 가족이라면 어떻게 될까? 그래도 덩치 큰 사람을 밀지 않을까? 그때는 누군가를 밀어서 가족을 살리는 게 오히려 정서적 판단이 되지 않을까? 그렇다면 정서적 판단의 개입이 무조건 옳다고 볼 수 있을까?

그 동안 트롤리 딜레마는 대학교의 정치 철학 강의나 시민들을 위한 교양서적에서만 볼 수 있는 지적 유희인 줄 알았다. 그런데 4차 산업혁명이 모든 것을 현실로 바꿔버렸다. 이제 우리는 그런 철학적 딜레마를 프로그래밍해야 한다. 바로 자율주행차의 등장 때문이다.

주행 중 브레이크가 고장 난 자율주행차를 상상해 보자. 그대로 달릴 경우 보행자 5명을 치게 되고 핸들을 꺾으면 보행자 1명을 치게 된다. 이럴 경우 자율주행차는 어떤 프로그램을 갖고 있어야 할까? 당연히 핸들을 꺾는 판단을 하는 프로그램이 다수의 공감을 얻을 것이다. 그런데 핸들을 꺾어서 다치게 되는 사람이 보행자가 아닌 자동차 탑승자라면? 자율주행차는 보행자와 탑승자 사이에서 누구를 보호해야 할까?

이 질문은 2016년 6월, 과학 학술지인 '사이언스'에 실린 논문에서 등장했다. '자율주행차의 사회적 딜레마'라는 제목의 이 논문은 사람들에게 위와 같은 질문으로 설문조사를 진행했다. 이 설문조사에서 대다수의 사람들(78%)이 다수의 보행자를 보호하는 것이 훨씬 더 윤리적이라고 답했다. 그런데 흥미로운 것은 그 다음 질문이었다.

"그렇다면 자동차 탑승자 보다 보행자의 안전을 우선시하는 자율주행차를 구입하시겠습니까?"

눈치챘는지 모르겠지만, 대다수의 사람들은 그런 차를 구입하지 않겠다고 답했다. 이성적 판단으로는 대다수의 보행자가 우선이지만, 그 자동차 탑승자가 자신이거나 혹은 가족인 경우에는 어김없이 딜레마에 빠지고 말았다.

그렇다면 자동차 제조사의 판단은 어떨까? 얼마 전 메르세데스 벤츠의 한 고위 임원은 보행자보다 자동차 탑승자의 안전을 우선시할 것이라는 발언을 했다가 언론의 뭇매를 맞아야 했다. 제조사 입장에선 당연한 결론이겠지만 그런 발언은 사회적 논란을 일으키기 십상이다. 당시 영국 신문인 '데일리 메일'에서도 이런 기사를 내보냈다.

"메르세데스 벤츠는 자율주행차가 방향을 바꾸어 탑승자가 다칠 위험을 감수하기보다는 어린이를 칠 것이라고 인정했다."

심각한 것은 비판은 있어도 대책이 없다는 점이다. 독일연방교통부는 사고를 피할 수 없는 상황에서 자율주행차가 어떤 선택을 해야 옳은지 결정할 수 없다는 공식 입장을 표명한 상태다. 다만 심증은 분명해 보인다. 자율주행차의 알고리즘을 연구하는 MIT의 라환 교수가 했던 말이 그 심증을 대변한다.

"사람들은 자신을 희생시키는 자동차를 사지는 않겠지만, 다른 사람들이 그런 차를 샀으면 좋겠다고 생각한다."

아마도 자율주행차는 공리주의를 표방할 것이다. '최대다수의 최대행복'이라는 공리주의는 모든 판단에 대해 계산 가능성을 전제로 한다. 그 계산이란 손해 보다 이익이 많은가를 측정하는 것이다. 이러한 이유로 공리주의는 도덕 철학이라기보다는 '도덕 과학'임을 자임한다.

윤리적인 판단 근거를 이익과 손해의 관점으로만 해석하면 너무나 쉽다. 자율주행차 뿐만 아니라 4차 산업혁명의 다양한 첨단 기술에 심어야 할 도덕적 알고리즘을 적용하기에도 용이하다. 모든 사물을 통해 광범위한 데이터를 수집할 수 있는 빅데이터 기술은 이러한 공리주의적 판단에 수치화된 근거를 제시해 줄 수 있기 때문이다.

보행자와 탑승자 중 누구를 살리는 게 이익일까를 판단할 것이며, 장애인과 비장애인 중 누구를 살리는 게 이익일까를 판단할 것이다. 어쩌면 아랍인인지 미국인인지 인종을 구분하는 데이터 값이 있을지도 모르겠고, 유명 인사와 일반 시민 중 어느 쪽을 살리는 게 이익인지 수치화된 데이터를 제시할 수도 있겠다.

2017년 8월 23일, 독일은 세계 최초로 자율주행차에 대한 윤리 지침을 발표했다. 독일연방교통부 그리고 14명의 과학자와 법률 전문가로 구성된 '디지털 인프라 담당 윤리위원회'는 자율주행 기술이 지켜야 할 20가지 지침을 만들었다.

이 지침에서 주목해야 할 점은 인권에 대해 표준화된 지침은 불가능하다는 내용이었다. 그것은 연령, 성별, 인종, 장애에 대해 우선순위를 판단해서는 안 된다는 것을 의미한다. 다시 말해, 아이를 살리기 위해 노인을 죽이는 것은 옳은 판단이 될 수 없다. 이러한 독일의 가이드라인은 인간의 존엄성에 대해 공리주의적 판단을 차단했다는 점에서 의의가 있다.

한가지 아쉬운 점은 트롤리 딜레마에 대해서는 판단을 유보했다는 점이다. 결국 이 위원회가 고심 끝에 내놓은 결론은 다음과 같다.

"차량 시스템은 인간의 결정을 따라야 한다."

인간의 결정을 대신해야 할 자율주행차에게 인간의 결정을 따르라고 말하는 다소 어이없는 결론이긴 하지만, 어쨌든 인간의 존엄성과 가치 판단이라는 철학적 난제를 아직은 기계에게 양보할 수 없다는 의지의 표명처럼 보인다.

공리주의는 손쉽게 계산할 수 있다는 이점이 있다. 수치화된 데이터로 무장한 공리주의는 4차 산업혁명에 깊숙이 관여할지도 모르겠다. 하지만 우리는 이익과 손해를 계산하는 것만으로 존재의 가치와 존엄성을 따질 수 없다는 진실을 알고 있다. 알고는 있지만 자율주행차의 알고리즘에 입력할 수 있을 만큼 증명하지는 못했다. 결국 자율주행차의 딜레마는 기술적 딜레마가 아니라 철학적 딜레마다.

철학이라고 하면 마치 19세기나 20세기 정도에 머물러 있는 느낌을 받게 된다. 그만큼 철학이 멀리 있는 것은 아닐까? 자율주행, 인공지능, 빅데이터가 펼쳐지는 세상인데 아직도 우리는 아리스토텔레스나 벤담, 칸트, 롤스 같은 고전 읽기 수준의 철학을 말한다. 그러한 철학자들은 드론이 뭔지도 모른다.

이제는 그들이 남기고 간 철학적 유산들을 4차 산업혁명에 맞게 고도화시켜야 한다. 가상현실과 증강현실이 인간 사회에 미치는 영향을 탐구해야 하고, 사물인터넷과 빅데이터가 인권을 침해하는 것이 아니라 인권을 보호할 수 있게 만들어야 하며, 로봇과 인공지능이 인간을 대체하는 것이 아니라 인간을 풍요롭게 만들어야 한다.

우리가 철학적 난제들을 회피할수록, 또는 윤리적 딜레마를 계산하기 쉬운 공리주의에 양보할수록, 자율주행차와 4차 산업혁명은 인간에게 재앙이 될 것이다.

딴