by
Nov 13. 2021
자율주행차가 교통 위반하면 누가 처벌 받을까요?
feat. 에릭 슈미트 & 이야드 라환
ⓒ Stanford Graduate School of Business2017년, 당시 기준으로 (전) 구글 회장이자 (현) 알파벳 회장이었던 에릭 슈미트(Eric Shumidt) ①가 스탠퍼드 경영대학원에서 강의할 때였습니다.
※ 참고: <Just Say "Yes"> 강연 영상
강연 후, Q&A 세션에서 한 학생이 "메가 트렌드에는 어떤 것들이 있나요? 우리는 어떤 일들을 하면 좋을까요?"라고 질문합니다. 한 마디로 "나중에 뭐로 돈 벌 수 있을까요?" 란 질문이었는데요.
이에 대해, 에릭 슈미트 회장은 자신이 질문하는 학생들과 같은 나이대였다면, 하고 싶은 두 가지 일들에 대하여 이야기해줍니다.
내가 여러분 나이라면, 컴퓨터 과학자로서 AI 시스템들을 들여다볼 것입니다. 왜냐하면 AI 시스템에서 진정한 파워가 나오고, 제가 여태까지 이야기한 것들이 만들어지기 때문입니다. (이야기한 것들은 강연 참고)
AI 시스템이 매번 하게 될 의사결정들은 어떻게 훈련되느냐에 따라 정해집니다. 이때, 참 의아한 점은 인간이 프로그래밍을 할 수 없다는 점입니다. AI 시스템이 잘못된 결과를 낼 경우, 인간이 개입해서 프로그램을 고칠 수 있는 것이 아니라, AI 시스템을 다시 훈련시켜야 합니다.
자율주행차는 회사에 의해 훈련되는데, 인간이 이럴 땐 어떻게 행동하느냐를 알게 해주는 것이지요. 그래서, 향후 이런 일이 발생할 수 있습니다.
자율주행차가 운행 중에, 정지 표지판 앞에서 바퀴가 구르는 것을 보고, 경찰이 다가와, 옆으로 차를 세우라고 합니다. 그러고는, 경찰이 운전자에게 "왜 멈추지 않았습니까?"라고 묻자, 운전자는 "정확히 따지면, 제가 운전하지 않았습니다."라고 이야기합니다. 그때, 자동차가 말합니다. "제가 운전했습니다."라고요.
그러면, 경찰이 자동차에게 묻습니다. "그럼, 왜 당신은 정지 표지판 앞에서 멈추지 않았나요?"라고요. 그럼, 자동차는 이에 대해 자동차는 "전 모릅니다."라고 말하며, 오히려 이렇게 묻습니다. "제가 누구를 체포해야 할까요?"라고요.
이 세 주체는 모두 진실되게 이야기하고 있죠. 이런 문제는 곧 해결될 겁니다. 컴퓨터 과학자들이 AI 시스템을 열심히 연구하고, AI 시스템을 훈련시키고, 재훈련시키면서, 이런 문제들을 풀어나갈 것입니다.
만약, 내가 컴퓨터 과학자가 되지 않는다면, 생물학자가 될 것입니다. 생물이 지닌 아날로그 세계를 디지털 세계에 가져올 수만 있다면, 수천 년 동안 인류를 괴롭혀왔던 것들에 대한 해결책을 의미할 테니까요.
이 두 분야에 매진한다면, 당신은 5년 내에 돈을 벌게 될 것입니다.
이 강연은 이미 4~5년 지난 것이니, "돈 버는 일 할 때, 감안해야지"란 생각으로 이 글을 적고 있지는 않습니다. 우연히 듣다 보니, 자율주행차처럼 지금 급속도로 상용화되고 있는 과학기술의 산물들이 우리에게 미칠 여파가 비단 좋지만은 않을 텐데, 너무 고민 없이 살고 있는 것은 아닌가 싶었습니다.
지난 3월, 미국에서 테슬라 자율주행차가 주차하는 경찰차를 들이받아 운전자가 면허정지되었다는 기사가 떠있더군요. 그 순간에 자율주행기능이 켜있지 않아서 운전자에게 책임을 지웠다고.
※ 참고: 美서 자율주행 중이던 테슬라 경찰차와 꽝 | 한경닷컴 (hankyung.com)
미래에 얼마나 다양한 사건, 사고들이 일어날까요? 이에 대한 대비가 잘 되어 있어야 할 것 같습니다. 이때 윤리적인 고민도 놓치면 안 될 것 같아요.
예를 들면, "자율주행차가 '트롤리의 딜레마 ②'와 같은 상황에 직면했을 때 어떤 결정을 하게 해야 할까?" 류의 고민들을 말이죠. 경영대학원 다닐 때, 저도 비즈니스 윤리 과목에서 토론했던 기억이 있는데요.
상황은 이런 겁니다.
당신은 지금 트롤리, 즉 전차의 운전자인데, 지금 그 트롤리는 지금 고장이 나서 멈춰지지가 않고, 단지 변환기를 움직여서 방향만 바꿀 수 있습니다. 방향을 바꾸지 않으면, 앞에 서있는 5명이 모두 죽고, 방향을 바꾸면 그 방향에 서있던 1명이 죽게 됩니다. 이때 당신은 어떤 선택을 하시겠습니까?
이는 오롯이 답하는 이의 윤리적 시각을 알아보기 위한 질문입니다. AI로 움직이는 물체들이 돌아다니는 한, 이런 윤리적인 질문들은 더 많이, 더 복잡하게 지속적으로 제기될 것 같습니다.
그래서인지, 이미 자율주행차와 관련해서, 트롤리의 딜레마와 유사한 문제들을 조사하고, AI시대에 감안해야 할 이슈를 다루는 사이트도 생겼는데요. 대표적으로는 <Moral Machine>이란 곳입니다. 이곳에는 카툰③도 있어서, 오늘은 이 중 하나를 소개해 드리려 합니다.
ⓒ EvilAICartoons.com대중들은 도로에서 구 모델 자율주행차는 안전하지 못하다고 느낍니다. 그래서 우리는 이 구 모델을 신형인 것처럼 튜닝해드립니다.
- 신뢰지수 낮은 기계들을 피하는 법 -
이런 비즈니스가 횡행하게 된다면 정말 슬프겠지요?
혹시 (구) 모델 자율주행차를 운전하는 사람을 무시하는 사회가 오진 않겠지요?
Note.
① 알파벳은?
구글 지주회사이며, 에릭 슈미트는 현재 미국 국방부 혁신자문위원회 위원장입니다.
② 트롤리의 딜레마 정답은?
영국의 윤리 철학자인 필리파 푸트(Philippa R. Foot)가 제안한 것으로, 응답자의 89%가 “방향을 바꾸어야 한다.”라고 응답했다고 합니다. 다수를 위해, 소수를 희생하는 방향으로요. 이게 정답인지는 여러분의 몫입니다.
③ 카툰의 작가: 컴퓨터 과학자 이야드 라환(lyad Rahwan)
(전) MIT 교수이자 베를린에 있는 맥스 플랜크 인간기계센터의 창업자이고, 모럴 머신의 공동창업자인데요. 우리가 접하게 될 사회의 우려되는 이슈들을 미리 고민한다는 게 좀 멋지지 않나요?
