한국인들의 모럴머신 결과 특징은?
"우리나라는 글로벌 평균과 비교해 동물보다 사람, 거동이 자유로운 사람보다 불편한 사람, 차량 탑승자보다는 보행자 안전과 생명을 중시 하지만 건장한 사람보다는 몸이 약한 사람, 사회적 지위가 있는 사람, 젊은 사람, 다수의 사람에 대한 중요도는 글로벌 평균보다 낮게 생각하는 것으로 분석되었다."
MIT대학 미디어랩 등은 모럴머신(Moral Machine)이란 웹사이트를 만들어 딜레마 상황에서 자율주행차 인공지능의 윤리적 결정에 대한 사회적 인식 수집을 위한 플랫폼을 운영하고 있다. 예를 들면 다음 그림에서 자율주행차가 직진하는 경우 고령자들이, 좌회전할 경우에는 젊은 사람들이 사망하거나 다치게 된다. 고령자들이 사망하는 경우에는 자율주행차가 도로벽에 부딪히지 않지만, 좌회전하는 경우에는 인사사 고뿐만 아니라 벽에 부딪혀 탑승자가 다치거나 사망할 수도 있다. 자율 주행차 딜레마는 이러한 경우에 자율주행차가 탑승자와 보행자, 사상이 예상되는 사람의 수에 따라 어떻게 상황판단을 하도록 프로그래밍해야 할지에 대한 인공지능 윤리 문제다.
MIT 미디어랩 등은 모럴머신 사이트에서 수집된 18개월 동안 233개 국가와 지역 230만 명이 참여한 4,000만 가지의 자율주행차 윤리적 판단이 필요한 사례를 수집 분석해 2018년 10월 네이쳐에 발표 했다.
연구를 통해 밝혀진 거시적 관점에서의 윤리기준은 애완동물보다는 사람, 소수보다는 다수의 사람들, 남성보다 여성, 비만한 남자보다는 운동선수, 노숙자나 범죄자보다 기업 임원 등 사회적 지위가 높은 사람의 안전과 생명이 중요하다는 것이다
[ 모럴머신 평가 결과-평가대상 별 우선 순위 ]
[ 고령층과 젊은층의 중요도 국가별 비교 ]
[ 다수의 사람들과 개인의 중요도 국가별 비교 ]물론 문화와 경제력에 따른 윤리기준의 차이도 있다. 개인주의 성향 이 강한 국가일수록 젊은층의 생명과 안전을 중요하게 생각하고, 한국, 일본, 중국, 대만 같이 비교적 집단주의 성향이 강한 국가에서는 반대로 고령층을 중시하는 경향을 볼 수 있다.
일본, 핀란드와 같이 부유한 국가의 사람들은 나이지리아, 파키스탄과 같이 빈곤한 국가 사람들보다 무단횡단자를 중요하지 않게 생각하는 것으로 나타났다. 뿐만 아니라 빈부격차가 비교적 적은 핀란드 사람들 은 노숙자와 기업임원 중 어느 쪽을 특정하게 중요하다고 판단하지 않 지만, 빈부격차가 큰 콜롬비아 사람들은 노숙자보다 기업임원의 생명과 안전을 중요하게 여기는 특징을 보였다.
연구자들은 트롤리 문제의 근원적인 질문은 사람의 수가 윤리적 판단 을 위한 결정적인 요소가 아니라는 것을 발견했다. 영국이나 미국과 같 은 개인문화를 가진 국가는 다른 모든 선택보다 많은 사람들의 생명과 안전이 중요하다고 판단했으며, 이는 개인의 가치를 중요하게 여기는 문화 때문으로 분석했다.
응답자가 100명 이상인 130개국의 응답을 분석하면 지리적으로 인 접한 국가들이 유사한 패턴의 결과를 보이며 북아메리카와 유럽 등 전 통적으로 기독교가 지배적인 서구권, 일본, 인도네시아, 파키스탄 등 유 교와 이슬람 전통이 강한 동양권, 중미와 남미, 오세아니아, 프랑스와 과거 프랑스 식민지 국가 등 남미권으로 구분할 수 있다. 서구권은 사 람이 많은 케이스, 어린이와 체격이 작은 사람들을 구하는 윤리기준을 선호했다. 동양권에서는 사람 숫자와 상관없이 교통규칙을 지키는 보 행자를 더욱 중요시하며, 남미권에서는 여성과 어린이, 사회적 지위가 높은 사람이 더욱 중요하게 분석되어 지역별로 윤리기준이 다른 것을 알 수 있다.
흥미로운 것은 같은 동양권이지만 일본은 보행자를 가장 중시하는 국 가이며, 중국은 탑승자를 가장 중시하는 국가라는 점이다. 이는 특정 국가의 문화가 자율주행차 윤리에 얼마나 커다란 영향을 주는지 보여주는 사례다.
우리나라는 글로벌 평균과 비교해 동물보다 사람, 거동이 자유로운 사람보다 불편한 사람, 차량 탑승자보다는 보행자 안전과 생명을 중시 하지만 건장한 사람보다는 몸이 약한 사람, 사회적 지위가 있는 사람, 젊 은 사람, 다수의 사람에 대한 중요도는 글로벌 평균보다 낮게 생각하는 것으로 분석되었다. 남성보다 여성, 교통규칙을 잘 지키는 사람을 중시 하는 수준은 글로벌 평균과 유사한 수준이다. 미국과 비교하면 거동이 자유로운 사람보다 불편한 사람, 남성보다는 여성을 중시하는 결과는 유사한 수준이지만, 동물보다는 인간, 탑승자보다 보행자, 교통규칙을 잘 지키는 사람들을 중시하는 수준은 미국보다 높았으며, 나머지 척도 는 미국보다 낮고 태국과 유사한 결과를 보여준다.
현재 자율주행차가 본격적으로 상용화되지도 않았고 명확한 유즈케 이스도 파악이 안 된 상태에서 모럴머신과 같이 설문을 기반으로 관련 윤리 가이드라인이나 규정을 만들 수는 없다. 실제로 모럴머신 웹사이트를 통해 의견을 제시한 사람들의 진실성도 증명할 수는 없다. 하지만 앞으로 어떻게 자율주행차의 윤리 기준을 작성하고 사회적 합의를 이끌 어낼지, 필요하다면 지역별 윤리 기준의 차이를 어떻게 반영하고 관리 할지에 대한 중요한 질문과 기준을 제시한 자료를 활용할 수 있다.
[ 자율주행차 모럴머신 설문 분석 결과 비교: 한국 vs 미국 vs 글로벌 평균 ]2017년 8월 독일 교통부는 세계 최초로 자율주행차 법률 가이드라인 을 공개해 많은 관심을 받았다. 독일 내 모든 자율주행차 주행 프로그램 들은 사고가 발생해 인명이 위험한 경우 교통법규 위반, 동물과 재산상 피해를 감수하고 인명을 최우선적으로 보호하도록 프로그래밍하도록 의무화했다. 자율주행기술 개발 기업들은 사람의 나이, 성별, 지위, 신체 적 조건 등을 차별하지 않고 모든 자율주행차는 모든 인간의 생명이 동 등한 관점에서 이해하도록 프로그램해야 한다는 의미다. 자율주행차의 윤리적 딜레마에 대한 논쟁을 극복하기 위한 독일 정부의 노력이지만, 자율주행차가 어떻게 해당 가이드라인을 준수해야 할지는 아직 불확실 하다.
가장 윤리적인 판단은 사고발생 시 피해를 최소화하는 것이지만, 외 부 사람들의 피해를 최소화하기 위해 자율주행차 탑승자가 희생되도록 프로그래밍한다면 자율주행차 시장은 위축될 수밖에 없다. 기업들은 비 용을 지불해 자율주행차를 구매하거나 사용하는 소비자들을 보호해야 할 의무도 가지고 있다. 하지만 자율주행차 윤리가 인간의 생명과 안전 을 의미한다는 관점에서 이해당사자 간의 합의와 사회적 수용을 이끌어 내기란 쉬운 일이 아니다.
이러한 문제는 자율주행차 설계와 규제에 영향을 미친다. 특히 글로 벌 시장 진출을 꿈꾸는 대부분의 자율주행차 기업들에게는 국가별로 상 이한 도로환경과 교통 시스템뿐만 아니라, 경제문화적 차이들을 어떻게 인공지능에 반영해야 할지가 지극히 중요한 문제이다. 결국 자율주행차 윤리문제는 트롤리 딜레마를 넘어 자율주행차의 사회적 수용성을 결정 짓는 가장 중요한 이슈라고 할 수 있다. 향후 자율주행차가 출시된다고 해도 오랜 시간 발생하는 사고와 발견되는 유즈케이스에 맞춰 지속적으 로 논의될 수밖에 없는 이슈다.
