<열두발자국> 자율주행차는 누구의 안전을 우선할 것인가

[생각해보기]

2018.08.12일에 있었던 독서모임 <쉼표>  89회 토론에서 나온 토론주제 중 하나입니다.

자율주행 자동차는 탑승자와 보행자 중 누구의 안전을 택할 것인가?
https://www.youtube.com/watch?v=ixIoDYVfKA0&feature=youtu.be

  자율주행 기술은 상업화를 앞두고 시험운행에 들어가고 있습니다. 이미 여러 실제 도로에서 완주를 마친 사례들이 등장하며, 때로는 자율주행 자동차가 사고가 나 화젯거리가 되기도 합니다.

  이 자율주행 자동차를 두고 극단적인 상황을 가정해 봅시다. 양옆이 천길 낭떠러지입니다. 그 길을 자율주행 자동차가 달리고 있습니다. 그러나 어느 순간 갑자기 패러글라이딩 하던 사람이 사고가 생겨 간신히 그 길 위에 착륙했다고 합시다. 그 사람과의 간격은 너무나 가까워 자율주행 자동차는 다음의 두 경우 중 하나만 선택할 수 있다고 할 때 자율주행 자동차는 무엇을 택하게 될까요?

1. 보행자를 피해 운전대를 돌려 옆의 천길 낭떠러지로 떨어진다. -> 탑승자의 죽음

2. 천길 낭떠러지를 피해 보행자를 침 -> 보행자의 죽음 

  자율주행 자동차는 자율주행을 담당하는 알고리즘의 판단에 의해 두 선택지 중 하나를 선택할 것입니다. 그러면 그 알고리즘은 어떻게 설계될까요? 일부의 인공지능 프로그래머들은 프로그램을 스스로 만드는 인공지능을 제작하려고 노력하고 있습니다. 그러나 자율주행 자동차가 상용화될 때까진 아직 어려워 보입니다. 그러면 알고리즘은 프로그래머가 결정하는 걸까요?

  보통 알고리즘은 프로그래머가 제작합니다. 그러나 알고리즘이 지향해야 하는 방향에 자본논리가 개입하게 되면 프로그래머의 뜻대로 알고리즘을 만들기는 어려운 일이죠. 의뢰자인 사장의 입맛대로 만들어야 의뢰를 수주 받고 돈을 받을 수 있기 떄문입니다.

  그렇다면 사장은 어떨까요? 자율주행 자동차를 만들어 팔려는 사장은 어떤 알고리즘을 탑재하고 싶어할까요?

1번의 경우 의뢰자는 '보행자'를 지켜주는 자동차를 얻게 될 것이고,

2번의 경우 의뢰자는 '탑승자'를 지켜주는 자동차를 얻게 될 것입니다.

그렇다면 자율주행 자동차를 많이 팔고 싶은 사장은 어떤 자동차를 더 선호할까요?

윤리적으로 지향해야 할 방향은 너무나 명확합니다.

그건 보행자와 탑승자 모두에게 피해가 있어서는 안된다는 것이지요.

그러나 그러하지 못할 경우, 여러분이 보행자라면 또는 탑승자라면, 또는 자율주행 자동차회사 사장이라면, 알고리즘을 만드는 프로그래머라면 어찌하시겠습니까? 또한 여러분이 정책 입안자라면 어찌 하시겠습니까?