자율주행차 딜레마, 결정장애가 최악이다.

최악보다 차악 선택하는 것이 사회계약

자율주행차가 아래 그림과 같은 예상치 못한 사고 상황에 직면했다. 자율주행 프로그램은 어떤 선택을 해야 하는가. 다수와 소수의 보행자 중 공리주의적인 판단에 의해 소수를 희생시켜야 하는가. 운전자와 보행자 중 누구를 희생시킬 것인가. 다수의 보행자를 살리기 위해 한명의 운전자를 희생시킬 수 있는가. 유명한 트롤리 딜레마다. 지금껏 운전자의 도덕적 판단에 맡겨졌던 사고 상황에서의 순간적 결정은 이제 기계 행동의 표준화를 두고 딜레마에 빠졌다.

이를 두고 지난 8월 독일 정부는 세계 최초로 자율주행차 윤리강령을 발표했다. 요체는 피할 수 없는 사고 상황에서 자율주행 프로그램이 본차 승객이나 보행자 혹은 다수와 소수 중 희생시킬 사람을 선택하면 안된다는 것이다. 또한 이 과정에서 어떠한 공리주의적 판단도 배제해야 한다고 명시했다.

나는 독일의 자율주행차 윤리강령이 어떤 것도 말하고 있지 않다고 생각한다. 가장 중요한 트롤리 딜레마에 대한 해결책은 없고 원론적인 얘기만 있다. 가장 실망스러운 부분은 공리주의적 판단을 원천적으로 배제한다는 것이다. 공리주의는 생명의 가치를 계산하는 데 의의가 있는 것이 아니라 위급한 순간 결정을 내린다는 데 의의가 있다. 기계는 판단기준이 없다면 결정을 내리지 못한다. 차악을 선택할 수 있는 상황에서 결정을 내리지 못해 최악이 된다면 나는 그것을 비겁이라 부른다.

누구도 윤리적 책임을 지지 않는 상황에서 나는 이렇게 기준을 세워야 한다고 생각한다.

1. 인간 생명의 희생을 최소화 해야 한다. 사망과 부상은 계량되어 상호간에 교환될 수 없다. 즉 만명이 다친다 해도 한명의 사망을 막아야 한다. 사망의 경중은 성별, 연령, 장애유무 등을 기준으로 판단될 수 없으며 모든 인간의 생명은 평등하다.

2. 만약 사망사고를 피할 수 없다면 본차 승객과 다른 차량의 승객, 보행자를 차별하지 말고 사망자를 최소화 하는 방향으로 움직여야 한다. 일반적으로 승객과 보행자 중 선택을 해야 한다면 차량에 탑승한 사람이 충돌에서 비교적 안전하기 때문에 보행자를 보호한다. 하지만 사망 가능성이 완벽히 동등한 상황이라면 본차 승객을 보호한다. 자율주행 차량이 보급되기 위한 최소한의 조치다.

다수 생명을 구하기 위해 본차 승객이 희생할 수 밖에 없다고 해도 자율주행차로 인한 탑승객 사망확률은 인간이 운전할 때보다 낮다. 모든 사고에는 불운이 개입한다. 사회계약을 통해  불운이 만들어낼 피해를 최소화 해야 할 뿐이다.

살인자를 사형시키는 것은 사회에 미치는 피해를 최소화 하기 위해서다. 한 개인이 살인을 저지르기까지는 성장환경, 심리상태, 범죄가 발생할 당시의 상황 등이 복잡하게 작용하지만 결국 유전자 수준까지 들어간다면 모든 것은 태어난 운으로 귀결된다. 불운을 타고 난 개인을 사회가 죽이는 것에 어떤 윤리적인 근거가 있을까. 결국 더 많은 사람들의 희생을 막기 위해 사형이라는 차악의 사회계약이 작동할 뿐이다.

누구나 결정하기 어려운 선택의 순간에 직면하게 된다. 그 순간을 피하지 않는 것이 진정한 용기다. 나는 칸트의 이상론을 가슴에 품고 벤담의 방식으로 행동할 것이다.