자율주행의 딜레마 - 운전자 보행자 누구를 지킬 것인가

마이크 샌델 교수님의 “정의랑 무엇인가”에 보면 비슷한 질문이 나온다. 뉴욕의 지하철이 브레이크가 고장이 나서 한쪽으로 운행하면 1명이 죽고 다른 쪽으로 운행하면 5명이 죽는다면 기관사는 어떤 선택을 해야 할까? 그리고 더 나아가서 지금 내 옆에 엄청 덩치 큰 사람을 선로로 밀면 지하철이 먼저 멈추어서 뒤에 있던 인부 다섯 명을 살릴 수 있다면 어쩌겠냐고 물어본다. 첫 번째 질문에는 주저 없이 1명을 희생해야 한다고 대답한 많은 사람들도 두 번째 질문에는 그렇게 해서는 안된다고 답변할 것이다. 

그 이유는 가능한 많은 생명을 구해야 한다는 원칙과 하지만 아무리 명분이 옳다고 하더라도 죄 없는 사람을 죽이는 것은 잘못이라는 두 가지 원칙이 서로 충돌하기 때문이다. 어떤 행동을 하는 데 있어서 이렇게 도덕적으로 난처한 입장이 되면 인간은 상황에 따라 무엇이 더 중요하고 무엇이 더 적절한지 스스로의 가치관에 따라 판단하고 행동하게 된다. 

누구를 지키는 것이 옳은 것인가. - EV POST 자료 참조.

인공 지능은 어떨까? 자율 주행 모드로 운전하고 있는 차량 앞으로 갑자기 뛰어 들어온 보행자를 발견했을 때 보행자를 보호하기 위해 핸들을 꺾어서 차를 벽에 부딪혀야 하나? 그럼 운전자는? 

기술의 목표는 충돌 자체를 회피하는 것이다.

윤리적으로 보면 예측 가능한 모니터링 범위 밖에 있다가 갑자기 나타난 보행자를 보호하기 위해서 아무런 잘 못이 없는 운전자를 희생하는 것은 불합리해 보인다. 그렇지만 에어백 등 여러 보호 장치로 둘러 싸여 상대적으로 크게 다칠 위험이 적은 운전자보다 무방비 상태인 보행자를 보호하는 것이 최대 다수의 최대 행복을 추구하는 공리주의 측면에서 보면 더 바람직해 보이기도 하다. 

기술적인 측면에서 보면 자율 주행 차량의 1차적인 목표는 충돌을 회피하는 것이다. 만약 반대 차선이나 인도에라도 피할 수 있는 공간이 있다면 핸들을 돌려 피하는 것이 가장 좋다. 사람보다 자율 주행차는 긴박한 순간에도 여러 방향의 정보를 동시에 받아들이고 처리할 수 있으니 갑자기 튀어나오는 사람을 피하려고 뒤나 옆을 확인하지도 않고 핸들을 꺾었다가 2차 사고가 나는 경우를 막을 수 있다. 비상 상황이 발생하기 이전에 취득했던 수많은 정보들을 기반으로 긴급한 상황이 발생하더라도 우회할 수 있는 경로를 늘 계산해 두라고 로직에 넣어 둘 것이다. 

AID2020 자동차안전연구원 - 신재곤 단장님 자료 참조

그런 회피 경로가 없는 상황이라 어쩔 수 없이 충돌을 해야 하는 상황이라면, 다음 우선순위는 피해를 최소화 화해야 한다. 자동차 충돌의 피해는 속도에 비례하니 최대한 제동 성능이 발휘할 수 있도록 제어해야 하는데 그러려면 핸들은 그대로 고정해 주는 것이 좋다. 브레이트를 잡아 차를 멈추는 행위는 타이어와 지면이 얼마나 덜 미끄러지고 밀착하느냐에 따라 결정되니까. 어설프게 피한다고 급하게 핸들을 조작해 주면 기껏 힘들게 잡았던 타이어와 노면의 관계가 풀어지면서 오히려 차가 더 미끄러지고 자세를 잃은 차량은 더 큰 2차 사고로 이어질 수 있다. 앞서 말한 회피 구간이 없을 정도로 빽빽하게 가득 찬 도로에서는 더욱더 위험하다. 

원칙에는 사회적인 합의가 필요하다.

사고 자체를 미리 예측하고 미연에 방지할 수 있는 길을 찾은 것도 중요하겠지만, 누구를 구할 것인가 선택해야 할 순간은 올 것이고 이런 상황에서 인간 대신 판단할 인공 지능에게 어떤 우선순위를 선택하도록 하게 할지를 정하는 것은 자율주행을 개발하는 사람들에게 큰 숙제이다. 마치 아이작 아시모프가 로봇의 세 가지 원칙을 정한 것처럼 자율 주행의 원칙이 필요한 상황이다. 

이런 우선순위는 차량을 개발하는 엔지니어 혼자서 정할 수는 없다. 엔지니어는 기술적으로 회피할 수 없는 사고의 범위를 정하고 그때의 예상되는 피해와 현재 시스템에서 가능한 정보들을 정의하고 시스템이 어떤 선택을 할 수 있을지와 예상되는 피해 정도를 예측할 수는 있다. 그러나 그런 정보를 바탕으로 법률적으로 윤리적으로 또 경제적으로 자율 주행 차량이 가져야 하는 기본적인 기능과 선택의 우선순위에 대해서는 사회적 합의가 필요하다. 

AID2020 국토부 발표 자료 참조

특히 사람의 개입이 필요하지 않은 자율주행 4/5단계가 상용화되면 이런 합의된 내용은 단순한 권고 사안이 아니라 출시 전 인증을 받아야 하는 항목으로 정해져야 하고 이런 논의는 이미 진행 중이다. 지난 AID2020에 발표한 국토부 자료를 보면 정부도 이런 사회적 합의를 제도적으로 찾아가기 위한 협의를 시작했다. 그래야 돈이 들더라도 더 안전한 차량을 만들기 위해 필요한 센서를 달고 로직을 고민하고 성능을 향상하는 노력을 기업들이 하도록 강제할 수 있을 테니까. 적어도 인간의 생명을 다루는 영역에서는 자본의 논리가 시장을 지배하지 않도록 자율 주행 기술을 개발하는 엔지니어들도 사명감을 가질 필요가 있다고 생각한다. 

제 4 장 새로운 기술들이 차를 더 편하게 만든다.

    4-1 더 작지만 더 힘센 터보 엔진 이야기

    4-2 스포츠 모드와 에코 모드를 설정하면 차는 어떻게 달라지나?

    4-3 운전이 서투른 초보도 기사님들처럼 주행하게 해 주는 기술은 없나?

    4-4 위기의 순간 충돌을 막아 주는 ABS 이야기

    4-5 자율주행 기술의 발전이 가져올 우리 삶의 변화들

    4-6 자율 주행의 딜레마 - 운전자 보행자 누구를 지킬 것인가?