- AI 시스템으로 인한 사고 발생 시 귀속 책임은 어떻게 분배되는가
Ⅰ. 서론 및 문제 인식
이 텍스트는 현재하는 기술로서의 자율주행 자동차의 주행 중 인공지능 로직 시스템의 알고리즘으로 인해 인명 혹은 재산상의 피해가 발생하였을 때, 그것을 누가 배상해야 하며, 그 책임은 누구의 몫인지를 논의하기 위해 작성되었음을 전제로 삼는다. 동시에, 텍스트에서 다룰 문제는 이미 시장에 출시되었으며, 운용되고 있는 자율주행 자동차에 관한 내용을 다루기에, 근미래의 어느 시점이 아닌 지금 이 시대의 현재성에 기반하여 거론될 것이다. 그러기 위해서는 먼저 자율주행 자동차에 적용되는 시스템이 무엇이며, 그것에 AI 로직 시스템은 어떤 방식으로 기능하고 있는지 간략하게나마 이야기해 볼 필요가 있다.
“자율주행 자동차는 기본적으로 ‘인지-판단-제어’의 3단계를 거치면서 작동하게 된다. 인지 단계에서는 카메라·라이더(LiDAR)·레이더(RADAR) 등의 센서로 주변 환경을 인지한다. 판단단계에서는 인지된 환경 정보를 해석하여 안전하고 원활한 주행이 가능한 주행 경로를 생성한다. 마지막 제어단계에서는 판단단계에서 나온 경로를 추종하도록 하는 가·감속 조향 제어를 수행한다.”
1) 정석우 & 심현철. "자율주행 자동차의 인공지능." 기계저널 57.3 (2017): 42.0
위 인용으로부터 알 수 있듯이, 자율주행 자동차의 주행을 위한 인공지능에는 세 단계가 존재하며, 본 텍스트에서는 그 2단계에 해당하는 내용을 바탕으로 논의를 진행할 것이다. 즉, 자율주행 인공지능 알고리즘의 두 번째 구성 단계인 판단 과정에서 오류가 발생할 시 그 책임이 누구의 몫이 되는지, 그것에 관해 논할 것이다.
Ⅱ. 핵심 주장과 근거
위 문제에 대하여 본 텍스트는 귀책사유에 따라 운전자와 공급사 및 개발사에 책임을 물어야 함을 주장한다. 가장 먼저, 이 텍스트에서 다루려는 문제가 단순히 자율주행 자동차와 다른 대상 간 사고에 대한 논변이 아니라, 인공지능 알고리즘의 오류가 사고를 발생하게 했을 경우로 국한하고 있음을 명시했다. 그러므로 자율주행 자동차에 탑승한 운전자를 포함하여 피해 보행자 및 주변 상황 모두에 법률적 결격 사유가 없음을 전제해야만 한다.
예컨대, 피해 보행자의 무단횡단 정황이 드러날 경우, 자율주행 차량 운전자의 면책 사유가 발생하며, 만일 운전자의 음주 혹은 졸음운전이 발각되는 경우에는 유사시 최소한의 상황 인지능력을 상실한 것으로 판단하여 현행 법률에 따라 운전자에게 책임을 묻게 될 것이 자명하다. 마찬가지로 무단횡단을 벌인 보행자에 의해 다른 보행자에게 피해 사실이 발견될 경우, 귀책 대상은 법률을 어긴 보행자가 될 것이다.
그러므로 다시, 운전자를 포함하여 피해 보행자 및 주변 상황 모두에 법률적 결격 사유가 없으나 사고가 발생한다면, 다음 근거를 바탕으로 귀책사유에 따라 운전자와 공급사 및 개발사에 책임을 물어야 한다.
근거1) 주체의 어떠한 권리 추구가 타인이 가진 필수적 권리를 침해할 시, 주체의 권리를 충족하는 것보다도, 타인의 필수적 권리 침해를 막는 것이 사회 질서와 보편 윤리에 기반하여 옳다. 그러므로 자율주행 자동차와 그 운전자로 인해 부상을 포함한 인명 혹은 재산상 피해를 본 사람의 필수 권리에 대한 배상이 자율주행 차량 운전자가 편하게 운전할 권리보다 우선되어야 하며, 이것이 자율주행 차량의 운전자가 자신의 선택으로 감내해야 하는 최소 책임이 된다.
근거2) 자율주행 자동차는 인공지능 알고리즘이 선택하는 경로에 기반하여 운행하기에 AI의 선택에 따라 결과와 책임이 발생한다 이. 경우 운전자가 전방 주시 및 기본 운전 수칙을 지켰음을 입증 가능하다면, 부분 참작이 가능하다. 예컨대, 운전자가 운전 규범을 지킨 상태라고 할 때, AI 알고리즘이 갑작스레 조우한 구조물(운전자의 위험성)과 보행자 중 한 대상을 선택하여 충돌하게 되는 피해가 발생할 경우, 그것은 AI 시스템 개발사의 설계 자체의 결함이기에 인공지능 부문 개발사에 최초 책임이 있고, 이를 충분히 검토하지 않고 최종 귀책 생산자 판매자로서 시장에 출시한 공급사가 피해 당사자 운전자 혹은 보행자와 차량 소유자 운전자에게 배상해야 할 책임을 얻는다. 그러나 운전자에게 전방 주시 태만 등 결격 사유가 있다면, 귀책 대상으로서 피해 당사자에 대한 배상은 운전자 스스로 진행하여야 하고 후일, AI 알고리즘의 오류 등 문제가 밝혀진다면, 그에 관하여 개별적으로 소송을 진행해야 한다.
Ⅲ. 예상 반론에 대한 응답
본 주장에 관한 몇 가지 반론을 예상하자면, 아무래도 자율주행 자동차 소비 심리에 직결되는 내용인 “자율주행 자동차의 운전자에게도 전방 주시 의무가 있는가?”라는 논지와 현재 구글의 웨이모 사에서 서비스 중인 무인 택시 같은 경우, 운전자가 없으므로 운전자에게 책임을 돌릴 수 없다는 부분일 것이다. 두 반론에 대해 응답하자면 아래와 같은 결과를 도출할 수 있다.
먼저, 자율주행 자동차의 소비 심리에 크게 작용하는 기제로는 기존보다 편한 운전을 위해 구매하는 것이라 해도 모자람이 없을 것이다. 그러나 다수 국가의 현행법과 도로 시스템상, 자율주행 자동차의 운전자에게 전방 주시 의무가 없다고 말할 수는 없다. 자율주행 자동차의 주행 중 결코 사고가 발생하지 않는다는 것이 보장되지 않는 현시대와 상황에서, 운전자는 기존의 일반 차량 운전자와 마찬가지로 법률과 규범을 준수할 의무를 지닌다. 즉, 음주운전이나 졸음운전 등 문제를 저지르면 동등한 법률 아래에서 처벌을 받아야 하고, 전방 주시 태만으로 사고가 발생한다면, 그 책임을 묻는 것 역시 동등하게 진행되어야 한다. 다만, 앞선 ‘근거2’ 항목에서 언급했듯, AI 알고리즘의 문제임이 발견된다면 운전자에게는 개발사 또는 공급사에 개별 소송을 진행할 권리가 있다.
다음으로, 현재 구글의 웨이모 사에서 서비스 중인 무인 택시 같은 경우, 운전자가 없으므로 운전자에게 책임을 돌릴 수 없다는 반론에 관해 응답하겠다. 이 같은 경우, 귀책의 대상인 운전자가 존재하지 않으므로 사고 발생 시 운전자에게는 책임을 묻는 것이 불가능하다. 그러나 이 경우에는 운영 측인 웨이모 사가 본래 운전자가 감당해야 할 책임을 할당받는 것이 가능하며, 또 그것이 합당하다. 말하자면, 운전자가 없는 택시를 운행하게끔 한 시점에서 책임 소재가 운영 주체로 넘어가는 것이다. 다만, 이 경우에는 책임 소재가 개발사, 공급사, 운영사뿐만 아니라, 그것을 허가한 지자체에도 할당되는 몫이 발생할 가능성이 있다.
Ⅳ. 결론
앞선 논의에 따라서 자율주행 자동차의 사고 발생 시, 귀책사유에 따라 운전자(=운영 주체), 개발사, 공급사에 책임이 할당되는 것이 합당하며, 책임 분할 방식은 형법상 원칙에 따른 법리적 청구 혹은 개별 소송이 가능하다.
<참고문헌>
1) 정석우 & 심현철. "자율주행 자동차의 인공지능." 기계저널 57.3 (2017): 42.0