운전자, 보행자, 자율주행차는 누구를 보호해야 하나요?

기술과 윤리가 만나는 지점에 대한 고민은 엔지니어만의 몫이 아닙니다.

[카QA센터-32] 자율 주행 차량은 운전자를 보호해야 할까요? 보행자를 보호해야 할까요?

마이크 샌델 교수님의 “정의랑 무엇인가”에 보면 비슷한 질문이 나옵니다. 뉴욕의 지하철이 브레이크가 고장이 나서 한 쪽으로 운행하면 1명이 죽고 다른 쪽으로 운행하면 5명이 죽는다면 기관사는 어떤 선택을 해야 할까라고 질문을 던집니다. 그리고 더 나아가서 지금 내 옆에 엄청 덩치 큰 사람을 선로로 밀면 지하철이 먼저 멈추어서 뒤에 있던 인부 다섯 명을 살릴 수 있다면 어쩌겠냐고 가정하죠. 첫 번째 질문에는 주저 없이 1명을 희생해야 한다고 대답한 많은 사람들도 두 번째 질문에는 그렇게 해서는 안된다고 답변할 겁니다.

그 이유는 가능한 많은 생명을 구해야 한다는 원칙과 하지만 아무리 명분이 옳다고 하더라도 죄 없는 사람을 죽이는 것은 잘못이라는 두 가지 원칙이 서로 충돌하기 때문입니다. 어떤 행동을 하는 데 있어서 이렇게 도덕적으로 난처한 입장이 되면 우리는 상황에 따라 무엇이 더 중요하고 무엇이 더 적절한지 자신의 가치관에 따라 찾아내고 그렇게 행동하고 있습니다.

인공 지능은 어떨까요? 질문처럼 갑자기 차 앞으로 뛰어 들어온 보행자를 발견했을 때 보행자를 보호하기 위해 핸들을 꺾어서 차를 벽에 부딪혀야 할까요? 그럼 운전자는 어떻게 되는 거죠?

윤리적으로 보면 모니터링 범위 밖에 있다가 갑자기 나타난 보행자를 보호하기 위해서 아무런 잘 못이 없는 운전자를 희생하는 것은 잘 못 되어 보입니다. 그렇지만 에어백 등 여러 보호 장치로 둘러 싸여 상대적으로 덜 위험한 운전자보다 보행자를 보호하는 것이 최대 다수의 최대 행복을 추구하는 공리주의 측면에서 보면 더 바람직해 보이기도 합니다.

엔지니어로서 기술적인 측면에서 보면 자율 주행 차량의 1차 목표는 충돌을 회피하는 것입니다. 만약 반대 차선이나 인도에라도 피할 수 있는 공간이 있다면 핸들을 돌려 피하는 것이 가장 좋습니다. 사람보다 자율 주행차는 눈이 여러 개이니 갑자기 튀어나오는 사람을 피하려고 뒤나 옆을 확인하지도 않고 핸들을 꺾었다가 2차 사고가 나는 경우는 적을 겁니다. 비상 상황이 발생하기 이전에 취득했던 수많은 정보들을 기반으로 상황 발생 시 우회할 수 있는 경로를 늘 계산해 두라고 로직에 넣어 둘 것 같습니다.

AID2020 자동차안전연구원 - 신재곤 단장님 자료 참조

그런 회피 경로가 없는 상황이라 어쩔 수 없이 충돌을 해야 하는 상황이라면, 다음 우선 순위는 피해를 최소화해야겠죠. 자동차 충돌의 피해는 속도에 비례하니 최대한 제동 성능이 발휘할 수 있도록 제어해야 하고 그러기 위해서는 핸들은 그대로 고정해 주어야 합니다. 브레이트를 잡아 차를 멈추는 행위는 타이어와 지면이 얼마나 덜 미끄러지고 밀착하느냐에 따라 결정되니까요.

차량 시험을 할 때는 타이어가 노면을 얼마나 잡아 주냐로 표현합니다. 최대한 타이어와 땅이 서로 기어처럼 맞물려야 하는데 이때 핸들을 돌려 방향을 틀면 기껏 힘들게 잡았던 타이어와 노면의 관계가 풀어지면서 미끄러집니다. 그러면 오히려 더 미끄러지고 자세를 잃은 차량은 더 큰 2차 사고로 이어질 수 있습니다. 앞서 말한 회피 구간이 없을 정도로 빽빽하게 가득 찬 도로에서는 더욱더 그렇습니다.

무엇보다도 그런 사고 자체를 미리 예측하고 미연에 방지할 수 있는 길을 찾은 것이 가장 중요합니다. 그렇지만 우리가 앞선 샌델 교수님의 두 가지 질문처럼 어쩔 수 없는 상황이 오면 인간 대신 판단할 인공 지능에게 어떤 우선순위를 선택하도록 하게 할지를 정하는 것은 자율주행을 개발하는 사람들에게 큰 숙제입니다.

그리고 이런 우선순위는 차량을 개발하는 엔지니어 혼자서 정할 수는 없습니다. 엔지니어는 기술적으로 회피할 수 없는 사고의 범위를 정하고 그때의 예상되는 피해와 현재 시스템에서 가능한 정보들을 정의합니다. 그리고 시스템이 어떤 선택을 할 수 있을지와 예상되는 피해 정도를 예측합니다. 그런 정보를 바탕으로 법률적으로 윤리적으로 경제적으로 자율 주행 차량이 가져야 하는 기본적인 기능과 선택의 우선순위에 대해서는 사회적 합의가 필요합니다.

AID2020 국토부 발표 자료 참조

특히 사람의 개입이 필요하지 않은 자율주행 4/5단계가 상용화되면 이런 합의된 내용은 단순한 권고 사안이 아니라 출시 전 인증을 받아야 하는 항목으로 정해져야 합니다. 지난 AID2020에 발표한 국토부 자료를 보면 정부도 이런 사회적 합의를 제도적으로 찾아가기 위한 협의를 시작했습니다. 그래야 돈이 들더라도 더 안전한 차량을 만들기 위해 필요한 센서를 달고 로직을 고민하고 성능을 향상하는 노력을 강제할 수 있을 테니까요. 적어도 인간의 생명을 다루는 영역에서는 자본의 논리가 시장을 지배하지 않도록 개발하는 엔지니어들도 사명감을 가질 필요가 있다고 생각합니다.

카QA센터 -

자동차에 대한 모든 질문에 답해 드립니다.

댓글로 질문을 남겨 주세요.

하루에 하나씩 꼭 답변하겠습니다