ii1. 사고뭉치
PART ii. 자율 주행 시대를 걱정하다
Photo: Elon Musk Drinking Beer by Coolarts223 under CC Attribution 3.0
오늘날 자동차에는 드라이버의 조작 미숙과 오류를 보정하고 주행 편의성을 높이기 위해 다양한 드라이버 지원 (Driver Aid) 기술이 사용된다. 차선 유지 보조, 적응형 크루즈 컨트롤, 장애물 감지 자율 제동, 자세 제어 등 드라이버의 한계를 벌충하는 능동 컨트롤 시스템이 탑재된 오늘날의 모든 자동차는 크게 보아 자율 주행 차량 범주에 속한다. 이처럼 현재 통용되는 '자율 주행 (Autonomous Driving, Self-Driving, Driverless, Robotic, Unmanned)'이란 용어는 범위가 넓어 현재 상용화 단계에 있는 이종 자율 주행 기술 혹은 서비스 간엔 성능 편차가 심한 편이다. '자율'이란 용어의 모호성은 '자율 주행' 문제를 둘러싼 이해 충돌 시 자의적 해석의 틈을 줘 이해 당사자간 다툼의 발단이 될 수 있다. 어디까지 '자율'로 인정할 것인가의 문제를 해결하는 가장 확실한 해결책은 그 누가 봐도 믿어 의심치 않을 완전 자율 주행 자동차를 만드는 것이다. '완전한' 자율 주행 자동차는 언제 어디서든 인간의 개입 없이 스스로 주어진 임무를 안전하게 수행할 수 있어야 한다. 하지만 세상엔 아직 그런 자동차는 없다. '완전 자율 주행 자동차'가 되고픈 수많은 '불완전 자율 주행 자동차'들이 있을 뿐이다.
우후죽순 (雨後竹筍)
아직까지 자율 주행 시장엔 완전 자율 주행을 실현한 회사도 시장을 쥐락펴락하는 절대 강자도 없다. 현재의 자율 주행 시장은 저마다의 자율 주행 솔루션을 가진 수백수천의 테크 회사가 살아남기 위해 경쟁하고, 자본은 이들의 생존에 베팅하는 욕망과 혼돈의 장이다. 여러 기술 선진국, 글로벌 기업들, 세계 유수의 대학들이 주인 없는 자율 주행 서비스 시장의 주도권을 선점하기 위해 막대한 자원과 시간을 투입하고 있다. 모든 시장의 생리가 그렇듯 이들의 힘겨루기가 끝나면 자율 주행 시장도 결국 소수의 강자 대결 구도로 재구성될 것이다.
자율 주행 시장의 성장과 함께 다양한 자율 주행 차량과 서비스가 탄생했고 2023년 현재, 서비스 안정화 단계에 들어갔다고 주장하는 자율 주행 서비스도 여럿 생겼다.
사람들로 하여금 흥분과 논란, 극단의 두 반응사이를 오가게 하는 테슬라의 "풀 셀프 드라이빙 (FSD)" 기능은 현재 자율 주행의 미래에 가장 가까운 자율 주행 솔루션이다. 오죽 자신 있었으면 일론 머스크는 테슬라 소유자들이 테슬라를 무인 자율 주행 택시로 운용하고 돈을 버는 미래 비전 "테슬라 네트워크"를 주장하기도 한다. 테슬라 FSD의 가장 강력한 라이벌은 구글의 자회사인 웨이모 (Waymo)다. 웨이모는 현재 애리조나 주 피닉스에서 자율 주행 라이드셰어 차량을 테스트하고 있다. 초기에는 차량에 안전 운전자가 탑승했지만 최근엔 특정 지역에서 안전 운전자를 없앤 무인 서비스를 테스트하기 시작했다. 캘리포니아 주 샌프란시스코에선 제너럴 모터스(GM)의 크루즈(Cruise)가 무인 자율 주행 택시 서비스를 테스트 중이다. 중국의 오토엑스 (AutoX), 아폴로고 (Apollo Go) 서비스도 중국 일부 지역에서 완전 무인 택시를 운행하고 있다. 한국에서도 정부 주도로 무인 자율 주행 택시 서비스가 시험되고 있다.
자율 주행 자동차가 도로를 누비는 세상은 분명 인류의 생활상을 뿌리째 흔들어 바꿀 진보다. 많은 사람들, 특히 운전이 싫고 무서운 사람들이 자율 주행이 열 새 세상을 기다리는 듯하다. 이 글을 쓰기 얼마 전에도 나는 한 친척으로부터 "자율 주행 자동차가 곧 나온다는데 지금 차를 사야 할지, 좀 더 기다려야 할지 고민된다"는 하소연을 들었다.
반면 자율 주행 기술의 안전성에 갈수록 의문을 갖는 회의론자 수도 만만치 않다. 자율 주행 회의론자들은 "인공지능이 시시각각 변하고 불확실성 가득한 도로 상황을 인간만큼 잘 대처할 수 있을까?", "인공지능 드라이버가 인간 드라이버만큼 자동차를 안전하게 운전할 수 있을까?" 의문을 던진다. 이 의문을 해소하는 가장 객관적이고 확실한 방법은 전 세계에서 가장 큰 자율 주행 서비스 시장인 미국에서 수집된 자율 주행 사고 데이터를 참고하는 것이다. 자율 주행 차량의 주요 사고 원인을 알면 현재 자율 주행 기술이 가진 한계를 확인할 수 있다.
No. 1 Problem
가장 흔한 자율 주행 차량 관련 사고는 비자율 주행 차량이 자율 주행 차량을 후미에서 들이받는 추돌 사고였다. 비자율 주행 차량이 자율 주행 차량의 측면을 들이받는 사고가 그다음으로 흔했다. 이들 대부분은 사람인 가해 운전자의 부주의, 조작 미숙, 차간 거리 유지 실패 결과 자율 주행 자동차가 피해를 입은 경우이므로 자율 주행의 문제라고 볼 수 없다. 보행자, 자전거 또는 도로 위 설치물과의 접촉사고도 흔한 사고 유형이었다. 이 종류의 사고도 안전을 위해 자율 주행이 강제 해제되어 사람 운전자가 수동 운전했어야 하는데 실패한 사례가 많았다. 객관적 데이터는 인간이 인공지능보다 더 많은 사고를 내고 있다고 말한다.
자율 주행 차량 관련 사고의 대부분이 진짜 인간 드라이버의 과실 때문이라면 자율 주행 차량 만의 그룹에서의 사고 빈도는 비자율 주행 차량 만의 그룹에서의 사고 빈도보다 적어야 한다. 과연 그럴까? 통계에 따르면 사고에 노출되는 차량의 수는 일반 차량의 경우 백만 대 중 4.1대인데 반해 자율 주행 차량은 백만 대 중 9.1대라고 한다. 단위 대수 당 사고 빈도만 놓고 보면 자율 주행 자동차가 두 배 넘게 위험하다. 100% 넘는 사고율 증가는 자율 주행 기술 자체의 결함을 인정하지 않고선 설명할 길이 없다. 터졌다 하면 뉴스 랭킹의 상위를 차지하는 대형 자율 주행 교통사고는 단순히 인간 드라이버가 책임을 다하지 않아서 생긴 문제로 보이진 않는다. 특히 무인 자율 주행 택시 사고는 인간의 개입 가능성이 없는 100% 자율 주행의 문제다.
위 사진들은 모두 자율 주행 자동차가 앞서 달리던 자동차나 장애물을 후방에서 들이받은 사고 사례를 보여준다. 인공지능 드라이버 모델은 방대한 인간 드라이빙 데이터를 기반으로 강화 학습, 뉴럴 네트워크, 모방 학습 기법 등을 통해 생성된다. 이들 차량에 탑재된 인공지능 속도 제어 모델도 위와 유사한 트래픽 데이터를 충분히 반영해 생성되었을 것이고, 이 모델의 브레이킹 목표는 당연히 '전방 장애물 접촉 전 정지'였다. 하지만 실제 자동차의 정지 거리는 인공지능의 예측값보다 길었다. 그 결과는? Rear-end Shunt, 추돌 사고다.
사건의 재구성
자동차의 비상 정지 과정은 드라이버의 장애물 인지에서 시작한다. 드라이버의 센서가 전방의 위험 장애물을 인지한 순간 자동차와 장애물 사이의 물리적 거리를 측정하면, 이 길이가 자동차가 사용할 수 있는 최대 안전 거리 (Safety Distance)다. 드라이버가 전방의 위험을 더 늦게 인지할수록 장애물과의 거리는 갈수록 줄고 충돌 가능성은 점점 커진다. 드라이버의 센서가 망가지면 드라이버는 위험을 전혀 인지할 수 없고 인지 거리 (Preview Distance)는 무조건 0이다. 드라이버가 눈을 감으면 자동차는 결국 장애물과 충돌한다.
최대 안전 거리 = 인지 거리
위 사례들에서 추정 가능한 첫 번째 사고 원인은 인지 장애다. 센서가 장애물을 인지하지 못했거나, 인지했어도 장애물을 충돌 위험 요소로 감지하지 못했을 수 있다. 만약 인지 불능이 사고의 원인이라면 이는 명백한 시스템 결함으로 법적 책임은 100% 제작사에 있다.
드라이버의 인지 기능이 정상 작동한다면 드라이버의 뇌는 충돌을 피하기 위해 '비상 정지' 명령을 떨굴 것이다. 장애물 인지 시점부터 '비상 정지' 결정까지 자동차가 흘러가는 거리를 결정 거리 (Decision-making Distance)라 한다. 비상 정지 결정까지 시간이 길어질수록 충돌을 피할 수 있는 실제 안전 거리는 준다. 위험 요소를 보고도 최대 안전 거리가 다할 때까지 정지 명령을 내리지 않으면 자동차는 결국 장애물과 충돌한다. 즉, 실제 안전 거리가 0이다.
실제 안전 거리 = 최대 안전 거리 - 결정 거리
추정 가능한 두 번째 사고 원인은 결정 장애다. 센서가 충분한 거리를 두고 위험 요소를 인지하였으나 정지 명령을 내리지 않았을 수 있다. 만약 의사 결정 장애가 사고의 원인이라면 이는 명백한 시스템 결함으로 법적 책임은 100% 제작사에 있다.
드라이버의 뇌가 위험 요소를 정확하게 인지하고 비상 정지를 지체 없이 결정, 명령한다 가정하자. 이 정지 명령을 받은 자동차의 정지 거리가 실제 안전 거리를 넘지만 않으면 충돌 사고는 피할 수 있다.
실제 안전 거리 > 정지 거리 ---> 안전
실제 안전 거리 = 정지 거리 ---> 안전
실제 안전 거리 < 정지 거리 ---> 충돌
자동차 정지 거리는 다음과 같이 표현된다.
정지 거리 = 반응 거리 + 제동 거리
드라이버가 '비상 정지' 명령을 떨군 시점부터 자동차가 정지할 때까지의 총 이동 거리, 즉 정지 거리 (Stop Distance)는 반응 거리 (Reaction Distance)와 제동 거리 (Braking Distance)의 합이다.
반응 거리(Reaction Distance)는 최초 정지 명령 시점부터 브레이크 마스터 실린더에 기계적 압력이 전달될 때까지의 지연 시간 동안 자동차가 달리는 거리다. 인간 드라이버는 인공지능 드라이버에 비해 브레이크 명령부터 다리 근육 반응까지의 지연 시간이 길고, 반응 속도도 사람마다 다르다. 따라서 같은 자동차라 하더라도 운전하는 드라이버에 따라 정지 거리가 달라진다. 드라이버의 반응이 더딜수록 반응 거리가 늘고, 정지 거리도 길어진다. 반면 정지 명령을 받은 자율 주행 자동차의 반응엔 지연이 거의 없다. 반응 거리가 0이다. 이는 자율 주행 기술이 인간의 신체적 한계 때문에 생길 수 있는 사고를 막아줄 수 있음을 의미한다. 만약 정지 명령을 받고도 브레이킹 시스템이 반응하지 않았다면 이 또한 명백한 시스템 결함으로 법적 책임은 100% 제작사에 있다.
자율 주행 자동차의 브레이킹 시스템이 지연 없이 정상 반응하면 자동차의 정지 거리를 결정하는 요소엔 역학적 제동 거리만 남는다.
정지 거리 = 제동 거리
제동 거리는 차량 하드웨어 성능에 크게 좌우되는 성능 지표다. 만약 서로 다른 두 사람에게 완벽하게 똑같은 두 자동차를 주고 직선 도로를 같은 속도로 달리게 한 후, 각자 아무 때나 브레이크 페달을 끝까지 밟아 멈추는 실험을 한다 치자. 브레이크 풀-페달 (Full-Pedal)이 감지된 순간부터 차가 정지할 때까지 이 두 자동차가 이동한 거리, 즉 제동 거리 (Braking Distance)는 같다. 제동 거리는 오로지 자동차의 기계적 저항에 의한 감속 과정에 쌓이는 값이다. 여기엔 두 사람의 신체적 반응 속도 차가 개입할 여지가 없다.
직선을 달리는 자동차의 제동 성능은 뉴턴의 제2법칙 (F = ma)을 통해 구할 수 있다. 정지하는 자동차엔 다음의 힘이 작용한다.
전륜 타이어 마찰력
후륜 타이어 마찰력
공기 저항력
노면 경사로 인한 중력
이때 자동차에 작용하는 모든 힘이 이루는 동적 평형을 식으로 나타내면 다음과 같다. 이 식에서 우항의 모든 힘은 자동차 감속에 기여한다. 우변의 힘의 합이 클수록 자동차의 제동력이 커진다.
자동차 질량 x 가속도 = 전륜 타이어 마찰력 + 후륜 타이어 마찰력 + 공기 저항력 + 노면 경사로 인한 중력
이 식의 우항을 제동력 합이라고 단순화하면
자동차 질량 x 가속도 = 제동력의 합
===> 가속도 = 제동력의 합 / 자동차 질량
이다. 이를 식 (1)이라 하자.
한편, 가속도는 속도의 시간 변화율, 즉 시간의 변화에 따라 속도가 어떻게 변하는가를 나타내는 지표다. 급정거하는 자동차의 가속도를 정의에 따라 초기 속도와 최종 속도로 나타내면 다음과 같다. 이를 식 (2)라 하자.
가속도 = 속도 변화 / 시간 변화 = (초기 속도 - 최종 속도) / 제동 시간
위의 식(1)과 식(2)를 연결하면
초기 속도 - 최종 속도 = ( 제동력의 합 / 자동차 질량 ) x 제동 시간
이 된다.
자동차가 완전히 정지하면 최종 속도는 0이므로 브레이크 체결 후 정지까지 걸리는 시간은
제동 시간 = 초기 속도 x 자동차 질량 / 제동력의 합
이다.
급정지 상태에선 자동차 질량과 종방향 제동력 합이 일정하므로 제동 시간은 초기 속도에 비례한다. 혹시라도 탑승자나 짐이 많아져 자동차가 무거워지면 같은 속도로 달려도 제동 시간이 길어진다. 혹시라도 브레이크 계통의 마모가 심하거나 타이어 수명이 다해 제동력과 접지력이 부실한 것도 제동 시간이 길어지는 원인이 된다. 따라서, 제동 시간을 줄이려면 (1) 천천히 달리고 (2) 자동차를 가볍게 하고 (3) 브레이크와 타이어를 최대한 건강한 상태로 유지해야 한다.
속도는 변위의 시간 변화율, 즉 시간의 변화에 따라 위치가 얼마나 변하는가를 나타내는 지표다.
속도 = 순간 위치 변화 / 순간 시간 변화
=>> 1 / 순간 시간 변화 = 속도 / 순간 위치 변화
이를 식(1)에 적용해 다시 풀면 다음과 같다.
가속도 = 순간 속도 변화 / 순간 시간 변화
= 순간 속도 변화 x (속도 / 순간 위치 변화)
= 제동력의 합 / 자동차 질량
=>> 속도 x 순간 속도 변화 = (제동력의 합 / 자동차 질량) x 순간 위치 변화
이를 제동 시간에 대해 적분하면 다음과 같다.
초기 속도의 제곱 / 2 = (제동력의 합 / 자동차 질량) x 제동 거리
따라서 제동 시작 후 정지 상태에 이르기까지의 이동 거리, 즉 제동 거리는 다음과 같이 표현된다.
제동 거리 = (초기 속도의 제곱 x 자동차 질량) / (제동력의 합 x 2)
급제동 거리는 자동차의 주행 속도, 자동차 질량, 제동력 총합의 함수다. 이 식은 급정거하는 자동차의 제동 거리도 제동 시간과 마찬가지로 자동차 질량에 선형 비례, 제동력의 크기에 선형 반비례함을 알려준다. 하지만 제동 시간과 제동 거리 사이엔 한 가지 중요한 차이가 있다. 제동 시간은 초기 속도에 비례하지만 제동 거리는 초기 속도의 제곱에 비례한다. 즉, 주행 속도를 두 배 높이면 정지까지 걸리는 시간은 단 두 배 커지지만, 제동 거리 증가는 무려 네 배가 된다.
급제동 상황에서 스피드 컨트롤러의 목표는 제동 거리를 정확하게 예측해 충돌 사고를 피하는 것이다. 자동차의 무게는 비교적 정확하게 알 수 있다. 주행 속도 쉽게 측정할 수 있다. 결국 제동력의 총량만 정확하게 알 수 있다면 제동 거리는 예측이 가능하다. 바꾸어 생각하면 제동력의 총량을 알지 못하면 제동 거리 예측도 빗나갈 수 있다는 뜻이다. 사실 급제동 시 나타날 실제 제동력 총량은 정확한 측정, 예측이 모두 어렵다 (이 내용은 별도의 꼭지로 다룰 것이다). 이 때문에 제동 거리를 줄이는 가장 안전한 방법은 주행 속도를 (때로는 필요 이상으로) 낮추는 것이다. 만약 어떤 장애물이 위 식으로 계산된 최소 제동 거리 이내에서 돌발적으로 나타난다면 자동차는 주행 경로를 바꾸지 않는 한 충돌을피할 수 없다. 이 사고는 피할 수 없는 자동차의 물리적 한계에 기인한 것으로 100% 제조사의 책임이라고 단정할 수 없다.
인간의 책임
자율 주행 서비스 회사들은 자신들의 차량이 인간 운전자보다 절대적으로 더 안전하다고 주장한다. 나도 이 주장에 동의한다. 자율 주행 자동차는 인간의 과욕과 부주의로 인한 어처구니없는 사고의 대부분을 역사로 만들 수 있다. 하지만 현재 상용화된 모든 자율 주행 서비스는 안전 자율 주행 조건이 갖춰지지 않은 경우 인간의 개입이 반드시 필요하기 때문에 '무인'이나 '자율' 같은 용어는 소비자들의 과신을 초래할 소지가 있다. 자율 주행의 능동 컨트롤 메커니즘이 인간보다 빠르고 정확하지만 아직 완벽하진 않기에, 인간 운전자는 차량의 정상 작동 여부를 항시 모니터링해야 하고 비정상 작동이 걱정되면 언제든지 드라이빙 컨트롤을 하이재킹 (Hijacking) 해야 한다. 이는 자율 주행 레벨 2의 필수 요건이지만 안전을 위해 레벨 3이나 4에서도 여전히 유효하다고 나는 생각한다. 중상 혹은 사망이 초래된 테슬라 FSD 관련 중대 사고 사례들은 대부분 인간 수퍼바이저 (Supervisor)가 자율 주행 부적합 상황에서 인간의 의무를 다하지 않았을 때 터졌다.
자율 주행 서비스 회사들의 장밋빛 마케팅도 큰 문제다. 이들은 '완전 자율 주행' 혹은 '완성형 자율 주행' 같은 레이블링으로 소비자와 투자자를 유인하고 있으며, 그 결과 대중이 자율 주행 능력을 실제 수준보다 과대평가, 과신하는 결과를 낳았다.
자율 주행 기술이 충분히 완벽해질 때까지 우리 의심을 거두지 말자.
