내 차에 버그가 난다고?
-휴먼 에러는 없어도 시스템 에러는 있다.-
모빌리티는 이동의 편의성을 위해 발전해왔습니다. 이제 멀지 않은 미래에서는 모빌리티가 자율주행을 하며 더 이상 인간이 운전에 직접 개입할 필요 없는 이동수단이 될 것입니다. 사람이 직접 운전하지 않더라도, 모빌리티는 탑승자와 보행자의 안전을 보장할 수 있어야 할 것입니다.
만약 그렇지 않다면, 도로 위 난폭 운전하는 모빌리티 소프트웨어의 면허를 취소해야 할지도 모르겠습니다.
-안타까운 자동차 결함 사고-
Toyota’s Case
사진/unsplash2009년 8월 28일 미국 샌디에고 소방서에 다급한 목소리의 전화가 걸려옵니다.
“We’re in a Lexus” .... “we’re going north 125” ... “and our accelerator is stuck.”... “we’re approaching the intersection.”...“hold on guys, pray, pray”... “oh”.......
관련 영상 : https://www.youtube.com/watch?v=03m7fmnhO0I
긴급했던 전화는 끊기고 렉서스에 고속도로 순찰대 경찰관 마크 세일러와 그의 가족 4명은 안타깝게 세상을 떠나게 되었습니다.
이에 차량 제조사 도요타는 바닥 매트가 가속 페달을 눌러 사고가 났다는 주장을 펴면서 매트에 대한 차량 약 900만 대 리콜을 진행하였습니다. 초기에는 운전자의 운전 미숙이나 실수, 하드웨어 설계 결함에 초점을 맞췄습니다. 그러나 자동차의 전자화와 급발진 현상도 점차 늘어나면서 차량 제어 소프트웨어 결함을 의심하기 시작했습니다. 하지만 확실한 원인을 찾아내지 못한 상태로 사건이 종결되는 듯했지만...
사진/미국 유타주 고속도로 순찰대2007년 10월 20일 오클라호마에서 발생한 차량 사고가 재조명됩니다.
당시 도요타 2005년 식 캠리(Camry)의 급발진 추정으로 인한 사망사고의 민사 소송건이 진행되고 있었습니다. 일명 “Bookout v.Toyota”라고 불리는데요,
미국 도로교통안전국(NHTAS)과 항공우주국(NASA)에서 밝히지 못한 것을 한 민간인이 발표했습니다. 임베디드 소프트웨어 전문가인 마이클 바(Michael Barr)는 사건의 원고 측 전문가 증인으로 참여했는데, 바 교수가 이끄는 바 그룹(Barr Group)에서 도요타 제어 소프트웨어가 자동차 급발진의 원인일지도 모른다는 구체적인 분석 결과를 주장했습니다.
관련 자료 :https://embeddedgurus.com/barr-code/2013/10/an-update-on-toyota-and-unintended-acceleration/
사진/Pixabay분석 결과는 충격적이었는데요, 도요타가 처음 주장했던 바닥 매트가 가속페달을 눌러 자동차가 가속했다는 주장과는 다르게 소프트웨어 오류는 전자제어장치(ECU) 내 메모리 영역에서 일어났던 것으로 밝혀졌습니다.
소프트웨어 간 정보를 주고받을 때 특정 메모리 영역을 공유하는데, 이 공유 지점에서 간섭현상이 일어나 ETCS(Electronic Throttle Control System)에 잘못된 지시가 내려졌고 이것이 급발진을 유발한 것입니다.
차량 소프트웨어를 설계할 때 결함이 있었다고 마이클 바 교수는 다음과 같이 증언합니다.
- Failsafe 구조 결함
- 매우 낮은 소스코드 품질
- 표준 OSEK 운영체제 미사용
- Bit flip으로 메모리 손상
…
2013년 10월 24일 미 재판부는 이를 차량 소프트웨어 결함으로 인정하고
피해자에게 300만 달러를 배상하라고 평결하였습니다.
이에 곧 제조사는 알려지지 않은 금액으로 피해자와 합의하였습니다.
사진/Pixabay이 사건을 계기로 그동안 기계 부품을 보조하는 부수적 존재로만 여겨지던 차량 소프트웨어 품질의 중요성을 인식하게 되었습니다. 그러나 얼마 지나지 않은 최근에 차량 소프트웨어 기술의 첨단을 달리는 '자율주행차량'에서 탑승자와 보행자의 생명을 앗아가는 일이 있었습니다.
Tesla Autopliot Crash
사진/미 플로리다 교통경찰 제공2016년 5월 미국 플로리다에서 자율주행 중이던 Tesla 차량이 트럭의 형태를 인식하지 못하고 추돌하는 사고가 있었습니다. 사고 원인인은 햇빛을 받아 회색빛을 띈 상대 차량의 차체를 도로로 인식해 버려 충돌하고 만 것이었는데요, 이러한 식별 문제로 인해 안타까운 사고가 발생하고 말았습니다.
사진/미 플로리다 교통경찰 제공더욱 안타까웠던 것은 이러한 사고가 발생하기 3일 전, 이미 자동차가 같은 증상을 보였다는 것인데요, 위의 사진은 사고 3일 전 사고차량의 블랙박스 화면중 일부입니다. 똑같이 햇빛을 받아 회색빛을 내고 있는 차량을 인식하지 못해 제동 반응이 나타나지 않아 상대 차량에 너무 접근해 버린 모습을 볼 수 있습니다.
당시 Tesla의 탑승자 조슈아 브라운은 혁신적인 기술에 관심이 많고, 특히 자율주행 중인 본인의 영상을 올리기도 하는 등 Tesla 자율주행 기술에 많은 신뢰가 있었습니다. 그러나 자율주행 첫 사망사고자가 된 그의 죽음은 안전성 논란을 증폭시키는 등 시사에 큰 충격을 주었습니다.
이러한 소프트웨어 결함으로 인해 피해를 입는 건 비단 운전자만이 아닙니다. 자율주행차량으로 인한 보행자 사망사고 또한 모빌리티 업계에 경종을 울렸습니다.
Uber 자율주행 보행자 사망사고
사진/YTN2018년 3월 밤, 자율주행 Level 4 시험 중이던 우버 차량이 횡당보도가 아닌 곳에서 자전거를 끌고 도로를 건너던 여성을 치여 숨지게 하였습니다. 시험 주행 중 운전자가 탑승하였지만 해당 작업자가 휴대폰으로 동영상을 보는 등 직무 태만으로 결론 지었습니다.
소프트웨어에서 반응하지 못하더라도 운전자가 모빌리티의 '안전장치' 역할을 하고 있어야 했었지만, 자율주행에 대한 신뢰를 넘어 맹신이 돼버린 상황이 만들어낸 사고였습니다. 이에 우버에서는 이러한 사고가 발생하지 않도록 자율주행 소프트웨어를 개선하고, 미 당국에서 자율주행차 시험에 관한 새로운 규제와 가이드라인을 마련하였습니다.
지금까지 그동안 벌어졌던 차량 소프트웨어 결함으로 인한 사고 사례들에 대해서 살펴보았는데요,
모빌리티 기술의 발전을 통해 이동의 질을 향상해준다는 것은 참 좋은 현상입니다. 그러나 인간을 위한 기술이 누군가를 해치는 일이 일어난다면 안 될 것입니다.
앞으로 나올 모빌리티 또한 당연하게도 운전자뿐만 아니라 이동을 경험하는 모든 주체의 안전을 고려하며 설계되어야 합니다. 이에 모빌리티 개발자들은 안전성과 높은 신뢰성을 위한 개발을 이어나가야 할 것입니다.
마치며, 이러한 사고들을 교훈으로 다양한 모빌리티 사업의 이해자들이 차량 소프트웨어 기술은 '편의 제공' 뿐만이 아닌 '안전한 이동'을 보장해야 한다는 것을 염두했으면 좋겠습니다.
