by
Sep 20. 2020
자율주행이 현실이 되려면
테크보다 사회적 합의의 철학이 중요해지는 시대의 자율주행에 대하여
자율주행자동차는 운전자 또는 승객의 조작 없이 자동차 스스로 운행이 가능한 자동차를 말합니다. 실제로 자율주행의 개념은 1960년대부터 개념화 및 연구가 시작되었으나 결국 최근에 들어 실제 우리 삶에 침투하게 되는 가장 큰 배경은 아주 단순하게 정리할 수 있습니다.
이걸 상업화하는데 들어가는 비용이 점점 합리적이 되고 있을 뿐이다.
그리고, 이것이 상업화에 성공하는 시점은 B2C 기준으로는 가격 수용성에 달려있겠지만, 아래와 같은 생각을 가지고 출시만을 기다리고 있는 많은 기업의 의사결정자들에게 B2C 보다 더 높은 가격 수용성을 가질 수 있기 때문에 실질적으로 상용차 물류 시장이 가장 먼저 이를 도입하는 비즈니스 업계가 되지 않을까라는 것이 일반적인 예측입니다.
이걸 활용하여 우리 회사가 지출하는 비용을 줄이는 것이 고용보다 더 나을 뿐이다.
이미 우리 삶에서는 "지능형 운전자 주행 보조(ADAS - Advanced Driver Assistance Systems)" 라는 자동차의 기능으로 판매가 되고 있기 때문에 전 세계에서 공식적인 표준처럼 활용하는 미국 자동차 기술학회(SAE : Society of Automotive Engineers)의 자율주행 6단계(0~5단계)의 기준에서는 이미 레벨 1~2 정도는 현실에서 사용하고 있으며, 기술적으로는 레벨 3 정도까지도 도착해있다고 볼 수 있습니다. 다만, 실제로 법규상 기준으로 보면 LEVEL 1 수준의 책임이 부여되고 있을 뿐이죠.
자율주행 관련한 단계별 구분이 궁금하신 분들은 아래의 기준을 한번 참고해보시기 바랍니다.
출처 - https://www.etri.re.kr/webzine/20181123/sub01.html
출처 : 자율주행자동차 제어권 전환 안정성 평가 연구단 - http://dvirnd.katri.kr/저는 공학자도, 엔지니어도 아니기 때문에 기술적으로 현재 어디까지 도착했는지에 대해서 논쟁하고 싶지는 않습니다. 1) 라이더가 필수적으로 필요한가, 카메라의 비전 기술만으로 충분히 대응이 가능한가, 아니면 레이더도 필요한가 / 2) 자동차 혼자서 충분히 처리가 가능한가, 커넥티비티 통신망을 기준으로 한 V2V까지 적용하는 것이 필수적인가, 지능형 교통 인프라까지 연계되어야만 가능한가와 같은 테크적으로 논쟁적인 가장 큰 지점도 결국은 "수요자가 구매할 수 있을 만큼 가격을 떨어트릴 수 있느냐?" 의 논쟁에서 크게 벗어나지 않으며 테크 발전의 시기적 예측은 이미 맞는 게 거의 없을 만큼 컴퓨팅 파워가 증가하고 있기 때문입니다.
제가 오늘 이 글을 통해 논의하고 싶은 내용은 기술이 아무리 발전해도 결국 자율주행차가 실질적으로 세상에 돌아다니기 위해서는 더 중요한 사회적 합의와 이를 통한 법규적 책임이 더욱 중요하기 때문이죠.
이런 질문을 해보겠습니다.
자율주행차를 합리적인 가격에 살 수 있다면 갖고 싶으신가요?
아마 이 질문에 대한 답은 시대의 변화에 따라 조금씩 변해가겠지만, 당연히 기본적으로 찬성이 많을 수밖에 없습니다. 운전 자체가 노동 소득의 근원이거나, 매일 하는 운전 자체가 너무나 즐거운 특정한 수요를 제외하면 운전은 그 자체로 매우 힘든 일이기 때문입니다.
출처 : 자율주행 자동차 도입 찬성 여부 - http://dvirnd.katri.kr/ 실제로 이런 인식 조사를 해본 결과들을 보더라도 자율주행 자동차에 대한 인식은 지속적으로 개선되고 있음을 알 수 있습니다. 실제로 기존의 제조사들이 극도로 소극적으로 자신들의 기능이 아직은 자율주행자동차가 아니라고 하는 반면 기존의 기득권과 싸워야 하는 테슬라와 같은 신생 업체는 이미 윤리적인 문제는 뒤로 미루더라도 "오토파일럿" 이라는 명칭을 통해 자신들의 자동차가 이미 자율주행자동차라는 브랜드 자산을 구축하고 있으며, 2020년 4분기까지 5단계가 가능한 자동차를 OTA 기반 소프트웨어 업데이트를 통해 제공하겠다고 호언장담하고 있습니다.
그런데, 여기서 질문을 조금 바꿔보겠습니다.
나의 자율주행자동차가 누군가를 사고 나서 다치게 한다면 책임을 지겠습니까?
트롤리 딜레마와 같은 철학적인 윤리적 질문은 원래부터 정답이 없습니다. 그저 그걸 받아들이는 사람의 생각이 차이일 뿐입니다. 실제로 자율주행차가 도로를 돌아다니면 현실에서 발생할 문제는 매우 단순합니다.
자동차가 사고를 냈다. 그 책임은 누구에게 있는가?
구글이 개념을 중심으로 논의되던 자율주행차의 상용화 프로젝트를 시작하며 주요 명분으로 내세웠던 것 중 하나도 교통사고의 대부분은 "사람" 때문이라는 것입니다. 음주, 졸음, 운전미숙 등으로 인하여 누군가는 엄청난 피해를 입게 되고, 피해자가 사망에 이르렀을 경우 그 가족까지도 연계되는 피해, 이것을 전체적으로 더하면 사회적으로 발생하는 전체 피해가 너무 크기 때문에 반드시 개발해야 하는 기술이라는 점이었습니다.
하지만, 기계 역시 실수를 합니다. 그렇게 발전했다는 컴퓨터 역시 우리가 일하다 보면 블루스크린을 만나지 않습니까? 만약에 거기에 내가 며칠간 밤새서 작업해놓은 결과물이 날아갔다고 생각해보세요. 누구 책임인가요?
블루스크린의 화면도 진화(?)하고 심지어는 오류 정보까지 자동으로 수집해가도록 변경되었지만, 실제 날아간 생산성에 대한 책임은 저장과 백업을 게을리한 당신에게 있습니다. 상사에게 결과물을 늦게 제출한다고 질책을 받거나 고과에 영향을 받아 승진을 못해도 그 책임은 당신에게 있습니다. 만약에 해고까지 당하는 상황이라면 기분이 어떨까요?
현행 기준 자동차와 관련된 사고의 책임은 "제조사 - 운전자 - 보험사" 가 상호 논의를 하게 되어있지만, 현실적으로 "제조사" 에게 책임이 전가되는 경우는 거의 없습니다. 급발진과 같은 요소가 일부 논쟁거리로 남아있지만 실제로 조사를 해봐도 사고가 난 해당 시점에 자동차가 오작동했다는 것을 재현하여 밝혀내는 것이 너무 어렵습니다. 급발진과 같은 문제를 만약에 해결하고자 한다면, 이런 복잡한 조사를 하는 것보다 차라리 엑셀레이터와 브레이크를 밟아야 하는 곳에 24시간 녹화가 가능한 카메라를 설치하고 이를 클라우드에 저장하여 제조사, 고객이 모두 확인 가능한 것이 의무화되지 않는 이상 밝혀내기가 어렵죠.
또한 대부분의 사고는 급발진과 특이한 케이스가 아니라 실제로는 자동차는 멀쩡했는데, 운전자의 과실인 경우가 사실 99.9% 가 되고 이에 따라서 피해 정도를 산정하여 보험사의 처리 규정에 의해 책임을 지는 것이 일반적인 상황입니다. 또한, 인간의 행동은 대수의 법칙으로 모아 보면 어느 정도 지점에 수렴하는 경향이 있기 때문에 이러한 발생 요인을 근간으로 보험계리사의 마법과 함께 보험료와 손해배상 비용이 산정됩니다.
자율주행차가 세상에 도래한 이후 이것은 어떻게 바뀌게 될까요? 가장 핵심은 "운전자는 운전을 하지 않았다" 에서 시작합니다.
내가 운전을 하지 않았습니다. 그런데 갑자기 자동차가 사고를 냅니다. 그리고 그 결과로 어떤 사람이 사망을 합니다. 내가 그런 사고가 발생할 수도 있다고 이미 인정하는 계약서를 작성하고 자동차를 구입하고 활용했기 때문에 형법 제268조를 따라 5년 이하의 금고 또는 2천만원 이하의 벌금에 처해질 경우 이를 순순히 받아들일 수 있을까요? 만약 어린이 보호구역에서 도로교통법 제12조 1항을 위반하여 13세 미만 어린이에게 교통사고처리 특례법 제3조 제1항의 죄를 범한 경우에는 사망에 이르게 한 경우 무기 또는 3년 이상의 징역, 상해에 이르게 한 경우 1년 이상 15년 이하의 징역 또는 500만원 이상 3천만원 이하의 벌금을 어떤 이의 제기도 없이 부담하시겠습니까?
나는 아무것도 하지 않았을 뿐, 제조사의 자동차를 믿고 구입해서 이용했을 뿐인데 무기징역으로 인생이 끝나는 것을 받아들일 수 있는 사람이 누가 있을까요? 실제로 내가 운전을 했어도 "뺑소니" 를 저지르거나 이를 은폐하기 위해 추가 범죄를 저지르는 것이, 이러한 것이 실제 소재가 되어 영화나 드라마로 개연성 있게 작품화되는 것이 우리가 사는 실제 세계입니다.
이 지점에서 우리가 제조사 관점에서 생각해볼 지점이 2가지로 분리됩니다.
1) 제조사 또는 자율주행소프트웨어나 툴킷 등을 제공한 회사가 그러한 사고에 대한 무제한적인 책임을 지게 할 수 있는가?
위의 전제가 성립한다면 해당 회사는 그 자동차를 만들어야 하는 상업적 동인이 상당히 떨어지게 됩니다. 만약에 책임을 지더라도 리스크를 경감시키기 위해서 당연히 보험회사에 보험을 가입하겠으나, 그 정도가 커지는 경우 보험사 역시 언제까지 계속 그 손해부담보를 기반으로 보함 상품을 운영할 수 없습니다. 대표적으로 계속되는 산불로 인해 커지는 피해로 인하여 캘리포니아의 특정 지역의 주택화재보험을 더 이상 연장하지 않겠다는 보험사의 입장에서도 이런 점을 볼 수 있죠. 만약에 계속 운영하다고 해도 보험료가 오를 것이고, 이는 결국 소비자 가격에 반영되어 자동차 가격 자체가 올라서 상업적으로 가치가 없어질 수 있게 됩니다.
반대로 타인을 다치게 하지 않았지만 그런 상황에 대응하기 위해서 급제동을 해야 하는 상황이거나 피해를 최소화하기 위해서 운전자의 피해가 발생하는 선택을 자동차가 했을 경우 그에 대한 부담은 누가 져야 하는 걸까요? 참 쉽지 않은 문제입니다.
자율주행은 AI를 기반으로 한 판단에 의한 실시간적인 하드웨어적 대응으로 이뤄지는 행위인데, 이게 왜 그렇게 작동했는지를 밝혀내는 것 자체가 엄청난 시간을 소요하게 됩니다. 우버나 테슬라가 일으킨 사고도 그것이 왜 발생했는가를 밝혀내는데 몇 개월 이상의 시간이 소요됩니다. 그동안 우리의 사법체계는 이러한 사고를 낸 자동차의 소유자와 피해자에게 어떻게 대응을 할 수 있을까요? 이 질문에 대한 답은 그렇게 쉽게 내릴 수 있는 지점이 아닙니다.
2) 제조사 또는 자율주행소프트웨어나 툴킷 등을 제공한 회사가 "우리 자동차는 자신의 판단에 따라서 운전자를 다치게 하거나 사망에 이르게 할 수 있습니다" 라고 명시할 수 있는가?
과연 1)번이 어떻게든 정착되어 보상 체계가 마련되어 있다고 생각해봅시다. 사고는 지금과 비교해서 분명하고 현격하게 줄어들지도 모르겠으나 어쨌든 발생은 하게 됩니다. 그럼 자동차를 판매하는 시점에 계약서의 약관 등에 이를 어떻게든 반영을 해야 됩니다. 어떤 문구로 반영할 수 있을까요?
만약에 아래와 같이 명시했다고 생각해봅시다.
우리 자동차는 고객에게 최상의 주행경험과 편의성, 안전성을 제공합니다. 하지만 상황에 따라서 사고가 발생할 위험 상황이 발생한 경우 고객의 안전을 최우선으로 행동합니다.
이 회사가 윤리적으로 직면할 수많은 비난과 질책이 벌써부터 들려오는 느낌입니다.
그럼 아래와 같이 명시했다고 생각해봅시다.
우리 자동차는 고객에게 최상의 주행경험과 편의성, 안전성을 제공합니다. 하지만 상황에 따라서 사고가 발생할 위험 상황이 발생한 경우 상황에 맞게 판단하여 행동합니다. 이는 운전자의 안전을 최우선으로 고려하지 않을 수도 있음을 의미합니다.
이 차를 당신은 사겠습니까? 나의 생사여탈권이 자동차회사에게 담보되는 형태의 계약이 법적으로는 과연 가능하기나 할까요? 법적으로 허용됐다고 해도 이 차를 타고 매일 출퇴근이나 여행을 하며 나의 목숨이나 형법적 책임의 운명은 내가 산 자동차에게 달렸다고 겸허히 받아들이고 이용하실 수 있습니까?
지금은 "내가 운전하니까" 이를 받아들일 수 있다는 것을 명확히 구분해야 합니다.
미래가 아니라 지금의 현실로 돌아와 보겠습니다. 국내에서 컴플라이언스 기준으로는 최상의 수준이라고 볼 수 있는 삼성전자의 서비스 약관입니다. 이를 이용함에 있어 소비자의 주의사항이나 의무, 회사의 책임 범위를 작성한 내용을 한번 그대로 가져와 보겠습니다.
복잡하게 적혀있는 것처럼 보이지만, 실제로 여러분이 이 회사의 제품을 살 때 매번 계약사항에 동의하는 사항들이며, 구조는 단순합니다.
회사는 회사가 할 수 있는 최상의 제품 및 서비스를 제공하겠으며, 법적인 영역의 책임은 전부 집니다. 고객 역시 본인의 행위에 대한 책임은 동일하게 있으며 이런 부분은 주의해주시기 바랍니다.
주의사항 | 삼성은 서비스를 이용하는 모든 사용자의 보안과 안전을 지키기 위해 노력하며, 사용자들이 서비스를 자유롭게 이용할 수 있도록 최선을 다하고 있습니다. 이를 위해 다음과 같이 서비스를 잘못 이용하지 않도록 주의해 주세요.
1. 소프트웨어 역설계 등의 방법으로 삼성 서비스의 소스코드나 알고리즘을 알아내기 위한 시도
2. 삼성 서비스의 기능을 임의로 수정하거나 비활성화하려는 시도
3. 삼성 서비스에 기초하여 2차적 저작물을 만드는 행위
4. 삼성 서비스를 이용한 대여, 재실시, 호스팅과 같은 서비스를 제공하는 행위
5. 삼성 서비스 이용과 관련하여 삼성 또는 제3자의 지식재산권을 침해하는 행위
6. 본 약관이나 관련 법률에 반하는 불법적인 목적이나 방법으로 삼성 서비스를 사용하는 행위
7. 악의적 또는 부정적인 방법으로 삼성 서비스를 이용하는 행위 (예: 해킹 또는 바이러스와 같은 악성코드나 유해한 데이터를 배포하는 행위 등)
8. 다른 사용자를 방해하거나, 시스템을 손상, 과부하, 악화시키거나, 또는 보안을 취약하게 만드는 방법으로 서비스를 이용하는 행위
9. 삼성 서비스와 서버 간의 전송 신호를 해독하려고 시도하거나, 서비스 또는 시스템으로부터 데이터나 정보를 수집하는 모든 행위
보증 및 책임
삼성의 보증 범위 | 삼성 서비스는 관련 법률이 허용하는 한도 내에서 어떠한 사항의 보증도 없이 ‘있는 그대로’ 또는 ‘이용 가능한 상태로’ 제공됩니다. 예를 들어, 삼성은 서비스에 관해 어떠한 상업성, 양호한 품질, 숙련된 작업 능력, 특정 목적 적합성, 신뢰성, 정확성, 바이러스 부재, 조용한 환경 유지, 제3자 권리나 기타 권리에 대한 비침해 등을 포함한 구체적인 약정이나 법률적인 보증을 하지 않습니다. 단, 관련 법률에 따라 묵시적 보증의 배제 또는 제한이 허용되지 않는 경우는 제외됩니다.
삼성의 책임 범위 | 사용자가 삼성 서비스에서 제공되는 콘텐츠나 기능을 사용하면서 발생한 손해는 삼성의 고의 또는 중대한 과실로 인한 경우가 아니라면 삼성에는 책임이 없습니다. 손해의 범위는 특별한 사유가 없이 발생한 오류, 누락, 중단, 결함, 작동이나 전송의 지연, 컴퓨터 바이러스, 연결 실패, 네트워크 비용 발생 등이며, 이로 인한 기타 모든 직접적, 간접적, 특별한, 우발적, 징벌적, 결과적 손해 등을 포함합니다. 하지만, 관련 법률에 따라 손해의 배제 또는 제한을 허용하지 않는 경우는 제외됩니다.
