brunch

매거진 Tech Ethics

라이킷 11 댓글

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 카카오 정책산업 연구 May 28. 2024

이용자의 안전과 데이터 보호를 우선하는 자율주행

<<Tech Ethics 11호>>

최근 주변에서 자율주행 차량이 늘어나고 자율주행과 관련한 많은 뉴스가 쏟아지면서 완전자율주행이 임박한 것처럼 느껴지기도 합니다. 하지만, 진정한 자율주행이 실현되기 위해 넘어야 할 과제는 여전히 많습니다.

카카오모빌리티는 2020년부터 세종을 시작으로 다양한 자율주행 파트너사들과 셔틀형, 택시형, DRT (Demand Responsive Transit, 수요응답형 셔틀) 등 자율주행 서비스를 운영하고 있습니다.

그림1. 카카오모빌리티의 자율주행 서비스

이러한 경험을 바탕으로 카카오모빌리티는 자율주행이 일상이 될 수 있는 기반을 만들도록 최선을 다하고 있습니다. 이번 ≪Tech Ethics≫ 11호에서는 카카오모빌리티의 고도화되고 안전한 자율주행 서비스를 제공하기 위한 노력에 담긴 기술과 철학을 소개합니다.

자율주행차는 어떻게 작동할까요?

공상과학 영화나 소설에서나 보던 자율주행은 현실에서 어떻게 가능할까요? 사람이 운전하는 것에 비유해 자율주행차의 동작 원리를 설명해보겠습니다.

사람은 눈과 귀를 통해 운전하는 차량의 주변 정보(상대 차량, 차선 정보, 노면 정보, 신호등 정보 등) 를 인식합니다. 교통 규범이나 속도 제한, 차선 정보와 같은 정적인(static) 정보도 있고, 시시각각 변화하는 신호등 정보나 주변 차량과의 거리, 상대적인 속도와 같은 동적인(dynamic) 정보도 있습니다. 이와 같은 정보를 모두 고려하여 자동차의 방향(운전대)과 속도(악셀레이터와 브레이크)를 조절하면서 운전합니다.

자율주행차 역시 사람이 운전할 때와 비슷하게 1) 인지 2) 판단 3) 제어 3가지 과정을 통해 운영됩니다. 인지 영역은 LiDAR, radar, camera, GPS 등 다양한 센서가 사람의 눈처럼 정보를 인식한 후 각종 정보를 융합해 주변 상황을 인식합니다. 이렇게 인지한 원정보(raw Data)와 이를 기반으로 예측한 데이터를 통합해 자율주행차량의 운행 지침이 결정됩니다. 이 부분은 사람의 뇌가 판단을 하는 과정과 유사합니다. 마지막으로 판단한 운행 전략을 기반으로 차량의 조향과 가/감속을 제어합니다. 이 과정은 사람이 인지한 정보를 바탕으로 판단을 내린 후 손으로 운전대를 발로 악셀레이터와 브레이크를 밟는 과정과 비슷합니다.

자율주행을 고도화하는 과정에서 가장 큰 어려운 부분은 인지와 판단 영역입니다. 자전거, 오토바이가 함께 운행하는 복잡다단한 도심 환경, 집중호우로 침수된 도로나 폭풍에 쓰러진 나무, 운행 중 갑자기 도로로 뛰어드는 야생동물 등 사람이 운전을 해도 도로 상황을 정확하게 인식하기 어려운 경우가 많습니다. 하지만 생성형 AI 기술을 포함한 다양한 기술 혁신으로 인지 영역은 급속도로 발전하고 있습니다.

반면, 판단은 여전히 해결해야 할 난제가 많습니다. 지금까지 자율주행차들은 rule-based algorithm(규칙 기반 알고리즘) 즉, 수많은 경우의 수를 학습해 운전 규칙과 대응 방침을 만들어 왔습니다. 현실적으로 세상의 모든 경우의 수를 사전에 학습하는 것은 불가능하기에 rule-based algorithm(규칙 기반 알고리즘) 과는 다른 AI 추론(reasoning)으로 판단하는 방법도 연구되고 있지만 아직 만족할 만한 성과를 내지는 못하고 있습니다. 다만, 아직은 성능이 rule-based algorithm(규칙 기반 알고리즘) 대비 열세이긴 하지만 AI 기술 발전에 따라 대세가 될 가능성도 있습니다.

현재 국내외에서 실증 운영 중인 자율주행 서비스는 대부분 SAE Level 3 또는 4에 해당합니다. 대규모의 자율주행 서비스가 가능하기 위해서는 자율주행 기술 자체의 완성도와 함께 원격 관제 기술의 발전, 시스템 오류 시 이중 대처 방안 (fall-back) 마련도 중요합니다. 이미 미국, 중국 특정 도시에서는 수백~수천 대 규모의 자율주행 상용 서비스가 운영 중이지만, 국내에서는 아직 실증단지 내 소규모 구역에서만 자율 주행차가 운영되고 있습니다. 하지만, 정부의 2027년 자율주행 상용화 계획에 따라 이르면 2025년부터는 ‘규모 있는’ 자율주행 상용 서비스를 경험할 수 있을 것으로 예상됩니다.

그림2. 자율주행 기술 자동화 단계

자율주행이 우리의 일상이 되기 위해서는 자율주행 기술 발전과 관련 규제 못지않게 사회적인 인식과 이용자들의 수용도가 중요합니다. 아무리 기술이 훌륭하더라도 자율주행 서비스를 이용하는 고객이 심리적으로 서비스를 안전하다고 느끼지 못한다면 해당 기술이 발전하기는 어렵기 때문입니다. 카카오모빌리티는 자율주행 기술 고도화뿐만 아니라 자율주행차가 안전하게 운행되고 있다는 사실을 고객과 효과적으로 소통하는 데도 심혈을 기울이고 있습니다.

탑승객에게 제공되는 투명한 운행 정보

카카오모빌리티 자율주행 차량에 탑승하면 이용객은 좌석 앞에 있는 뒷자석 모니터 RSE(Rear Seat Entertainment)와 마주하게 됩니다. 뒷자석 모니터에는 자율주행차가 인식하고 판단하는 내용이 표시됩니다. AVV(Autonomous Vehicle Visualizer) 라고 불리는 이 시스템은 신호등 정보와 주변 이동체 (사람, 자전거, 자동차 등) 현황을 보여주고, 주행 정보(주행 경로, 속도제한, 현재 속도, 자율주행 모드 on/off) 를 고객 친화적인 UI 로 보여줍니다. 또한 자율주행 모드가 해제될 경우, 그 이유 (예. 어린이보호구역, 자율주행 허용 지구 영외 운행 등) 에 대해서도 알려줌으로써 탑승객에게 자율주행 시스템이 정상적으로 운영되고 있다는 사실을 전달합니다.

그림3. 카카오모빌리티 AVV (Autonomous Vehicle Visualizer) 화면

자율주행차 오작동을 대비하는 촘촘한 안전 시스템

자율주행 단계인 SAE Level 기준표를 보면, DDT(Dynamic Driving Task) Fall-Back이라는 항목이 있습니다. 자율주행 시스템에 문제가 생겨, 자율주행이 불가능해졌을 때 어떻게 상황에 대처하는지에 해당하는 내용입니다.

Level 3의 경우 차량 내 Safety Driver 가 개입을 하여 대응하는 것이 일반적입니다. 카카오모빌리티 자율주행 서비스를 포함한 국내의 자율주행 실증 서비스들은 차량 내 Safety Driver가 동승하고 있으며, 위험한 상황이나 Safety Driver가 판단하였을 때 개입이 필요한 경우 적절하게 차량 통제권을 가져옵니다. 참고로, Safety Driver는 Fall-Back 시나리오에 대응하는 것과 더불어, 자율주행 서비스를 처음 이용하는 고객들에게 적극적으로 자율주행에 대해 소개하고 편안한 운행을 할 수 있도록 돕는 역할을 수행하고 있습니다. 실제로 카카오모빌리티가 여러 지역에서 일반 고객 대상 서비스를 제공해 본 결과, 많은 탑승자분께서 자율주행 매니저의 응대를 긍정적인 경험 요소로 꼽아주셨습니다.

그림4. 카카오모빌리티 자율주행 서비스 만족도 중 Safety Driver 관련 내용

Level 3에서 Level 4로 진화하기 위해서는 Safety Driver에 대한 의존도를 줄여야 합니다. 이를 위해 여러 가지 기술을 개발하고 적용하고 있습니다.

1) 먼저, 자율주행차 자체가 똑똑해져야 합니다. 앞서 설명한, 인지/판단/제어 각각의 기능이 Fall-back 시나리오를 최대한 만들지 않고, Fall-back 시나리오가 발생하더라도 스스로 해결할 수 있도록 이중, 삼중의 안전장치를 추가하고 있습니다. 인지의 경우, 이미 LiDAR, Radar, Camera, GPS 등 복수의 센서 정보를 융합하여 주변 정보를 인식하고 있고, 판단 과정 역시 복수의 알고리즘을 적용해 판단 정확도를 높이고 있습니다. 제어는 차량 시스템의 제동, 조향을 복수의 메커니즘을 통해 제어함으로써 이중의 안전장치를 적용하고 있습니다. 이를 Redundancy라고 부릅니다.

2) 두 번째는 차량이 자율주행 시스템만으로는 빠져나올 수 없는 난관에 부딪힌 경우에 원격으로 대응하는 신속하고 정확한 시스템을 구축해야 합니다. 이를 Teleoperation 또는 관제시스템이라고 부릅니다. Teleoperation Center 또는 관제센터는 실시간으로 자율주행 차량의 정보를 수집/분석하며 모니터링을 진행합니다. 자율주행 차량 운영 중에 오류가 발생해 자율주행차가 스스로 해결할 수 없는 상황이 발생하거나, 시스템은 정상이어도 스스로 빠져나올 수 없는 상황에 직면한 경우, 관제 센터에 알림이 전송되고 관제사가 원격으로 자율주행 차량을 제어합니다. 자율주행 시스템과 관제 시스템이 고도화될수록 관제사의 역할은 줄어들게 되고, 나아가서는 관제사의 역할도 AI로 자동화될 것으로 보입니다.

그림5. 카카오모빌리티 자율주행 서비스 관제 화면 - Stuck 상황 발생 알림 예시

그림6. 카카오모빌리티 자율주행 서비스 관제 화면 - 관제사가 원격제어 명령 전달

개인정보는 철저하게 보호, 영상정보는 법 규정 준수

이처럼 자율주행 시스템이 진화할수록 실시간으로 수집되는 데이터는 증가합니다. 자율주행차에는 LiDAR, Radar, Camera를 포함한 많은 센서가 장착되어 있으며, 이 중에서 Camera 데이터는 사람의 얼굴을 인식하고, 차량의 번호판 등을 인식할 수 있기 때문에 사람 또는 물체 정보를 식별할 수 있습니다. 그렇다면 카카오모빌리티는 이런 민감한 영상 정보를 어떻게 처리하고 있을까요?

1) 먼저, 카카오모빌리티는 자율주행차 또는 데이터 수집 차량 (정밀지도 제작을 위한 Mobile Mapping System - 이하 MMS 등) 이 영상정보를 수집할 경우, 차량 곳곳에 “자율주행 영상정보 촬영 중" 이라는 안내 문구를 부착해 두고 있습니다. 이를 통해 시민들에게 관련 규정에 따라 적법하게 영상정보를 촬영하고 있다는 사실을 알립니다.

그림7. 자율주행 영상정보 촬영 고지

2) 그다음으로 카카오모빌리티는 자율주행차 또는 데이터 수집 차량 (MMS 등) 이 수집하는 모든 영상정보의 비식별화를 진행합니다. 수집된 영상을 서버에 올리면, 사람의 개입 없이 자동화된 비식별화 알고리즘이 사람의 얼굴과 차량 번호판 등을 인식하고 민감한 영역을 흐리게 처리합니다. 이를 통해 혹시라도 발생할 수 있는 개인정보 이슈를 원천적으로 차단하고 있습니다.

그림8. 비식별화 자동화 알고리즘을 통해 가려진 정보 (번호판 및 얼굴)

3) 마지막으로, 카카오모빌리티는 자율주행 서비스 운영 중 확보한 영상정보를 사용할 수 있는 법적 자격도 확보했습니다. 24년 3월 과학기술정보통신부로부터 ‘영상정보 원본 활용 자율주행 시스템 고도화’라는 규제 특례 지정을 승인받고, 자율주행 인공지능을 학습하는데 원본 영상을 활용할 수 있게 되었습니다. 카카오모빌리티는 이렇게 획득된 자격을 바탕으로 ‘영상데이터 원본 활용 시 필수 안전조치 기준’을 준수하며 자율주행 인공지능 학습을 진행하고 있습니다.

파트너와 함께 구축하는 ‘자율주행 생태계'

자율주행은 마치 스마트폰이 출현한 이후 ‘모바일 인터넷 시대’가 열린 것처럼 모빌리티 시장을 새롭게 규정할 엄청난 변화를 촉발할 수 있는 기술입니다. 이동의 경험을 완전히 바꾸고 새롭게 정의할 ‘신(新) 모빌리티 시대’는 기술, 정책, 윤리, 사회 인프라, 구성원 간 합의 등 다양한 협업과 고민을 요구하고 있습니다.

다수의 집약된 기술이 합쳐져 이뤄지는 자율주행은 특정 기업 혼자 힘으로 모든 문제를 해결할 수 없습니다. 그래서, 카카오모빌리티는 파트너들과 함께 성장하는 자율주행 기술 생태계를 구축하기로 결심했습니다. 2021년 9월부터 ‘자율주행 얼라이언스 프로그램’을 출범하고 개별 기술들을 플랫폼에 집약하여 실제 서비스에 적용해 볼 수 있도록 파트너사에 플랫폼 인프라를 제공해 왔습니다. 이를 통해 국내 유수의 자율주행 업체들은 카카오모빌리티를 통해 각자의 기술을 검증하고 시민들에게 제공할 기회를 확보할 수 있었습니다. 카카오모빌리티 역시 자율주행 동맹군들을 통해서 자율주행에 최적화된 다양한 플랫폼 기술을 개발하고 고도화하면서 자율주행 서비스 상용화에 다가가고 있습니다. 카카오모빌리티가 세종, 판교, 강남, 대구, 제주 등에서 혁신적인 서비스를 먼저 제공할 수 있었던 것도 자율주행 파트너사들과의 협업 덕분이었습니다.