인간의 보살핌 속에서 성장하는 기술

자율주행의 현실을 이해하는 법

오스트리아 비엔나에서 열린 'The Autonomous 2025' 컨퍼런스 자리에서 George Mason University의 Missy Cummings 교수님(전 US Navy fighter pilot)이 던진 화두는 자율주행 기술의 현주소에 대한 그 어떤 장밋빛 전망보다도 현실적이고, 솔직한 주장이었습니다.

자율주행 기술은 빠른 속도로 진화하고 있지만, 그 진보가 ‘완전한 무인 시대’를 의미하는 것은 아닙니다. 오히려 지금은 기술이 성장하는 과정을 섬세하게 돌봐줄 인간의 역할이 여전히 필요합니다.

AI의 ‘환각’을 이해한다는 것: 한계를 인정

많은 사람은 자율주행차에 ‘기계적 완전함’을 기대합니다. 그러나 커밍스 교수는 현재의 AI가 종종 환각(hallucination)이라 불리는 판단 오류를 일으킨다는 점을 강조합니다.

• 오류의 근본 원인

지금의 AI는 세상을 이해하는 사고 능력을 갖추지 못했습니다. 자율주행 시스템은 방대한 과거 데이터를 기반으로 확률적 예측을 수행하는 구조이기 때문에, 가장 흔한 상황에서는 어린아이가 가끔씩 기발한 말을 하듯이 놀랄 정도로 훌륭하지만, 익숙하지 않은 상황—즉, 다양한 ‘엣지 케이스’—에서는 오판을 피하기 어렵습니다.

.

• 우리가 갖춰야 할 태도

급정거, 오판, 비정상적 대응이 나타나는 것은 기술이 미숙해서가 아니라, 아직 ‘세계 전체’를 다 이해하지 못했기 때문입니다. 이러한 특성을 알고 접근하는 것이, 안전을 위해서도, 기술 발전을 위해서도 가장 현명합니다.

인간 보모(Human Babysitter)

전문가들이 말하는 ‘인간 보모’는 결함을 대신 보완하는 수동적 감시자가 아니라, 시스템이 성장하는 동안 위험을 흡수하고 신뢰를 유지하게 해주는 필수적인 역할입니다.

• 안전을 위한 즉각적 개입

인간 보모는 차량 내부에 탑승하여 모니터링을 수행할 수도 있고, 원격에서 실시간으로 차량 상태를 확인하며 개입할 수도 있습니다. 고속 주행이나 통신 지연처럼 AI 단독으로 대응이 불안정한 구간에서는 이들이 확보하는 ‘마지막 안전선’이 특히 중요합니다.

• 간헐적 감독의 함정

시스템이 잘 작동할수록 인간 감시자는 긴장을 늦추기 쉽습니다. 그러나 L3단계의 자율주행에서는 10초 이내 긴급 개입이 요구되는 만큼, 인간 감시자의 전문성과 집중력은 기술적 안전의 핵심 요소입니다.

실수가 실력이 되도록 투명성과 기술적 중복성 요구

자율주행이 완성도를 높이기 위해서는 단순히 데이터를 쌓는 것이 아니라, ‘안전’이 설계 단계에서부터 체계적으로 확보되어야 합니다.

• 설계 단계의 안전 확보

센서, 컴퓨팅, 통신, 제어 등 주요 구성 요소는 모두 이중 혹은 삼중의 중복성을 가져야 합니다. 안전은 “우리 시스템은 안전하다”라는 주장으로 확보되는 것이 아니라, 구현 방식 자체에 안전이 내재화될 때 비로소 실제로 확보됩니다.

• 실패 데이터를 공유하는 용기

커밍스 교수는 무엇보다 기업들이 실패 데이터를 투명하게 공유해야 한다고 강조합니다. 환각 오류, 인식 실패, 경계 상황에서의 오작동 등은 조직 내부에만 머물러선 안 됩니다. 업계 전체가 위험 요인을 함께 분석하고 함께 보완해야, 기술 성장의 속도가 비로소 가속됩니다.

인간과 기술이 함께 성장하는 과정

현재의 자율주행 기술은 완전한 독립 단계가 아닌, 인간의 보살핌 속에서 성장하는 중간 단계에 머물러 있습니다. 이것은 기술의 부족함을 드러내는 것이 아니라, 오히려 인간과 AI가 서로의 한계를 보완하며 성숙해지는 자연스러운 과정입니다.

AI의 실수는 질책의 대상이 아니라, 기술이 나아갈 길을 알려주는 소중한 학습 재료입니다. 그리고 그 실수를 실력으로 바꿔주는 존재가 바로 인간 보모입니다.

언젠가 자율주행차가 완전히 스스로 판단하고 움직이는 날이 오겠지만, 그 지점에 도달하기 위해서는 지금의 단계—섬세한 관찰, 신중한 개입, 투명한 공유—가 반드시 필요합니다.

인간과 AI가 서로의 가능성을 키워주며 만들어갈 미래, 그 여정의 깊이를 기대할 만하지 않을까요?

https://www.eetimes.eu/every-self-driving-car-company-needs-human-babysitters/ ​ (접속일 : 2025.11.22)