자율차가 멈출수록 승객은 더 위험해졌습니다

웨이모 습격 사건이 드러낸 안전 설계의 역설

택시가 위험해지면, 기사에게 빨리 가달라고 말할 수 있습니다. 그게 당연한 탈출구였습니다.

하지만 올해 1월, 샌프란시스코에서 자율주행 택시 Waymo를 타고 귀가하던 Doug Fulop에게는 그 탈출구가 없었습니다. 차 앞을 막아선 남성이 창문을 주먹으로 치며 “로봇에 돈을 줬다”고 소리질렀습니다. 차는 움직이지 않았습니다. 웨이모의 소프트웨어가 사람이 근처에 있으면 멈추도록 설계되어 있기 때문입니다.

이 사건은 자율주행차의 기술 완성도를 묻는 것이 아닙니다. 무엇을 ‘안전’이라고 정의했는가를 묻고 있습니다.

알고리즘은 악의를 읽도록 설계되지 않았습니다

웨이모의 설계 원칙 중 하나는 분명합니다. 차량 주변에 사람이 감지되면 멈춥니다. 이 원칙은 보행자 사고를 막기 위한 것입니다.

실제로 웨이모는 자사 데이터를 근거로, 같은 거리를 달릴 때 인간 운전자 대비 심각한 부상 사고가 90% 감소했다고 밝힙니다. 도로 위 물리적 충돌이라는 기준에서는 탁월한 성적입니다.

하지만 알고리즘은 ‘사람이 있다’는 사실은 읽어냈지만, ‘그 사람이 승객을 해치려 한다’는 맥락은 읽지 못했습니다. 공격자가 차 앞에 서면, 차는 멈춥니다. 그리고 승객은 갇힙니다. Fulop은 공격이 6분간 이어졌다고 말했습니다. 충돌 방지를 위한 설계가 역설적으로 인간을 함정에 빠뜨리는 취약점이 된 것입니다.

이것은 알고리즘의 실패가 아닙니다. 설계의 전제가 애초에 달랐습니다. 자율주행 알고리즘은 ‘충돌’이라는 물리적 위험에는 탁월하지만, ‘위협’이라는 인간적 맥락은 상정하지 않았습니다. 악의를 분류하는 기준이 없었던 것입니다.

인간은 ‘회피’를 판단했지만, 로봇은 매뉴얼에 머물렀습니다

웨이모 고객 지원팀은 공격이 진행되는 동안 통화를 유지하며 “문이 잠겨 있으니 괜찮을 것”이라고 안내했습니다. 수동으로 차를 이동시키는 것은 불가능하다고도 했습니다. 차의 소프트웨어는 승객이 운전석에 개입하는 것도 허용하지 않았습니다. 승객의 안전이, 공격자가 얼마나 오래 서 있느냐에 달린 상황이 된 것입니다.

인간 운전자였다면 달랐을까요. 반드시 그렇다고 말하기 어렵습니다. LA에서 비슷한 피해를 입은 안데르스 소르만-닐손(Anders Sorman-Nilsson)은 “인간 운전자였다면 패닉 상태에서 상황을 악화시켰을 수도 있다”고 말했습니다. 웨이모의 외부 카메라가 모든 상황을 촬영하고 있다는 사실이 오히려 그에게 안정감을 줬다고도 했습니다.

그러나 인간 운전자에게는 ‘회피’라는 능동적 판단이 허용되어 있었습니다. 위험을 감지하면 판단하고 움직일 수 있었습니다. 로봇에게는 그 권한이 없습니다. 기술이 고도화될수록, 시스템의 경직성을 보완할 ‘인간적 개입’의 권한을 어디까지 허용할 것인지가 새로운 쟁점으로 떠오르고 있습니다. 위급 상황에서의 예외 판단 기준이 지금은 없습니다.

사회의 감정과 함께 가는 법을 배워야 합니다

비슷한 사건들은 반복됐습니다. 2024년에는 한 남성이 정차 중인 웨이모의 센서를 손으로 덮어 차를 사실상 마비시켰고, 승객들은 차 안에 있었습니다. 세 명의 여성이 자신들이 탄 차에 스프레이 페인트가 뿌려지는 것을 바라봤습니다. 전동 자전거를 탄 다섯 명이 웨이모를 포위했습니다.

자율주행차를 멈추게 하는 가장 간단한 방법은 그 앞에 서 있는 것이라는 사실이 알려졌습니다. 보행자를 보호하기 위한 설계가, 승객을 표적으로 삼는 수단으로 전용됐습니다.

웨이모는 지난해 연간 주행 건수를 1,500만 건으로 세 배 늘렸습니다. 2026년에는 20개 도시로 서비스를 확장할 계획입니다. 하지만 기술적 완성도와 별개로, 자율주행차를 향한 대중의 공포와 분노는 실재하는 변수입니다. 샌프란시스코에서 군중이 공격자를 응원했다는 사실은, 단순한 반기술 정서 이상의 무언가를 담고 있습니다. 기술의 확산은 기계의 성능 문제가 아니라, 그 기계가 인간 사회의 복잡한 감정과 상호작용하는 법을 배우는 과정이어야 합니다.

Fulop이 요구한 것은 기술의 교체가 아닙니다. 승객이 위협받을 때 개입할 수 있는 정책입니다. 자율주행 기술이 정의해온 ‘안전’은 도로 위 사고를 줄이는 데 맞춰져 있었습니다. 그 기준은 여전히 유효합니다. 하지만 이제는 더 넓어져야 합니다.

End to End, VLA를 이야기하시눈 분들이 많습니다.

알고리즘이 맥락을 읽는 날이 오려면, 먼저 우리가 어떤 맥락을 읽어야 하는지를 정의해야 합니다.

출처: The New York Times, “Trapped! Inside a Self-Driving Car During an Anti-Robot Attack” (2026.03.17)

#자율주행 #웨이모 #SDV #모빌리티 #기술의역설