OpenAI가 Tesla의 “완전자율주행차"실패를 증명

Tesla는 오랫동안 자율주행차를 개발해왔다. "Autopilot"을 탑재한 첫 Model S가 공장에서 출고된 지 10년이 지났다. 더 진보된 FSD(Full Self-Driving)가 고객에게 전달된 지도 5년이 넘었다. 하지만 이 모든 시간과 수십억 달러의 비용에도 불구하고, 이 시스템들은 여전히 끔찍한 수준이다.

제3자 데이터에 따르면 FSD 최신 버전조차 '핵심적 운전자 개입(critical disengagement)' 없이 평균 493마일 주행에 그친다. 하지만 FSD 고객들이 시스템을 불신해 전체 주행 시간의 15%만 사용한다는 데이터를 보면, 실제 수치는 이보다 훨씬 더 나쁠 것이다! Tesla가 야심 차게 소프트 런칭한 Robotaxi 서비스는 며칠 만에 심각한 교통 법규 위반 및 위험 주행 사례가 여러 차례 목격되며 이러한 처참한 안전 수준을 증명했다.

Tesla는 마치 벽에 머리를 부딪히는 것처럼 아무런 진전을 보이지 못하는 듯하다. 그래도 언젠가는 FSD가 약속대로 작동할 것이라 믿는가? 글쎄, OpenAI의 한 연구 논문에 따르면 그렇지 않을 수도 있다.

OpenAI는 당신의 일자리를 뺏으려 하거나, 뇌를 썩게 하는 저급한 콘텐츠(slop)로 인터넷을 파괴하고, 금융 기관들을 경제를 무너뜨릴 버블로 밀어 넣는 것 외에도 다른 일을 한다. 이 모든 과대광고(bullshit hype) 뒤에는, 훌륭한 연구를 수행하는 최고 수준의 AI 과학자들로 구성된 전담팀이 있다. 흥미롭게도, 그들의 최신 논문이 AI 버블을 터뜨릴 수 있는 핀이 될지도 모른다.

이 과학자들은 AI의 "hallucination(환각)"을 멈출 방법을 찾고 있었다. 필자는 이 용어를 혐오한다. 이 용어는 기계의 '오류(error)'를 다른 용어로 포장하여 생명이 없는 기계를 의인화하며, 이는 이 확률 상자가 조금이라도 지능이 있다고 믿게 만드는 대중적인 '파레이돌리아(pareidolia) 정신증'을 강화할 뿐이다. 예를 들어, METR의 연구에 따르면 AI 프로그래밍 도구는 반복적이고 이상한 오류(hallucinations)를 생성하여 개발자들의 속도를 실제로는 저하시킨다. 개발자들이 디버깅에 너무 많은 시간을 쏟아야 하므로, 그냥 처음부터 직접 코드를 작성하는 것이 더 빨랐을 것이다. 만약 AI 기업들이 이런 종류의 오류를 제거하지 못한다면, 그들의 도구는 쓸모없고 비즈니스 전체가 가치를 잃게 된다.