구글 AI 오버뷰의 황당한 답변들
기술의 한계와 논란
구글의 새로운 AI 오버뷰 제품이 사용자들에게 피자에 접착제를 바르라고 하거나 돌을 먹으라는 등의 황당한 답변을 제시하면서 큰 논란이 되고 있습니다. 이로 인해 다양한 밈이 생성되자, 구글은 이러한 검색 결과에 대해 AI 오버뷰 기능을 수동으로 비활성화하는 작업을 서둘러 진행하고 있습니다.
구글의 AI 오버뷰 기능이 비정상적인 답변을 제공하며 문제를 일으켰고, 이를 해결하기 위해 특정 검색에 대한 AI 오버뷰를 신속하게 비활성화하고 있습니다. AI 답변의 품질 문제가 기술적 한계에서 기인하며, AI는 아직 인간 수준의 추론 능력을 갖추지 못한 상태입니다.
구글은 오버뷰 기능을 1년간 테스트해왔기 때문에 이러한 상황이 더욱 이상하게 다가옵니다. 이 기능은 2023년 5월에 베타 버전으로 출시되었으며, 구글의 CEO 순다 피차이는 지금까지 10억 개 이상의 쿼리를 처리했다고 밝혔습니다.
하지만 피차이는 또한 구글이 같은 기간 동안 AI 답변 제공 비용을 80% 절감했다고 말했습니다. 이는 하드웨어, 엔지니어링 및 기술 혁신 덕분이라고 합니다. 그러나 이러한 최적화 작업이 기술이 충분히 준비되기 전에 너무 일찍 이루어진 것으로 보입니다.
결과적으로 구글은 최첨단 기술 회사에서 밈의 소재가 되는 저품질 결과물을 제공하는 회사로 전락했습니다.
이에 대해 구글은 여전히 AI 오버뷰 제품이 대체로 고품질의 정보를 제공한다고 주장합니다. 구글 대변인 메간 판즈워스는 The Verge에 보낸 이메일에서 "우리가 본 많은 예시는 드문 쿼리였으며, 재현할 수 없었던 예시나 조작된 예시도 있었다"고 말했습니다. 판즈워스는 또한 "콘텐츠 정책에 따라 적절한 경우 특정 쿼리에 대한 AI 오버뷰를 제거하기 위해 신속한 조치를 취하고 있으며, 이러한 예시를 사용하여 시스템의 전반적인 개선을 개발하고 있다"고 확신했습니다. 일부 개선 사항은 이미 출시되었습니다.
The Verge는 뉴욕 대학교 신경과학 명예 교수이자 AI 전문가인 게리 마커스가 많은 AI 회사들이 이 기술이 80%에서 100%로 올라갈 것이라는 꿈을 팔고 있다고 말했습니다. 초기 80%를 달성하는 것은 대량의 인간 데이터를 근사화하는 것이기 때문에 상대적으로 간단하지만, 마지막 20%는 매우 도전적이라고 하였습니다. 그 나머지 20%는 가장 어려운 부분일 수 있다고 하였습니다.
"사실 여부를 판단하려면 어느 정도의 추론이 필요합니다. 이 출처가 합법적인지를 결정해야 합니다. 인간 팩트체커가 할 수 있는 일들을 해야 하며, 이는 실제로 일반 인공지능(AGI)이 필요할 수 있습니다." 마커스와 메타의 AI 책임자인 얀 르쿤은 현재 구글의 제미니와 오픈AI의 GPT-4와 같은 AI 시스템을 구동하는 대규모 언어 모델이 AGI를 창출하지는 않을 것이라고 모두 동의하고 있습니다.
구글은 어려운 상황에 놓여 있습니다. Bing은 사티아 나델라의 유명한 인용구인 "우리가 그들을 춤추게 했다"는 말을 남기며 구글보다 먼저 AI에 큰 투자를 했고, 오픈AI는 자체 검색 엔진을 개발 중인 것으로 알려져 있습니다. 신생 AI 검색 스타트업은 이미 10억 달러의 가치를 지니고 있습니다. 최고의 경험을 원하는 젊은 세대의 사용자는 틱톡으로 전환하고 있습니다. 구글은 분명히 경쟁 압박을 느끼고 있으며, 이러한 압박이 엉망진창의 AI 출시를 초래한 것으로 보입니다. 마커스는 2022년 사람들에게 유리를 먹으라고 제안하는 등 여러 문제로 인해 출시 직후 사라진 메타의 AI 시스템 Galactica와 유사한 상황이라고 판단했습니다.
구글은 AI 오버뷰에 대해 거대한 계획을 가지고 있습니다. 현재 존재하는 기능은 지난주에 발표한 것의 일부분에 불과합니다. 복잡한 쿼리에 대한 다단계 추론, AI가 정리한 결과 페이지 생성 능력, 구글 렌즈에서의 비디오 검색 등 야심 찬 계획이 많습니다. 하지만 현재로서는 회사의 명성이 기본적인 것들을 제대로 하는 것에 달려 있으며, 상황이 좋지 않아 보입니다.
이 모델들은 스스로의 작업에 대해 이성적 검토를 할 수 없으며, 이것이 바로 이 업계를 곤경에 빠뜨린 원인이라고 마커스는 말했습니다. AI가 오픈AI의 챗GPT 이후 서로 경쟁적으로 제품을 출시하고 저작권을 무시한 데이터에 대한 학습을 시도하는 모습들이 결국 최악의 시나리오로 이어진다면 그건 인간의 욕심과 선을 넘는 경쟁 때문일 것입니다.
피자에 치즈가 달라붙지 않아 본드로 섞으라는 답변을 주고, 청소년들에게 담배의 건강상의 이점을 홍보하는 등의 답변을 보면, 이런 데이터를 학습한 인공지능 휴머노이드가 존재한다면 과연 어떠할지 생각만 해도 참 끔찍합니다.
AI의 발전은 매우 편리하고 흥미롭지만, 생활에 들어오는 인간 대체에 대해서만큼은 이러한 문제점들을 고려하여 더욱 신중한 접근이 필요합니다.
