AI 워싱, 기업들의 AI 과장에 우리는 속고 있는가?
도덕과 윤리가 사라지는 세상?
아마존은 올해 많은 물리적 식료품점에 설치된 "Just Walk Out" 기술 사용에 대해 비판적인 헤드라인을 받아왔습니다.
이 AI 기반 시스템은 아마존 프레시(Amazon Fresh)와 아마존 고(Amazon Go) 매장에서 고객이 물건을 선택한 후 그냥 나가면 자동으로 청구됩니다. 그러나 지난 4월, 이 기술이 실제로는 AI만을 사용하는 것이 아니라 인도의 약 1,000명의 노동자가 거의 75%의 거래를 수작업으로 확인해야 한다는 보고가 있었습니다.
AI 워싱의 정의와 문제점
AI 워싱이란 기업들이 AI 사용을 과장하거나 실제로는 사용하지 않으면서 AI를 사용한다고 주장하는 것을 의미합니다. 이는 기술의 효과를 과대포장하거나 신뢰를 저하시킬 수 있어 문제를 초래합니다. 규제 당국은 이를 주목하고 있으며, 기업과 소비자 모두에게 영향을 미칠 수 있습니다.
아마존은 이러한 보고가 "잘못된 정보"라고 주장하며, 인도의 직원들이 모든 매장의 비디오 영상을 검토하는 것이 아니라 시스템을 검토하고 있다고 말했습니다. 아마존은 "정확성을 중시하는 다른 AI 시스템과 다르지 않다"고 덧붙였습니다.
아마존 사례의 정확한 세부 사항과 관계없이, 이는 기업들이 AI 사용에 대해 과장된 주장을 하는지에 대한 새로운 질문을 제기하는 고유한 사례입니다. 이는 환경 "그린 워싱"에 빗대어 "AI 워싱"이라고 불리는 현상입니다.
AI의 정의와 생성형 AI
AI는 컴퓨터가 문제를 해결하고 학습할 수 있게 하는 기술로, 많은 양의 정보를 학습한 후에 이를 수행합니다.
최근 몇 년 동안 화제가 된 특정 유형의 AI는 "생성형 AI"로, 텍스트 대화, 음악 또는 이미지 생성 등 새로운 콘텐츠를 만드는 데 특화되어 있습니다. OpenAI의 ChatGPT, 구글의 Gemini, 마이크로소프트의 Copilot 등이 대표적인 생성형 AI입니다.
AI 워싱의 다양한 유형
AI 워싱에는 여러 유형이 있습니다. 일부 회사는 AI를 실제로 사용하지 않으면서 AI를 사용한다고 주장하거나, 기존 기술보다 AI의 효과를 과장하거나, AI 솔루션이 완전히 작동하는 것처럼 과장합니다. 다른 회사들은 단순히 기존의 비AI 운영 소프트웨어에 AI 챗봇을 추가하기도 합니다.
영국 및 핀란드 기반 투자 펀드 OpenOcean에 따르면, 2022년에는 기술 스타트업의 10%가 AI를 사용한다고 언급했지만, 2023년에는 25%로 증가했습니다. 오픈오션 팀원 Sri Ayangar는 자금 경쟁과 최첨단 기술로 보이려는 욕구가 일부 회사들로 하여금 AI 능력을 과장하게 만든다고 말했습니다.
기술 투자 회사 MMC Ventures의 데이터에 따르면, 2019년 연구에서 "AI 스타트업"이라고 자칭한 신생 기술 회사의 40%가 실제로는 AI를 거의 사용하지 않았습니다.
MMC Ventures의 Simon Menashy는 "최첨단 AI 기능"이 이제 모든 회사가 표준 소프트웨어 가격으로 구매할 수 있게 되었지만, 많은 회사들이 전체 AI 시스템을 구축하는 대신 비AI 제품 위에 챗봇 인터페이스를 추가하고 있다고 설명했습니다.
AI 워싱의 영향과 규제
KPMG의 신흥 기술 리스크 책임자인 Douglas Dick은 AI의 정의가 명확하지 않기 때문에 AI 워싱 문제가 더 심각해진다고 말했습니다. 그는 "AI 워싱은 기업이 기술 및 서비스에 과도한 비용을 지불하게 하거나, AI가 기대했던 운영 목표를 달성하지 못하게 할 수 있다"고 말했습니다.
한편, 투자자들은 진정으로 혁신적인 회사를 식별하기 어려워질 수 있습니다. Ayangar는 "소비자가 고급 AI 솔루션을 제공한다고 주장하는 제품에 대한 기대를 충족하지 못하면, 진정으로 획기적인 작업을 수행하는 스타트업에 대한 신뢰가 떨어질 수 있다"고 말했습니다.
미국에서는 규제 당국이 이 문제에 주목하기 시작했습니다. 올해 초, 미국 증권 거래 위원회(SEC)는 AI 사용에 대해 허위 및 오해의 소지가 있는 진술을 한 두 개의 투자 자문사를 기소했습니다. 영국에서는 광고 표준 기관(ASA)의 행동 강령 등 AI 워싱을 다루는 규칙과 법률이 이미 시행되고 있습니다.
옥스퍼드 대학의 기술 및 규제 교수인 Sandra Wachter는 "우리는 모든 유형의 작업에 AI를 사용하는 것이 항상 의미가 있는지 묻는 것을 잊어버린 것 같다"고 말했습니다. 그녀는 AI의 환경적 영향이 종종 간과된다고 덧붙였습니다. "AI는 나무에서 자라지 않으며, 이미 항공보다 기후 변화에 더 많은 기여를 하고 있다."
결론
MMC Ventures의 연구 책임자인 Advika Jalan은 AI가 매우 보편화됨에 따라 'AI 기반'이라는 브랜드 도구가 차별화 요소로 작용하지 않을 것이라고 전망했습니다. "인터넷에 접속했다고 말하는 것과 비슷한 게 될 것이다"라고 그녀는 말했습니다.
