MIT 보고서의 진짜 의미
95% GenAI가 실패하는 가운데 5%가 성공하는 이유는?
샘 알트만 대표는 지난 주 언론 인터뷰에서 “AI 버블 가능성”을 공개적으로 언급하며, GPT-5가 “기대에 못 미쳤다”고 인정했다. 동시에 MIT 산하 NANDA가 발표한 보고서가 생성형 AI 프로젝트의 95%가 수익을 내지 못하고 있다고 밝히자, 《Fortune》과 《FT》를 통해 확산되기 시작했다. 그러자 투자자들은 민감하게 반응했고, 8월 셋째 주 주요 AI 기업들의 주가는 일제히 하락했다.
언론은 MIT 보고서에서 “95%가 수익을 내지 못했다”는 수치에 집중했다. 하지만, 보고서가 던지는 더 본질적인 질문은 나머지 5%는 왜 성공했는가에 있다. 수많은 GenAI 파일럿이 쏟아지는 지금, 어떻게 접근해야 성공할 수 있을지 밝히는 것이 이 보고서의 목적이다.
MIT는 2025년 상반기 동안 수집된 예비 데이터를 바탕으로 작성되었다. 300건 이상의 공개 프로젝트 분석, 52개 기업 임원과의 인터뷰, 그리고 주요 산업 컨퍼런스에서 수집된 153명의 응답이 포함되었다. 보고서는 이 데이터를 바탕으로 ‘GenAI 격차(GenAI Divide)’라는 개념을 제시했다. 같은 기술을 도입하고도 어떤 조직은 수백만 달러의 가치를 만들었고, 대부분은 손익에 영향을 주지 못한 채 정체돼 있었다. 도입과 운영 방식의 차이가 결과를 가른 것으로 분석됐다.
보고서는 GenAI 격차를 넘어서고 있는 상위 5% 조직에서 세 가지 공통된 특성을 발견했다.
- (1) 기술보다 비즈니스 성과를 기준으로 도구를 평가하고, 학습 가능한 구조를 먼저 설계했다.
- (2) 백오피스 업무에서 가장 높은 ROI를 실현했다.
- (3) 중앙 주도 전략이 아닌, 현장 실무자 주도의 상향식 도입 방식을 선택했다.
(1) 성공한 프로젝트는 도입보다 학습과 적응이 가능한 구조를 만드는 데 초점이 맞춰져 있다. 성공한 조직은 초기 성능보다 시간이 지날수록 개선될 수 있는 시스템을 우선했다. 범용 LLM보다는 워크플로우에 맞춰 반복 학습과 맥락 유지가 가능한 ‘에이전트형 시스템’을 선택했다.
(2) 백오피스 생산성 제고를 목표로 했다. 고객지원, 문서 처리, 내부 보고서 작성 등 반복 작업을 자동화해 외주 의존도를 낮췄고, 수백만 달러의 비용을 절감했다. 내부 인력을 줄이기보다는 외부 아웃소싱 지출을 줄이는 방식으로 구조를 바꾸었다.
(3) 전략 부서가 아닌, 문제를 직접 해결하는 현장의 실무자가 도입을 주도했다. 개인적으로 ChatGPT를 써본 ‘프로슈머 직원’이 도구의 유용성을 증명하고, 조직 전체 확산의 챔피언이 되었다. 현장에서 실제 업무에 적용해보고 이를 확산하는 방식으로 이루어졌다.
GenAI 격차는 단순한 기술 격차가 아니다. 같은 도구를 쓰더라도, 그것을 바라보는 시선과 사용하는 방식에 따라 결과는 극명하게 갈린다. 기술은 같다. 그러나 성공은, 그것을 어떻게 학습시키고 변화시켰느냐에 달려 있다. 격차는 기술의 문제가 아니라, 실제 업무 프로세스에 어떻게 적용할지를 고민하는 데
있다.
현재 진행 중인 AI 프로젝트가 현업과 동떨어져 있고, 매출이나 고객 확보에만 집중되며, 위에서 일방적으로 추진되고 있다면 실패할 가능성이 크다. 성공 가능성을 높이려면, 지금의 방향이 맞는지부터 다시 점검해볼 필요가 있다.
===
참고
* Aditya Challapally, Chris Pease, Ramesh Raskar, Pradyumna Chari. “The GenAI Divide: State of AI in Business 2025,“ MIT NANDA, July 2025.
