AI와의 공생을 준비하는 우리 모두가 가져야 할 기준
2025년 7월, MIT에서 기업의 AI 활용에 대한 리포트가 공개됐다. 이 리포트를 지금에서야 제대로 읽게 된 이유는, 이제야 AI를 비즈니스의 관점에서 판단할 수 있을 것 같다고 느꼈기 때문이다. 최근까지는 AI를 내가 직접 활용하는 정도에 머물렀고, 그마저도 신뢰도가 나아지는 정도이지 업무에 안정적으로 활용할 수 있을지 의문이 남아있기 때문이다(ps. 완벽주의자 아님).
2022년 세상에 ChatGPT가 공개되었을 때, 당시 다니던 회사에도 투자 방향 설정에 AI를 억지로 집어넣다가 ChatGPT의 성능에 굉장히 실망하고 투자도 실패한 큰 타격이 있었던 개인적인 경험이 있었다. 당시의 GPT는 hallucination이 너무 심해서 거의 판타지 작가에 가까웠다. 때문에 똑같은 실수를 반복하거나 시간을 허비하기 싫어서 받아들이는데 더 긴 시간을 둔 심리적 요인도 있었다. 지금은 이 친구도 꽤 성장한 덕에 나도 더 많은 자료를 찾거나 정리를 하고 새로운 발견을 하기도 한다. 아직도 요청한 문서 생성을 여러 번 틀려서 지어오는 파일명마저 인간을 학습한 게(FINAL_REAL_LAST_V3_THIS_ONE_FOR_SURE… 새 파일을 만들 때마다 파일명이 길어진다) 웃겨서 눈물이 날 지경이라고 농담도 하며 나름 친밀한 동료처럼 지내보는 중이다.
MIT 보고서에서도 내 경험과 거의 유사한 리서치 노트가 등장한다. (LLM 기준) 여러 번 학습을 요청하는데 AI가 피드백을 기억하지 못하고 제자리에 머문다면, 사용자는 결국 AI를 다루는 노동에 피로를 느끼게 된다. 그러다 보면 자연스럽게 AI는 개인의 업무 도구로 머무르게 되어 단순 반복 업무에만 활용하고, 파일럿 프로젝트는 실험으로 끝난다.
이 리포트에서 말하는 5%의 성공과 95% 실패 요인은 다음과 같이 요약할 수 있다.
<The GenAI Divide STATE OF AI IN BUSINESS 2025> 요약
'성과'의 정의
: “marked and sustained productivity and/or P&L impact”
ROI나 P&L 등 재무적인 성과 입증이 가능해야 함
단순한 생산성 증가는 성과로 측정할 수 없음(‘일이 빨라졌는가’가 아니라 ‘그로 인해 어떤 비용이 사라졌는가’를 평가)
성공 요인
: 비용이 발생하는 핵심 워크플로우를 변경하여 조직의 비용 구조를 개선한 경우
AI를 개인 생산성 도구가 아닌 업무 수행 주체로 배치하여 외주 콘텐츠 제작 구조를 제거함
개발 워크플로우에서 반복 작업을 자동화해 외주·계약직 의존도를 낮추는 방향으로 인력 구조를 재설계함
법무 업무 중 판단 이전의 반복·정형 작업을 자동화해 고비용 아웃소싱 범위를 축소함
문서 처리 및 정산 프로세스를 end-to-end로 자동화하여 BPO 계약을 제거하거나 축소함
고객 문의의 접수–분류–처리–응답 전 과정을 자동화해 CS 인력 증원 없이 운영 비용을 안정화함
실패 요인
: AI 활용이 조직 차원에서 생산성 도구 수준에 머물렀고, 운영 단계에서 필요한 학습, 책임, 예외처리 구조를 설계하지 못한 경우
AI가 사용자 업무를 학습하지 못해 신뢰를 형성하지 못함
조직의 핵심 워크플로우가 아닌 개인 생산성 도구로만 사용됨
복잡한 업무에서 맥락·기억·학습 부재로 결과 신뢰도가 낮음
측정하기 쉬운 성과 지표에 매몰되어 구조적 성과를 놓침
파일럿을 운영 시스템이 아닌 실험으로만 취급함
이미 구인시장과 주변 조직들을 살펴보면 ‘자동화 가능하신 분’을 찾는 회사들이 늘고 있다. 예전 같았으면 에이전시를 찾던 업무들도 ’솔루션을 이용하되 자동화하여 인건비 축소’하는 방향으로 전환되는 케이스가 많이 보인다.
요약에는 쓰지 않았지만, 리포트에서 말한 워크플로우에 ‘의사결정’은 포함되지 않는다. AI를 활용하여 업무를 자동화해 손익을 개선할 수 있지만, 프로세스를 설계하고 책임지는 일은 여전히 인간의 몫이다. AI는 아직까지는 ‘책임’이라는 것을 모르기 때문이다. 여러분의 조직에서 어떤 구간에 AI를 도입할지 감이 온다면, 당신은 진짜 메이커다. 어떤 업무를 AI에게 넘길 수 있는지, 그리고 그 결과에 누가 책임지는지를 정의하는 사람이 되는 것이 ‘의사결정자’의 마음으로 일을 대할 줄 아는 사람이다.