리더가 직접 하지 않으면 아무것도 바뀌지 않는다.
2024년부터 2025년까지, 전 세계 기업들은 역사상 유례없는 속도로 AI 도구를 구매했다. ChatGPT 라이선스를 배포하고, GitHub Copilot을 개발팀에 깔아주고, 사내 생성형 AI 플랫폼을 구축했다. 경영진은 기자회견에서 저마다 "AI 퍼스트 전략"을 선언했고, IR 자료에는 AI 관련 키워드가 빠짐없이 등장했다. 그런데 1년이 지나고, 2년이 지나도 실적 보고서에는 AI로 인한 의미 있는 변화가 나타나지 않았다. 도구는 샀는데 아무것도 변하지 않은 것이다.
숫자는 냉정하다. RAND Corporation이 65명의 AI 실무자 인터뷰를 기반으로 수행한 연구에 따르면, AI 프로젝트의 80% 이상이 실패한다. 이 수치는 일반 IT 프로젝트 실패율의 두 배에 해당한다. MIT Sloan의 2025년 연구는 더 충격적인 결과를 내놓았다. 기업들이 추진한 생성형 AI 파일럿 프로젝트 중 95%가 측정 가능한 손익 영향을 만들어내지 못했다는 것이다. S&P Global의 조사에서는 2025년 기준으로 기업의 42%가 대부분의 AI 이니셔티브를 중단했다고 응답했는데, 이는 전년도 17%에서 급증한 수치다. BCG가 전 세계 경영진을 대상으로 수행한 2025년 글로벌 연구에서도 AI를 통해 대규모 가치를 창출하고 있는 기업은 전체의 5%에 불과했다.
이 실패의 원인을 기술적 한계에서 찾는 것은 오독이다. AI 모델의 성능은 매 분기마다 비약적으로 개선되고 있고, 클라우드 인프라의 접근성도 역대 최고 수준이다. 문제는 기업들이 AI를 "기술 도입"으로 접근한다는 데 있다. 소프트웨어를 구매하고, IT 부서에 설치를 맡기고, 직원들에게 "알아서 효율적으로 써보라"고 지시하는 방식 말이다. 이것은 마치 최신형 수술 로봇을 병원에 들여놓고 의사들에게 매뉴얼만 건네준 채 "알아서 잘 쓰세요"라고 하는 것과 다르지 않다. 수술 프로토콜을 바꾸지 않고, 수술팀의 역할 분담을 재설계하지 않고, 환자 동선을 조정하지 않는다면, 아무리 좋은 장비도 창고에서 먼지만 쌓이게 된다.
MIT Sloan의 데이터 리더 설문조사가 이 구조를 정확히 포착한다. 응답자의 91%가 AI 도입의 장벽으로 문화적 문제를 꼽았고, 기술적 문제를 지목한 비율은 9%에 불과했다. Kaizen Institute의 2025년 조사에서도 기업의 55%가 "구식 시스템과 프로세스"를 AI 도입의 가장 큰 장애물로 꼽으면서도, 정작 투자는 기술 쪽에 집중하고 있었다. 즉, 기업들은 문제가 어디 있는지 알면서도 엉뚱한 곳에 돈을 쓰고 있는 셈이다.
이 패턴은 과거 디지털 전환의 실패와 정확히 겹친다. McKinsey의 전환 실무 연구에 따르면 대규모 전환 프로젝트의 70%가 실패하고, Bain은 그 비율을 88%까지 올려 잡는다. 실패한 프로젝트들의 공통점은 기술의 부족이 아니라 조직 변화의 부재였다. AI 시대에도 이 법칙은 변하지 않았다. 오히려 AI의 강력함이 이 법칙을 더 극적으로 증명하고 있을 뿐이다. 도구의 성능이 아무리 좋아도, 그 도구가 작동하는 맥락 자체를 바꾸지 않으면, 기업이 얻는 것은 "비싼 도구를 사용하는 느린 조직"뿐이다.
1990년, MIT 교수 Michael Hammer는 Harvard Business Review에 기념비적인 논문을 발표했다. 제목은 "리엔지니어링 워크: 자동화하지 말고 없애라"였다. 그는 기업들이 기존의 비효율적인 프로세스를 그대로 둔 채 컴퓨터 기술만 덮어씌우는 행태를 비판하며 이렇게 썼다. "소 떼가 다니던 오솔길 위에 포장도로를 까는 것을 멈춰야 한다." 그가 남긴 또 다른 경구는 더 직접적이다. "혼란을 자동화하면 자동화된 혼란이 될 뿐이다." 이 경고가 발표된 지 36년이 지난 2026년, AI를 도입하는 기업들의 압도적 다수가 정확히 이 실수를 반복하고 있다.
프로세스 변화 없이 AI를 도입하는 것이 왜 실패하는지를 이해하려면, 먼저 대부분의 업무 프로세스가 어떻게 만들어졌는지를 살펴봐야 한다. 오늘날 기업에서 작동하는 업무 흐름의 상당수는 사람의 물리적 제약을 기반으로 설계되었다. 서류가 물리적으로 이동해야 했기 때문에 생긴 결재 단계, 한 사람이 동시에 처리할 수 있는 양이 제한적이었기 때문에 만들어진 대기 큐, 정보 비대칭을 해소하기 위해 도입된 중간 보고 체계가 그것이다. 이 프로세스들 위에 AI를 얹으면 어떤 일이 벌어지는가. 결재 서류를 AI가 자동 작성해주지만 여전히 다섯 단계의 결재를 거쳐야 하고, AI가 분석 보고서를 순식간에 만들어주지만 그 보고서가 의사결정자에게 도달하기까지는 여전히 2주가 걸리고, AI가 고객 문의에 즉각 응답하지만 실제 처리는 여전히 수작업 백오피스를 거쳐야 한다. 부분적인 속도 향상이 전체 시스템의 속도를 바꾸지 못하는 것이다.
BCG는 2025년 "AI at Work" 보고서에서 11개국 10,600명의 근로자를 조사한 뒤, 기업의 AI 활용 수준을 두 가지 모드로 구분했다. 하나는 "Deploy" 모드로, 기존 업무에 AI 도구를 배포해 빠른 생산성 향상을 노리는 접근이다. 다른 하나는 "Reshape" 모드로, AI의 능력을 기반으로 업무 흐름 자체를 근본적으로 재설계하는 접근이다. Deploy 모드의 기업들은 소소한 시간 절감을 보고했지만, Reshape 모드의 기업들은 시간 절약, 의사결정 품질, 전략적 업무 배분 전 영역에서 극적으로 더 나은 성과를 달성했다. BCG의 Ernesto Pagano는 이 차이를 비율로 표현했다. AI 전환은 기술이 10%, 도구와 프로세스가 20%, 사람이 70%라는 것이다.
Deloitte의 Tech Trends 2026 보고서는 이 문제를 더 날카롭게 표현한다. "기존 워크플로우를 그대로 두고 거기에 고급 AI를 적용하면, 비효율을 무기화하는 것이다." Deloitte의 State of AI 2026 조사에 따르면 AI를 활용해 비즈니스를 깊이 있게 변혁하고 있는 기업은 전체의 34%에 불과하다. 30%는 일부 프로세스를 재설계하고 있고, 37%는 기존 프로세스에 거의 아무런 변화 없이 AI를 표면적으로 사용하고 있다. 이 37%가 바로 소 떼의 오솔길에 포장도로를 까는 기업들이다. 그리고 이 차이는 재무 성과에 직접적으로 반영된다. 엔드투엔드 AI 통합을 달성한 기업은 최대 25%의 비용 절감을 보고하는 반면, 고립된 AI 실험만 진행하는 기업의 비용 절감 효과는 5% 이하에 그친다.
McKinsey의 2025년 조사는 인과관계를 더 명확히 보여준다. AI로부터 유의미한 재무 성과를 얻고 있다고 보고한 기업들은, 모델링 기법을 선택하기 전에 엔드투엔드 워크플로우를 먼저 재설계한 비율이 그렇지 않은 기업의 두 배였다. 문화적 변화에 투자한 기업의 성공률은 기술에만 집중한 기업보다 5.3배 높았다. 순서가 중요한 것이다. 프로세스를 먼저 바꾸고, 그 다음에 AI를 도입한 기업이 이기고 있다. AI를 먼저 도입하고, 프로세스 변화는 나중에 하겠다고 미룬 기업은 자동화된 혼란 속에서 허우적거리고 있다.
자율주행 자동차의 비유가 적절하다. 아무리 뛰어난 자율주행 시스템도 비포장 도로 위에서는 제 성능을 발휘할 수 없다. 센서가 먼지에 가려지고, 알고리즘이 예측할 수 없는 요철에 차체가 흔들리며, 결국 사람이 직접 핸들을 잡아야 하는 상황이 반복된다. 기업의 AI도 마찬가지다. 도로를 먼저 깔아야 한다. 업무 프로세스라는 도로를 AI가 달릴 수 있는 형태로 재설계하지 않으면, 세계에서 가장 뛰어난 AI 모델도 조직 내에서는 느리고 비효율적인 도구로 전락한다.
AI 도구 도입의 효과를 논할 때 가장 자주 인용되는 숫자가 있다. GitHub이 의뢰한 2023년 연구에서 나온 "Copilot이 개발자의 코딩 속도를 55.8% 향상시켰다"는 결과다. 이 숫자는 업계 전체의 캐치프레이즈가 되었다. 벤더들은 영업 자료에 이 수치를 넣었고, 경영진은 이사회에 이 숫자를 보고했으며, 투자자들은 이 숫자를 근거로 AI 관련 주식을 매수했다. 그런데 이 55.8%에는 치명적인 맥락이 빠져 있다. 이 실험은 Express.js 서버를 처음부터 작성하는 단일하고 명확한 그린필드 태스크를 측정한 것이었다. 기존 코드베이스의 복잡성, 팀 간 협업, 코드 리뷰, 디버깅, 테스트라는 현실 세계의 변수는 모두 제거된 실험실 환경이었다.
현실 세계의 증거는 전혀 다른 이야기를 한다. 2025년 7월 발표된 METR의 무작위 대조 실험은 이 분야에서 가장 엄밀한 연구 중 하나다. 16명의 경험 많은 오픈소스 개발자가 성숙한 리포지토리에서 246개의 실제 업무 태스크를 수행했다. 결과는 놀라웠다. AI 도구를 사용한 개발자들이 사용하지 않은 경우보다 19% 더 느렸다. 더 주목할 점은 인식과 현실의 괴리다. 개발자들은 태스크 시작 전에 24%의 속도 향상을 예측했고, 태스크 완료 후에도 20% 빨라졌다고 체감했다. 그러나 실제로는 19% 느려졌다. 인식과 현실 사이에 39%포인트의 간극이 존재한 것이다. AI 도구가 만들어내는 "생산적이라는 느낌"과 실제 생산성 사이에는 깊은 골이 있다.
조직 수준으로 시야를 넓히면 상황은 더 명확해진다. Faros AI가 2025년 6월 발표한 보고서는 1,255개 팀, 10,000명 이상의 개발자 텔레메트리 데이터를 분석했다. AI 도입률이 높은 팀은 21% 더 많은 태스크를 완료했고, 98% 더 많은 풀 리퀘스트를 병합했다. 개인 수준의 산출량은 분명히 증가한 것이다. 그런데 동시에 풀 리퀘스트의 크기가 154% 커졌고, 리뷰 시간은 91% 늘어났으며, 버그는 9% 증가했다. 그리고 결정적으로 조직 수준의 DORA 지표, 즉 배포 빈도, 리드 타임, 변경 실패율, 복구 시간은 변하지 않았다. Faros AI는 이것을 "AI 생산성 패러독스"라고 명명했다. 개인의 산출량은 늘었지만 조직의 속도는 그대로인 현상이다.
Google의 DORA 리포트는 이 패러독스를 대규모로 확인한다. 2024년 DORA 리포트는 39,000명의 전문가를 대상으로 조사했는데, AI 도입률이 25% 증가할 때마다 배포 처리량은 1.5% 감소하고 배포 안정성은 7.2% 감소했다. 2025년 리포트에서는 AI가 처리량과는 긍정적 관계를 보이기 시작했지만, 배포 안정성과의 부정적 관계는 여전히 지속되었다. DORA가 내린 핵심 결론은 도구 도입 전략에 대한 근본적인 반론이다. "AI는 팀을 고치지 않는다. 이미 있는 것을 증폭시킬 뿐이다." 잘 작동하는 조직에서는 AI가 강점을 배가시키고, 제대로 작동하지 않는 조직에서는 AI가 기능 장애를 증폭시킨다는 것이다.
왜 이런 일이 벌어지는지를 수학적으로 설명하는 개념이 Amdahl's Law다. 이 법칙은 시스템의 일부를 아무리 빠르게 만들어도 전체 시스템의 속도 향상은 그 부분이 전체에서 차지하는 비중에 의해 제한된다는 원리다. Forrester의 2024년 조사에 따르면 개발자가 실제로 코딩에 쓰는 시간은 전체 업무 시간의 24%에 불과하다. 나머지 76%는 설계, 테스트, 디버깅, 코드 리뷰, 회의에 소비된다. Software.com의 텔레메트리 데이터는 더 극적인 숫자를 보여준다. 개발자가 하루에 실제로 코드를 작성하는 시간의 중앙값은 52분이다. 코드 생성 속도를 100% 향상시킨다 해도 전체 업무의 약 13%만 개선되는 셈이다. LinearB가 3,000개 개발팀을 분석한 결과, 평균 사이클 타임은 7일이었는데, 그중 4일은 풀 리퀘스트가 리뷰 대기 상태로 머물러 있는 시간이었다. 병목은 애초에 타이핑 속도가 아니었던 것이다.
Uplevel Data Labs의 약 800명 개발자 대상 연구에서 Copilot은 풀 리퀘스트 사이클 타임이나 처리량에 통계적으로 유의미한 변화를 만들어내지 못했고, 오히려 버그율이 41% 증가했다. DX Research가 450개 이상 기업, 121,000명 개발자를 대상으로 한 조사에서도 조직 차원의 생산성 향상은 약 10% 수준에서 정체 상태를 보였다. 코드 에디터 Cursor가 2025년 코드 리뷰 스타트업 Graphite를 인수한 것은 이 현실에 대한 업계의 암묵적 인정이었다. Cursor의 CEO Michael Truell 자신이 말했다. "Cursor가 프로덕션 코드 작성 속도를 크게 높였지만, 대부분의 엔지니어링 팀에서 코드 리뷰는 3년 전과 똑같은 모습이다." 코드를 빨리 쓰는 것이 아니라 코드를 빨리 검토하고, 빨리 합의하고, 빨리 배포하는 것이 진짜 병목이었다. 그리고 이 병목은 도구가 아니라 프로세스와 조직 구조의 영역이다.
AI 전환에서 CEO의 직접적 개입이 어떤 차이를 만드는지는 이론이 아니라 시가총액으로 증명된다. 세 기업의 공통점은 명확하다. CEO가 AI를 이해했고, 전략을 직접 수립했으며, 기술 도입을 넘어 조직 문화와 업무 프로세스의 변화까지 직접 이끌었다는 것이다.
사티아 나델라가 2014년 Microsoft CEO로 취임했을 때, 회사는 문화적 정체 상태에 있었다. 스티브 발머 시대의 스택 랭킹 시스템은 부서 간 경쟁을 부추겼고, 클라우드 전환은 지지부진했으며, 주가는 수년간 제자리걸음을 했다. 나델라가 첫 번째로 한 일은 기술 전략이 아니라 문화 전환이었다. 스택 랭킹을 폐지하고 "성장 마인드셋"을 조직의 핵심 원칙으로 선언했다. 이것은 AI 전략의 전제 조건이었다. 부서 간 협업이 가능해지지 않으면 AI를 활용한 크로스펑셔널 혁신은 불가능하기 때문이다. 그 위에 "클라우드 퍼스트, AI 퍼스트" 전략을 직접 설계했고, 2019년 OpenAI에 대한 10억 달러 투자를 결정했다. 이 투자는 나델라가 스케일링 법칙 연구를 직접 읽고 확신을 얻은 뒤 개인적으로 추진한 것이었다. 결과는 매출 3배 증가, 860억 달러에서 2,817억 달러로, 시가총액은 약 3,000억 달러에서 3조 달러 이상으로 성장했다. 2025년에는 리더십 구조 자체를 재편해, 자신이 AI 관련 기술 업무에 직접 집중할 수 있는 체제를 만들었다. CEO가 AI를 위임하는 것이 아니라, CEO의 업무 자체를 AI 중심으로 재설계한 것이다.
젠슨 황의 NVIDIA는 더 긴 호흡의 사례다. 2006년 CUDA를 출시할 때, 병렬 컴퓨팅 시장이 존재할지조차 불확실했다. 하지만 황은 개인적 확신을 바탕으로 막대한 자원을 투입했고, 딥러닝이 주류가 되기 10년 전부터 이 방향에 베팅했다. 그의 경영 스타일은 독특하다. 직속 보고자가 60명이고, 일대일 미팅은 하지 않는다. 대신 모든 핵심 정보가 자신에게 동시에 흐르도록 조직 구조를 설계했다. 이것은 단순한 성격의 문제가 아니라 전략적 선택이다. AI 시대의 의사결정은 속도와 통합이 핵심인데, 정보가 여러 층위의 중간관리자를 거쳐 올라오면 속도도 느려지고 맥락도 손실된다. 황은 이 문제를 조직 구조 자체로 해결한 것이다. NVIDIA의 시가총액은 2016년 약 300억 달러에서 2025년 10월 5조 달러를 넘어섰다. 데이터센터 매출 비중은 6%에서 78%로 이동했는데, 이는 GPU 회사에서 AI 인프라 기업으로의 완전한 비즈니스 모델 전환을 의미한다. 이 전환의 모든 핵심 결정을 CEO가 직접 내렸다.
제이미 다이먼의 JPMorgan Chase는 금융 산업에서 CEO 주도 AI 전환의 교과서적 사례다. 다이먼은 2012년부터, 생성형 AI 붐이 시작되기 10년도 더 전부터 AI에 투자해왔다. 그가 다른 금융 CEO들과 다른 점은 AI 투자의 규모와 구체성이다. 연간 20억 달러의 AI 전용 예산을 배정하고, 매 분기 투자자 미팅에서 정량적 성과를 직접 보고한다. 현재 JPMorgan은 450개 이상의 AI 유스케이스를 운영하고 있으며, 내부 LLM 스위트를 주당 15만 명의 직원이 사용한다. 다이먼이 공개적으로 보고하는 성과 지표는 구체적이다. 연간 20억 달러의 비용 절감, 운영팀의 직원당 계좌 처리량 6% 향상, 사기 비용 11% 감소, 직원 1인당 주간 약 4시간 절약. 이것은 도구를 배포한 결과가 아니다. 업무 프로세스를 AI 중심으로 재설계한 결과다. 다이먼은 AI가 인력을 대체한 부서에서는 해당 직원을 다른 역할로 재배치하는 정책까지 직접 관장하고 있다. 기술, 프로세스, 인력 전환의 세 축을 모두 CEO가 직접 움직이고 있는 것이다.
세 CEO의 공통 패턴은 분명하다. 첫째, AI의 기술적 원리를 본인이 직접 이해했다. 나델라는 스케일링 법칙 논문을 읽었고, 황은 병렬 컴퓨팅의 잠재력을 직접 판단했으며, 다이먼은 AI 유스케이스의 ROI를 본인이 검증한다. 둘째, 기술 도입을 넘어 조직 문화와 업무 프로세스의 변화를 직접 이끌었다. 나델라의 성장 마인드셋 전환, 황의 플랫 조직 구조, 다이먼의 인력 재배치 정책이 그것이다. 셋째, AI 전략을 위임하지 않고 자신의 핵심 업무로 삼았다. 이것이 도구를 사고 아래로 맡기는 접근과 근본적으로 다른 점이다.
성공 사례가 CEO의 직접적 개입이 만들어낸 결과라면, 실패 사례는 CEO의 부재가 만들어낸 결과다.
General Electric의 디지털 전환은 이 교훈을 가장 비싸게 치른 사례다.
2015년, GE의 CEO 제프 이멜트는 야심 찬 비전을 제시했다. GE를 2020년까지 세계 10대 소프트웨어 기업으로 만들겠다는 것이었다. 수십억 달러가 Predix라는 산업 IoT 플랫폼에 투입되었다. GE Digital이라는 별도 조직이 만들어졌고, 수천 명의 소프트웨어 엔지니어가 채용되었다. 비전은 웅장했고, 투자 규모도 충분했으며, 기술력도 나쁘지 않았다. 그런데 실패했다.
실패의 핵심 원인은 기술이 아니라 리더십 구조에 있었다. 이멜트는 디지털 전환을 GE Digital이라는 별도 조직에 위임했다. 이 결정은 당시에는 합리적으로 보였다. 전문가 조직에 전문적인 일을 맡긴다는 논리였다. 그러나 실제로 벌어진 일은 달랐다. GE Digital은 기존 사업부들과 단절된 채 운영되었다. 항공, 헬스케어, 에너지 등 핵심 사업부의 도메인 지식과 고객 접점이 디지털 전환에 제대로 반영되지 않았다. 조직의 사일로가 해체되기는커녕 새로운 사일로가 하나 더 추가된 셈이었다. 디지털 전환이 기존 조직의 업무 방식을 바꾸는 것이 아니라, 기존 조직 옆에 디지털 조직을 따로 세우는 것이 되어버렸다.
리더십의 공백은 여기서 끝나지 않았다. GE는 이멜트에서 존 플래너리, 다시 래리 컬프로 세 번의 CEO 교체를 겪었다. 각 CEO는 디지털 전략에 대해 다른 우선순위와 다른 이해 수준을 가지고 있었다. 전략의 일관성이 무너졌고, 장기적 투자에 대한 조직의 확신도 흔들렸다. 핵심 리더십에 디지털 전문성이 부족했다는 점도 치명적이었다. 기존 경영진은 제조업과 금융 서비스의 전문가였지 소프트웨어와 플랫폼 비즈니스의 전문가가 아니었다. 그래서 디지털 전환의 방향을 직접 판단하거나 수정할 역량이 없었고, "전문가에게 맡겼으니 잘 되겠지"라는 수동적 자세를 취했다. 동시에 GE는 모든 것을 한꺼번에 추진하려 했다. 단계적 롤아웃이나 정량화된 KPI 없이 전방위적 투자를 진행하면서, 무엇이 작동하고 무엇이 작동하지 않는지를 판별할 수 없는 상태에 빠졌다. 결국 GE의 주가는 폭락했고, 배당금이 삭감되었으며, 회사는 생존을 위해 세 개의 기업으로 분할되었다.
GE의 사례가 보편적 교훈인지를 검증하는 좋은 대조 연구가 있다. Third Stage Consulting이 분석한 두 기업의 비교 사례다. 150억 달러 규모의 유틸리티 기업은 디지털 전환을 프로그램 관리 사무소, 즉 PMO에 전적으로 위임했다. 경영진은 "핸즈오프" 접근을 취했다. 결과는 예산 초과, 일정 지연, 성과 미달이었다. 반면 250억 달러 규모의 제조 기업은 동일한 기술을 도입하면서도 경영진이 "핸즈온" 접근을 유지했다. 핵심 의사결정에 직접 참여했고, 진행 상황을 주간 단위로 점검했으며, 문제가 발생하면 직접 개입해 방향을 수정했다. 이 기업은 예산 내에서, 일정대로, 목표한 성과를 달성했다. 기술은 같았다. 차이는 리더십의 관여 수준이었다.
"위임"과 "방치"의 경계는 어디인가. 효과적인 리더십이 모든 것을 직접 실행하는 것을 의미하지는 않는다. CEO가 코드를 작성하거나 모델을 튜닝할 필요는 없다. 그러나 AI 전환의 방향을 설정하고, 프로세스 변화의 원칙을 정하고, 조직 문화의 전환을 선언하고, 성과를 정량적으로 추적하고, 문제가 생겼을 때 개입하는 것은 위임할 수 없는 영역이다. 이것을 다른 사람에게 맡기는 순간, GE가 빠진 것과 같은 함정에 빠진다. 비전은 있지만 실행의 일관성은 없고, 투자는 하지만 성과의 책임은 불분명하며, 전환을 선언하지만 실제로 바뀌는 것은 아무것도 없는 상태 말이다.
한국은 AI 시대에 역설적인 위치에 서 있다. 글로벌 AI 준비지수에서 미국, 싱가포르에 이어 세계 3위를 기록하고 있고, 스탠포드 대학의 Global AI Vibrancy Tool에서도 7위에 올라 있다. EU에 이어 세계에서 두 번째로 포괄적인 AI 법률인 AI 기본법을 제정했고, 2026년 AI 예산으로 10조 1천억 원을 편성했으며, 민관 합산 150조 원 투자를 약속했다. 한국은 미국에 이어 세계 두 번째로 큰 ChatGPT 유료 구독 시장이 되었고, 2024년 말 이후 생성형 AI 사용량이 80% 이상 증가했다. 제도적 준비와 개인 수준의 채택에서 한국은 분명히 앞서 있다.
그런데 기업 수준으로 내려가면 풍경이 달라진다. OECD 데이터에 따르면 한국 기업의 AI 도입률은 방법론에 따라 10%에서 30% 사이로 추정되는데, 일부 지표에서는 OECD 평균인 14%에도 미치지 못한다. 이 간극의 실체를 가장 잘 보여주는 것이 대한상공회의소의 조사다. 한국 기업의 78.4%가 AI의 필요성을 인식하고 있지만, 실제로 도입한 기업은 30.6%에 불과하다. 인식과 실행 사이에 거의 50%포인트의 간극이 존재하는 것이다.
더 우려스러운 것은 도입한 기업에서조차 실질적 변화가 나타나지 않고 있다는 점이다. 한국지능정보사회진흥원, 즉 NIA가 2025년 발표한 기업 내 AI 활용 현황 분석에 따르면, AI를 도입한 기업들에게 영업이익, 인건비, 조직 구조의 변화를 물었을 때, 가장 많은 응답은 세 항목 모두에서 "변화 없음"이었다. 이것은 1장에서 다룬 글로벌 패턴의 한국판이다. 도구는 도입했지만 프로세스는 바꾸지 않았고, 따라서 성과도 달라지지 않은 것이다.
한국 특유의 구조적 요인들이 이 문제를 더 복잡하게 만든다. OECD가 측정한 한국의 고용 보호 엄격성 지수는 2.35로 OECD 평균 2.27을 웃돈다. AI 도입에 따른 인력 재배치가 다른 나라보다 구조적으로 더 어렵다는 의미다. AI에 투자하는 기업 중 대부분이 매출의 5% 이하를 투자하고 있는데, 이는 전환에 필요한 규모에 비해 지나치게 보수적인 수준이다. OpenAI가 2025년 10월 발표한 한국 경제 청사진은 한국의 잠재력을 높이 평가하면서도, 노동 시장의 경직성과 투자 규모의 부족이 AI 전환의 속도를 제약하고 있다고 분석했다.
그러나 한국 재계 총수들의 움직임에서는 변화의 조짐이 감지된다. 삼성전자의 이재용 회장은 젠슨 황과 직접 면담했고, OpenAI의 Stargate 이니셔티브에 참여했다. 삼성은 2025년 대규모 임원 인사에서 AI 전문가를 39세에 부사장으로 발탁하는 등 세대교체와 기술 리더십 강화를 동시에 추진했다. SK그룹의 최태원 회장은 TPD 2026에서 AI가 전 세계의 산업 구조를 근본적으로 재편하고 있다고 선언했다. LG의 AI 연구 총괄이자 EXAONE 대형언어모델을 개발한 배경훈은 과학기술정보통신부 장관으로 임명되어, 민간의 AI 전문성이 정부 정책으로 직접 연결되는 전례 없는 인사가 이루어졌다.
한국 CEO들 자신도 리더십의 중요성을 인식하고 있다. 중앙일보와 더존비즈온의 공동 조사에서 한국 CEO의 80%가 디지털 전환에서 가장 중요한 요인으로 "CEO의 결단과 추진력"을 꼽았고, 70.9%는 CEO의 핵심 역할이 명확한 전환 비전을 제시하는 것이라고 답했다. CEO 아웃룩 조사에서는 한국 CEO의 96%가 생성형 AI에 투자하고 있으며, 74%가 빠른 도입이 경쟁력에 필수적이라고 동의했다. Deloitte 한국의 배재민 대표는 2025년 한국 기업들이 개별 유스케이스 수준을 넘어 에이전틱 AI 기반의 전사적 전환을 요구하고 있다고 진단했다.
인식의 전환은 시작되었다. 그러나 78%의 인식이 30%의 실행으로 전환되는 과정에서 빠진 고리는 무엇인가. 앞의 다섯 개 장이 보여주듯, 그것은 기술도, 예산도, 인식도 아니다. CEO가 직접 프로세스를 바꾸고, 조직 문화를 재설계하며, 성과를 정량적으로 추적하면서 전환을 밀고 나가는 "실행의 리더십"이다. 한국은 준비는 되어 있지만 실행의 스위치는 아직 켜지지 않은 상태다.
지금까지의 모든 데이터, 사례, 분석이 하나의 결론으로 수렴한다. AI 전환은 리더가 직접 해야 한다. "직접"이라는 단어가 핵심이다. 이해하는 것만으로는 부족하고, 지시하는 것만으로도 부족하다. 리더가 자신의 시간과 에너지와 정치적 자본을 직접 투입해 세 가지를 실행해야 한다. 비전, 프로세스, 문화가 그것이다.
첫째, 비전이다. 비전이라고 하면 막연한 슬로건을 떠올리기 쉽지만, 여기서 말하는 비전은 구체적이다. "우리 회사의 어떤 업무가 AI로 인해 어떻게 달라질 것인가"에 대한 명확한 그림이다. BCG의 2025년 "Build for the Future" 연구가 발견한 12배의 리더십 승수가 바로 이것을 말한다. C-레벨 리더가 AI에 깊이 관여하고 있는 기업은 AI로 의미 있는 가치를 창출할 확률이 그렇지 않은 기업의 12배다. BCG의 AI Radar 2026 조사에서 CEO의 72%가 자신을 조직의 AI 최고 의사결정자로 인식하고 있고, CEO의 절반은 AI 전략의 성패에 자신의 자리가 달려 있다고 느끼고 있다. 비CEO 경영진의 50% 이상은 부적절한 AI 전략으로 시장 점유율을 잃으면 CEO나 이사회가 물러나야 한다고 생각한다. AI 비전은 더 이상 선택적 어젠다가 아니라 CEO의 존재 이유 자체가 되고 있다.
그런데 비전만으로는 충분하지 않다. GE의 제프 이멜트도 비전은 있었다. 문제는 비전이 프로세스 변화로 번역되지 않았다는 데 있다. 이것이 두 번째 요소, 프로세스의 직접적 재설계다. McKinsey의 2025년 조사가 보여주듯, AI로 유의미한 재무 성과를 얻은 기업은 모델을 선택하기 전에 워크플로우를 먼저 재설계한 비율이 두 배였다. "AI를 어디에 쓸까"가 아니라 "이 업무를 처음부터 다시 설계한다면 어떻게 될까"가 올바른 질문이다. McKinsey의 Superagency 보고서가 내린 진단은 뼈아프다. 문제는 직원들이 아니라 리더들이라는 것이다. 직원들은 AI를 사용할 준비가 되어 있다. 그런데 리더들이 충분히 빨리 방향을 잡아주지 못하고 있다. 직원들에게 "AI를 써서 효율적으로 일하라"고 지시하는 것은 프로세스 변화가 아니다. 그것은 기존 프로세스를 그대로 둔 채 효율화의 책임을 개인에게 전가하는 것이다. 3장에서 보았듯, 개발자 개인의 코딩 속도가 빨라져도 리뷰 대기 시간이 4일이면 조직의 속도는 변하지 않는다. 리뷰 프로세스를 바꾸는 것, 의사결정 단계를 줄이는 것, 병목이 되는 승인 체계를 재설계하는 것, 이것은 개인이 할 수 있는 일이 아니다. 리더만이 할 수 있는 일이다.
셋째, 문화다. MIT Sloan의 데이터 리더 조사에서 91%가 AI 도입의 장벽으로 문화를 꼽은 것은 결코 수사가 아니다. 문화는 "사람들이 감시받지 않을 때 어떻게 행동하는가"의 총합이다. AI 시대에 필요한 문화적 전환은 여러 층위를 포함한다. 실험을 허용하는 문화, 실패를 학습으로 전환하는 문화, 기존 방식을 고수하는 것이 오히려 리스크라는 인식, 데이터에 기반해 의사결정하는 습관, 부서 간 경계를 넘는 협업의 일상화가 그것이다. 이 모든 것은 리더의 행동에서 시작된다. 나델라가 성장 마인드셋을 선언한 것은 슬로건이 아니라 평가 체계, 보상 구조, 회의 방식, 인사 기준의 변화를 수반한 것이었다. 문화는 선언으로 바뀌지 않는다. 리더가 일상적으로 어떤 행동을 보상하고 어떤 행동을 교정하는지의 축적으로 바뀐다.
BCG의 Ernesto Pagano가 제시한 비율을 다시 떠올려보자. AI 전환은 기술이 10%, 도구와 프로세스가 20%, 사람이 70%다. 그런데 대부분의 기업은 투자의 대부분을 10%에 해당하는 기술에 집중하고, 70%에 해당하는 사람과 문화에는 거의 투자하지 않는다. 이것이 80% 실패율의 구조적 원인이다.
그렇다면 리더가 위임할 수 있는 것은 무엇인가. 기술 선택, 모델 튜닝, 인프라 구축, 데이터 파이프라인 설계는 전문가에게 맡겨야 한다. 벤더 평가, 보안 검토, 규제 대응의 실무도 마찬가지다. 그러나 "우리 조직이 AI를 통해 어디로 갈 것인가"라는 비전의 설정, "업무가 어떤 순서와 방식으로 흘러갈 것인가"라는 프로세스의 재설계, "무엇을 장려하고 무엇을 교정할 것인가"라는 문화의 전환은 위임하는 순간 공백이 된다. 그리고 그 공백에서 AI 전환은 실패한다. 68%의 성공률을 가져다주는 지속적 경영진 후원과 11%의 성공률에 머무르게 하는 경영진 이탈 사이의 차이는, CEO가 이 세 가지를 직접 하느냐 안 하느냐의 차이다.
글로벌 컨설팅 기업들의 연구가 수렴하는 결론, METR과 DORA의 실증 데이터가 증명하는 사실, Microsoft와 NVIDIA와 JPMorgan Chase의 시가총액이 보여주는 결과, GE의 실패가 남긴 교훈, 한국 기업들의 인식과 실행 사이의 간극이 가리키는 방향은 모두 같다. AI 도구는 점점 더 강력해질 것이다. 그러나 도구의 강력함이 조직의 변화를 자동으로 만들어주지는 않는다. EY한영의 분석이 경고하듯, 각 산업에서 과감하게 전환한 한두 기업이 AI가 창출하는 가치의 약 98%를 독점하게 될 것이다. 나머지 기업들은 소 떼의 오솔길 위에 포장도로를 깔아놓고 왜 교통이 원활하지 않은지 의아해하게 될 것이다. 리더가 직접 해야 한다. 도구를 사주는 것이 아니라, 도로 자체를 새로 설계해야 한다. 그것이 AI 시대에 리더가 존재하는 이유다.