AI로 변화를 만든 조직의 공통된 전략
맥킨지 리포트가 말하는 ‘성공하는 AI 전환’의 조건
요즘은 그 어떤 회의에 들어가든 조직의 AX 전환이 중요한 주제 중 하나로 논의된다. 이 때 언급되는 소위 프론티어 기업들의 사례에 비추어 '우리는 왜 아직 이 정도일까' 하는 조바심을 유발하고 있는 것도 부인할 수 없는 사실이다. 하지만 한발 물러서서 냉정하게 바라볼 필요가 있다. 지난 11월 초 맥킨지에서 발간한 보고서에 따르면 현재의 AX 열풍은 기술의 완성도나 대기업 현장의 적용 속도에 비해 과열된 면이 있으며, 사실상 대부분의 기업이 거대한 실험 단계에 있다고 할 수 있다. AI 도입이 보편화되었음에도, 대다수 기업들은 아직 규모의 경제를 실현하는 확장 단계에는 이르지 못했다는 데이터가 이를 명확히 보여준다.
물론, 그렇다고 해서 아직 시간이 많다는 생각으로 안심하고 손 놓고 있어서는 안 된다. 다만 아직은 다들 비슷한 상황이니 지금부터 잘해나가면 된다는 생각으로 한 발 한 발 차근차는 준비가 필요하다. 특히 규모가 큰 조직이라면 AI를 통해 성공적으로 체질을 개선했을 때 얻을 수 있는 성과가 상상할 수 없는 수준으로 크다. 하지만 만약 방향 설정이 잘못된다면 그만큼 감당해야 할 기회비용 역시 막대하다. 단순히 유행하는 최신 AI 기술을 남들보다 빨리 도입하고 쫓아가는 것이 능사가 아닌 이유이다.
결국 핵심은 '속도'가 아니라 '방향성'이다. 맥킨지 보고서에서 발견된 '진짜 성과를 내는 기업들(AI high performers)'의 공통점도 기술 그 자체가 아니라, 그 기술을 바라보는 목표와 실행 방식에 있다. 그들은 AI를 단순히 비용을 절감하는 수단(효율성)으로만 보지 않았다. AI를 통해 혁신하고 성장하겠다는 분명한 방향성을 세웠다. 그리고 그 방향성 안에서, AI가 제대로 작동할 수 있도록 기존의 일하는 방식, 즉 워크플로우를 과감하게 재설계하는 실행력을 보였다.
이 모든 변화는 결국 '사람'이 만든다. 리더는 AI를 통한 혁신과 성장이라는 명확한 방향성을 제시하고, 강력한 주인의식과 롤모델링을 통해 이를 조직에 전파해야 한다. 또한 구성원 각자는 이 큰 방향에 깊이 공감하며, AI 기술의 가능성과 한계를 제대로 이해하고 학습해야 한다. 단순히 조직 차원에서 AI를 도입하는 것을 넘어, '이 기술로 우리가 무엇을 다르게 할 수 있을까?'를 치열하게 고민하고 자발적으로 시도하는 주체적인 노력이 반드시 함께 이루어져야만 한다.
그리고 이 리더와 구성원을 직접 연결하는 HR은 전략적 조력자가 되어야 한다. HR은 리더가 제시한 혁신과 성장이라는 방향성을 구성원들이 명확히 이해하고 공감할 수 있도록, AI 기술 자체와 조직의 AI 전환 방향에 대한 전략과 연계된 맞춤형 학습 경로를 설계하고 제공해야 한다. 또한, 구성원들이 실패에 대한 두려움 없이 자발적으로 다양한 시도를 해 볼 수 있도록 심리적, 제도적 우산 역할을 해야 한다. 이는 구성원의 다양한 시도를 실패나 비용이 아닌 조직의 학습 자산으로 축적하는 성과 관리 체계의 변화를 통해 구현될 수 있을 것이다. 마지막으로, HR은 이러한 시도 중 가능성이 확인된 것이 조직 내에서 실제로 적용되고 확산될 수 있도록 하는 조직 운영 방식을 도입하거나 기술/데이터 부서와의 협업을 연계하는 등 구체적이고 실질적인 지원을 제공할 필요가 있다.
https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai#/
1. 이 연구를 3줄로 요약하면?
2025년 현재, 기업 10곳 중 9곳(88%)이 AI를 정기적으로 사용하며 도입이 보편화되었으나, 대부분(62%)은 여전히 실험 및 파일럿 단계에 머물러 있다. AI 에이전트에 대한 관심은 높아 62%가 실험 중이지만, 기업 수준의 실질적인 EBIT(영업이익) 영향은 39%의 기업만이 경험하고 있다. AI 고성과 기업은 비용 절감을 넘어 성장과 혁신을 목표로 워크플로우를 근본적으로 재설계하며, 이것이 AI 가치 창출의 핵심 동력으로 작용한다.
2. 저자는 왜 이 연구를 진행했는가?
본 연구는 2025년 현재 AI, 특히 생성형 AI와 AI 에이전트가 기업에 얼마나 확산되었는지 그 현황을 파악하기 위해 진행되었다. AI 도입이 보편화되는 가운데, 기업들이 파일럿 단계에서 실제 확장 단계로 나아가는 데 겪는 어려움(stubborn growing pains)을 진단하고, AI를 통해 실질적인 기업 가치(EBIT 영향, 혁신 등)를 창출하는 '고성과 기업'의 특징과 성공 요인을 분석하여 제시하고자 한다.
3. 이 연구에서 중요하게 다뤄진 개념은?
AI 에이전트 (AI Agents): 파운데이션 모델을 기반으로 실제 워크플로우 내에서 자율적으로 계획하고 여러 단계를 실행할 수 있는 시스템
AI 도입 단계 (Phase of AI use): 기업의 AI 활용 수준을 '실험(Experimenting)', '파일럿(Piloting)', '확장(Scaling)', '완전 확장(Fully scaled)'의 4단계로 구분
AI 고성과 기업 (AI high performers): AI 사용으로 5% 이상의 EBIT 영향을 달성하고 AI로부터 '상당한 가치(significant value)'를 얻었다고 보고한 기업 그룹(전체 응답자의 약 6%)
4. 저자는 어떤 방법을 사용했는가?
저자(McKinsey)는 2025년 6월 25일부터 7월 29일까지 전 세계 105개국의 다양한 산업, 기업 규모, 직무에 종사하는 1,993명의 응답자를 대상으로 'AI 현황에 대한 글로벌 설문조사(McKinsey Global Survey on the state of AI)'를 실시했다.
5. 연구의 결과는?
AI 사용은 응답자의 88%로 보편화되었으나, 약 3분의 2(62%)는 아직 '확장' 단계에 도달하지 못했다. AI 에이전트의 경우 62%가 실험 중이거나 도입 초기 단계에 있다. AI가 혁신(64%)에는 기여하고 있으나, 전사적 EBIT 영향(39%)은 아직 낮다.
AI 고성과 기업(응답자의 6%)은 비용 효율화(80%)를 넘어 성장(82%)과 혁신(79%)을 명확한 목표로 설정합니다. 이들은 워크플로우를 근본적으로 재설계하고(2.8배 더 높음), AI에 더 많은 예산(디지털 예산의 20% 이상을 투자하는 비율이 4.9배 더 높음)을 투입하며, 강력한 시니어 리더십의 지원을 받는 특징을 보였다.
핵심 요약 (Key findings)
1. 대부분 조직은 초기 단계: 응답자의 약 3분의 2가 아직 AI를 전사적으로 확장하는 단계에 이르지 못했으며, 실험 또는 파일럿 단계에 머물러 있다.
2. AI 에이전트에 대한 높은 관심: 응답자의 62%가 자신의 조직이 AI 에이전트를 최소한 '실험'하고 있다고 답했다.
3. 영향력에 대한 긍정적 초기 징후: 응답자들은 개별 사용 사례 수준에서 비용 및 수익 효과를 보고 있으며, 64%는 AI가 조직의 혁신을 가능하게 한다고 답했다. 그러나 기업 수준의 EBIT(영업이익) 영향을 보고한 비율은 39%에 그쳤다.
4. 고성과 기업의 목표: AI 이니셔티브의 목표로 효율성을 설정한 응답자는 80%에 달하지만, AI에서 가장 큰 가치를 창출하는 기업들은 성장 또는 혁신을 추가 목표로 설정하는 경향을 보인다.
5. 워크플로우 재설계의 중요성: AI 고성과 기업의 절반은 AI를 비즈니스 '변혁(transform)'에 사용할 의도가 있으며, 이들 대부분은 워크플로우를 재설계하고 있다.
6. 고용 영향에 대한 엇갈린 전망: AI가 향후 1년간 조직의 전체 인력 규모에 미칠 영향에 대해 응답자들의 의견은 다양하다. 32%는 감소를, 43%는 변화 없음을, 13%는 증가를 예상했다.
1. AI 사용은 계속 확대되지만, 주로 파일럿 단계에 머무름
AI 사용이 조직 전반으로 확대되고 있으나, 대부분은 아직 기술을 확장하는 단계에는 이르지 못했다.
조직이 최소 1개의 비즈니스 기능에서 AI를 사용한다고 응답한 비율은 88%로, 1년 전 78%에 비해 증가했다. 생성형 AI(gen AI)의 사용 또한 2023년 33%에서 2025년 79%로 급격히 증가했다.
하지만 기업 수준에서 AI 도입은 여전히 초기 단계에 머물러 있다. AI 사용 단계를 묻는 질문에 응답자들은 다음과 같이 답했다.
실험 중 (Experimenting): 32%
파일럿 (Piloting): 30%
확장 중 (Scaling): 31%
완전 확장 (Fully scaled): 7%
이는 응답자의 약 3분의 2(62%)가 아직 '확장' 단계에 도달하지 못했음을 의미하며, AI 프로그램을 확장하기 시작했다고 답한 비율은 약 3분의 1(38%)이다.
많은 조직이 이미 AI 에이전트를 실험 중
조직들은 AI 에이전트(AI agents)에 대한 기회를 탐색하기 시작했다. AI 에이전트는 파운데이션 모델을 기반으로 실제 워크플로우에서 자율적으로 계획하고 여러 단계를 실행할 수 있는 시스템을 의미한다.
응답자의 23%는 조직이 최소 1개의 비즈니스 기능에서 AI 에이전트 시스템을 '확장(scaling)' 중이라고 답했으며, 추가로 39%는 '실험(experimenting)'을 시작했다고 답했다.
그러나 AI 에이전트 사용이 널리 확산된 것은 아니다. 에이전트를 확장 중이라고 답한 이들도 대부분 1~2개 기능에서만 사용하고 있다. 어떤 비즈니스 기능이든 AI 에이전트를 '확장' 중이라고 답한 비율은 10%를 넘지 않는다.
기능별 사용 현황: 개별 비즈니스 기능 중에서는 IT(서비스 데스크 관리 등)와 지식 관리(심층 리서치 등)에서 에이전트 사용이 가장 많이 보고된다.
산업별 사용 현황: 산업별로는 기술(Technology), 미디어 및 통신(Media and telecom), 헬스케어(Healthcare) 부문에서 AI 에이전트 사용이 가장 널리 보고된다.
맥킨지는 응답자의 약 4분의 1이 에이전트 시스템을 확장하기 시작했다고 보고하지만, 대부분은 탐색 단계에 머물러 있다고 논평했다. 이는 잠재력에 대한 '하이프 사이클(hype cycle)'과 현장의 실제 현실 간의 격차를 보여준다.
대부분 조직에서 AI 사용은 파일럿 단계에 머무름
AI 사용은 조직 내에서 전반적으로 확대되고 있다. 응답자의 3분의 2 이상이 1개 이상의 기능에서 AI를 사용 중이며, 절반은 3개 이상의 기능에서 AI를 사용한다고 답했다.
산업별로도 AI 사용이 증가했다. 이미 사용률이 높았던 기술(Technology) 부문을 제외한 모든 산업에서 AI 사용이 의미 있게 증가했다. 이제 미디어 및 통신(Media and telecom), 보험(Insurance) 산업도 기술 부문만큼이나 AI 사용률이 높은 것으로 나타났다.
비즈니스 기능 면에서는 전통적으로 AI 도입이 활발했던 IT, 마케팅 및 영업 외에 지식 관리(Knowledge management)가 새롭게 AI가 가장 많이 사용되는 기능 중 하나로 부상했다.
그러나 많은 기업, 특히 규모가 작은 기업들은 아직 AI를 워크플로우에 깊이 통합하지 못했다.
기업 규모별 차이: 전체 응답자의 3분의 1만이 AI 프로그램을 조직 전체로 '확장' 중이라고 답했으나, 대기업은 이 비율이 더 높다. 연 매출 50억 달러 이상 기업의 응답자 중 거의 절반(49%)이 확장 단계에 도달한 반면, 1억 달러 미만 기업의 응답자 중에서는 그 비율이 29%에 그쳤다.
혁신의 촉매제로서의 AI
대부분의 조직에서 AI 사용이 아직 기업 전반의 EBIT(영업이익)에 큰 영향을 미치지는 못하고 있다.
EBIT 영향: 응답자의 39%만이 AI로 인해 어느 정도라도 EBIT 영향이 있었다고 답했으며, 그들 대부분도 '5% 미만'의 영향이라고 답했다.
정성적 성과: 반면, 정성적인 성과는 분명하게 나타난다. 응답자의 64%가 AI 사용으로 혁신(Innovation)이 향상되었다고 답했으며, 거의 절반(45%)이 고객 만족도 및 경쟁적 차별화가 개선되었다고 보고했다.
기업 전반의 EBIT 영향은 제한적이지만, 개별 AI 사용 사례에서는 비용 절감 및 수익 증대 효과가 보고된다.
비용 절감: 비용 절감 효과는 소프트웨어 엔지니어링, 제조(Manufacturing), IT 기능에서 가장 두드러지게 나타났다.
수익 증대: 수익 증대 효과는 마케팅 및 영업, 전략 및 재무, 제품/서비스 개발 기능에서 가장 많이 보고되었다.
2. 야심 찬 AI 의제를 가진 조직이 가장 큰 혜택을 보고 있음
AI 사용으로 인한 실질적인 기업 성과(bottom-line impact)는 드물지만, '크게 생각하는(thinking big)' 기업이 성과를 내고 있다. 본 서베이에서 'AI 고성과 기업(AI high performers)'은 AI로 5% 이상의 EBIT 영향을 달성하고 '상당한 가치'를 얻었다고 보고한 응답자(전체의 약 6%)로 정의된다. 이들 고성과 기업은 다음과 같은 특징을 보인다.
1) 목표: 효율을 넘어선 변혁
AI 고성과 기업은 다른 기업보다 3.6배 더 많이 AI를 사용하여 비즈니스의 '변혁적 변화(transformative change)'를 의도한다.
대부분의 기업(80%)이 AI의 목표로 '효율성(비용 절감)'을 설정하지만, 고성과 기업은 이에 더해 '성장(Growth)'과 '혁신(Innovation)'을 핵심 목표로 설정하는 경향이 훨씬 강하다.
고성과 기업의 목표: 효율성 (84%), 성장 (82%), 혁신 (79%)
기타 기업의 목표: 효율성 (80%), 성장 (50%), 혁신 (50%)
AI를 성장과 혁신을 위해 사용하는 기업은 성과 수준과 관계없이 고객 만족도, 수익성, 시장 점유율 등에서 더 나은 질적 혜택을 보고하는 경향이 있다.
2) 실행: 워크플로우의 근본적 재설계
AI 고성과 기업은 AI를 도입할 때 기존 워크플로우를 근본적으로 재설계(fundamentally redesigned)할 가능성이 다른 기업보다 2.8배 높다. 이러한 의도적인 재설계는 AI로 의미 있는 비즈니스 영향을 달성하는 데 가장 강력하게 기여하는 요인 중 하나이다.
3) 리더십과 투자: 강력한 주도권과 예산
리더십: 고성과 기업은 시니어 리더가 AI 이니셔티브에 대한 강력한 주인의식과 의지를 보인다고 '강력히 동의'할 확률이 3.0배 더 높다. 리더들은 AI 사용을 직접 롤모델링하며 도입을 주도한다.
AI 에이전트 도입: 고성과 기업은 대부분의 비즈니스 기능에서 AI 에이전트를 '확장' 단계로 도입했을 가능성이 다른 기업보다 3배 이상 높다.
예산: 고성과 기업은 AI에 더 많이 투자한다. 이들 중 3분의 1 이상(35%)이 디지털 예산의 20% 이상을 AI에 투입하며, 이는 다른 기업(7%)보다 4.9배 높은 수치이다.
4) 핵심 성공 프랙티스: 'Human-in-the-loop'
고성과 기업은 다양한 모범 경영 프랙티스를 실행한다. 이들을 가장 크게 구별 짓는 요인 중 하나는 'Human-in-the-loop(인간 참여형 루프)'를 위한 명확한 프로세스를 정의하는 것이다. 즉, 모델 출력의 정확성을 보장하기 위해 '언제, 어떻게' 인간의 검증이 필요한지 결정하는 프로세스를 갖추고 있다. (고성과 기업 65% vs. 기타 기업 23%)
3. AI가 인력 규모에 미칠 영향에 대한 다양한 기대
AI 사용이 확대됨에 따라, AI가 향후 1년간 인력 규모에 미칠 영향에 대한 응답자들의 전망은 엇갈린다. 지난 1년간 AI 사용으로 인한 인력 변화를 묻는 질문에는 '변화가 거의 없었다'는 응답이 다수를 차지했다. 대부분의 기능에서 3% 이상의 인력 감소를 보고한 응답자는 20% 미만이었으며, 오히려 인력을 충원했다는 응답은 더 적었다.
그러나 향후 1년에 대한 전망은 달랐다. 더 많은 응답자가 인력 변화를 예상했다.
기능별 전망: 지난 1년간 AI로 인해 인력이 감소했다고 답한 비율(중앙값 17%)보다, 향후 1년 내 감소할 것으로 예상하는 비율(중앙값 30%)이 더 높았다.
기업 전사적 전망: 향후 1년 조직 전체의 인력 규모에 대해 43%는 '거의 또는 전혀 영향이 없을 것'이라고 예상했다. 반면 32%는 3% 이상의 '감소'를, 13%는 3% 이상의 '증가'를 예측했다.
기업 특성별 차이: 대기업 응답자들은 소규모 기업 응답자들보다 AI로 인한 전사적 인력 감축을 예상하는 경향이 더 컸다. AI 고성과 기업 응답자들은 인력 감축이든 증가든 '의미 있는 변화'를 예상하는 비율이 다른 기업보다 높았다.
한편, 인력 감축 예상과 동시에 AI 관련 채용은 활발하게 이루어지고 있다.
AI 인력 채용: 대부분의 응답자, 특히 대기업(연 매출 10억 달러 이상) 응답자들은 지난 1년간 AI 관련 직무를 채용했다고 답했다.
주요 채용 직무: 기업 규모와 관계없이 소프트웨어 엔지니어(Software engineers)와 데이터 엔지니어(Data engineers)가 가장 수요가 높은 직무로 나타났다.
4. 문제가 구체화됨에 따라 AI 위험 완화 노력이 보편화됨
지난 6년간의 연구에서는 AI 관련 위험을 완화하려는 조직이 소수에 불과했으나, 최근 조사에서는 위험 완화 노력이 증가한 것으로 나타났다.
2022년 조사(AI 전반에 대해 질문)에 비해 개인정보 보호, 설명 가능성, 조직 평판, 규제 준수 등의 위험에 대해 완화 노력을 하고 있다는 응답이 증가했다. 조직이 관리 중인 AI 관련 위험의 평균 개수는 2022년 2개에서 현재 4개로 늘어났다.
조직들은 자신들이 부정적인 결과를 경험한 위험에 대해 더 적극적으로 완화 조치를 취하는 경향을 보인다.
부정적 결과 경험: AI 사용 조직의 51%가 최소 1건의 부정적인 결과를 경험했다.
가장 많이 경험한 위험: AI의 부정확성(Inaccuracy)이다. 30%의 응답자가 이로 인한 부정적 결과를 경험했다고 답했다.
가장 많이 완화하는 위험: 부정확성(Inaccuracy)(54%)과 사이버 보안(Cybersecurity)(51%)이다.
경험과 완화의 불일치: 설명 가능성(Explainability)은 부정확성 다음으로 많이 경험한 위험(14%)이지만, 이를 완화하기 위해 노력한다는 응답은 28%에 그쳐 가장 많이 완화되는 위험 항목에는 포함되지 않았다.
AI 고성과 기업은 AI 활용에 더 적극적인 만큼, 지적 재산권 침해 및 규제 준수와 관련하여 부정적인 결과를 경험했다고 보고할 가능성이 더 높았다. 동시에 이들은 더 많은 수의 위험에 대비하려는 경향을 보였다.
