AI 도입, IT 부서는 그만 괴롭히세요.
AX 전환의 열쇠, HR의 중요성
2026년 2월, 세계적인 경영 컨설팅 기업 BCG(Boston Consulting Group)가 발표한 보고서 한 편이 글로벌 기업 리더들의 시선을 사로잡았습니다. 보고서 제목은 「AI 중심 기업에서 CHRO의 재창조(The Reinvention of the CHRO in an AI-Driven Enterprise)」인데요, 내용을 들여다보면 그동안 우리가 AI 도입에 대해 얼마나 큰 착각을 하고 있었는지 적나라하게 드러납니다.
BCG는 세계 각국 리딩 기업들의 AI 전환 과정을 면밀히 분석한 결과, 충격적인 진실을 발견했습니다. 기업의 AI 도입 성공 여부는 기술력(30%)이 아니라 사람과 조직의 변화 역량(70%)에 달려 있다는 사실입니다. 더욱 흥미로운 점은, 이제 최고인사책임자(CHRO)가 단순한 인사 관리자를 넘어 '인간과 AI가 협업하는 하이브리드 워크포스'를 설계하는 핵심 전략가로 부상하고 있다는 거죠.
지금 이 순간에도 많은 기업에서 비슷한 불만이 터져 나옵니다.
비싼 돈 주고 최신 AI 깔았는데, 직원들이 안 쓰네요.
IT 부서는 도대체 뭘 하는 겁니까?
하지만 BCG는 단도직입적으로 말합니다. 여러분이 번지수를 잘못 찾았다고요. AI 도입의 진짜 문제는 서버실 온도나 프롬프트 엔지니어링 스킬이 아니라, '사람'과 '일하는 방식'에 있다구요.
본 글에서는 BCG 보고서의 핵심 내용을 중심으로, 왜 지금 당장 IT 부서가 아닌 HR 부서의 문을 두드려야 하는지, 그리고 CHRO가 향후 12개월 내에 실행해야 할 구체적인 우선순위는 무엇인지 살펴보겠습니다.
1. AI 성공의 비밀, 10/20/70 법칙
F1 레이싱을 상상해 볼까요? 세계 최고의 엔진을 만들고, 가장 비싼 타이어와 차체를 샀다고 해서 우승할 수 있을까요? 절대 그렇지 않습니다. 차를 모는 레이서의 기량, 피트인(Pit-in) 타이밍을 맞추는 팀워크, 즉 '사람'이 없으면 그저 비싼 고철 덩어리에 불과합니다.
BCG는 AI 구현의 성공 방정식을 아주 명확한 숫자로 제시합니다.
10% - 알고리즘 및 데이터 모델 (똑똑한 두뇌)
20% - 기술 플랫폼 및 IT 인프라 (튼튼한 뼈대)
70% - 사람, 조직, 프로세스의 실질적인 변화 (움직이는 근육과 핏줄)
우리는 고작 30%에 불과한 IT 시스템 구축에 예산과 에너지를 몰빵하면서, 정작 70%를 차지하는 '직원들이 AI와 어떻게 협업할 것인가'에 대한 고민은 "알아서 잘 쓰겠지"라며 방치해 왔습니다. AI 혁신은 IT 부서의 코딩으로 시작될지 몰라도, 그 완성은 결국 일하는 방식과 기업 문화를 재설계하는 HR 부서의 책상 위에서 끝난다는 게 BCG의 핵심 메시지입니다.
왜 70%의 기업이 AI 프로젝트에 실패할까
실제로 미국 RAND 연구소가 데이터 과학자와 엔지니어 65인을 심층 인터뷰한 결과, AI 프로젝트의 실패율은 일반 IT 프로젝트보다 두 배 이상 높았습니다. 10개 프로젝트 중 8개가 기대에 미치지 못하는데요, 실패 원인을 분석해보니 기술적 한계나 데이터 품질 문제보다는 '사람'과 '조직문화'가 압도적으로 많았습니다.
2024년 발표된 Administrative Sciences 저널의 연구에서도 비슷한 결론이 나왔습니다. 4,200편 이상의 AI 관련 연구를 체계적으로 분석한 결과, AI는 단순히 업무 방식만 바꾸는 게 아니라 일하는 '태도', 일터의 '가치', 조직의 '규범'까지 전면적으로 바꾼다는 거죠.
조직문화가 충분히 준비되지 않은 곳에 AI를 억지로 밀어 넣으면, 표면적으로는 시스템이 깔리지만 실제 사용은 정체되고 저항만 커져서 결국 프로젝트가 무너진다는 겁니다. 기술은 빠르지만, 문화로 정착되는 과정은 느리고 시간이 필요합니다.
2. CHRO의 진화 – 하이브리드 워크포스 설계자
과거의 HR 리더(CHRO)가 직원들의 평가, 보상, 채용을 관리하는 '관리인'이었다면, 이제는 인간과 AI 에이전트가 한 사무실에서(혹은 클라우드에서) 협업하며 일하는 '하이브리드 워크포스의 설계자'로 진화해야 합니다.
BCG 보고서는 CHRO에게 엄청난 고난이도의 서커스를 요구합니다. 바로 '투-스피드(Two-speed) 전략'입니다. 한 손으로는 기존의 급여 계산과 성과 평가라는 전통적인 HR 업무를 안정적으로 굴리면서(안정성), 다른 한 손으로는 'AI 우선(AI-first)' 업무 모델로 회사를 통째로 뜯어고치는 혁신을 속도감 있게 밀어붙여야 한다는 것이죠.
단순히 "여러분, 오늘부터 챗GPT 쓰세요!"라고 공지하는 건 HR의 역할이 아닙니다. "이 업무 프로세스에서 자료 조사는 AI 에이전트가 하고, 최종 의사결정과 고객 공감은 김 대리가 한다"는 식으로 공장 레일(워크플로우) 자체를 다시 깔아주는 것이 진짜 HR의 역할이라고 이야기하는 것이죠.
2025년 HR 트렌드: Human+ 시대의 도래
2025년을 전망하는 HR 전문가들은 'Human+' 시대가 본격화되고 있다고 진단합니다. 단순히 인력을 채용하고 배치하는 것이 아니라, 인공지능 기술과 인적자본(Human Capital)의 결합을 통해 부가가치를 창출하는 시대가 도래한 것입니다.
이미 많은 기업들이 생성형 AI를 활용한 채용 인터뷰 챗봇, 맞춤형 온라인 교육 콘텐츠 큐레이션, 성과평가 알고리즘 등을 도입하고 있습니다. 이력서 스크리닝, FAQ 응대, 일정 조율 등의 반복적이고 루틴한 인사 업무는 AI가 대부분 처리하고, HR 실무자들은 인재 파이프라인 구축, 조직문화 개선, 리더십 개발 등의 전략적 과업에 집중할 수 있게 된 거죠.
이에 따라 리더십의 개념도 크게 바뀌었습니다. 관리 기능은 AI에 위임되고, 리더는 '사람의 잠재력'을 끌어내는 코치와 멘토로서의 역할에 집중합니다. 구성원의 감정을 이해하고, 커뮤니케이션을 촉진하며, 팀 내 신뢰와 협업 문화를 형성하는 것이 리더의 주요 과제가 되었습니다.
3. CHRO가 향후 12개월간 실행해야 할 5대 우선순위
BCG는 보고서만 던져주고 도망가지 않았습니다. 당장 올해부터 내년 이맘때까지 HR이 해야 할 5가지 핵심 액션 플랜을 제시했습니다. AI 도입 담당자라면 이 리스트를 들고 당장 CHRO와 커피챗을 잡으셔야 합니다.
① HR 내부의 AI 스케일업 (내가 먼저 써볼게!)
중이 제 머리 못 깎으면 남의 머리도 못 깎습니다. HR 부서 자체가 전사에서 AI를 가장 잘 쓰는 'AI 얼리어답터'가 되어야 합니다. 채용 이력서 스크리닝, 기본 직원 CS 응대 등에 AI 에이전트를 대규모로 투입해 보면서 "이렇게 쓰면 퇴근이 빨라집니다"라는 성공 사례(Best Practice)의 산증인이 되어야 합니다.
예를 들어 IBM과 삼성SDS는 대화형 인공지능 플랫폼을 개발하여 기업 내부 인트라넷에서 지원자나 직원의 질문에 응답하거나 신규 입사자의 적응을 도와주는 지능형 비서 역할을 수행하고 있습니다.
② AI 내러티브 및 신뢰 구축 (AI가 널 자르지 않아)
직원들이 AI를 안 쓰는 가장 큰 이유는 '귀찮아서'가 아니라 '두려워서'입니다. "내가 AI한테 일 다 가르쳐주면 내 책상 치우는 거 아냐?"라는 공포감이 있죠.
연구에 따르면 직원들의 AI 저항은 크게 네 가지 지점에서 발생합니다.
일자리를 잃을 수 있다는 불안감
AI 결과를 이해할 수 없고 설명할 수 없다는 신뢰 부족
AI 시스템을 다룰 수 없다는 기술 격차
AI 결정이 공정한지, 데이터가 편향되지 않았는지에 대한 윤리적 딜레마
HR은 비용 절감이 아니라 '업무의 가치 증대(반복작업은 AI가, 인간은 창의적인 기획을!)'라는 스토리텔링으로 직원들의 신뢰를 얻어야 합니다. 이러한 질문에 명확한 답을 제시하지 못하면 조직 내 신뢰는 무너질 수 있습니다.
③ 역량 기반의 전략적 인력 계획(SWP) 수립 (2030년, 우리 회사는 누가 일할까?)
이제 "마케터 3명 뽑자"가 아니라, "마케팅 기획 역량을 가진 사람 1명과 콘텐츠 생성 AI 에이전트 3기를 세팅하자"로 바뀌어야 합니다.
각 직무별로 AI가 대체하거나 증강할 기술을 분석하고, 2030년 미래 노동 모델을 반영해 조직의 체질을 바꾸는 청사진을 그려야 합니다. 과거 직관과 경험에 의존했던 의사결정은 이제 정확한 데이터 분석과 예측 모델을 통해 더욱 합리적으로 수행됩니다.
④ HR 리더의 AI 역량 강화 (인사담당자가 프롬프트를 짤 줄 알아야 한다고?)
HR 담당자부터가 프롬프트 작성과 AI 툴 활용의 마스터가 되어야 합니다. 그래야 다른 부서의 업무를 재설계해 주고, 전사적인 변화 관리를 주도할 수 있습니다.
모든 조직 구성원이 시스템 아키텍처, AI, 머신러닝, 알고리즘, 팀원으로서의 AI 에이전트, 사이버보안, 데이터 기반 실험과 같은 몇 가지 주제에 대해 최소 30%의 능숙도를 달성하기 위해 노력해야 한다는 전문가들의 조언이 있습니다.
IT 기술을 이해하는 HR 담당자의 몸값은 앞으로 천정부지로 치솟을 것입니다. 실제로 2026년 CHRO들의 예산 집행 계획을 보면, 50%가 AI 솔루션에 투자할 계획이며, 이는 가장 높은 지출 영역으로 나타났습니다.
⑤ 범조직적 AI 사용 규범 수립 (선 넘지 마, 가이드라인 제시)
AI가 환각(Hallucination) 현상으로 잘못된 데이터를 내놓고, 그걸 기반으로 중요한 투자를 결정한다면? 끔찍하죠. 의사결정 과정에서 AI를 언제, 어떻게 사용해야 하고, 최종 책임은 누가 지는지에 대한 명확한 윤리 및 사용 규범을 수립하고 전파해야 합니다. 이것도 HR의 몫이라고 하면 좀 과할지도 모릅니다. 유관부서인 IT와 정보보호 부서와 협업이 필요하겠죠.
목적은 조직이 지속적인 적응과 변화에 대비할 수 있어야 한다는 것입니다. 데이터와 기술을 가장 효율적으로 활용하려면 조직에 통합된 조직 구조가 필요합니다. 회사는 사일로화를 줄이고 지속적인 공유와 협업이 가능하도록 중앙집중형 지식·데이터 저장소를 구축해야 합니다.
4. 성공 사례로 보는 HR 주도 AI 혁신
마이크로소프트: AI 기반 인재 분석 시스템
글로벌 IT 기업인 마이크로소프트(Microsoft)는 AI 기반의 인재 분석 시스템을 활용하여 채용 프로세스를 혁신하고 있으며, 직원들의 업무 패턴과 생산성을 데이터 기반으로 분석하여 효율성을 높이고 있습니다.
특히 주목할 점은 이러한 시스템 도입이 IT 부서 단독이 아니라 HR 부서와의 긴밀한 협업 하에 이루어졌다는 것입니다. HR 팀이 직원들의 실제 니즈와 우려사항을 파악하고, 이를 기술 구현에 반영함으로써 높은 활용도를 달성중입니다.
SK텔레콤: 스마트 오피스와 유연 근무제
국내 기업인 SK텔레콤은 스마트 오피스 시스템을 구축하고 클라우드 기반 협업 도구를 통해 유연 근무제를 성공적으로 도입하여 직원들의 업무 효율성과 만족도를 높이고 있습니다.
이 과정에서 HR 부서는 단순히 제도를 공지하는 것을 넘어, 각 팀의 업무 특성에 맞는 맞춤형 가이드라인을 제공하고, 리더들의 관리 방식 전환을 지원하는 등 전방위적인 변화 관리를 주도하고 있습니다.
신한은행: AI One으로 업무 시간 30분 절감
신한은행은 사내 AI 비서 'AI One'을 도입해, 직원 1인당 하루 평균 30분 이상의 업무 시간을 줄일 수 있을 것으로 기대하고 있습니다.
중요한 것은 기술 도입 이전에 HR 부서가 전 직원 대상 설문조사와 인터뷰를 통해 가장 시간이 많이 소요되는 반복 업무를 파악하고, 이를 우선 자동화 대상으로 선정했다는 점입니다. 기술을 사람에게 맞춘 것이 아니라, 사람의 니즈에 기술을 맞춘 거죠.
가장 훌륭한 AI 협업방법은, 인간을 이해하는 것
AI 기술이 발전할수록 역설적으로 '사람'의 중요성은 더욱 커집니다. AI 에이전트가 아무리 성숙해져도, 스스로 동기를 부여하거나 동료와 공감하며 조직의 비전을 향해 뛰지는 못하기 때문입니다.
결국 미래의 승자는 '가장 뛰어난 AI를 가진 기업'이 아니라, 'AI와 가장 조화롭게 일할 줄 아는 조직 문화를 가진 기업'이 될 것입니다. 기술은 쉽게 복제됩니다.
하지만,
건강하고 유연한 조직문화는 결코 쉽게 복제되지 않습니다.
CHRO는 이제 CEO의 가장 강력한 비즈니스 파트너입니다. 기술적 변화를 단순한 '소프트웨어 업데이트'가 아닌 조직적, 문화적 '승리'로 이끌어야 할 막중한 책임이 주어졌습니다.
2025년 인사 흐름은 거대한 물결처럼 우리에게 다가오고 있으며, 이에 대비하는 기업과 실무자들만이 새로운 질서에서 살아남을 것입니다. 이제 인사담당자는 미래를 예측하는 전략적 파트너로서, 임원회의에서 데이터를 기반으로 한 인력 전략을 제안하고, 인공지능 알고리즘의 공정성과 투명성을 점검하며, 다양성이 가져다줄 변화 동력을 만들고 촉진해야 합니다.