AI 도입, 기술이 아닌 인식의 변화가 필요하다.
SW 관련 업을 하다 보니 모든 사업의 시작은 AI로 시작해서 AI로 마무리되는 시대를 살고 있다.
그리고 맡고 있는 사업부서에도 AI, 특별히 copilot 관련해서 많은 사업 및 교육의 기회를 만들어 가고 있다. 그렇다고 이 아이템이 당장 매출을 큰 부분을 차지하거나 모든 역량을 총동원하고 있지는 않다. 다만 모든 기회가 여기서 시작되기 때문에 다들 맛보기를 넘어 제법 진중한 상태라고 볼 수 있다.
IT라는 게 그렇다 졸면 망한다는 얘기를 제법 했는데 지금 같이 AI의 활성화가 시작된 시기는 무조건 그 기류에 올라타야 하고 혹시 아직 내가 그 기류에 있지 않다면 주위를 살펴서 AI라고 쓰여있는 어떠한 끈이라도 붙잡고 같은 무리에 들어가야 한다. 기류에 탔다고 해서 당장 결과가 만들어지는 것이 아니라서 귀동냥이라도 할 수 있는 환경을 만들어야 한다.
조직으로 이루어진 기업, 공공/ 교육 기관들은 예산을 만들어서 AI 도입을 위해 적극적인 노력을 하고 있다. 그러나 기업은 주로 데이터 보안, 다양한 서비스 중에 본인 환경에 적합한 AI 환경 구축하는 것에 대한 고려, 공공/ 교육의 경우 데이터 관리, 내부 IT 정책 등이 도입 전 고려 사항이 된다.
오늘 업무로 미팅을 하고 온 국내 톱 병원의 전산 부서와 혈관 외과 교수도 AI라는 단어에 높은 관심은 말한 것도 없고 모든 예산 수립 및 확보를 위해서 'AI'가 필요한 상황이다. 잠깐 딴 얘기를 해 보면 이제 양자 컴퓨터의 시대를 준비해야 시간이 온 듯하다. AI는 이제 일상이 되었으니 말이다.
최근 한 기사에서 조직에서 AI 도입을 실패하는 이유에 대해 그리고 그 대안에 대해 명쾌히 정리를 해 주었다.
많은 부분 공감이 갔고 나 역시 현재 같은 경험과 고민을 하고 있는 중이다. 기사를 정리하며 나의 의견을 같이 적어보았다.
Harvard Business Review(HBR)의 기사 "How Behavioral Science Can Improve the Return on AI Investments"는 기업들이 막대한 AI 투자에도 불구하고 기대한 성과(ROI)를 얻지 못하는 근본적인 이유를 '인간의 행동'에서 찾고, 행동과학(Behavioral Science)을 적용하여 이를 해결할 수 있는 전략을 제시하고 있다.
주요 핵심 내용은 아래와 같이 정리한다.
AI 투자 수익률(ROI) 개선을 위한 행동과학적 접근
많은 기업이 AI 기술 자체에는 막대한 자금을 쏟아붓지만, 정작 이를 사용하는 '직원들의 행동 변화'를 간과하여 실패를 겪는다고 한다. 기사에서는 AI 도입의 성공이 기술적인 완성도가 아닌 사용자의 심리적 장벽(Behavioral Barriers)을 어떻게 극복하느냐에 달려 있다고 강조한다.
1. AI 도입을 가로 막는 3가지 행동 장벽(The Barriers)
직원들이 새로운 AI 도구를 거부하거나 제대로 활용하지 못하는 심리적 이유는 크게 세 가지로 정리한다.
현상 유지 편향(Status Quo Bias): 인간은 익숙한 현재의 방식에 머무르려는 강력한 본능이 있다. AI가 장기적으로 효율적이라도 하더라도 당장의 작업 방식을 바꾸는데 드는 전환 비용(Cognitive switching cost)을 크게 느껴 기존 방식을 고수하려 한다.
이 부분은 현재 내가 속한 조직에서도 쉽게 발견하는 일이다. AI가 좋은 건 아는데 당장 손으로 하는 게 익숙하여 그대로 변화를 추구하지 않는 친구들이 있다. 그건 시니어뿐만 아니라 주니어에도 해당하는 일이다.
알고리즘 회피(Algorithm Aversion): 사람들은 인간의 실수보다 알고리즘(AI)의 실수에 더 가혹하게 반응한다. AI가 한 번이라도 틀린 답을 내놓으면 그 도구 전체에 대한 신뢰를 철회하고 다시는 사용하지 않으려는 경향이 있다.
나에게 비슷한 경험이 있기 때문에 반정도는 공감이 간다. 초기 Copilot의 경우는 Chatgpt, Gemini, Perplexity 대비하여 사용하기 어려운 수준이었다. 그렇다 보니 사용이 꺼려지는 경우가 많았는데 그래도 일정 기간을 두고 결과물이 발전하는 것을 보고 요새는 보조재, 검증용으로 활용하고 있다. 우리가 우리를 위협하는 새로운 기술에는 훨씬 냉정한 평가를 한다는 내용이 어느 정도 공감은 간다.
인지 부하(Cognitive Load): 새로운 AI 도구를 배우고 업무에 통합하는 과정 자체가 정신적인 노력을 요구한다. 업무가 바쁠 때 이러한 추가적인 인지 부하는 AI 사용을 포기하게 만드는 주요 원인이 된다.
첫 번째 현상 유지 편향과도 일부 겹치는 내용으로 볼 수도 있는데 새로운 것을 배우는 것에 대해 부담이 있다. 단순 질의응답에 머무르는 경우 별 고민 없이 사용하지만 AI를 통해 업무 도움을 얻기 위해서는 나의 업무 절차가 정리되어야 하는데 절차로 정리된 업무 외에도 하는 일들이 많은 것은 사실이다.
2. 행동과학을 활용한 해결 전략 (The Interventions)
그렇다 하더라도 이러한 장벽을 무너뜨리고 AI 활용률을 높이기 위해 다음과 같은 행동과학적 개입(Intervention)이 필요하다.
마찰 제거(Friciton Reduction): AI 사용을 '선택'이 아닌 '기본값(Default)'으로 정해야 한다. 예를 들어 AI 도구를 별도로 실행해야 하는 구조 대신에 기존 업무 절차 내 AI 기능을 내장하여 사용자가 별도의 노력 없이 자연스럽게 AI를 쓰도록 해야 한다.
이런 부분에 있어서는 M365 copilot이 최접점에 있다. 대부분 메일, 문서, 메신저는 기본으로 사용하는 업무 도구인데 다른 서비스는 별도의 웹서비스, 설치형 서비스로 운영이 되니 그 점에서는 따라올 수가 없다. 그래서 M365를 사용하는 고객들이 Copilot 도입을 결정하는 것이 그리 어렵지는 않다. 다만 비용이 적지 않아서 예산에 맞춘 수량 구매를 하고 있다.
사회적 증거(Social Proof) 활용: '이 AI 도구가 훌륭하다'라고 기술적으로 설명하는 것보다 '동료의 80%가 이 도구를 사용해 퇴근 시간을 30분 앞당겼다'는 식의 메시지가 훨씬 효과적이다. 주변 동료의 적용 사례가 공유됨으로 심리적인 안심감을 주면 좋다.
난 사업부장 가운데 유일하게 SW를 전공했다 보니 적정한 근거를 가지고 설명을 해 주면 이해하고 사용해 보려고 한다. 스스로 배워서 사용하면 좋지만 적용 사례를 전파하는 것이 실제 업무 환경에서 많은 도움이 되는 것이 사실이다.
투명성 강화 및 기대치 관리: AI가 완벽하지 않음을 미리 인정하고 AI의 판단 근거를 설명할 수 있어야 한다. 'AI는 85%의 정확도를 가지며 최종 결정은 당신의 몫'이라는 인식이 필요하고 알고리즘 오류에 대한 실망감을 관리하고 통제권이 사용자에게 있음을 늘 인지시켜야 한다.
그래서 AI를 활용하는 초기에는 같은 질문을 다른 AI를 통해 검증하거나 검증이 달리는 서비스, 전처리된 조직의 데이터를 기반으로 한 서비스 활용이 필요하다.
3. 리더를 위한 제언
성공적인 AI 도입을 위해서 기술 도입(Deployment)뿐만 아니라 변화 관리(Change Management)에 예산을 배정해야 한다.
기술적 구현에만 집중하지 말고 '누가, 언제, 왜 이 도구를 거부할 것인가?'를 먼저 질문해야 한다.
초기에는 완벽한 성능보다 사용자 경험(UX)과 신뢰 구축에 집중하여 습관을 형성하는 것이 장기적인 ROI에 훨씬 중요하다.
결론적으로, 기업은 AI를 '기술 문제'가 아닌 '인간 행동 문제'로 재정의해야 하며, 행동과학적 설계를 통해 직원들이 AI를 거부감 없이 받아들이도록 유도할 때 비로소 투자의 결실을 볼 수 있다.
굉장히 도움이 되는 인사이트였다. 기능, agent 숫자에 매몰되어 정량적인 결과에 목을 매기보다 정성적인 부분의 중요성을 다시금 깨닫는 내용이었다. 어떻게 AI 리터러시의 높이를 올리는 것에 대한 고민이 일반 사용자의 눈에서 AI를 바라보는 눈높이를 찾아가는 것부터가 순탄한 AI 도입의 첫걸음이 될 것이다.
참조
https://hbr.org/2025/11/how-behavioral-science-can-improve-the-return-on-ai-investments
