5억 원짜리 '좀비 시스템'은 어떻게 탄생하는가

안녕하세요.

지난 화에서 우리는 AI 프로젝트를 위한 완벽한 '6단계 성공 지도'를 손에 쥐었습니다. 이론상으로는 이 지도만 따라가면 성공할 수 있을 것 같습니다. 하지만 현실의 프로젝트는 왜 예상치 못한 곳에서 무너져 내리는 걸까요?

가장 흔하고 치명적인 실패의 원인은 기술이나 데이터가 아닌, 바로 프로젝트를 이끄는 '사람'에게서 비롯됩니다.

본격적인 성공 사례(네메시스)를 따라가기 전에, 수많은 기업에서 반복되는 가장 현실적인 실패 시나리오, '관리자의 함정(The Manager's Trap)'을 먼저 들여다볼 필요가 있습니다.

'관리자의 함정'이란 무엇인가?

탑다운(Top-down)으로 "AI 프로젝트를 하라"는 지시가 내려옵니다.

프로젝트 담당자로 임명된 당신의 머릿속에는 AI가 가져올 비즈니스 혁신이나 조직의 미래에는 큰 관심이 없습니다. 오직 하나, '이 프로젝트를 기간 내에 예산에 맞춰 완수하여 나의 KPI를 달성하는 것'뿐입니다.

이것은 담당자가 악의적이어서가 아닙니다. 오히려 조직이 단기적이고 가시적인 '완료'에만 보상을 집중할 때 발생하는 자연스러운 함정입니다. 담당자는 문제 해결을 위한 '주인(Owner)'이 아닌, 프로젝트의 진행 상황을 관리하는 '영혼 없는 관리자(Soulless Manager)'로 전락합니다. AI의 본질을 이해하고 내부 역량을 키우려는 고통스러운 노력 대신, 가장 쉽고 빠른 길인 '완전 외주화'를 택합니다.

프로젝트의 본질은 "외부 협력사가 AI 시스템을 구축하고 운영해주는 것"으로 축소됩니다. 담당자의 역할은 더 이상 비즈니스 문제를 푸는 것이 아니라, 외부 인력의 출퇴근을 관리하고 주간 보고서의 오탈자를 수정하며 계약서상의 과업이 모두 이행되었는지를 체크하는 일이 됩니다.

실제로 일어난 일: 5억 원짜리 좀비 시스템

국내 대형 유통사 A는 고객 맞춤형 상품 추천을 위해 AI 프로젝트에 착수했습니다. 6개월간 5억 원을 투입하고, 유명 AI 컨설팅사와 계약을 맺었습니다. 프로젝트 담당 이 과장의 목표는 명확했습니다. "올해 안에 시스템을 오픈하고, 내년 승진 심사에서 좋은 평가를 받는 것."

외부 협력사는 최신 딥러닝 모델을 적용했고, 화려한 대시보드를 구축했습니다. 계약서상의 모든 기능이 구현되었고, 프로젝트는 '성공적으로' 종료되었습니다. 이 과장은 실제로 승진했습니다.

하지만 프로젝트 종료 3개월 후, 시스템은 사실상 방치되었습니다. 계절이 바뀌고 트렌드가 변하면서 추천 정확도가 떨어지기 시작했지만, 내부에는 이 모델을 진단하고 개선할 수 있는 사람이 아무도 없었습니다. 외부 협력사에 다시 연락하면 추가 비용이 발생했습니다. 현업 마케팅팀은 "예전 방식이 더 낫다"며 시스템 사용을 거부했습니다. 결국 그 시스템은 서버실 한구석에서 조용히 작동만 하는 5억 원짜리 좀비가 되었습니다.

당신은 '관리자'인가, '주인'인가?

이 함정에 빠지지 않기 위해 담당자는 스스로에게, 그리고 리더는 담당자에게 끊임없이 질문을 던져야 합니다. 다음 표는 '관리자'와 '주인'의 결정적인 차이를 보여줍니다.

관리자와 주인의 차이

만약 당신의 대답이 왼쪽 열에 가깝다면, 당신은 이미 함정에 빠져 있습니다.

함정에서 빠져나오는 5가지 실천 원칙

'관리자'에서 '주인'으로 전환하기 위해서는 구체적인 실천이 필요합니다.

첫 3개월, 반드시 손을 더럽혀라

프로젝트 초반, 외부 협력사와 함께 내부 인력이 반드시 데이터 전처리, 모델링 등 실무에 참여해야 합니다. 전문가가 될 필요는 없지만, 최소한 "무엇을 모르는지"는 알아야 합니다. 이 과정을 건너뛰면, 당신은 영원히 외부 협력사의 말을 맹신하거나 의심만 하는 무력한 관리자로 남게 됩니다.

주간 회의를 '번역의 장'으로 만들어라

담당자의 가장 중요한 역할은 현업의 비즈니스 언어를 기술 전문가의 데이터 언어로, 그 반대로 '번역'하는 것입니다. "매출이 떨어졌다"는 현업의 말을 "어떤 고객 세그먼트에서 전환율이 하락했는가?"라는 데이터 질문으로 바꿔야 합니다. 이 번역 작업이 없으면, 기술팀은 실무와 동떨어진 것을 만들고 현업은 불만만 갖게 됩니다.

'데모 데이'가 아닌 '더티 데이'를 만들어라

성공 사례만 공유하는 화려한 '데모 데이' 대신, 실패 사례를 통해 배우는 문화를 만들어야 합니다. 매달 한 번씩 현재 시스템이 실패한 케이스, 잘못 예측한 사례, 사용자들이 불만을 토로한 지점들만 공유하며 문제를 해결하는 '더티 데이(Dirty Day)'를 여십시오.

계약서에 '역량 이전 조항'을 명시하라

외부 협력사와의 계약서에 단순히 "시스템 구축"만 명시하지 말고, "내부 인력 교육 및 역량 이전"을 별도 과업으로 반드시 포함시켜야 합니다. 비용이 추가로 들더라도, 이것이 장기적으로는 훨씬 저렴한 투자입니다. 협력사가 떠난 후에도 조직이 시스템을 스스로 운영하고 발전시킬 수 있어야 합니다.

KPI에 '사용률'과 '내재화 지표'를 포함하라

프로젝트 성공 척도를 "시스템 오픈일"이 아니라, "오픈 3개월 후 실사용률"과 "내부 인력의 자체 개선 횟수"로 설정하십시오. 'AI 추천 시스템이 전체 거래의 30% 이상에서 실제 사용됨' 같은 지표를 KPI에 넣으면, 담당자는 자연스럽게 현업을 설득하고 시스템을 개선하는 '주인'이 될 수밖에 없습니다.

조직이 함께 만들어야 할 안전장치

담당자 개인의 의지만으로는 부족합니다. 조직 차원에서 '관리자의 함정'을 방지하는 시스템을 갖춰야 합니다.

역량 이전을 성과 지표화하라: AI 프로젝트 성과 평가 시, "내부에 얼마나 많은 역량이 축적되었는가"를 공식 지표로 관리해야 합니다. 그래야 담당자가 '완전 외주화'라는 쉬운 길을 택하지 않습니다.

외주 비중 상한선을 설정하라: 프로젝트 계획 단계에서 외부 협력사의 투입 공수가 전체의 70%를 넘지 않도록 가이드라인을 만들고, 최소 30%는 반드시 내부 인력이 직접 참여하도록 원칙을 세워야 합니다.

'포스트 모템(Post-mortem)' 문화를 정착시켜라: 프로젝트 종료 3개월 후, 반드시 회고 세션을 갖도록 제도화해야 합니다. 시스템이 실제로 사용되고 있는지, 비즈니스 지표가 개선되었는지 정직하게 평가하고, 그 결과를 담당자의 최종 성과에 반영해야 합니다.

AI 도입은 단순히 외부에서 소프트웨어 하나를 사 오는 쇼핑이 아닙니다.

그것은 조직의 체질을 바꾸는 고통스러운 외과 수술과 같습니다. 의사가 수술을 전적으로 간호사에게만 맡길 수 없듯이, 담당자는 AI라는 메스를 직접 손에 쥐고 외부 전문가와 함께 우리 조직의 가장 아픈 곳을 도려내야 합니다.

AI 프로젝트의 성공과 실패를 가르는 것은 결국 기술의 성능이 아니라, 프로젝트를 대하는 당신의 '주인 의식'에 달려 있습니다.

(다음 화에서는 드디어 우리의 주인공, '네메시스'가 등장합니다. 그들은 과연 이 '관리자의 함정'을 어떻게 피하고 위대한 여정의 첫걸음을 내딛었을까요?)