'기술 부채'를 상환하고 진짜 혁신을 만드는 해법
'실패한 AI 프로젝트는 악성 부채이다'에서는 왜 수많은 기업이 'AI 도입'이라는 명분 아래 실패 비용만 쌓고 있으며, 이것이 단순한 시행착오를 넘어 미래의 혁신을 가로막는 거대한 '악성 부채'가 되고 있는지를 분석하였습니다. 그렇다면 이제 질문은 명확해집니다.
"이 부채를 어떻게 갚을 것인가? 그리고 누가 이 난국을 타개할 것인가?"
많은 기업이 습관적으로 채용 사이트를 엽니다. 실리콘밸리나 명문대 출신의 AI 전문가를 비싼 값에 영입하면, 마치 마법사가 지팡이를 휘두르듯 복잡한 도메인 문제가 해결될 것이라 믿기 때문입니다. 하지만 저는 단언컨대, 그 방식은 또 다른 실패를 낳을 뿐입니다. 외부에서 온 '구원자'는 없습니다. 우리가 찾아야 할 답은 멀리 있는 '외부'가 아닌, 이미 우리 조직의 가장 깊은 곳, '현장'에 숨 쉬고 있습니다.
AI 프로젝트가 실패하는 가장 근본적인 이유는 AI 역량이 부족해서가 아닙니다. 문제 정의(Problem Definition)가 잘못되었기 때문입니다. 그리고 이 문제 정의는 해당 산업의 본질을 뼛속까지 이해하는 사람만이 할 수 있는 성역입니다. 여기서 제조, 건설, 엔지니어링 같은 '딥 인더스트리(Deep Industry)'가 가진 '지식의 비대칭성'이 적나라하게 드러납니다.
외부 AI 전문가의 한계 (Context Blindness): 그들은 알고리즘(형식지)은 알지만, 현장의 엔지니어가 수십 년간 몸으로 체득한 '감'과 '물리적 맥락(암묵지)'은 모릅니다. 데이터 과학자에게 "비 오는 날 설비의 미세한 진동 변화"는 그저 제거해야 할 '노이즈(Noise)'로 보일 뿐입니다. 하지만 현장 전문가에게 그것은 설비 고장을 예고하는 결정적인 '신호(Signal)'입니다. 이 맥락을 이해하지 못한 모델은 필연적으로 엉뚱한 답을 내놓습니다.
내부 도메인 전문가의 가능성: 반면, 논리적 사고력을 갖춘 엔지니어는 AI 기술을 배울 수 있습니다. 도메인 지식은 수십 년의 '시간'이 필요하지만, AI 기술은 어떤 원리로 작동하는지 이해하고 '문제 정의'만 할 수 있는 수준까지만 배우면 되기 때문입니다. 복잡한 실제 구현은 AI 전문가에게 맡기면 됩니다. 진짜 중요한 것은 AI를 '어떻게 만드느냐'가 아니라, '어디에 적용해야 가장 파괴적인 효과를 내는가'를 꿰뚫어 보는 통찰력입니다.
즉, "AI 전문가는 도메인을 배울 수 없지만, 도메인 전문가는 AI를 배울 수 있습니다." 이것이 우리가 비싼 몸값의 외부인 영입이 아닌, 고통스럽더라도 '내부 육성'을 택해야 하는 필연적인 이유입니다.
지금까지의 조직은 도메인 전문가와 AI 개발자를 한 방에 몰아넣고 "협업하라"고 강요했습니다. 하지만 그들은 서로 다른 언어를 씁니다. 엔지니어는 "물리적 현상"을 이야기하고, 개발자는 "데이터 분포"를 이야기합니다. 회의 시간의 절반은 서로를 이해시키는 통역 비용으로 날아가고, 이 과정에서 핵심 정보는 왜곡되거나 누락됩니다. 해결책은 어설픈 '협업'이 아니라 '일체화'입니다. 한 사람의 머릿속에서 도메인 지식과 AI 기술이 화학적으로 결합해야 합니다. 우리는 이들을 '듀얼 엑스퍼트(Dual Expert)'라 부릅니다.
깊은 연결 고리(Deep Link): 듀얼 엑스퍼트는 통역이 필요 없습니다. 그들은 자신의 도메인 난제를 AI라는 도구로 어떻게 풀지 스스로 설계(Architecture)합니다. "이 데이터는 전처리가 필요해"와 "이 공정은 물리적으로 불가능해"라는 판단이 한 뇌에서 동시에 일어납니다.
완결성 있는 수행: 데이터 수집부터 모델링, 결과 해석, 현장 검증까지 혼자서(혹은 소수의 팀으로) 완결성 있게 수행합니다. 이는 프로젝트 속도를 비약적으로 높여줍니다.
물론, 잘나가는 현업 에이스를 빼내어 교육하는 데는 시간과 비용이 듭니다. 당장의 업무 공백도 생깁니다. 하지만 외부 용역에 수십억을 쓰고 결과물도 없이 끝나는 것보다, 내부의 핵심 인재를 1년간 교육하는 비용이 훨씬 저렴하고 확실합니다. 이것은 교육비가 아니라, 성공을 담보하는 R&D 투자입니다.
사람을 준비시켰다면, 이제 '어떤 과제'를 만들 것인가가 중요합니다. 지난 글에서 지적했듯, 실패해도 티가 안 나는 자잘한 업무(Toy Project)나 단순 반복 업무(RPA)는 이제 멈춰야 합니다. ROI(투자 대비 효과)를 극대화하려면, 회사에서 가장 비용이 많이 들고, 가장 병목이 심한 곳(Pain Point)을 정밀 타격해야 합니다.
고비용/고숙련 업무의 정조준: 단순히 반복적인 업무가 아니라, 고숙련 전문가의 시간과 판단력이 집중적으로 투입되는 영역을 찾아야 합니다. 설계 분야라면 '엔지니어링 시간', 제조라면 '공정 최적화 및 예지 보전', 물류라면 '동적 경로 배정'과 같은 핵심 코어 프로세스입니다.
도구(Tool)에서 대행자(Agent)로: 기존의 '업무 보조' 툴은 전문가를 조금 편하게 해주는 데 그쳤습니다. AI가 분석 결과를 내놓아도 결국 인간이 검토해야 한다면, 전체 프로세스의 속도는 인간의 처리 능력에 종속됩니다.
Human-out-of-the-Loop: 우리가 지향해야 할 것은 '완전 자율화'입니다. 전문가는 목표(Objective)와 제약조건(Constraints)만 정의하고, 실행과 판단의 루프에서 빠져야 합니다. AI가 수천 번의 시뮬레이션을 통해 인간의 편향이나 체력적 한계 없이 최적의 결과를 도출해내는 '운영의 무인화'를 목표로 해야 합니다.
이것이 알렉스 카프가 말한 기술 부채를 한 번에 상환하는 'Big Deal'입니다. 10%의 효율 개선이 아니라, 프로세스 자체를 없애거나 대체하여 10배(10x)의 혁신을 만드는 것입니다.
마지막으로, 이 모든 것을 가능하게 하는 것은 결국 리더의 결단입니다. 기존 조직(Silo)은 필연적으로 저항합니다. 실무자들에게 자율화는 자신들의 '밥줄'을 위협하는 공포이자, 자신들의 경험적 권위를 무너뜨리는 도전이기 때문입니다. 가짜 전문가들과 안주하려는 실무자들은 "우리 공정은 너무 복잡해서 AI로 안 됩니다"라며 방어막을 칠 것입니다. 따라서 경영진은 다음과 같이 냉철하게 움직여야 합니다.
Top-down 드라이브: 실무자에게 "AI 도입해서 뭐 할지 가져와 봐"라고 맡기지 마십시오. 그러면 가장 쉬운 과제만 올라옵니다. 경영진이 직접 나서서 "우리의 핵심 설계 프로세스를 자율화하겠다"고 선언하고 목표를 강제해야 합니다.
평가의 대전환: 설계를 잘해서 납기를 맞추는 사람에게 상을 주지 마십시오. 그것은 당연한 일입니다. 대신 '자신의 지식을 시스템화하여 AI에게 성공적으로 이식한 사람'에게 최고의 보상을 주십시오. 그들이 '플레이어'에서 '감독'으로, '기술자'에서 '시스템 아키텍트'로 승격될 수 있는 명확한 비전과 인센티브를 제시해야 합니다.
지금까지 쌓인 실패 비용은 뼈아픕니다. 하지만 그것을 인정하고 방향을 튼다면, 그 실패는 무엇이 잘못되었는지 알려주는 귀중한 오답 노트가 될 수 있습니다. 외부의 파랑새를 쫓지 마십시오. 그들은 우리 집의 구조를 모릅니다. 당신의 조직 안, 가장 치열하게 고민하고 묵묵히 일하는 그 '에이스'가 바로 혁신의 열쇠입니다. 그들에게 AI라는 강력한 무기를 쥐여주고, 회사가 가진 가장 어렵고 비싼 문제를 풀게 하십시오. 그것만이 우리가 쌓아온 기술 부채를 청산하고, 'AI 극장'의 관객이 아닌 무대 위의 주인공이 되는 유일한 길입니다.