"AI 개발하지 마세요. 열심히 연구하고 개발해서 자체 AI 정확도 올리는 것보다, 구글이나 OpenAI에서 새로 소개한 모델을 도입할 때 올라가는 개선 효과가 훨씬 높습니다."
한 AI 전문가가 해준 조언이다. 생성형 AI 초기부터 외부 모델을 파인튜닝하고 조합하며, 의료 산업에 적용할 수 있는 수준까지 정확도를 끌어올리기 위해 많은 공을 들여온 분이다. 그 노력을 무색하게 만든 건 경쟁자가 아니라 베이스 모델의 업그레이드였다. 자조적인 웃음과 함께 덧붙였다. "그냥 새로 나오는 모델 빨리빨리 갖다 쓰는 게 제일 낫더라고요."
이 말이 패배 선언처럼 들린다면, 데이터를 한번 보자.
MIT가 2025년 「The GenAI Divide: State of AI in Business 2025」 보고서에서 150명의 경영진 인터뷰, 350명의 직원 설문, 300건의 도입 사례를 분석했다.
생성형 AI를 도입한 기업의 95%가 P&L에 의미 있는 영향을 내지 못했다. 그런데 보고서를 자세히 보면 AI 자체가 무용한 것이 아니라, 기업의 AI 통합 방식이 문제의 원인이었다. 전문 벤더에서 AI 툴을 구매해 파트너십을 맺은 경우 성공률은 67%. 자체 개발에 의존한 경우는 그 3분의 1 수준이었다.
만들수록 실패율이 높아졌다.
나는 이 질문을 오래 붙들고 있었다. 미래경영연구센터장으로 일하면서 기업의 AI 역량이 도대체 무엇인가를 고민했다. 교육, 툴, 보안 환경, 보상 — 이런 것들은 떠올릴 수 있었다. 하지만 구체적인 기업 차원의 이니셔티브로 무엇을 해야 하는가에는 쉽게 답이 나오지 않았다.
그런데 이 질문, 사실 처음이 아니었다.
컨설턴트 시절 반도체 제조 기업의 설비 내재화 전략을 분석한 적이 있다. 핵심 장비를 직접 만들 것인가, 최고 수준의 외부 업체에 맡길 것인가. 판단 기준은 두 가지였다. 업계 최고 수준의 기술을 우리가 지속적으로 확보할 수 있는가. 그 기술이 우리 사업의 본원적 경쟁력을 직접 좌우하는가.
AI에 똑같은 기준을 대입해 보자.
생성형 AI 경쟁력은 컴퓨팅 파워와 데이터가 좌우한다. 결국 자본 경쟁이다. Google, OpenAI, Anthropic, Meta — 이들보다 뛰어난 AI 모델을 만들 수 있는 기업은 거의 없고, 그건 이미 검증된 사실이다. 그렇다면 AI 모델의 우수성이 우리 사업의 본원적 경쟁력을 직접 좌우하는가. 이 전문가의 사례가 보여주듯, 모델의 품질은 다른 어떤 요소보다 결과의 차이를 크게 만든다.
여기서 경영자가 스스로 던져야 할 질문이 하나 남는다. AI 모델 적용의 결과가 실제로 우리 기업의 근본적 경쟁력의 차이가 될 수 있는가. 이건 데이터가 아니라 판단의 몫이다.
위의 질문에 Yes라는 답이 나왔다면, 기업이 진짜 갖춰야 할 AI 역량은 무엇인가.
새로운 모델이 나왔을 때 사람들이 모여 몇 주씩 검토하면 이미 늦다. 자동으로 테스트하고, 우리 산업에 맞는지 빠르게 판단하고, 즉시 갈아끼울 수 있는 구조. 그게 지금 기업이 만들어야 하는 것이다. 모델을 만드는 역량이 아니다. 모델을 교체하는 역량이다.
특정 모델에 종속되지 않고, 항상 최선을 선택할 수 있는 구조. 기술이 바뀌어도 흔들리지 않는 조직과 프로세스. 그것이 AI 시대에 기업이 조직적으로 추구해야 할 진짜 내재화다.
지금 당신 회사의 AI 구조는, 내년에 나올 모델로 교체할 수 있는가.
#AI시대 #생존법 #경영전략 #디지털전환