기업의 인공지능 도입 : 무엇을 고민해야 하나 - 상편
엔터프라이즈 AI 전략 시리즈 #1
이 글을 읽으시는 분이라면 누구나 아실 것으로 생각합니다만, 의심할 여지없이, 인공지능 기반의 트랜스포메이션은 제조, 금융, 물류, 유통 등 어떤 산업 내의 기업에서도 큰 관심을 가지고 있는 토픽입니다. 미국, 중국, 한국, 일본 등 수많은 나라의 많은 기업들이 인공지능을 실제 기업 환경에 활용하고자 다양한 과제들을 추진 중입니다. 그러나, 그와 동시에, 어떤 과정을 통해서, 그리고 어떤 요소들을 고려해서 기업의 인공지능 기반 트랜스포메이션을 진행해야 하는지에 대한 정답이라는 것이 존재하지 않을 뿐 아니라 시장의 경험도 매우 초기 단계에 있는 관계로, 많은 기업들이 시행착오를 겪고 있는 것 또한 주지의 사실입니다.
이 글에서는, 다양한 이해관계자들과의 논의, 협업 과정에서 듣고 느낀 점들을 바탕으로, 기업이 인공지능 기술을 활용하여 혁신을 추진하고자 하는 과정에서 고려해야 할 핵심적 요소들이 무엇인지에 대한 생각을 나누어 보고자 합니다.
먼저 상편에서는, 기업용 솔루션이라는 관점에서 인공지능이 위치해 있는 현주소, 그리고 기업에서 인공지능 솔루션의 시험과 개발을 시작하는 패턴을 통해 그 뒤에 따라오게 되는 문제들을 정리해 보고, 하편에서는 기업이 본격적으로 인공지능 기반의 혁신을 시작하려 할 때 반드시 고려해 봐야 할 몇 가지 요소들을 살펴보겠습니다.
지난 수년간 우리는 인공지능을 기반으로 한 서비스, 애플리케이션, 적용 사례 등과 관련된 뉴스의 홍수 속에 살고 있다고 해도 과언이 아닐 것 같습니다. 인공지능에 대한 이러한 관심과 여러 가지 시도는 초기에는 소위 ‘프로덕트 AI’의 영역에 집중되어 있었지만, 곧 ‘엔터프라이즈 AI’, 즉 기업의 비즈니스 시스템에 인공지능 기술을 적용하는 영역에의 관심도 급증해 왔습니다.
그 결과, 수많은 연구기관, 컨설팅 회사 등은 기업용 인공지능 시장의 성장에 대해 매우 공격적인 전망을 내어 놓아 왔고, 지금도 그런 상황은 여전합니다.
2019년 1월 가트너는 "지난 4년간 기업에서 인공지능의 사용이 약 3배가량 증가해 왔다"라고 발표했고, 2018년 맥킨지 앤 컴퍼니는 "이미 약 50%의 조직에서 최소한 하나의 표준 업무 프로세스에 인공지능 기술을 적용하고 있고, 더불어 30% 정도의 조직에서 인공지능 기술을 기반으로 한 파일럿을 추진 중이다"라는 조사 결과를 발표한 바 있습니다.
이보다도 이전인 2017년에는 테라데이터가 "이미 80%에 달하는 기업들이 이미 실제 업무 환경의 어디엔가 어떤 형태로든 인공지능 기술을 적용해서 운용하고 있다"는 믿기 힘든 발표를 하면서, 이제 기업들은 앞서 나가는 경쟁사를 따라잡기 위해서라도 인공지능 기술에의 투자를 더욱 과감하게 해야 한다고 느끼는 상황입니다.
그러나, 실제 현장에서 체감하는 것은 뉴스나 연구 기관의 발표와는 사뭇 다릅니다.
매우 많은 수의 기업들이 인공지능을 기업에 적용하기 위한 실험, 즉 PoC를 진행해 왔고 이 순간에도 진행하고 있지만, 대다수의 PoC가 즉각적으로 가용한 알고리즘과 데이터를 기반으로 One-off/Point Solution을 만들어 활용해 보는데 치중하고 있어서, 많은 경우 기업의 실 운영 (Production) 환경에 적용하기 위한 조건들을 만족시키지 못한 채 사라지게 됩니다. 전문가에 따라 다양한 의견이 있지만, 대체적으로 전체 PoC들 중 5~10% 미만에 불과한 수준이 실 운영 환경으로 배치되어 사용되고 있을 것으로 저는 생각하고 있습니다. (주: 2019년 7월 VentureBeat 기고에 따르면, 샌프란시스코에서 있었던 Transform 2019에서 IBM의 Deborah Leff와 Gap의 Chris Chapo가 나눈 대담에서, '데이터 사이언스 프로젝트들 중 오직 13% 정도만이 실 운영 환경까지 살아남는다'라는 이야기를 한 적이 있고, 가트너의 AI Maturity Study에서는 '8%의 인공지능 모델만이 실험실에서 실 운영 환경까지 살아남는다'는 내용이 있습니다)
마이크로소프트에서 2019년 상반기 아시아 태평양의 고객사들을 대상으로 조사한 결과에서 볼 수 있는 바와 같이, 기업이 영위하고 있는 비즈니스의 핵심 전략으로서 인공지능을 활용하는 데는 생각보다 훨씬 많은 시간과 노력이 필요합니다. 무엇보다도, 기업에서 활용해 왔던 과거의 많은 기술들과는 근본적으로 다른 인공지능 기술의 특성 때문에, 인공지능 기반의 혁신과 트랜스포메이션은 기업이 비즈니스 및 IT를 운영했던 과거의 방식과는 상당한 수준의 변화 - 업무적인 변화뿐 아니라 문화적인 변화를 포함 - 를 수반하게 되고, 이는 곧 인공지능 도입 과정의 장벽으로 작용합니다.
엔터프라이즈 AI의 전개 과정을 놓고 볼 때, 현재 우리는 어디쯤 있는 것일까요?
인공지능의 역사와 현재 엔터프라이즈 AI의 위치인공지능의 개념이 처음 생겨난 1950년대 이후 몇 차례의 부흥기와 쇠퇴기를 반복하며 약 60년의 세월이 흐른 뒤, 마침내 2012년 ImageNet Competition에서 CNN(Convolutional Neural Network: 우리 말로는 '합성곱 신경망'이라고 한다고 합니다)을 이용한 AlexNet이 과거 십수 년간 75%를 넘지 못했던 이미지 인식 정확도를 단숨에 85%로 끌어올리면서, 인공지능 기술을 현실에 적용하는 것에 대한 폭발적인 관심이 생겨났습니다.
이후 자율주행, 음성인식, 자연어 처리, 로보틱스, 게임 등에 이르기까지 분야를 막론하고 다양한 영역에서 광범위하게는 인공지능, 보다 구체적으로는 딥러닝 기반의 새로운 제품과 서비스에 대한 뉴스가 지속적으로 들려오고는 있지만, 기업의 운영에 본격적으로 인공지능 기술을 활용하기 위해 넘어야 할 산적한 과제들을 차례차례 확인하면서 그 해결 방법들을 찾아나가는 과정에 있다고 보아야 할 것입니다. 앞서 언급한 여러 연구기관 및 컨설팅 회사들의 발표만을 기준으로 한다면 인공지능 - 특히 기업 시장에서의 인공지능 - 도입이 앞으로 지속적으로 기하급수적인 성장세를 나타낼 것으로 생각할 수도 있겠지만, 향후 2~3년 간은 소위 말하는 '옥석을 가리는 과정'을 거치면서 산적한 과제에 대한 답을 하나씩 만들어 갈 역량이 있고 그를 증명하는 사업자와 일시적인 성장을 구가하는데서 그치는 사업자가 갈리게 될 것입니다.
어떻게 해야 이 엔터프라이즈 AI의 캐즘을 건너갈 수 있을까요? (주: 일반적으로 비즈니스에서 '캐즘'은 '신상품 혹은 신기술이 시장 진입 초기에서 대중화로 시장에 보급되기 전까지 일시적으로 수요가 정체되거나 후퇴하는 단절 현상'을 이야기합니다만, 여기에서는 편의 상 인공지능이 본격적으로 기업 시장에 자리잡기 전에 필요한 여러 가지 선결 조건들을 찾아내고 해결하는 과정에서 확산이 지연되는 현상을 지칭했습니다) 또, 어떤 방향으로의 접근이 선도적 사업자로 하여금 이 엔터프라이즈 AI의 캐즘을 건너 진정한 AI-First 또는 AI-Native 기업으로 거듭나게 할 수 있을까요?
이에 대한 하나의 힌트를, PC 시대로부터 모바일 시대로의 전이(Transition)가 어떻게 이루어졌는가에 대한 관찰을 통해서 얻을 수 있지 않을까 합니다.
모바일 시대로의 전이 과정과 교훈모바일 기술의 등장 이후 한동안은 PC to Mobile, 즉 PC 기반의 프로세스와 사업 모델을 그대로 모바일로 옮겨 놓는 방식의 시도가 주종을 이루었다고 생각합니다. PC와 모바일 환경의 차이, 그리고 그에 따라 변화해야 하는 다른 조건들을 무시한 채, 모바일을 그저 ‘작은 화면의 PC’로 인식한 상태에서 모바일로의 서비스 전이를 한동안 진행하였습니다. 그러나 이런 방식의 일차원적인 접근은 얼마 안 가 그 한계를 명확히 드러냅니다. 위 그림에서 볼 수 있듯이, 기업들이 앞다투어 PC 화면을 모바일 화면으로 옮겨 심은지 얼마 지나지 않아, 모든 서비스 카테고리에서 사용자의 모바일 서비스 체류 시간이 줄어들게 됩니다.
이러한 한계를 적시에 감지하고, PC보다 모바일에서 잘 작동하는 서비스, 나아가서 모바일이 제공하는 차별적인 접근성과 다양한 폼팩터(Form Factor)를 기반으로 오직 '모바일에서만' 가능한 서비스를 만들어내는 Mobile-First, Mobile-Native 사업자들이 속속 등장하면서, 비로소 본격적인 모바일 서비스가 다양한 산업 영역으로 침투, 확산하게 됩니다. 나아가서, 이 과정에서 트래픽이 곧 수익으로 직결되어 온, 즉 광고 중심의 모바일 비즈니스 모델들이 해체되는 파괴적 혁신(Disruptive Innovation)이 일어납니다. 여러분이 잘 아시는 우버, 그랩, 위챗 등이 이러한 선도적이 사업자의 예라고 할 수 있을 것입니다.
모바일의 진화 과정을 엔터프라이즈 AI의 맥락에 대입해 본다면, 우리는 수많은 사업자가 인공지능이라는 신기술을 도입하기 위한 시도를 하는 가운데 과거의 기술과 인공지능의 근본적인 차이에서 오는 여러 가지 난관을 맞닥뜨리기 시작하는 과정에 있다고 볼 수 있습니다. 이 과정에서 인공지능을 기존의 비즈니스 시스템에 대한 혁신이 없이 보조적인 도구로 활용하고자 하는 시도는 그 한계가 명확하게 드러날 것이고, 반대로 인공지능의 본질에 대한 이해를 바탕으로 기존 비즈니스 시스템을 재설계하고 새로운 역량을 확충하는 사업자들이라면 AI-First, AI-Native 사업자로서 혁신의 열매를 맛볼 수 있을 것입니다.
자, 그렇다면 현재 다수의 기업들에서 어떤 방식으로 인공지능 사업 또는 인공지능 솔루션 도입을 '시작'하게 되는지 한 번 간단히 살펴볼 필요가 있을 것 같습니다.
몇 가지의 대표적인 패턴이 있다고 하겠는데, 우선 가장 먼저, 기업이 어떤 방향과 우선순위를 가지고 인공지능의 도입을 추진해야 하는지에 대한 검토가 없는 상태에서, 주로 IT 부서의 주도 하에 비교적 접근이 용이한 유즈 케이스(use case)들을 임의로 선정하여, 이에 대한 실험과 시도를 반복하는 경우가 있습니다. 이러한 패턴의 인공지능 도입은, 전체적인 사업 관점의 투자 근거가 없으므로 경영진의 관심과 승인을 받아 확산을 하기가 어렵고, 개별 유즈 케이스를 현장에 적용하려 해도 IT의 이해와 현업의 니즈 간 갭(Gap) 등의 이유로 많은 난관에 부딪치게 될 확률이 큽니다.
두 번째로 흔하게 나타나는 패턴은, 주요 사업부서의 실무진을 통해서 Bottom-up 방식으로 유즈 케이스를 수집하고, 이들 중 개발이 가능하다고 판단되는 유즈 케이스들을 선택하여 - 주로 오픈소스 라이브러리를 기반으로 각각 개발을 진행하는 패턴일 것 같습니다. 현업 담당자의 관여를 끌어낸다는 점에서는 첫 번째 패턴 대비 진일보한 측면이 있지만, 역시 지나치게 '현재의 문제'를 해결하는 데 치중된 유즈 케이스들을 중심으로 진행이 되기 쉽고, 마찬가지로 다수의 인공지능 시스템을 Scalable 하게, 그리고 Sustainable 하게 개발하고 운영할 수 있는 프로세스 및 시스템적인 투자를 이끌어낼 만한 중장기적인 투자를 경영진으로부터 이끌어내기 어려운 상황을 맞이하는 경우가 있습니다.
세 번째로는, 자체적으로 또는 컨설팅 회사의 도움을 받아 인공지능 사업전략과 인공지능 과제의 로드맵을 만들기 위한 투자도 집행하고, 이 계획을 기반으로 인공지능 솔루션의 도입과 관련된 기술적, 비기술적으로 다양한 실험도 진행하고, 그 결과에 따라 유즈 케이스를 실 운영 환경에 적용하는 흐름을 가져가고자 하는 패턴입니다. 이 패턴의 경우 가장 문제가 되는 것은, 경영진의 투자 승인을 받기 위한 Top-down의 전략도 개발하고 투자 로드맵 등도 구상하지만, 실제로 인공지능 솔루션의 개발 과정에서 특정 유즈 케이스에 적용해야 할 인공지능 기술의 선택, 해당 기술의 성숙도에 대한 판단, 또는 적용할 수 있는 기술의 향후 발전 방향과 시점 등 인공지능의 '알고리즘적' 문제뿐 아니라, 인공지능 적용의 근본적 제약 조건인 데이터의 준비도, 수급 및 준비 과정, 그리고 특히 요즘 너무나 많이 언급되고 있는 인공지능의 Explainability, Bias를 어떻게 기업 관점에서 다룰 것이냐에 대한 전문적인 검토, 마지막으로 실험실의 장난감이 아니라 실 현장에서 사용할 인공지능 솔루션의 개발과 운영, 재훈련까지 포함하는 거대한 체계를 지원하기 위한 여러 가지 도구들과 리소스에 대한 운영체계들을 면밀하게 검토하고 계획하는 작업이 제대로 이루어지는 경우가 드물다는 것입니다. 사실 위와 같은 요소들을 전반적으로 검토할 만한 전문가와 집단이 기업 현장과 시장에 매우 적은 것이 무엇보다도 가장 큰 이슈라고 할 것입니다. 물론 이와 같은 작업을 진행하는데만 해도 상당한 자원과 시간이 필요하기 때문에, 미래에 대한 확신이 없이 선뜻 - 기업의 오너가 아니라면 - 투자를 결정하기는 어려운 일입니다. 자연스럽게 이전에 늘 해 오던 방식으로 인공지능 기술을 이미 Commodity화 되어버린 기술을 보던 관점으로 대하면서, 늘 하던 사람들과 충분한 배경 지식이 없는 상태에서 끼워 맞추기 식 전략 수립, 과제 도출을 하고 실행 단계에 들어가게 됩니다.
결과적으로 작년부터 기업의 인공지능 도입과 관련하여 자주 언급되는 '낮은 ROI', '리더십의 지원 부족', '데이터의 부족이나 품질 문제', '적절한 도구의 부재로 개발 생산성 저하', '훈련된 인재의 부족', '인공지능 시스템의 리스크' 등 난제들은, 장기적인 투자와 조직의 변화를 요구할 수밖에 없는 인공지능 기반 혁신을 추진할 '전략'과 '지원 체계'에 대한 검토와 준비가 부족한 데서도 상당 부분 기인한다고 보아야 할 것 같습니다.
인공지능 도입 과정에서 맞닥뜨리는 상당수 문제의 근본적 원인은 '전략'과 '지원 체계'의 부재기업이 인공지능 기술을 기반으로 사업을 혁신한다는 것은, 현재 시점에서는 아주 높고 험준한 산을 오르는 것과 같습니다. 그 누구라도 산을 오를 때 방향을 찾을 수 있는 지도와 등산복, 등산화, 응급 식량 등의 적절한 준비 없이 산행을 시작하는 것이 바람직하지 않다는 것을 알 것입니다.
이어질 하편에서는, 그렇다면 기업의 인공지능 도입 시 '전략'과 '지원 체계'에 관련된 주요 고려 사항은 어떤 것들이 있을지 한 번 간단히 살펴보고자 합니다.
