brunch

매거진 디지털 서비스 리포트

라이킷 11 댓글

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 김영욱 Jan 30. 2024

생성형 AI로 기업 경쟁력을 강화하기 위한 3가지 요소

이 글은 제가 삼성 SDS < 인사이트 리포트 > 2024년 1월에 발행한 글입니다. 원본 글 '생성형 AI로 기업 경쟁력을 강화하기 위한 3가지 요소'을 이곳 브런치에서 재공유합니다.

생성형 AI의 출현 이후, 기업용 AI 시장에서의 공급자 경쟁이 치열해지고 있다. 구글, 마이크로소프트, 아마존 등의 B2B 엔터프라이즈 플랫폼 공급자들은 자사의 플랫폼 내에 전방위적으로 생성형 AI를 도입하여 경쟁력을 강화하려는 전략을 취하고 있다. 모든 산업 도메인 내에서 AI 이니셔티브의 중요성이 확산됨에 따라 그 기술을 자사의 업무 플랫폼에 적극적으로 적용하여 플로우를 자동화하려는 요구가 증가하고 있기 때문이다. 구글은 클라우드, 워크스페이스에서 이메일 작성, 문서 요약에 도움을 주는 생성형 AI 어시스턴트 ‘듀엣 AI’를 공개했다.[1] 마이크로소프트는 워드, 엑셀 등 365 제품과 최신 윈도우 11 업데이트[2]에 코파일럿(Copilot) 기능을 통합하여 플랫폼 전반에서 연결된 AI 경험을 제공할 수 있도록 적용 범위를 빠르게 늘렸다.

데이터 분석, 인사 관리 등 비즈니스 플랫폼을 보유하고 있는 핵심 플레이어들과 협력하여, AI 기술을 제공하는 비즈니스 사례 또한 늘고 있다. 대표적인 사례로 ERP 애플리케이션을 제공하는 SAP는 자사의 비즈니스 제품 내에 마이크로소프트 코파일럿을 통합하여 자연어 기반 인터랙션 경험을 엔드 유저에게 제공한다.[3] 이런 움직임은 OpenAI, Google, Anthropic 같은 선도 AI 기업에서 공통적으로 기업형 LLM 플랫폼을 구성하여 비즈니스 케이스를 확대 지원하려는 모습을 보인다. 기업용 AI 시장에서 경쟁이 치열해진 배경에는 현재 생성형 AI의 기술 수준과 특성이 반영되어 있다. 맥킨지의 기술 트렌드 전망 2023 리포트[4]에 따르면, 비즈니스 맥락에서 적용된 생성형 AI는 두 가지 공통된 특성을 갖는다.

첫째, 비즈니스 애플리케이션 내에서 AI가 생성한 부정확한 콘텐츠(환각 현상), 지적 재산권(IP) 문제를 최종적으로 확인할 전문가가 특정 태스크의 워크플로 안에 포함되어 있다.

둘째, 기존에 플랫폼 사용자가 익숙하게 사용되던 워크플로우 내에서 사용되며, 생성된 결과에 대해 적용과 변경 관리가 용이하다는 점이다.

이러한 두 가지 특성에 따라, 현재 기술 수준에서는 주로 초안 작성, 가설 생성 및 전문가를 보조해 작업 효율성을 높이는 면에서 가치 제공이 가능하다.[5] 또한 현재의 기술 수준에서 생성형 AI는 운영 지원, 세일즈/마케팅 전문가, 엔지니어 등 광범위한 영역에서 단순 반복적인 작업을 자동화함으로, 전문가들이 더욱 비즈니스 가치가 높은 일에 집중할 수 있는 환경을 제공할 수 있다. 점차 기업의 내부 데이터와 결합되고 커스터마이즈 수준이 높아지면서 생성형 AI의 적용 범위와 영향력은 더욱 크게 늘어날 것이다.

[그림 1] 생성형 AI의 기술 진화에 따라 기업의 생산성에 미치는 영향 (출처: Cohere)

이러한 기술의 가능성과 경제 흐름에 맞춰 기업의 AI 관련 이니셔티브는 더욱 확산되며, AI 기술의 영향력과 시장 파급력은 더욱 커질 것으로 예상된다. 골드만삭스의 리포트는 기업의 생성형 AI의 적용으로 인해 약 7%의 글로벌 GDP를 상승시킬 것이라고 전망하고 있다.[6] 뿐만 아니라 액션츄어 리포트에서는 금융, 소프트웨어, 에너지, 커뮤니케이션/미디어 등의 산업 22개의 직업군에서 약 40%의 일상 업무가 자동화 되거나, 생산성이 증강될 것으로 전망한다.[7] 이는 광범위한 산업 영역에서 생성형 AI가 엄청나게 큰 비즈니스 기회임을 의미한다.

[그림 2] 생성형 AI에 업무 영향을 받을 것으로 전망되는 직업의 종류와 업무 범위 (출처: Accenture)

빠른 AI 기능 도입을 통한 경쟁 우위 선점

조직의 생산성 강화를 위해 AI를 도입하고자 하는 기업에게는 어떤 AI 기업의 기술을 사용하는지는 그다지 중요하지 않다. 기업의 주된 관심사는 새롭게 도입하는 AI 기술이 조직 구성원들의 생산성을 높여줄 수 있고, 기업의 비즈니스 성과나 비용 감축 효과를 가져올 수 있는가에 집중된다. 그렇기에, 기업이 필요로 하는 기능이 엔터프라이즈 제품 내에서 제공되고 있는지에 대한 여부가 제품이나 서비스의 구매와 지속 여부를 결정하는 요인이 된다.

시장에서 비즈니스 플랫폼을 제공하던 기업은 고객 베이스를 가지고 있던 기존 제품에 생성형 AI 기능을 전방위적으로 통합하여 연결성 있는 업무 경험을 제공하는 데에 집중한다. 마이크로소프트는 Open AI의 챗GPT 기반 코파일럿 기술을 클라우드 플랫폼뿐만 아니라, 비즈니스 애플리케이션에도 탑재하여 빠르게 채팅 어시스턴트 기능을 확대하고 있다. 가장 최근에는 코파일럿 기능의 적용 범위를 빙, 에지 브라우저, 마이크로소프트 365뿐만 아니라 윈도우 11까지 확대하여, 마이크로소프트 플랫폼에서 사용자의 일상 활동 대부분을 포괄하겠다는 비전을 발표했다.[8] 이중에서도 특히 엔터프라이즈 기능의 라인업을 확대한 것은 인상적이다. 엑셀, 워드, 루프 등의 제품 내에 코파일럿 기능의 가용성을 확대하면서, 통합 AI 비서인 ‘Microsoft 365 Chat’을 출시할 예정이다.[9] 이를 통해 이메일, 회의, 채팅, 문서 등 조직에서 발생하는 데이터로부터 다양한 상호작용 맥락을 이해하며 번거로운 작업을 줄이고, 업무를 가속화하는데 기여할 것으로 예상된다.

이미 비자, 제너럴 모터스, KPMG, 루멘 테크놀로지 등이 이용하고 있고, 11월 이후 사용자 가격을 책정하여 기업 고객에게 제공될 예정이다. 빙챗 엔터프라이즈 또한 기업 내에서 발생하는 비즈니스 데이터가 조직 밖으로 유출되지 않는 형태의 어시스턴트 서비스를 제공하는 모델을 공개할 예정이다. 코파일럿 기능의 확대를 통해 제품 포트폴리오 간 연결성과 경쟁력을 높이고, 과금 영역 확대를 통해 매출을 이끌어내려는 전략으로 해석된다.

[표 1] 마이크로소프트의 프로덕트별 코파일럿 라인업 (출처: 마이크로소프트)

한편, 생성형 AI 기능을 시장에 출시하기 위해 다수의 AI 기업과 협력하는 개방형 방식을 통해, 제공 범위를 넓혀가는 기업도 있다. 엔터프라이즈 시장에서 마이크로소프트와 경쟁하는 제품군을 가지고 있는 세일즈포스는 엔터프라이즈에 특화된 AI 기능을 제공하도록 설계된 클라우드 내에 AWS, 앤스로픽(Anthropic), 코히어(Cohere) 등 다양한 파트너 기업의 AI 모델을 호스팅 하여 공급한다. 이를 통해 자사의 CRM 제품 군에 9가지 GPT 기능을 통합했으며 각 제품은 데이터클라우드, 슬랙, 태블로 등의 제품에서 텍스트 생성 등과 관련된 작업을 자동화하여, 업무를 효율화한다.

SAP 와 같은 비즈니스 영역에 특화된 제품을 보유한 기업 또한, 파트너십에 의존하여 생성형 AI 기반의 이니셔티브를 확대해나가고 있다.[10] 타사 대비 더 많은 비즈니스 시나리오를 포함했다거나, 보다 특화된 기능을 제공한다는 점은 경쟁우위를 가질 수 있는 확실한 동기가 된다. SAP는 지난 사용자 컨퍼런스에서, ‘AI built for business’라는 기조를 제시하며, 재무, 공급망, 인사관리 등 15개의 AI 영역을 발표하면서, 산업에 특화된 데이터 그리고 비즈니스 프로세스에 대한 깊은 이해를 통해 자연스럽고 신뢰도 높은 결과를 제공할 수 있음을 강조했다. SAP의 특정 비즈니스 플로우에 맞게 설계된 플랫폼 내에 AI 기반 어시스턴트를 연결시키고, 태스크 속성에 맞게 모델을 파인 튜닝하여 연관성과 정확도를 높였다.

[그림 3] SAP의 AI 비전 (출처: SAP)

가시적 사업 성과를 위한 AI모델의 확장

이처럼 비즈니스 플랫폼 기업들은 자사의 비즈니스 제품 내 이미 구축된 워크플로우 안에서 다수의 AI 기술 기업의 생성형 AI 모델을 통해 신속히 AI 기능을 확장하고, 경쟁적 입지를 다지려 하고 있다. 같은 의미로 AI 기술 기업은 새로운 신규 사용자를 직접 발굴하기보다는 기존에 많은 사용자를 가지고 있는 기업용 제품과 협업하여 AI 기술을 통해 새로운 가치를 제공하는 성장 전략을 택하고 있다. 기업용 애플리케이션을 사용하는 사용자 기업에서는 새 기술의 도입이 새로운 애플리케이션이나 워크프로세스를 만든다면 생산성과 효율성 하락이 우려되기에, 새로운 AI 기술은 기존의 워크프로세스 안에서 최소한의 변경으로 최대한의 효과를 갖도록 디자인되어야 한다. 그런 면에서 세일즈 포스의 아인슈타인(Einstein)과 SAP의 줄(Joule)이 어떻게 OpenAI의 생성형 AI 기술을 이용하여 업무 프로세스를 개선했는지를 참고하는 것은 매우 중요하다. 두 제품이 비슷한 사용자 인터페이스를 가졌다는 점에서 기존의 워크프로세스 방해를 최소화하고 있는 모습을 찾을 수 있다.

[그림 4] 생성형 AI 아인슈타인 이용 예 (출처: 세일즈포스)

[그림 5] 생성형 AI 줄 이용 예 (출처: SAP)

또한 특정 기업의 기술이나 플랫폼에 락인되는 종속성을 제거하고 다수의 비즈니스 플랫폼 기업에 AI 모델을 공급하는 형태로 비즈니스 형태가 발전해야 한다. 이미 OpenAI 또한 마이크로소프트 제품에 종속되지 않고 다양한 비즈니스 플랫폼 기업에 기술을 공급하여, 기업의 자생적인 경쟁력을 높이기 위해 “ChatGPT for Enterprise” 제품을 발표했다. 또한 코히어, IBM Watsonx 등의 LLM 기업은 기업용 AI 빌더를 구축하여, 기업이 자사의 제품에 AI 기능을 빠르게 구축할 수 있는 서비스 모델을 제시하고 있다.

[그림 6] IBM Watsonx 프롬프트 랩의 사용예 (출처: IBM)

여기서 살펴보아야 할 중요한 부분은 AI 기술 기업이 비즈니스 애플리케이션과의 비즈니스를 확대하기 위한 기술의 ‘확장성’ 여부이다. 보유한 AI 모델이 얼마나 많은 사용자 예를 지원하고, 경쟁 모델 대비 얼마나 높은 정확도를 가지고 있는지, 혹은 국가 및 언어 지원 여부 등이 다수의 비즈니스 애플리케이션 기업과 협업할 수 있는 경쟁력이 된다. 따라서 여러 비즈니스 케이스에 적용할 수 있는 확장성 있는 AI 모델을 구성하고, 도입 과정과 시간을 최소화하여 시장에서의 영향력을 강화해 나가는 것이 비즈니스 성공에 주요 관건이 된다.

고객으로부터 AI 신뢰 획득

기업용 제품을 제공할 때 가장 중요한 일은 고객 기업의 신뢰를 획득하는 일이다. 기업이 AI기술을 도입할 때에는 그 정확도와 안정성에 대한 우려뿐 아니라, 기업 내부 데이터의 활용으로 인한 리스크 관리를 최우선 순위로 생각한다. 최근 일부 기업에서는 이런 이유로 사내에서 챗GPT와 같은 생성형 AI 도구의 사용을 금지한다. 혹은 EU 등의 국가에서는 범국가적으로 데이터 보안 관련 이슈에 엄격한 규제를 적용한다. 이러한 우려와 규제를 넘어 비즈니스 기회를 넓히기 위해, AI 기술 기업과 비즈니스 애플리케이션 기업은 모델의 정확도 및 신뢰성, 데이터 보안, 비용, 규제 등의 리스크 관리에 대응할 수 있는 인프라 기능을 기본 기능으로 포함한다. 가트너에서는 이런 리스크 관리를 위한 인프라를 아래의 그림과 같이 4가지 요소로 설명한다.[11]

[그림 7] AI 신뢰, 리스크, 보안 관리를 위한 아키텍처 (출처: Gartner)

대표적인 사례로 9가지의 GPT 기능을 AI 클라우드 내에 포함시켰던 세일즈포스는 인프라에서 아인슈타인 신뢰 계층(Einstein Trust Layer)으로 민감한 내부 데이터가 실제 모델로 학습되거나, 기업 외부로 유출되지 않는다는 점을 기업 고객에게 적극적으로 홍보한다. 아인슈타인 신뢰계층에는 총 7가지의 기업의 데이터를 익명화하는 기술이 포함되는데, 이는 기업 내부의 데이터를 검색하는 방식으로 실사용자의 사용 맥락에 적합한 정보와 서비스를 제공함과 동시에, 저작권 위험, 데이터 유출 위험 등으로부터 기업 고객을 보호한다. 기업 내 사용자가 특정 작업을 요청할 경우, 순차적으로 해당 작업과 관련된 기업의 데이터를 불러오고, 해당 데이터에서 민감한 정보를 마스킹 한 뒤, 보안 인프라를 거쳐 해당 요청과 관련 정보를 LLM이 제공받게 된다. LLM은 해당 정보 등을 학습하지 않으며, 다시 윤리적, 저작권적인 문제를 확인하는 게이트를 거쳐 사용자는 더 정확한 응답과 신뢰할 수 있는 생성 콘텐츠를 제공받는다.

[그림 8] 세일즈포스의 아이슈타인 신뢰 계층 구조(출처: 세일즈포스)

고객 기업의 요구에 따라 프라이비트 클라우드 기반의 LLM 서비스를 제공하는 경우도 늘어나고 있다. 이는 보안성이 높고 기업의 요구에 맞춘 LLM 서비스를 구성할 수 있다는 장점이 있다. 하지만 이는 기업에 특성을 살린 별도의 인프라를 구축해야 하기에 초기 비용이 많이 들고 전문 관리 인력이 필요하므로 기업 입장에서는 쉽게 결정하기는 어려운 면이 있다.

마무리

기업은 생산성 차원에서 이미 잘 활용되고 있고, 또 익숙한 제품을 한 순간에 바꾸는 일은 쉽지 않다. 덧붙여 신뢰할 수 있는 AI 모델을 구축하고, 실효성을 설득하는 것도 하나의 커다란 과제가 될 것이다. 이런 관점에서 여러 전문 산업 영역에 있는 비즈니스 애플리케이션 기업과 AI 기술 기업은 적절한 협력 관계를 구축하는 것이 빠르게 변화하는 시장에서 생존하는 전략이 될 수 있다. 동시에 특정 기업에 종속될 경우, 비즈니스 확장성을 저해하는 경우도 생기기에, 파트너십에 있어 상호 간 비즈니스의 종속성을 덜어내는 것도 생존에 필요하다. 또한 점차 기술의 신뢰와 적절한 위험관리가 기업 성공에 더욱 중요한 요소로 나타날 것이다. 이처럼 기업용 AI 시장에서 빠르게 시장에 진입하고, 비즈니스 연속성과 확장성을 얻기 위해 다양한 관점의 고민이 필요한 시점이다.