기업용 'AI 클라우드 솔루션'을 선보인 세일즈포스
이 글은 제가 NIA [한국지능정보사회진흥원]의 < 디지털서비스 이슈리포트 > 2023년 6월호에 기고한 글입니다. 원본 글 '기업용 'AI 클라우드 솔루션'을 선보인 세일즈포스'을 이곳 브런치에서도 공유합니다.
0. 들어가며
그랜드뷰리서치의 최신 보고서[1] 에 따르면 전 세계 클라우드 AI 시장 규모는 2030년까지 6,476억 달러에 달할 것으로 예상되며, 2023년부터 2030년까지 39.6%의 연평균 성장률을 기록할 것으로 전망한다. 지능형 가상 비서에 대한 수요, 고객 서비스 향상을 위한 AI 도입, 빅 데이터의 성장이 시장의 성장을 이끄는 주요 요인이다. 또한 많은 대기업이 투자 및 확장을 통해 시장 성장을 주도하고 있다. 제조 부문의 운영 효율성 향상에 대한 필요성과 다양한 산업에서 클라우드 기반 서비스 및 애플리케이션의 성장도 글로벌 시장에 성장 기회를 제공할 것이다.
이렇게 클라우드 컴퓨팅과 인공지능 기술은 상호 보완적인 기술이 되었다. 기업과 정부기관의 프론트 오피스에서 백 오피스에 이르기까지 비즈니스의 모든 영역에 걸쳐 인공지능의 도움으로 업무를 행하고 의사 결정의 도움을 받게 되었다. 그런 이유로 인공지능(AI)을 경쟁 시장에서 승리하고 증가하는 사용자의 요구와 미션 수요를 충족하기 위한 필수적인 기술로 인식하고 있다.
조직은 AI 라이프사이클을 가속화하고 조직 전체가 인공지능을 사용하여 다양한 문제를 쉽게 해결할 수 있도록 여러 기술 구성 요소를 조합하는 노력을 하고 있다. 이러한 요구에는 확장성과 탄력성이 필수이기 때문에 라이프사이클 전반에 걸쳐 인공지능 기술을 채택하는 것은 매우 복잡하다. 비즈니스 클라우드 환경에서 인공지능 기술은 비즈니스 프로세스의 전략적이고 효과적이며 인사이트 중심적인 특성을 개선하는 데 사용된다. 기업용 업무 솔루션을 제공하는 글로벌 기업 세일즈포스가 최근 그들의 전통적인 프로덕트 라인에 생성형 AI 기능과 신뢰레이어를 추가하여 제품을 선보였다. 그 제품의 특징과 갖는 의미에 대해서 알아보자.
1. 세일즈포스 AI 클라우드
세일즈포스는 '엔터프라이즈급' 인공지능 기능을 제공하도록 설계된 ‘AI 클라우드’를 출시했다.
지난 3월에 발표[2]한 생성형 AI ‘아인슈타인 GPT’의 연장선상에 있으며, 이 이니셔티브는 세일즈포스의 가장 강력한 제품군인 고객 관계 관리 솔루션(CRM)을 중심으로 AI, 데이터 분석 및 자동화를 결합하여 엔터프라이즈에 적합한 신뢰할 수 있는 실시간 생성형 AI를 제공함으로써 고객 경험과 기업 생산성을 향상시키는 목적으로 발전 진행되었다. 또한 이번 AI 클라우드 제품 발표에는 신뢰할 수 있는 엔터프라이즈 AI의 새로운 업계 표준을 제시하는 아인슈타인 신뢰 레이어 (Einstein Trust Layer)가 포함되어 있다. 이것은 데이터 프라이버시 및 데이터 보안을 제공하면서 생성형 AI의 이점을 제공한다.
1.1 중요 제품군에 생성형 AI 기능 탑재
클라우드 플랫폼에서 AWS, 앤스로픽(Anthropic), 코히어(Cohere) 및 OpenAI를 비롯한 다양한 파트너의 AI 모델 중 특히 중점적으로 텍스트 생성 모델을 호스팅 하고 제공한다. 코드 생성 및 비즈니스 프로세스 자동화와 같은 기능을 지원하는 자체 모델도 제공하고 있으며, 고객이 자체 인프라에 데이터를 저장하면서 맞춤형으로 학습된 모델을 가져올 수도 있다. 이런 개방형 접근방식은 AWS가 자체적으로 학습한 모델과 스타트업 파트너로부터 사전 학습한 모델을 제공하는 아마존이 출시한 베드록 (Bedrock)[3]과 크게 다르지 않다. AI 클라우드에서 세일즈포스가 구축한 모델은 총 9가지로서 모두 데이터클라우드나 슬랙, 태블로와 같은 주력 제품에 속해 있다. 그중 중요한 7가지 모델에 대해 알아보자.
1.1.1 세일즈 GPT (Sales GPT)
CRM 플랫폼 데이터를 통해 사용자의 업무 방식을 빠르고 효율적으로 변화시키는 목적이다.
사용사례:
• 이메일 자동 생성: CRM 데이터를 기반으로 개인화되므로 관계 구축, 거래 성사, 수익 창출에 집중할 수 있다. 잠재 고객 발굴, 회의 후속 조치, 제안서 전송과 같은 개인화가 필요한 GPT기반 이메일을 대규모로 자동 생성할 수 있다.
• 통화 요약: 이전 통화에서 주요 언급, 대화 내용 및 작업 항목을 자동으로 요약하여 담당자가 시간을 절약하고 후속 조치를 개선할 수 있다.
• 세일즈 비서: 미팅 준비를 돕고 기타 영업 지침을 제공한다.
그림 1. 세일즈 GPT 메일 작성 기능1.1.2 서비스 GPT (Service GPT)
서비스 GPT는 Data Cloud의 실시간 데이터와 결합하여 서비스 팀이 일상적인 업무에 소요되는 시간을 줄이고 고객 충성도를 구축하는 데 더 많은 시간을 할애할 수 있도록 지원한다.
사용 사례: 생성형 AI 기능을 활용하여 사례 데이터와 고객 기록을 기반으로 서비스 브리핑, 사례 요약, 작업 지시서를 자동으로 생성할 수 있으므로 팀의 시간을 절약하여 서비스 경험을 제공하는 데 집중할 수 있다.
그림 2. 서비스 GTP 자동 요약 기능1.1.3 마케팅 GPT (Marketing GPT)
생성형 AI를 활용하여 생산성을 향상하고 데이터 클라우드내의 고객 데이터를 사용하여 대규모로 개인화 기능을 제공할 수 있도록 지원한다.
사용 사례: 마케터는 자연어 프롬프트와 AI 기반 추천을 활용하여 잠재 고객 세그먼트를 신속하게 생성하고 타겟팅을 강화할 수 있다. 이를 통해 적절한 메시지와 제안을 적시에 적절한 사람에게 정확하게 전달하여 성과를 창출하는 의미 있는 고객 관계를 구축할 수 있다.
그림 3. 마케팅 GPT 개인화 추천 기능1.1.4 커머스GPT (Commerce GPT)
데이터 클라우드의 실시간 데이터를 기반으로 자동 생성된 추천, 콘텐츠, 커뮤니케이션을 통해 구매자 여정의 모든 단계에서 맞춤형 커머스 경험을 제공할 수 있다.
사용 사례: 고객 데이터를 기반으로 각 구매자에게 제품 설명을 자동으로 맞춤 설정하고 GPT 가이드 추천을 통해 커머스 목표를 달성할 수 있다. 예를 들어, 지난 시즌의 재고를 해소하거나 평균 주문 금액을 높이는 방법 등이 있다.
그림 4. 커머스 GPT의 사용자 맞춤 설정 기능1.1.5 슬랙 GPT (Slack GPT)
이번 발표에서 가장 주목받은 기능으로 사용자는 슬랙 내에서 대화형 AI를 경험할 수 있으며, 업무 수행 방식을 여러 가지 시나리오 상황에서 혁신할 수 있다.
사용 사례:
· 노코드 워크플로: 슬랙 GPT를 사용하면 각 단계에서 간단한 프롬프트와 함께 AI 작업을 포함하는 노코드 워크플로를 구축, 배포할 수 있다.
· 대화 및 허들 요약: 한 번의 클릭으로 읽지 않은 Slack 메시지를 빠르게 확인하거나, 슬랙 GPT에 허들 참여를 요청하여 요약과 다음 단계를 즉시 제공받을 수 있다.
· 효과적인 커뮤니케이션: 슬랙 메시지 작성기와 새로 출시된 캔버스에 상황에 맞게 내장된 AI 기능을 통해 고객은 콘텐츠를 쉽게 추출하고 메시지 톤을 조정하는 등의 작업을 수행할 수 있다.
· 앱 디렉토리의 통합: 이미 슬랙에서 사용 중인 타사 또는 사내 LLM의 기능을 빠르고 안전하게 확장할 수 있다. 코드 없이 워크플로우를 생성하여 슬랙, LLM 및 해당 소프트웨어 도구 에코시스템 전반에서 작업을 자동화할 수 있다. 워크플로 빌더에서 고객은 생성형 AI 앱을 워크플로에 즉시 연결할 수 있고, OpenAI의 챗GPT 및 앤스로픽의 Claude와 같은 주요 플랫폼의 AI 앱과 통합할 수 있다.
그림 5. 슬랙 GPT의 LLM 기능1.1.6 태블로 GPT (Tableau GPT)
태블로 GPT를 사용하면 안전한 방식으로 데이터를 더 잘 이해하고 상호 작용할 수 있다. 사용자는 간단한 질문을 통해 대화형 방식으로 인사이트를 발견할 수 있으며, 이를 통해 더욱 스마트한 데이터 환경을 구축할 수 있다.
사용 사례: 업무 책임자는 태블로 GPT를 사용하여 자연어 프롬프트에 기반한 시각화된 페이지를 생성하여 실시간 진행 상황과 목표 달성에 도움이 되는 권장 사항을 표시할 수 있다.
그림 6. 태블로 GPT의 자연어 기반 대시보드1.1.7 플로우 GPT (Flow GPT)
사용자는 단일 텍스트 프롬프트에서 워크플로우를 만들 수 있다.
사용 사례: 플로우 GPT를 사용하면 리드가 기회로 전환될 때 자연어 프롬프트를 사용하여 담당자에게 알려주는 워크플로우를 만들 수 있다.
그림 7, 플로우 GPT의 자연어 프롬프트 워크플로우1.2 신뢰 레이어 (Trust Layer)
AI 클라우드의 또 다른 차별점은 새로운 AI 조정(moderation) 및 개정(redaction) 서비스인 아인슈타인 신뢰 레이어 (Einstein Trust Layer)를 제공하고 있다는 점이다. 이것은 Nvidia의 NeMo 가드레일[4]과 유사하게, 텍스트 생성 모델이 고객 구매 주문서 및 전화번호와 같은 민감한 데이터를 보유하지 못하도록 방지하는 것이다. 또한 이 레이어는 엄격한 규정 준수 및 거버넌스 요구 사항이 있어 일반적으로 생성형 AI 도구를 사용할 수 없는 기업을 대상으로 한다. 이 부분은 요즘 같이 개인 데이터에 민감한 시기에 적절한 조치라고 판단한다. 아마존, 골드만 삭스, 버라이즌과 같은 기업은 이미 개인 정보 보호 위험을 이유로 챗GPT와 같은 생성형 AI의 사용을 금지하거나 제한하고 있다.
아인슈타인 신뢰 레이어는 앱 또는 서비스와 텍스트 생성 모델 사이에 위치하여 프롬프트에 민감한 정보가 포함될 수 있는 경우를 감지하고 모델에 도달하기 전에 백엔드에서 자동으로 제거한다. 또한 프롬프트나 모델의 응답에서 유해성(예: 성차별, 인종차별 및 기타 형태의 차별)을 필터링할 수도 있다.
아마존의 세이지메이커(SageMaker)나 구글의 Vertex AI와 같은 타사 플랫폼의 모델을 AI 클라우드에 연결한 사용자도 아인슈타인 신뢰 레이어를 활용할 수 있다. OpenAI 사용자를 위해서는 '신뢰 파트너십'을 구축하여 아인슈타인 신뢰 레이어와 함께 OpenAI의 안전 도구를 사용하여 공동 콘텐츠 검토를 제공한다.
모델과 프롬프트를 조정하는 것은 매우 까다로운 작업이며, 그 시장에는 경쟁이 치열하다. 지난달에 모델을 포함하여 텍스트와 이미지를 검토하는 새로운 AI 서비스를 선보인 마이크로소프트는 애저 OpenAI 서비스를 통해 아인슈타인 신뢰 레이어와 유사한 모델 사용자 지정 옵션을 제공한다. 그래서인지 세일즈포스는 다른 관리형 AI 서비스 제품과 차별화하기 위해 다양한 '템플릿'과 즉각적인 템플릿 구축 도구를 출시한다. 세일즈포스는 템플릿의 '최적화된' AI 프롬프트가 '조화된' 데이터를 사용하여 기업의 요구 사항에 따라 모델에서 생성된 결과물을 기반으로 생성된 콘텐츠의 품질과 관련성에 강조를 두고 있다. 이는 AI 클라우드에서 생성된 AI 모델을 특정 사용 사례에 맞게 조정하는 데 드는 시간과 비용을 줄이기 위한 것이라고 할 수 있다. 예를 들어, 고객이 본인 업무 스타일에 맞는 방식으로 이메일 응답을 작성하도록 모델에 '지시'하는 템플릿을 만들거나 데이터베이스에서 특정 고객 정보를 가져오는 템플릿을 만들 수 있다.
물론 프롬프트 엔지니어링은 새로운 과학은 아니다. Writer, Jasper, 옳은 문법과 단어를 제공하는 Grammarly와 같은 다른 생성형 AI 플랫폼에서도 특정 스타일로 모델의 응답을 유도하는 방법을 제공하지만 세일즈포스가 강조하는 진정한 가치 제안은 기존의 세일즈포스 데이터를 모델에 쉽게 연결하고 조작할 수 있다는 점이다.
이미 세일즈포스 제품 에코시스템에 위치한 고객에게는 매력적인 기능이 될 수 있다.
2. 다른 기업에선
마이크로소프트는 생성형 AI에서 가장 앞선 기술 서비스인 챗GPT를 탑재한 코파일럿 기능을 통해 최종 사용자 플랫폼뿐만 아닌, 비즈니스 응용프로그램에서도 혁신적인 발전 모습을 보여주며, 전통적으로 강세였던 엔터프라이즈 시장을 정조준하고 있다. 특히 다이내믹스 365는 세일즈포스 제품군과 1:1 매칭되는 라인이라 이후 경쟁 관계 행보에 매우 관심이 간다.
전통적인 비즈니스 애플리케이션의 강자인 SAP는 지난달 "비즈니스 AI"라는 이니셔티브를 발표하면서 경쟁사의 AI 도구에는 텍스트 중심의 생성형 AI 외에 명확한 비즈니스 기능이나 이점이 부족하다는 점을 강조하고 있다.
예를 들어, 자사의 S/4HANA 클라우드의 AI 기반 수금 기능은 송장의 연체 위험을 예측하고 수금 담당자가 고객과 후속 조치를 취하도록 안내한다. SAP가 지능형 인보이스 변환이라고 부르는 또 다른 새로운 기능은 인보이스에서 공급업체 정보를 추출하고 데이터를 올바른 필드에 매핑하여 조달 팀의 공급업체 온보딩 속도를 높일 수 있다. 사실 이런 기능은 아직 세일즈포스에선 소개되지 않은 기능이다.
또한 SAP는 생성형 AI기능을 시장에 출시하기 위해 파트너십에 더 많이 의존하고 있다. 자동화된 직무 설명, 편향성 감지, 개인화된 학습 추천 등에 있어서 마이크로 365 코파일럿 AI를 통합한 SAP 석세스팩터스(SuccessFactors) 애플리케이션을 출시했다.
3. 마무리
세일즈포스의 이번 발표에서 눈에 띄는 한 가지 누락은 DALL-E 2와 스테이블 디퓨젼과 같은 이미지 생성 모델은 누락되었다는 점이다. 물론 비즈니스 시나리오에서 이런 이미지 생성이 얼마나 필요한 것인지에 대해서는 회의적일 수 있으나, 제품의 직접 경쟁이 일어나는 마이크로소프트의 제품군에 이미 탑재되었다는 면에서 고객의 입장은 다를 수 있을 것이다.
이미 생성형 AI는 생활에 밀접하게 진입하고 있다. 관심 기술의 시대가 지나고 그것이 어떻게 제품과 서비스에서 부가가치를 만드는 것에 따라 사용자의 선택이 좌우되는 시대로 진입했다고 할 수 있다. 그런 면에서 비즈니스 응용프로그램 업계를 선도하는 세일즈포스의 생성형 AI 기능 출시 소식은 시장에 꽤 큰 의미가 된다고 하겠다.
참고자료, 레퍼런스
[1] Grand View Research, “Cloud AI Market Worth $647.60 Billion By 2030”, Apr 2023
[2] Salesforce, “Salesforce Announces Einstein GPT, the World’s First Generative AI for CRM”, Mar 7, 2023
[3] Techcrunch, “With Bedrock, Amazon enters the generative AI race” Apr 13, 2023
[4] Nvidia, “NVIDIA Open-Source Software Helps Developers Add Guardrails to AI Chatbots”, Apr 25, 2023
