AI 소믈리에: B2B 기업을 위한 맞춤 생성형 AI

by 따뜻한 글쟁이

2022년 11월에 GPT-3.5 기반으로 서비스가 공개되었고, 이후 Google의 Gemini시리즈가 공개되면서 멀티모달 LLM에 대한 연구가 본격적으로 관심을 받기 시작하였습니다. 2024년에는 동영상 생성 모델이 경쟁적으로 발표되었으나, 멀티모달 생성 기술은 문서 작업 중심의 B2B 분야에서의 사용이 주를 이루고 있으며, 영상 등은 게임과 메타버스 등에서 향후 2-3년간 기회가 확장이 예상됩니다.

2025년 현재, 딥시크로 AI 생태계에 큰 변화가 일어나고 있습니다. 시시각각으로 변화하는 생성형 AI 시장, IT 담당자들은 어떻게 대응해야 할까요?


생성형 AI 시장의 성장과 도전

먼저 시장 상황을 보겠습니다. 생성형 AI를 도입하려는 기업들의 관심은 날로 증가하고 있지만, 실제로 이를 효과적으로 활용하는 사례는 아직 초기 단계에 머물러 있습니다. 기술 도입 자체는 쉽지만, 이를 비즈니스 모델로 구체화하고 재무적 성과로 연결하는 것이 기업들에게는 큰 도전 과제이죠. 생성형 AI 시장이 유망하다는 전망에도 불구하고, 기업의 AI 활용 수준은 60~75%가 여전히 초기 단계에 머물러 있습니다.

이는 단순히 새로운 기술을 도입하는 것이 아니라, 그 기술을 기업의 실질적인 생산성과 혁신으로 연결해야 하기 때문입니다. 즉, AI 도입만으로 업무 방식이 자동으로 개선되는 것이 아니라, 정량적·정성적인 결과로 이어지는 것이 중요합니다.


기업의 생성형 AI 도입: IT기획팀의 소뮬리에 전략

신기술 적용과 서비스, 그 연결 고리에 IT기획팀의 역할이 중요합니다. IT 기획팀이 AI 소믈리에처럼 고객(협업 부서)의 취향을 파악하고, 그에 맞는 최적의 AI 솔루션을 추천하는 전략이 필수적이기 때문이죠.

IT기획팀의 역할을 문장으로 요약하면, 고객(협업 부서)의 취향을 분석하여 최적의 생성형AI 기술을 추천하자! 입니다. 이를 위해 두 가지 핵심 전략이 필요합니다.

명확한 Use-Case 선정

마중물 전략 활용

1) 명확한 Use-Case 선정

기업이 생성형 AI를 도입할 때 가장 먼저 해야 할 일은 명확한 사용 사례(Use-Case)를 선정하는 것입니다. 이를 위해 다음과 같은 질문을 던져볼 수 있습니다.


고객사 시스템 담당자 : 생성형 AI가 업무 생산성 향상에 도움이 되는지 검증하고 싶습니다.

AI 소뮬리에: 어떤 업무에 적용을 원하시나요? 마케팅, 법무, HR, R&D 중 특정한 업무 영역이 있으신가요?

고객사 시스템 담당자 : 아직 범위를 정하지 못했습니다. 관련 부서 담당자들과 논의도 못 해봤고, 그들을 설득할 동기가 필요합니다.


이러한 상황은 마치 신대륙과 구대륙 와인 메뉴를 펼쳐놓고, 어떤 와인을 선택해야 할지 모르는 상황과 비슷합니다. IT 기획팀이 생성형AI라는 와인을 선택해 도입했지만, 이를 원하는 소비자가 없다면 어떻게 될까요? 단순히 AI 도입에 투자하는 것이 아니라, 실제 사용될 수 있는 분야를 명확하게 정해야 합니다.


그렇다면 고객의 취향저격을 위해서는 어떻게 해야 할까요? 현업의 업무를 이해하고, 그들의 문제를 해결해주어야 합니다. 그러기 위해서는 IT 기획팀과 현업 부서가 협력하여 One-Team을 구성해야 합니다. 현업이 원하는 내용에 따라 추천하는 와인 리스트가 달라지기 때문이죠.


즉, 마케팅, R&D, 구매, 재무 등 각 부서의 목적에 따라 AI 활용 방식이 다르고, 선택해야 하는 기술도 달라지는 점을 고려해야 합니다. 예를 들어, 마케팅 본부는 고객 데이터 분석 및 광고 최적화에 AI를 사용할 것이고, R&D 본부는 신제품 개발 및 특허 검토에 AI를 활용할 것입니다.


그렇기 때문에 기업에서 생성형AI의 초기 활용 단계를 넘어 실질적인 서비스로 나아가기 위해서는 IT기획팀이 AI 소뮬리에의 역할로서 고객의 요구사항과 기술/서비스 검증을 할 수 있는 와인을 추천(Use-Case 선정) 필요합니다.


2) 마중물 전략: 성공 사례의 반복

고객의 취향을 파악하여 추천 와인리스트가 정해져 있습니다. 그렇다면 시음을 통해 고객의 경험을 쌓아가야 합니다. 즉, Use-Case가 정해졌다면, 이제 기업 내부에서는 고객의 경험 즉, 빠르게 성공 경험을 쌓아야 합니다.


생성형 AI 프로젝트는 일반적인 SI프로젝트와는 성격이 달라서 워터폴(Waterfall, 프로젝트를 순차적으로 관리하는 방법론)을 적용할 수 없습니다. 고객의 요구사항을 확인하고 기능 개발 및 피드백이 사이클을 돌며 유기적으로 돌아가야 합니다. 통합테스트의 개념보다는 고객의 지속적인 피드백을 받으며 검증하는 것이 생성형AI 기술에 대한 신뢰도 받으며, 성공 경험을 빠르게 쌓아갈 수 있기 때문이죠.


예를 들어, R&D 본부에서 AI를 활용해 특허 침해 여부를 검토하는 기능을 도입한다고 가정해볼게요. R&D 본부에서도 제품기획, 브랜드 관리팀, QA, 제품개발팀 등 다양한 팀이 존재합니다. 조금 더 범위를 좁혀야 합니다. 어느 부서를 Target으로 할 것인지, 제품을 기준으로 할 것인지 말이죠.

팀이 정해지고, 인터뷰를 통해 Long-List를 작성한 후에 과제 선정 기준을 마련해야 합니다.


과제의 중요도, 과제의 시급성(개발 예상기간), 구현 가능성(데이터 준비도/보안 레벨/)을 기준으로 말이죠. 기준이 수립되었다면 이제 Action 입니다.


이 과정에서 생성형 AI는 다음과 같은 기능을 수행할 수 있습니다.

관련 특허 문서 검색

특허 침해 여부 판단

특허 침해 검토 보고서 생성

이 기능을 단계별로 적용해 성공 사례를 만들어 나가면, 이후 다른 제품으로 확장하고, 나아가 해외 특허 검토까지 서비스 범위를 넓혀나갈 수 있습니다. 중요한 것은 이러한 성공 경험이 반복될수록, 기업 내 AI 도입에 대한 신뢰도가 높아진다는 점입니다.


결론: AI소뮬리에게 물어보세요.

AI 도입을 고민하는 IT 기획팀은 단순한 기술 제공자가 아니라, 기업 내 AI 소뮬리에 역할을 수행해야 합니다. 즉, 다양한 AI 기술 중에서 각 부서의 니즈에 맞는 최적의 솔루션을 제공해야 하며, 이를 통해 기업의 혁신을 주도해야 합니다. 그래야 현재의 기술적용 초기 단계에서 성숙단계로 이끌 수 있습니다.


AI 도입은 단순한 기술 투자로 끝나서는 안되며, 지속적인 활용과 학습을 통해 성공적인 Use-Case를 만들어내고, 이를 확산해 나가는 것이 핵심입니다. 이를 위해 기업의 IT 기획팀은 AI 활용의 소믈리에로서, 현업의 니즈를 파악하여 취향저격의 상품제공을 제공한다면 기업 내 AI 혁신을 주도할 수 있을 것입니다.


[출처]

https://www2.deloitte.com/kr/ko/pages/technology-media-and-telecommunications/articles/2024/20240924.html)

https://channy.creation.net/blog/1905

keyword