인공지능을 접목하라는 회장님의 지시가 떨어졌다
벤치마크 삼을 수 없다. 상상하는 자만이 살아남는다
인공지능의 핵심은 다수의 입력값과 적절한 모델이 그럴싸한 출력물을 생성하는 과정에 있다는 점을 여러 글을 통해 설명(아래 글)했습니다. 이 과정에서 중요한 요소는 '많은' 데이터입니다. 방대한 데이터를 활용하여 특정 목적 함수에 따라 모델링을 수행함으로써, 결과적으로 의미 있는 결과를 도출하는 것입니다.
다양한 기업들이 인공지능 기술을 도입하고자 합니다. 이는 제조업이나 서비스업, 하드웨어 기반이든 소프트웨어 기반이든, 마케팅, 교육, 제약, 모터 산업 분야를 막론합니다. 중요한 것은 인공지능을 적용하는 것은 담론 그 자체를 넘어 우리가 무엇을 알고자 하는지, 그리고 인공지능이 그 해답을 제공하는 적절한 수단인지를 심사숙고해야 한다는 점입니다.
구글이 검색 엔진 기반의 서비스를 제공하면서, 어떻게 하면 사용자에게 더 빠르고 정확한 답변을 제공할 수 있을지에 대해 깊이 고민하였습니다. 이러한 문제 해결 방법으로 대형언어모델(LLM)을 도입하는 방안을 모색했고, 그 결과 '제미나이' 개발에 이르게 되었습니다. 만약 당신이 인공지능을 어떻게 접목할 수 있을지 고민하고 있다면, 가장 먼저 이러한 접근 방식에 대해 심도 있게 고민해보아야 합니다.
AI를 도입하는 방법은 주로 두 가지 경로를 따릅니다. 하나는 보편적인 사용을 염두에 두는 것이고, 다른 하나는 특정 분야에 초점을 맞춘 맞춤형 사용입니다. 전자의 경우, 대규모 데이터를 처리하는 데 필요한 상당한 CPU와 GPU, 그리고 데이터 지원이 필요하기 때문에, 미국의 대기업이나 네이버, LG와 같은 대기업이 아니면 실현이 어렵습니다. 이는 배보다 배꼽이 큰 격이 됩니다. 그렇다면 우리는 AI를 직접 사용하기 어려울까요? 이 경우 앞서 말한 후자에 해당되며, 우리가 사용하는 AI는 이미 만들어진 대규모 언어 모델 기반의 프롬프트 엔진을 활용하여 직접 코딩 없이도 다양한 코드 소스를 불러오는 '간접적인' AI 사용을 포함하여, 더 나아게 우리 회사의 데이터를 적용하는 Domain-specific 커스터마이징 작업을 의미합니다.
구체적인 예시를 들어 설명해보겠습니다. 대기업에서 납품하는 가상의 유기농 식품이 있다고 가정해봅시다. 여러분은 이 제품을 온라인 매장을 통해 판매하고자 하는 마케터입니다. 당신이 직면한 고민은 크게 두 가지로, 고객 만족도를 높이는 것과 내부 작업의 효율성을 증대시키는 것에 초점을 맞출 수 있습니다.
고객 만족도 증대 방안:
내부 효율 증대 방안:
내부 효율성 증대 방안을 구체적인 예로 들자면, 업무 효율을 관리하는 대시보드 개발을 들 수 있습니다. 이 대시보드를 구축하기 위해 필요한 과정은 다음과 같습니다.
(1) Input
1. 마케팅 부서 및 관련 직원 데이터: 근무 시간, 담당 업무 등을 포함.
2. 업무 특성: 보도자료 작성, 광고 집행, 월간 뉴스레터 발행, 협업 행사 등 각 프로세스와 해당 프로세스에 필요한 시간을 정리.
(2) Modelling
1. 분기별 마케팅 목표를 설정하고, 설정된 목표에 따라 업무 진척도를 비교할 수 있도록 모델을 구축.
2. 업무 프로세스를 학습하여 실제 업무에 소요되는 시간과 비교, 가장 이상적인 소요 시간 및 마감일을 예측할 수 있게 모델링.
(3) Output
1. 업무를 진행하는 사람이 최적으로 달성할 수 있는 프로세스 프레임워크 제안.
2. 업무 진행 시, 과거 사례와 정리된 자료를 기반으로 실시간 제안.
3. 위 내용을 외부 LLM 기반의 프롬프트를 사용하여 AI 에이전트로 구성하여 제공.
이 내용을 바탕으로 할 때, '보도자료 작성'이라는 상부의 지시를 받았을 경우 자동으로 작동하는 프로세스와 발행 날짜 및 필요 시간을 고려하여 어떤 프로세스를 가속화해야 하는지에 대한 제안을 받을 수 있습니다. 또한, '영업 PT'라는 목적 아래 프레젠테이션을 작성할 때는 목차에 대한 제안을 받게 되며, 각 목차별로 프레젠테이션의 목표에 맞는 내용을 실시간으로 추천 받을 수 있습니다.
물론 제공된 데이터의 퀄리티와 모델링이 잘 이루어졌냐에 따라, 최종적으로 도출될 수 있는 결과의 질이 달라지게 됩니다. 회사가 실제로 인공지능을 도입하려면 많은 변화가 필요하며, 내부적으로 비정형 데이터를 컴퓨터가 이해할 수 있는 수치 데이터로 전환해야 합니다. AI 도입 과정에는 성장통이 따르는 것이 일반적입니다. 성공 사례 즉 벤치마크가 많지 않으며, 내부 레거시 시스템과의 마찰도 빈번하기 때문입니다. 하지만 AI를 성공적으로 도입한 회사는 타 회사가 지속적으로 발생시키는 비용을 쉽게 초월할 수 있으며, 그 후에는 인간만이 수행할 수 있는 핵심 업무에 집중할 수 있다고 생각합니다.
