[業 DIVE] AI, 행동하는 부(富)가 되도록
돈이 되는 AI는 능동적이다
1. Agentic AI: 대화를 넘어 행동으로
2025년 AI 산업의 가장 중요한 화두는 단연 Agent이다. 이는 AI가 단순한 정보 검색 및 생성 도구를 넘어, 비즈니스 프로세스에 직접 개입하여 구체적인 행동을 수행하는 주체로 진화하고 있음을 의미한다. 이러한 변화는 새로운 차원의 자동화를 가능하게 하며, 이는 곧 새로운 비즈니스 모델의 탄생으로 이어진다.
Copilot(부조종사)에서 Agent(대리인)으로
지금까지의 AI는 인간을 보조하는 부조종사(Copilot)에 가까웠다. 글의 초안을 작성해주거나, 코드를 추천해주거나, 방대한 자료를 요약해주는 등 인간의 생산성을 높이는 데 기여했지만, 최종 결정과 실행은 언제나 인간의 몫이었다. 그러나 2025년의 AI는 다르다. 이제 AI는 업무를 위임받아 스스로 완결하는 대리인(Agent)으로 진화하고 있다.
이러한 진화의 핵심에는 LAM(Large Action Model)이라는 새로운 개념이 있다. LAM은 LLM이라는 두뇌에, 외부 도구(API, 소프트웨어, 데이터베이스 등)를 사용할 수 있는 손발을 달아준 것과 같다. LLM이 사용자의 의도를 파악하고 행동 계획을 수립하면, LAM은 그 계획에 따라 실제로 마우스 커서를 움직여 버튼을 클릭하고, API를 호출하여 데이터를 가져오며, 엑셀을 열어 분석 보고서를 작성한 뒤 이메일로 전송하는 일련의 과정을 자율적으로 수행한다.[1]
실제로 Anthropic의 Claude 3.5 Sonnet이 선보인 Computer Use 기능은 개발자의 지시에 따라 스스로 우버를 호출하고, 소셜 미디어에 게시물을 올리며, 심지어 캡차(CAPTCHA) 인증까지 직접 해결하였다.[2] 그리고 Salesforce는 유저가 직접 Agent을 만들어 자사 생태계 내에서 활용할 수 있는 Agentforce 플랫폼을 출시했다.[3]
Zero-UI와 앰비언트 컴퓨팅: 알잘딱깔센하게
에이전트의 등장은 곧 Zero-UI 시대의 도래를 의미하기도 한다. Zero-UI는 사용자가 스크린, 버튼, 메뉴와 같은 전통적인 인터페이스 없이 음성, 제스처, 센서, 자동화 등 자연스러운 방식으로 기술과 상호작용하는 디자인 접근법이다. 사용자가 프롬프트를 구구절절 입력하는 시대는 저물고, AI가 사용자의 의도와 맥락을 먼저 파악하여 배경에서 조용히 과업을 수행하는 앰비언트 컴퓨팅(Ambient Computing)이 다가오고 있다.[4]
이러한 변화는 '[業 DIVE] LLM을 도려내어 농밀하게' 게시물에서 언급한 지능의 범용화 덕분에 가능해졌다. 모델 성능의 상향 평준화는 과거 최상위 모델의 전유물이었던 추론 능력의 보편화를 의미한다. 이제 보급형 모델조차 사용자의 모호한 의도를 구체적인 실행 계획으로 변환하고, 필요한 S/W을 스스로 제어할 수 있는 판단력을 지니게 되었다.
이러한 판단 비용의 하락은 AI을 수동적인 챗봇에서 능동적인 모습으로 진화시켰다. 예를 들어, "오늘 100일인 것을 깜빡했네"라는 사용자의 망언은 더 이상에 허공에 흩어지는 텍스트가 아니다. Agent는 즉시 이를 과업(Task)으로 인식하여 추론 루프를 가동한다. 스스로 예약 앱 API을 호출하여 레스토랑을 잡고, 꽃 배달 서비스를 결제하며, 여자친구에게 보낼 사과 메시지와 유언장(?)까지 작성하는 일련의 워크플로우를 완수한다. 바야흐로 AI가 언어의 감옥을 탈출해, 실질적인 행동의 영역으로 진입한 것이다.
AI Understands and Predicts User Intent(출처: eLuminous)2. 신뢰의 아키텍처: 행동하는 AI을 위한 기술적 안전장치
AI에게 실제로 돈이 오가는 예약, 주문, 결제와 같은 실질적인 권한을 위임하기 위해서는 반드시 신뢰라는 문제가 해결되어야 한다. 기업 입장에서는, AI가 잘못된 정보를 기반으로 행동하거나, 복잡한 업무의 맥락을 이해하지 못해 실수를 범하는 것은 용납할 수 없다. 따라서 행동하는 AI에게 있어서 강력한 신뢰 아키텍처의 구축은 필수적이다.
RAG: 비즈니스를 위한 참고서
'[業 DIVE] LLM을 도려내어 농밀하게' 게시물에서 언급한 모델 경량화는 모델의 운영 비용을 낮추는 데 필수적이지만, 동시에 모델의 일부를 손상시키는 부작용을 낳는다. 또한, 모델의 학습 데이터는 특정 시점에 고정되어 있어 최신 정보나 기업 내부의 기밀은 알지 못한다.
이러한 한계는 AI가 사실과 다른 내용을 생성하는 환각 현상의 주된 원인이다. 이 문제를 완화하고 AI의 답변을 신뢰할 수 있는 사실에 기반하게 하는 핵심 기술이 바로 RAG(Retrieval-Augmented Generation)이다.
RAG는 LLM에게 참고서를 쥐어주는 것으로 비유된다. AI가 답변을 생성하기 전에, 사용자의 질문과 관련된 최신 정보나 기업 내부 데이터베이스의 정보를 먼저 검색한다. 그리고 이 검색된 사실을 토대로 답변을 생성하는 것이다. 이 과정으로 환각은 극적으로 줄어든다. 또한, 기업은 비로소 AI가 생성한 내용의 출처를 확인할 수 있게 되고, 이를 기반으로 AI에게 중요한 의사결정 권한을 안심하고 맡길 수 있게 된다.
RAG 기술은 여기서 멈추지 아니하고 계속 진화하고 있다. 단순 검색을 넘어, Agent가 스스로 판단하여 검색 방식을 최적화하는 Agentic RAG로 나아가고 있다. 예를 들어, 사용자가 "B 브랜드의 헤드셋을 찾아줘"라고 질문했을 때, 기존 RAG는 '헤드셋'이라는 키워드에만 집중하여 무관한 브랜드의 제품까지 검색하였다. 그러나 Agentic RAG는 B 브랜드명을 필터 조건으로 인지하고 필터에 적용하여 더 정확한 결과를 도출한다.
이때 에이전트가 검색 도구에 브랜드 필터 기능이 있다는 것을 파악하고 이를 적절히 활용할 수 있었던 것은, MCP(Model Context Protocol)와 같은 기술이 뒷받침되었기 때문이다. MCP는 에이전트가 사용할 수 있는 도구(API)의 기능과 매개변수를 동적으로 발견하게 해주는 표준 규약이다. 즉, MCP가 도구의 사용 설명서 역할을 해주기에, 에이전트는 문제 해결을 위해 어떤 정보와 기능이 더 필요한지 스스로 판단하고 최적의 방법으로 정보를 수집할 수 있는 것이다. 이는 RAG가 능동적인 문제 해결 시스템으로 발전하고 있음을 보여준다.
오케스트레이션(Orchestration): AI 어벤져스의 탄생
하나의 거대한 모델이 모든 것을 해결할 것이라는 환상이 깨졌듯이, 하나의 만능 Agent가 모든 비즈니스 문제를 해결할 것이라는 기대 역시 비현실적이다. 복잡한 비즈니스 프로젝트는 기획, 개발, 디자인, 마케팅, 법률 검토 등 다양한 전문성을 요하기 때문이다. 따라서 행동하는 AI 시대의 실질적인 해법은 여러 전문 에이전트가 협업하는 멀티 에이전트 시스템(Multi-Agent System)이며, 이들의 협업을 조율하는 기술이 바로 오케스트레이션(Orchestration)이다.
오케스트레이션은 마치 오케스트라의 지휘자처럼, 상위의 매니저 Agent가 복잡한 Task을 작은 단위로 분해하고, 각 Task에 적합한 전문 Agent에게 Task을 할당하고, 그 결과를 취합하여 최종 결과물을 만들어내는 과정이다.
이러한 기술은 이미 비즈니스 성과로 이어지고 있다. 실제로 JPMorgan은 Coach AI Agent을 통해 자산 관리 영업 실적을 전년 대비 20% 향상시켰다. [5] 이는 오케스트레이션 기술이 단순한 기술적 실험을 넘어, 기업의 핵심 경쟁력을 좌우하는 실질적인 ROI 창출 엔진으로 작동하고 있음을 명백히 보여준다.
3. Vertical AI: AI 인력 사무소
Agent 기술이 성숙해지면서 AI 산업의 무게 중심은 범용 기술에서 특정 산업의 문제를 해결하는 전문가 AI로 빠르게 이동하고 있다. 범용 AI가 무엇이든 괜찮은 수준으로 해낼 역량이 있는 똑똑한 인턴이라면, 버티컬 AI는 특정 분야의 문제를 완벽하게 해결하는 10년 차 전문가에 가깝다. 그리고 이 전문가는 훨씬 높은 부가가치를 창출하며, 이는 완전히 새로운 비즈니스 모델의 등장을 이끌고 있다.
SaaS 2.0: 월 3만 원짜리 도구에서 월 300만 원짜리 용병으로
기존의 SaaS(Service-as-a-Software) 모델은 고객에게 도구를 빌려주고 월 사용료를 받는 방식이었다. 그러나 버티컬 AI는 이 공식을 완전히 뒤집는다. 이제 기업은 도구가 아닌, AI 에이전트가 만들어낸 업무 결과물(Service) 자체를 판매한다. 이를 SaaS 2.0라고 부른다.
이는 S/W에 대한 시각이 도구에서 협업자로 바뀌는 것과 유사하다. 예를 들어, 법률 AI 스타트업 EvenUp은 개인 상해 사건 법률 요구서 작성 자동화 서비스를 운영한다. 변호사는 EvenUp에 사건 파일을 업로드하면, Agent가 의료 기록을 분석하고 법적 논리를 구성하여 초안을 몇 분 만에 완성한다.[6] EvenUp은 구독료 대신, 성공 보수 기반의 요금 등을 청구한다. 이는 AI가 인간 직원의 업무를 대체하고 그에 상응하는 가치를 직접 청구하는 새로운 비즈니스 모델이다.
美 시장조사 기관 글로벌 마켓 인사이트에 따르면, 전 세계 버티컬 AI 시장은 2024년 기준 102억 달러 규모이며, 2025년부터 2034년까지 연평균 21.6% 성장할 전망이다.[7] 이는 버티컬 AI가 범용 AI로는 해결할 수 없었던, 복잡하고 고부가가치인 산업별 핵심 문제를 해결하기 때문이다.
그리고 Evenup의 사례처럼 가격 책정 방식도 변하고 있다. 단순한 월 구독료 대신, 고객의 만족과 자사의 수익을 직접적으로 연동하는 가치 기반 가격 책정(Value-Based Pricing) 방식이 확산되고 있다.[8] 이러한 방식은 고객이 가치를 先 경험하고 비용을 지불하게 하여 도입 장벽을 낮추고, 고객의 ROI와 서비스 제공자의 수익을 일치시켜 장기적인 파트너십을 구축한다.
데이터 해자(Data Moat): 지능이 상향 평준화된 시대의 유일한 경쟁 우위
데이터 해자란 경쟁사가 쉽게 복제하거나 접근할 수 없는 독점적이고 고품질인 데이터를 의미한다. 이는 성(城)을 보호하는 해자처럼, 독점 정보의 누적적 가치를 활용하여 경쟁업체가 극복하기 점점 더 어려워지는 방어막 역할을 한다. 데이터 해자의 핵심은 단순히 데이터를 많이 보유하는 것이 아니라, 서비스를 사용하면 할수록 더 많은 양질의 데이터가 쌓이고, 이 데이터가 다시 AI 모델을 똑똑하게 만들어 서비스 경쟁력을 강화하며, 더 많은 사용자를 유치하는 선순환 구조를 만드는 데 있다.[9]
웹에서 쉽게 구할 수 있는 데이터는 해자의 자격조차 없다. 강력한 데이터 해자는 다음과 같은 특징을 가진다.
① User-Generated Proprietary Workflows
사용자가 제품이나 서비스를 사용하는 과정에서 자연스럽게 생성되는 독점적인 데이터이다. 디자인 협업 툴 Figma나 문서 도구 Notion에 쌓이는 사용자들의 디자인 패턴과 작업 방식 데이터는, 다른 곳에서는 절대 구할 수 없는 자산이다.[9]
② Sensor or Hardware Data
Tesla가 수백만 대의 차량 운행으로 수집하는 실제 도로 주행 데이터는 자율주행 기술의 성능을 고도화하는 데 핵심적인 역할을 한다. 이는 경쟁자의 추종을 불허하는 강력한 해자를 구축한다.[9]
③ Regulatory or Compliance Moat
특정 산업의 엄격한 규제나 인증을 통과해야만 접근할 수 있는 데이터는 그 자체로 강력한 진입 장벽이 된다. 헬스케어 AI 기업 Tempus AI는 병원과의 파트너십으로 임상 데이터, 유전체 데이터, 실제 치료 결과 데이터 등을 확보했다.[9]
④ Transaction-Level Data
결제 플랫폼 Stripe나 금융 데이터 연동 서비스 Plaid는 수많은 비즈니스의 실제 거래 데이터를 처리하며 독점적인 금융 흐름 데이터를 축적한다. 이 데이터는 사기 탐지, 신용 평가 모델의 정확도를 높이는 데 결정적인 역할을 한다.[9]
결국, 고지능이 범용화된 AI 시대에서는, 최고의 데이터 선순환 구조를 설계한 기업이 목에 메달을 걸 수 있을 것이다. 독점적인 데이터를 지속적으로 확보하고, 이를 통해 AI Agent의 성능을 개선하며, 그 결과 더 나은 서비스와 제품을 제공하여 더 많은 사용자와 데이터를 연쇄적으로 끌어모으는 기업만이 지속 가능한 우위에 이를 것이다.
4. 우리 고유의 데이터로 초격차 만들기
우리나라는 세계 최고 수준의 제조, 의료 등 양질의 데이터를 창출하는 산업 구조를 가지고 있다. 지난 수십 년간 쌓아온 제조업 데이터, 임상 데이터 등은 그 자체로 훌륭한 자양분이다. 이는 버티컬 AI 에이전트가 성장하기에 최적의 토양이다.
우리는 천문학적인 비용이 드는 거대 범용 모델 개발 경쟁에만 매몰될 것이 아니라, 이미 보유한 세계 최고 수준의 산업 데이터라는 해자를 적극 활용해야 한다. 모델을 필요한 크기만큼 경량화 및 최적화하고, 우리 고유의 데이터를 학습시켜, 특정 산업의 가장 고통스럽고 구체적인 문제를 완벽하게 해결하는 족집게 버티컬 Agent을 만드는 스타트업만이, 글로벌 시장을 선도하는 차세대 유니콘이 될 것이다.
본 게시물의 커버 이미지는 AI에 의해 생성되었습니다. 그리고 본 게시물의 글의 초안은 AI로 작성했으나, 구체적인 사실, 문맥 등은 필자가 직접 검토하고 수정하여 완성했습니다.
<References>
[1] AI TIMES, "LLM, '생각하는' LCM과 '실행하는' LAM으로 진화... "AI 에이전트로 통합"", (2025.01.27.)
[2] 인공지능신문, "인공지능에 '손과눈' 달아줬다... 앤트로픽, 컴퓨터 직접 조작하는 '클로드 3.5 소네트'와 '클로드 3.5 하이쿠' 공개", (2024.10.23.)
[3] TOKENPOST, "세일즈포스, AI 개발 혁신 가속...'Agentforce'로 실전 배치 돌입", (2025.10.16.)
[4] 한국경제, "'눈과귀'되는 앰비언트 AI에 자금 몰린다", (2025.06.29.)
[5] NEURON expert, "제이피모간 체이스, 첨단 인공지능 도구로 판매 및 고객 참여 증대", (2025.05.05.)
[6] WOW TALE, "리걸테크 AI 스타트업 ‘하비’, 80억 달러 가치에 1.6억 달러 시리즈F 투자 유치", (2025.12.05.)
[7] SUPERB AI, "범용 AI보다 버티컬...토종 기업들 시동", (2025.08.19.)
[8] maily, "SaaS 가격 전략 완벽 가이드: 핵심 가이드 부터 AI 시대에 어울리는 가격 정책까지", (2025.03.25.)
[9] Troy Lendman, "Data Moat Engineering: 2025 Strategic Competitive Advantage Case Study", (2025.07.25.)