AI 도구 상자: 문제에 맞는 도구를 선택하고 조립하라
[혁신가이드안병민의 AI 너머]
[방구석5분혁신=안병민] "지난번 회의록 요약본을 기반으로, 3분기 신제품 캠페인 슬로건 5개만 뽑아줘." 김팀장의 지시에 AI는 최신 유행어를 섞어 그럴듯한 문구들을 쏟아냈다. "완전 킹정하는 맛!", "너 T야? 우리 제품은 F인데!" 하지만 김팀장은 길게 한숨을 내쉬었다. AI는 몰랐다. 2주 전, 경쟁사가 바로 그 '킹정'이라는 단어로 캠페인을 진행했다가 대실패를 맛봤다는 내부 보고서의 존재를. 우리 회사의 브랜드 가이드라인은 '가벼운 밈(meme) 사용을 지양한다'는 사실을. 그리고 이 제품의 진짜 핵심 소구 포인트가 '친환경 신소재'라는, 회의록에는 한 줄 언급되었던 그 사실을. 그는 모니터를 보며 나지막이 읊조렸다. "넌 그냥 똑똑한 외부인일 뿐이구나. 내 머릿속과 우리 팀의 데이터베이스에 동시에 접속할 수 있는 진짜 동료가 필요해."
"더 똑똑하고, 더 나에게 맞는 AI를 갖고 싶다." 편리함에 대한 단순한 갈망이 아니다. 자연스러운 욕구다. AI를 단순한 대답 기계에서, 진짜 나를 이해하고 돕는 동료로 만들고 싶다는 열망이다. 하지만 이 여정은 비디오 게임처럼 순서대로 레벨을 깨는 선형적인 과정이 아니다. 우리 앞에 놓인 비즈니스 문제가 무엇인지에 따라, 필요한 도구를 조합하고 설계하는 복잡한 건축의 과정이다.
AI라는 거대한 도구 상자가 우리 앞에 놓여있다. 하지만 이 도구들은 규격화된 레고 블록이 아니다. 각기 다른 언어를 쓰는, 서로 맞지 않는 기계 부품에 가깝다. 이것들을 깎고, 붙이고, 갈아내어 하나의 시스템으로 통합하는 과정. AI 구조 설계는 여기서 시작된다.
첫 번째 도구는 바로 ‘대화형 AI’다. 우리는 오픈AI의 챗GPT, 구글의 제미나이, 앤트로픽의 클로드 같은 LLM(대형언어모델)을 통해 AI와 소통하는 법을 처음 배웠다. 하지만 이 경이로운 범용 AI는 나에 대해 아무것도 모른다는 명확한 한계를 가진다.
두 번째는 ‘맞춤형 빌더(Custom Builder)’다. 오픈AI가 챗GPT 위에 얹은 GPTs를, 구글이 제미나이 위에 쌓은 Gems를 생각하면 쉽다. 코딩 없이도 AI의 말투와 역할을 지정하고, 특정 파일을 참조하게 만들어 AI를 내 스타일에 맞게 길들이는 도구. 그냥 친구였던 AI가 ‘나를 닮은 조수’로 진화하는 첫걸음이다.
세 번째 도구는 RAG(Retrieval-Augmented Generation), 우리말로 ‘검색 증강 생성’이다. 이 기술은 AI의 작동 방식을 근본적으로 바꾼다. AI가 답변을 만들어내기 전, 우리가 지정한 외부의 정보원을 먼저 ‘검색(Retrieval)’하여, 그 내용을 바탕으로 답변을 ‘생성(Generation)’한다. 예를 들어, 한 고객이 우리 회사 제품의 최신 환불 정책을 물었다고 하자. 우리 회사의 환불 정책을 모르는 일반 AI는 엉뚱한 답을 할 수 있다. 하지만 RAG가 적용된 AI는 실시간으로 우리 회사 내부 규정 데이터베이스를 검색하여 정확한 답을 내놓는다. AI가 비로소 ‘나의 지식’을 갖춘 진짜 동료가 되는 순간이다.
네 번째 도구는 AI의 손과 발을 풀어주는 열쇠다. MCP(Model Context Protocol), 즉, AI 세계의 보이지 않는 신경망이자 모든 것을 연결하는 ‘만능 번역기’다. 과거의 AI는 갇혀 있었다. "내일 2시 미팅 잡아줘"라고 명령해도, AI는 "알겠습니다. 캘린더에 등록하세요"라고만 할 뿐, 스스로 행동할 수는 없었다. 모든 도구가 각기 다른 언어를 썼기 때문이다. 캘린더용, 슬랙용, CRM용 통역사를 일일이 고용해야 했다. MCP는 이 장벽을 무너뜨린다. 마치 모든 기기가 C타입 USB 하나로 손쉽게 연결되듯, AI가 단 하나의 표준 언어로 모든 도구와 소통하고, 명령하며, 제어하게 만든다. 단순한 편의성 개선이 아니다. AI의 다음 진화를 위한 근본적인 인프라 혁명이다. MCP가 있기에, 비로소 AI는 지식을 넘어 행동으로, 개인을 넘어 팀으로 나아갈 수 있다.
마지막 도구는 A2A(Agent-to-Agent), ‘에이전트 간 협업’이다. 각기 다른 전문성을 가진 AI 에이전트들이 팀을 이루어, 하나의 목표를 향해 협력하게 만드는 궁극의 아키텍처다. 예를 들어, 사용자가 ‘신제품 홍보용 앱 개발’을 지시하면, 오케스트라 지휘자 같은 ‘관리 에이전트(Orchestration Agent)’가 등장한다. 이 지휘자는 가장 먼저 ‘시장 분석 AI’에게 유사 앱들의 성공 및 실패 요인 분석을 맡긴다. 그 결과를 넘겨받은 ‘기획 AI’가 앱의 핵심 기능을 정의한다. ‘디자인 AI’는 최적의 UI/UX 시안을 설계한다. 이 모든 설계도를 바탕으로 ‘코딩 AI’가 실제 코드를 작성하고, ‘테스트 AI’가 버그를 찾아 수정한다. 인간 조직이 정교하게 분업하듯, AI들이 각자의 전문 영역에서 협업하며 하나의 결과물을 만들어내는 것이다. 혼자일 때보다 협업할 때 더 큰 가치를 창출하는 건 AI도 마찬가지다.
여기서 가장 중요한 질문이 등장한다. "그래서, 우리의 조직에 필요한 것은 무엇인가?" 모든 기업에 A2A라는 거대한 오케스트라가 필요한 것은 아니다. 잘 만들어진 단일 RAG 에이전트 하나가 대부분의 문제를 해결할 수도 있다. 진정한 전략은 ‘어떤 기술이 최신인가’를 묻는 것이 아니다. ‘우리의 가장 고통스러운 문제를 해결하기 위해 어떤 기술 조합이 최적인가’를 묻는 데서 시작된다.
AI의 진화 단계를 순서대로 밟으려는 강박을 버려야 한다. 우리의 문제는 무엇인가. 그것을 해결하기 위한 최적의 아키텍처는 무엇인가. 바로 이 지점에서 비즈니스 전략, 데이터 엔지니어링, 그리고 조직의 현실까지 이해하는 ‘AI 아키텍트’의 역할이 필요하다. 조직 내에 반드시 구축해야 할 핵심적인 기능이다.
결국 AI의 진화는 하나의 방향을 가리킨다. 단순한 대화 상대에서, 나의 지식을 품고(RAG), 나의 세상에서 행동하며(MCP), 마침내 나를 대신하여 팀을 이루어(A2A) 협력하는 새로운 지능 조직으로의 진화. 이것은 더 이상 인간을 ‘보조’하는 도구에 대한 이야기가 아니다. 어떤 ‘지능’을 창조할 것인가에 대한, AI 구조 건축에 대한 이야기다. 기술의 미래는 결국 인간의 지혜와 맞닿아 있다. AI에게 일을 시키는 것을 넘어, 우리 문제에 맞게 AI 시스템을 설계하고, 조립하고, 연결해야 한다. AI는 인간의 의도를 닮는다. 미래는 AI를 '쓰는 자'가 아니라 '짓는 자'의 것이다. ⓒ혁신가이드안병민
● '방구석5분혁신' 브런치 글이 내 일과 삶의 행복한 경영혁신에 도움이 되었다면 잊지 마세요, 구독!^^
