자동화를 넘어 자율화로, 그리고 로컬과 클라우드의 공존
지난 '90일간의 실험( 북 1)'이 제 노트북 안에서 벌어진 '기능 구현(PoC)'의 축제였다면, 이번 '운영실험 I( 북 2)'은 그 기능들을 현실 세계로 내보내기 위한 치열한 '설계 구현 과정'이었습니다.
헬프데스크, 영업비서, 회의록 비서... 파편화되어 있던 이 기능들을 하나의 안정된 시스템으로 묶기 위해 저는 MCP(Model Context Protocol)라는 새로운 표준을 도입했고, 클라우드와 로컬을 오가는 하이브리드 아키텍처를 완성했습니다.
오늘은 그 과정에서 제가 마주했던 3가지 핵심 질문과 그에 대한 해답을 정리하며 이 실험을 갈무리하려 합니다.
"개발자가 일일이 떠먹여 주는 시대는 끝났다."
기존의 방식(API 연동)은 개발자인 제가 모든 경우의 수를
If-Else 문으로 코딩해줘야 했습니다. 하지만 기능이 많아질수록 코드는 복잡해지고 관리는 불가능해졌습니다.
제가 MCP를 선택한 이유는 명확합니다.
자율성(Autonomy): AI에게 '도구(Tool)'만 쥐여주면, AI가 상황에 맞춰 스스로 도구를 선택하고 실행합니다.
확장성(Scalability): 헬프데스크에 영업 기능을 붙이고 싶다면? 코드 전체를 뜯어고치는 게 아니라, '영업 도구(Server)' 하나만 레고 블록처럼 끼우면 끝입니다.
이것은 단순한 기술 교체가 아니라, "시키는 대로 하는 봇"에서 "스스로 판단하는 에이전트"로의 진화였습니다.
하지만 이상과 현실은 달랐습니다. MCP를 실제 서비스로 구현하는 과정에서 저는 세 번의 큰 벽에 부딪혔습니다.
MCP는 기본적으로 1:1 통신 프로토콜이지, 우리가 아는 웹 서비스 구조가 아니었습니다. "어떻게 하면 다수의 사용자가 웹/앱처럼 쓰게 할까?"를 고민하며 5가지 설계 옵션을 그렸습니다.
결정: 결국 저는 Hybrid Architecture (Remote + Local)를 택했습니다. 보안이 필요한 데이터는 클라우드(Remote)에, 내 파일 제어는 내 PC(Local)에 두는 것이 가장 현실적이고 강력했기 때문입니다.
"관리하기 편하게 서버리스로 가자"고 생각했던 것은 오산이었습니다. AI 에이전트는 사용자와 실시간으로 긴 대화를 나누며 '상태(Context)'를 유지해야 합니다. 하지만 서버리스는 잠깐만 쉬어도 연결을 끊어버렸고(Stateless), AI가 생각하는 동안 타임아웃이 발생했습니다.
해결: 저는 GCP Compute Engine(VM)으로 회귀했습니다. 다수 사용자(Multi-users)에게 끊김 없는 경험을 제공하기 위해서는, 투박하더라도 '항상 깨어있는 서버(Stateful)'가 필수적이었습니다.
로컬 MCP 서버 구축의 꽃은 MCP Commander였습니다. AI가 내 PC의 쉘(Shell)을 열고 명령어를 치게 만드는 기능이죠. 덕분에 AI는 스스로 보고서를 만들고 이메일에 첨부할 수 있게 되었습니다. 하지만 이는 AI에게 'Admin(관리자) 권한'을 주는 것과 같았습니다. AI가 실수로 "모든 파일 삭제"를 실행한다면? 상상만 해도 끔찍했습니다.
조치: 저는 AI가 접근할 수 있는 '폴더를 엄격하게 제한'했습니다. "이 폴더 안에서만 놀아라"라고 울타리를 쳐줌으로써, 편의성과 안전함의 균형을 맞췄습니다.
이러한 시행착오 끝에, 저는 [북 1]에서 만들었던 파편화된 기능들을 하나로 통합했습니다.
Remote (GCP VM): 영업비서, 헬프데스크, 일정 관리는 클라우드에서 팀원들과 공유하며 돌아갑니다.
Local (Docker): 파일 정리, 보고서 작성, 메일 전송은 내 PC에서 안전하게 수행됩니다.
이제 제 AI 에이전트는 클라우드의 지식으로 전략을 짜고, 로컬의 손발로 실무를 처리하는 완전체에 가까워졌습니다.
시스템의 '뼈대'는 완성되었습니다. 하지만 이것을 회사 전체에 배포하여 '서비스'로 만들려면 아직 해결해야 할 '운영의 과제'들이 남아있습니다.
다음 브런치 북 3 [운영실험 II] 에서는 이제 '나 혼자 쓰는 도구'를 넘어 '모두가 쓰는 서비스'로 가기 위한 여정을 시작합니다.
누구냐 넌? (Auth): 다수 사용자(Multi-users)를 위한 API 인증 및 권한 관리
배포의 기술: 복잡한 Local MCP 서버를 팀원들 PC에 어떻게 쉽게 깔아줄까?
Human-in-the-Loop: AI의 자율성을 믿되, 중요한 결정(송금, 메일 발송) 전에는 반드시 사람의 승인을 받도록 하는 안전장치
감시자들 (Logging & Monitoring): AI가 무슨 판단을 내렸는지 로그를 남기고 감사(Audit)하는 법
"효율적이고 AI에 최적화된 시스템 설계/구축"이 이번 시즌의 목표였다면, 다음 시즌의 목표는 "신뢰할 수 있는 운영" 입니다.
계속되는 실험에 많은 관심 부탁드립니다.