Azure, Semantic Kernel, Autogen… 수많은 선택지
AI와 대화하는 것이 더 이상 낯설지 않은 시대입니다. 저는 막연하게 상상하곤 했습니다. 단순히 질문에 답하는 것을 넘어, 내 복잡한 업무를 알아서 처리하고, 여러 단계의 프로젝트를 척척 진행하는 그런 AI 비서를 말이죠. 처음에는 하나의 똑똑한 AI 모델이면 충분할 거라 생각했습니다. 하지만 곧 깨달았습니다. 위대한 배우 한 명이 연극 전체를 이끌어갈 수 없듯이, 똑똑한 AI 하나만으로는 제가 꿈꾸던 복잡한 임무를 수행하기엔 역부족이라는 것을요. 저의 AI 비서들에게는 각자의 역할을 조율하고, 서로 소통하며, 전체적인 극을 이끌어갈 '무대'와 '연출가'가 필요했습니다. 바로 AI 에이전트 프레임워크라는 무대 말입니다.
AI 에이전트 프레임워크는 AI 에이전트를 구축하는 모든 사람이 태스크 관리에 대해 좀 더 통제권을 가질 수 있도록 하는 도구입니다.
처음 AI 에이전트를 만들었을 때, 저는 마치 이제 막 재능을 발견한 배우의 매니저가 된 기분이었습니다. 하지만 이 배우에게 어떤 대본을 주고, 어떤 동선으로 움직이게 할지, 다른 배우와는 어떻게 호흡을 맞추게 할지 정하는 것은 완전히 다른 문제였죠. 하나의 프로젝트를 위해 여러 AI 에이전트가 협력해야 하는 상황이 오자 문제는 더욱 명확해졌습니다.
이때 길잡이가 되어준 것이 바로 '프레임워크'의 개념이었습니다. 프레임워크는 저의 AI 배우들이 각자의 역할을 잊지 않도록 태스크를 관리해주고, 지금이 어떤 장면인지 파악하도록 문맥을 이해시키며, 서로 자연스럽게 대사를 주고받도록 협업의 장을 열어주는 무대 연출 시스템과 같았습니다. 덕분에 저는 어떤 에이전트가 어떤 임무를 수행할지 명확하게 지시하고, 전체 작업의 흐름을 통제할 수 있게 되었습니다.
이러한 프레임워크는 에이전트 성능을 관찰하고 평가할 수 있는 도구 또는 연결 기능을 제공합니다.
마치 연극이 끝난 후 관객의 피드백을 살피는 연출가처럼, 프레임워크가 제공하는 평가 도구를 통해 저는 제 AI 에이전트들이 얼마나 역할을 잘 수행했는지, 어떤 점을 개선해야 할지 파악할 수 있었습니다.
저의 AI 배우들을 위해 어떤 무대를 선택해야 할지 고민하던 중, 세 개의 매력적인 선택지를 발견했습니다. 각 무대는 저마다의 뚜렷한 개성과 목적을 가지고 있었죠.
1. Azure AI Agent Service: 첫 데뷔를 위한 완벽한 솔로 스테이지
모든 시작은 작고 소중합니다. Azure AI Agent Service는 저의 첫 AI 에이전트를 위한 완벽한 데뷔 무대였습니다. 현재는 단일 에이전트를 위해 설계되었지만, 복잡한 설정 없이 코드와 UI를 통해 제 첫 배우를 무대에 세우고 그 가능성을 시험해볼 수 있었죠. 기존에 사용하던 Azure 서비스와의 뛰어난 통합성은 든든한 배경이 되어주었습니다.
2. Semantic Kernel: 프로를 위한 엔터프라이즈급 대극장
작은 무대에서 가능성을 확인했다면, 이제는 더 큰 극을 준비할 차례입니다. Semantic Kernel은 여러 명의 AI 배우들이 함께 호흡을 맞추는, 잘 짜인 프로덕션 환경을 위한 '엔터프라이즈 중심의 프레임워크'였습니다. C#, Java, Python 등 다양한 언어를 지원하고, 여러 모델과 연결할 수 있는 유연함은 마치 세계적인 배우들을 캐스팅하여 한 편의 대작을 만드는 듯한 경험을 선사했습니다. 개발자 경험에 초점을 맞추고 있다는 점은 복잡한 프로덕션을 준비하는 저와 같은 연출가에게 큰 위안이 되었습니다.
3. Autogen: 실험과 도전을 위한 아방가르드 소극장
때로는 정형화된 극보다, 날것의 실험 정신이 빛나는 무대가 필요합니다. Microsoft Research 팀에서 탄생한 Autogen은 저에게 그런 공간이었습니다. 최신 AI 에이전트 연구를 마음껏 테스트하고 실험할 수 있는 자유로운 소극장 같았죠. 연구자와 개발자들이 코드를 통해 새로운 아이디어를 마음껏 펼칠 수 있도록 지원하는 데 강한 초점을 맞추고 있어, 기존의 틀을 깨는 새로운 형태의 AI 협업을 상상하고 실현해 볼 수 있었습니다.
이 모든 여정을 거치며 제가 얻은 가장 중요한 교훈은 의외로 단순했습니다.
그리고 항상 가장 좋은 조언은 Azure AI Agent Service와 같은 것을 통해 하나의 에이전트로 작게 시작하는 것입니다.
처음부터 거대한 멀티 에이전트 시스템을 꿈꾸기보다, 하나의 에이전트로 작게 시작해 그 움직임을 이해하고, 점차 그 무대를 넓혀가는 것이 중요했습니다. 첫 배우가 무대에서 성공적으로 역할을 해냈을 때, 비로소 Semantic Kernel이나 Autogen과 같은 더 큰 무대에서 다른 배우들과의 앙상블을 꿈꿀 수 있는 것이죠.
결국 어떤 프레임워크를 선택할지는 당신이 어떤 연출가가 되고 싶은지에 달려있습니다. 안정적인 상업극을 올리고 싶은가요, 아니면 세상을 놀라게 할 실험극을 만들고 싶은가요? 정답은 없습니다. 다만 한 가지는 확실합니다.
실제로 해보는 것이 이러한 도구가 어떻게 작동하는지 더 잘 이해하는 가장 좋은 방법입니다.
이론만으로는 무대를 완성할 수 없습니다. 직접 조명을 설치하고, 배우를 무대에 세워보고, 대사를 맞춰봐야 합니다. 그 과정 속에서 비로소 당신의 AI 에이전트는 살아 숨 쉬는 배우가 되고, 당신은 그들의 잠재력을 최대한으로 이끌어내는 훌륭한 연출가가 될 수 있을 것입니다.
이제, 당신은 당신의 AI에게 어떤 무대를 만들어주고 싶으신가요?