AI 에이전트 개발 프레임워크에는 어떤 것들이 있을까?
다양한 AI 에이전트 개발 도구들을 배워보자
딥시크(DeepSeek)가 저비용 고효율 LLM으로 세상을 떠들썩하게 하면서, 미국과 중국의 인공지능 패권전쟁이 심화되고 있습니다. 이제 대중과 미디어의 관심은 온통 가격으로 쏠리고 있습니다. 사람들은 이제 누가 더 싼 값에 성능 좋은 생성형 AI 기초 모델(Foundation Model)을 만들 수 있을지에 주목하고 있습니다.
그럼에도 불구하고 생성형 AI 모델의 진화에 있어서 'AI 에이전트'가 빼놓을 수 없는 기술이며, 2025년 가장 핫한 트렌드의 한가운데에 있다는 사실에는 전혀 변함이 없습니다. DeepSeek-v3, GPT-4o, Gemini, Claude-3.5-Sonnet, LLaMA와 같은 기초모델들은 본질적으로 거대한 '벡터 덩어리'에 불과하며, 이 모델들을 똑똑하게 활용하기 위한 최첨단 기술은 결국 AI 에이전트이기 때문입니다.
우리는 지금까지 구글의 Agent 백서를 살펴보며 AI 에이전트의 개념을 살펴보고, AI 에이전트 아키텍처에는 어떤 요소들이 있는지에 대해 알아보았습니다. 그렇다면 이러한 AI 에이전트의 개발에는 어떤 프레임워크들이 활용될까요? 이번 시간부터는 AI 에이전트를 구현하기 위한 일종의 편리한 도구라고 할 수 있는 AI 에이전트 개발 프레임워크들에 대해 배워보도록 하겠습니다.
1. AI 에이전트 프레임워크(Framework)란?
개발에 있어서 프레임워크(Framework)란 흔히 특정 기능의 개발에 필요한 라이브러리(Libraries)와 모듈(Module)들을 갖추고 있는 일종의 개발 도구 모음이라고 할 수 있습니다. AI 에이전트 프레임워크 역시 마찬가지입니다. 이들 프레임워크는 AI 에이전트가 효과적으로 작업을 수행할 수 있도록 필요한 기능을 모듈(Module)화 하고, 각 기능들이 서로 원활하게 상호작용할 수 있도록 설계되어 있습니다.
즉, AI 에이전트 프레임워크란 AI 에이전트를 개발하고 실행하기 위한 소프트웨어 도구와 프로토콜들을 모은 일종의 '개발 플랫폼'이라 할 수 있습니다. 이번 시간에 소개할 대표적인 AI 에이전트 프레임워크들은 얼핏 보아 서로 매우 유사하게 보일 수 있지만, 각자 강점을 바탕으로 서로 다른 용도로 사용됩니다. 따라서 AI 에이전트를 구현한다는 공통점보다는 차이점에 집중하여 보시면 이해하시기 수월하실 것입니다.
2. 대표적인 AI 에이전트 프레임워크에는 어떤 것들이 있을까?
1) Langchain & LangGraph
가장 대표적인 AI 에이전트 개발 프레임워크라고 할 수 있는 Langchain은 LLM(대형 언어 모델)을 활용해 AI 에이전트를 구축하는 데 필요한 다양한 도구와 기능을 제공합니다. Python 기반으로 쉽게 활용 가능하며, 여러 외부 시스템과의 통합을 통해, LLM을 중심으로 다양한 작업을 자동화하고 최적화하는 데 유용합니다. 또한, Langchain은 작업을 체인 형태로 연결하여 더 복잡한 쿼리와 작업을 처리할 수 있도록 돕습니다.
반면, LangGraph는 Langchain의 기능을 확장하여 그래프 기반으로 에이전트의 의사결정과 데이터 흐름을 시각화하고 관리할 수 있게 하는 프레임워크라고 할 수 있습니다. LangGraph는 엔터프라이즈 환경에서 데이터를 효율적으로 처리하고, 관계를 관리할 수 있는 기능을 제공합니다. 특히 LangGraph는 AI 에이전트 간의 상호작용을 시각적으로 구조화하여 복잡한 문제를 해결하는 데 유리합니다. Langchain과 LangGraph의 차이점에 대해서는 지난 글 LangChain과 LanGgraph는 어떻게 다를까? 에서 자세히 소개한 바 있습니다.
2) CrewAI
CrewAI는 Python 기반의 오픈 소스 프레임워크로, “몇 시간 만에 멀티 에이전트 전문가가 되세요”라는 슬로건으로도 잘 알려져 있습니다. CrewAI는 여러 AI 에이전트들이 협력하여 문제를 해결하는 분산형 AI 시스템을 구축할 수 있도록 돕는 프레임워크입니다. 즉 각기 다른 역할을 수행하는 에이전트들이 협력하여 공동의 목표를 이루도록 하는 멀티 에이전트 기능을 구현해 내는 데에 유용한 프레임워크라고 할 수 있습니다.
CrewAI는 Python에서 쉽게 구동할 수 있습니다. 또한 인간 팀원과 AI 간의 상호작용을 최적화하고, 팀 단위로 에이전트를 통합하여 효율적인 작업을 지원합니다. 팀워크와 협업을 중시하는 AI 시스템 개발에 적합한 프레임워크이며, AWS 및 Azure와 같은 클라우드 플랫폼에도 쉽게 배포가 가능하다는 장점이 있습니다.
출처 devocean3) LlamaIndex
LlamaIndex는 AI 에이전트가 데이터베이스나 다양한 외부 데이터 소스를 처리하고 검색할 수 있도록 도와주는 프레임워크입니다. LlmaIndex는 대규모 데이터셋을 AI 에이전트가 효율적으로 이해하고 활용할 수 있게 하는 데 중요한 역할을 하는데, 특히 검색 기반 AI 시스템이나 지식 관리 시스템을 구축할 때 유용합니다. 데이터를 빠르게 인덱싱 하고 분석하여 AI 모델이 더 똑똑하게 동작하도록 지원합니다.
출처 llamaindex4. AutoGen
Microsoft가 개발한 AutoGen은 서로 다른 분야를 담당하는 네 가지 전문 에이전트(WebSurfer, FileSurfer, Coder, ComputerTerminal)와 이를 조정하는 Orchestrator 에이전트로 구성됩니다. AutoGen은 자동화된 AI 에이전트를 생성하고 관리할 수 있는 프레임워크입니다.
출처 : MicroSoftAutoGen은 AI 에이전트의 생성 과정을 간소화하고, 사용자 정의가 가능한 템플릿을 통해 신속하게 다양한 AI 에이전트를 자동으로 구축할 수 있게 도와줍니다. AutoGen은 특히 다양한 산업에 즉시 적용할 수 있는 모듈을 바탕으로 반복적인 작업을 자동화하거나, 대량의 데이터를 처리하는 데 유용한 도구로, AI 에이전트를 더 빠르고 효율적으로 배포할 수 있는 환경을 제공합니다.
이처럼 각각의 프레임워크들은 AI 에이전트를 구축하고 최적화하는 데 중요한 역할을 합니다. Langchain & LangGraph는 LLM을 활용한 데이터 흐름 관리와 작업 자동화를 제공하고, CrewAI는 팀워크 기반의 AI 에이전트 협업에 특화되어 있으며, LlamaIndex는 데이터 관리 및 검색 기능에 특화되어 있다고 할 수 있습니다.
또한 MS의 AutoGen은 AI 에이전트의 자동화된 생성과 관리를 통해 개발자들에게 효율적인 솔루션을 제공합니다. 이들 프레임워크는 각기 다른 요구에 맞춰 AI 에이전트를 효과적으로 구현할 수 있는 도구들로, AI 에이전트 개발 시 필요한 적재적소에 활용할 수 있습니다.
