AI Agent란 무엇인가?
AI 에이전트 기본 개념 설명
2025년 가장 핫한 키워드, 바로 AI 에이전트입니다. 오늘은 AI Agent가 등장하게 된 배경부터, AI Agent가 어떤 방식으로 동작하는지 알아보겠습니다.
영상으로 보실 분은 아래 영상을 참고해주세요!
AI Agent의 탄생 배경을 알아보기 전에, LLM과 생성형 AI 분야의 변화에 대해서 알면 좋습니다. 큰 틀의 변화는 바로 단일 모델에서 AI 시스템으로의 변화입니다(사실 AI Agent도 AI 시스템 중 하나입니다).
단일 모델에서 AI 시스템으로의 변화1. Single Model
원래 생성형 AI 연구는 ChatGPT와 같은 단일 모델을 만드는 데 집중되었습니다. 모델 하나의 성능을 올리는데 치중되어 있었던 것이죠. 이런 모델은 충분히 발전했지만, 하나의 모델로는 할 수 있는 작업에 한계가 있었습니다. 모델을 만들 때 데이터를 학습시키는데, 모델의 답변도 학습한 데이터에 갇혀있을 수밖에 없었죠. 또한 새로운 task를 위해 모델을 tuning 하려면 데이터와 computing resource가 추가적으로 필요했습니다.
예를 하나 들어봅시다. 제가 졸업을 위해서 남은 학점과, 들어야 하는 수업을 알고 싶다고 해볼게요(저는 학교를 다 다녔지만, 예시니까요). 이 질문을 ChatGPT에게 하면, 정확한 결과가 나오지 않겠죠. 제가 지금까지 어떤 수업을 들었고, 제 학교의 졸업요건을 ChatGPT는 모르니까요. 즉, 나에 대한 정보가 없기 때문에 정확한 답변이 어렵습니다. 물론 데이터 처리나 문서 요약 등, 단일 모델이 잘하는 작업들도 있지만 앞의 질문에는 답을 못하겠죠?
2. AI System
그런데 모델을 가지고 "시스템"을 만들게 되면 매우 강력해집니다. 내가 작업하는 프로세스에 모델을 통합하는 겁니다. 위의 경우에 시스템을 만들려고 한다면, 내가 들은 수업 정보를 확인하기 위해 학교 서버에 접속할 수 있는 권한을 모델에게 주면 됩니다. 원래는 사용자의 질문에 대해 바로 답변을 생성했다면, 이제는 데이터베이스의 정보를 기반으로 답변을 해주는 겁니다.
아래 그림을 보면 두 방법의 차이를 한눈에 볼 수 있습니다. 단일 모델을 이용할 때는 사용자가 질문을 하면 LLM이 바로 답변을 생성해 답을 내놓습니다. AI 시스템에서는 사용자의 질문을 받은 LLM이 바로 답변을 하는 것이 아니라, 어떤 걸 검색할지 search query를 만들어서 데이터베이스에 접근합니다. 그리고 데이터베이스의 정보를 기반으로 답변을 생성하고 답을 합니다.
이렇게 단일 모델만 사용하는 것이 아니라, "시스템"을 잘 설계한다면 특정 문제들을 더 잘 해결할 수 있겠죠. 그렇다면 "시스템"을 설계한다는 건 무엇일까요?
시스템은 기본적으로 모델과 기타 구성요소들로 이루어져 있습니다. 모델은 여러 tuned model 중 고를 수도 있고, LLM, 이미지 생성 모델이 될 수도 있습니다. 기타 구성요소로는 답변을 검토하는 로직이 들어갈 수도 있고, 데이터베이스에 검색하기, 혹은 다른 어떤 도구가 될 수 있습니다. 시스템을 설계할 때는, 내가 시스템에게 시키고 싶은 일을 쪼개서 각 작업에 적합한 구성요소를 넣어주기만 하면 됩니다.
시스템의 구성또한 시스템을 만드는 것은 문제를 해결하기 위해 모델을 tuning 하는 것보다 훨씬 빠르고 쉽죠.
RAG(Retrieval Augmented Generation, 검색 증강 생성)에 대해 들어보셨을 겁니다. 간단하게 설명하면, 외부 데이터베이스나 knowledge base에서 정보를 가져와서 답변하는 기술입니다. 모델 자체를 tuning 하는 대신, 데이터베이스에 접속 권한을 줘서 간단히 문제를 해결했죠. 이게 바로 AI 시스템의 예시입니다.
3. AI Agent
이제 곧 Agent가 등장하니 집중해주세요!
시스템의 작동 방식, 즉 모델이 사용자의 질문에 대답하는 방식은 크게 두 가지가 있습니다.
시스템 작동 방식지금까지의 많은 AI 시스템은 Programmatic 방식으로 동작합니다. 인간이 정해놓은 방식대로 모델이 움직이는 겁니다. 프로그래밍된 대로 행동하고, 주어진 지침에서 벗어나지 않죠. 이러한 방식은 빠르지만 복잡한 문제에서는 정확한 결과가 나오지 않기도 합니다. 간단하게, 질문에 대해 바로 떠오르는 답변을 한다고 생각하면 됩니다. 빠르지만, 정확하지 않죠.
그럼 Agentic 방식은 무엇일까요? 이 방식에서는 LLM이 문제 해결 방법을 설계하고 계획하며, 답변까지 모든 단계를 진행합니다. LLM이 기획/총괄 역할을 맡는다고 볼 수 있죠. 그런데 LLM이 모든 단계를 설계하고 명령하는 총괄 역할을 잘 수행할 수 있을까요? 과거에는 불가능했을지도 모르지만, LLM의 Reasoning(추론) 능력이 급격히 발전하면서 이게 가능해졌습니다. 복잡한 문제를 주면, LLM은 그것을 쉬운 단계로 쪼개고 어떻게 해결할지 계획합니다. 또 이 방식은 느리게 작동하죠. 계획을 세우고, 세운 계획을 검토하고 수정하여 새로운 계획을 만들어야 하는지까지 확인합니다. 복잡한 task에서는 Agentic 방식이 잘 먹히겠죠.
4. Agent의 구성과 작동 방식
AI Agent는 세 가지 능력을 가지고 있습니다.
먼저 Reason, 추론 능력입니다. Agentic 접근에서는 앞서 말했듯이 LLM이 총괄을 맡습니다. 즉 문제를 이해하고 계획을 세워야 하는데, 이때 필요한 것이 바로 추론 능력입니다.
두 번째로 Act, 실행입니다. 이전 단계에서 세운 계획을 실행하는 것인데요, 이때 외부 도구(tool)들을 사용할 수 있습니다. 처음 예시를 생각해보면, 학교 서버나 외부 데이터베이스에 접속하는 것이 tool이 될 수도 있습니다. 어떤 계획을 세웠는지에 따라 간단한 검색, 계산 기능부터 API를 이용해 외부 서비스를 이용하는 등 다양한 tool이 사용될 수 있습니다.
마지막으로 memory에 대한 액세스입니다. 계획을 세우고 실행하는 Agent의 작동 방식을 보면, 사람이 생각하고 행동하는 방식과 비슷하죠? 마찬가지로 Agent는 지금까지 자신이 생각했던 로그를 기억하고 있습니다. 따라서 자신의 생각과 계획이 옳았는지를 스스로 검토할 수 있게 되는거죠.
이 세 가지 능력을 살펴보면, AI Agent를 만드는 방법 중 하나인 "ReAct" 프레임워크에 대해 이해할 수 있습니다. ReAct는 Reasoning and Acting의 약자로, 먼저 추론 능력을 통해 문제를 본질적으로 이해하고 체계적으로 접근하죠. 그리고 외부 도구를 통해 실행합니다. ReAct는 이렇게 복잡한 문제를 해결할 수 있게 하는 방식입니다.
이제 마지막으로 아래 그림을 통해 Agent의 작동 방식을 확인해봅시다.
사용자가 모델에 쿼리를 날립니다(query). 그러면 모델은 바로 답변하는 것이 아니라, 문제를 해결하기 위해 어떤 정보가 필요하고 어떤 단계를 거쳐야 하는지 계획을 세우죠(think, plan). 그리고 외부 도구를 이용하여 결과를 냅니다(Act). 이 결과가 정답이 확실한지 검토하는 단계도 거치죠(Observe). 오류가 생겼거나 잘못된 답을 도출했다면, 다시 plan 단계로 돌아가 새로운 계획을 세웁니다. 정답이 맞다고 판단되면, 최종 결과를 내놓습니다(Answer).
Agent 작동 방식마무리하며
이렇게 AI Agent는 복잡한 task에 대해서도 LLM만으로 문제를 해결할 수 있습니다. 그러나 모든 경우에 AI Agent를 사용해야 되는 것은 아닙니다. 간단하거나 narrow 한 task에 대해서는 오히려 programmatic 한 접근이 유리할 수도 있죠. 또 Agent를 사용한다고 해도 인간이 개입하게 된다면 정확도가 더 올라갈 수도 있습니다.
앞으로 AI에 대한 정보와 제 생각들, 그리고 AI Agent를 직접 만드는 방법도 보여드릴 예정이니 구독 부탁드립니다! 감사합니다.
한정찬 스레드: https://www.threads.net/@chaaaan_____
AI 활용 커뮤니티: https://open.kakao.com/o/g1K3hs5g
한정찬 유튜브: https://www.youtube.com/@hanjungchan
