에이전트를 오해하면 100% 실패한다
AI 사고 루프 2번째 이야기
1. 왜 지금 모두가 ‘에이전트’라고 부르는가
2025년 이후, AI 제품 소개서에서 가장 많이 등장하는 단어는 단연 “에이전트(Agent)”다.
검색 에이전트, 업무 에이전트, 리서치 에이전트, 코딩 에이전트, 세일즈 에이전트, 법률 에이전트, 재무 에이전트.
마치 이 단어만 붙이면, 그 순간 서비스는 단순한 챗봇을 넘어 “사고하는 존재”가 되는 것처럼 느껴진다.
하지만 정작 구조를 열어보면 대부분은 다음 중 하나다.
툴을 많이 붙인 챗봇
계획 문장을 잘 쓰는 LLM
여러 모델을 직렬로 연결한 파이프라인
실패해도 멈추지 않는 자동화 루프
겉보기에는 모두 ‘에이전트처럼’ 보인다.
그러나 구조적으로 보면 에이전트가 아니다.
지금 시장의 혼란은 단순한 용어 오용이 아니라,
사고 구조와 기능 목록을 구분하지 못한 데서 오는 구조적 착각이다.
2. 오해 A: “툴을 호출하면 에이전트다”
가장 흔한 오해다.
“우리 LLM은 검색도 하고, 캘린더도 쓰고, 메일도 보내고, 코드도 실행하고, 사내 시스템 API도 호출합니다. 이 정도면 에이전트 아닌가요?”
이 구조는 AutoGPT, LangChain Tool Agent, OpenAI Function Calling 기반 시스템의 전형이다.
그러나 이것은 에이전트가 아니라 ‘팔과 다리가 많은 챗봇’이다.
도구는 행동 범위를 넓혀줄 뿐, 사고 구조를 만들지는 않는다.
사람으로 치면 이런 상황이다.
계산기 쥐여주고,
전화기 쥐여주고,
브라우저 켜주고,
메일 계정 연결해주고,
그리고 말한다.
“이제 너는 스스로 판단하는 비서야.”
하지만 그 사람에게 다음이 없다면?
무엇을 목표로 삼아야 하는지
언제 성공이라고 판정하는지
언제 실패로 인정하고 전략을 바꾸는지
언제 포기하고 종료하는지
이 구조가 없다면 그는 비서가 아니라 도구를 많이 가진 초보자일 뿐이다.
AutoGPT가 대표적이다.
AutoGPT는 목표를 주면 검색하고, 요약하고, 파일을 만들고, 코드를 실행한다.
겉보기에는 “자율적”이다.
하지만 실패의 정의가 없다.
계획이 틀렸는지 판단하지 않는다.
전략을 수정하지 않는다.
목표를 재정의하지 않는다.
종료 조건이 없다.
그래서 AutoGPT는 자주 이런 상태에 빠진다.
같은 행동을 무한 반복
사소한 오류에 집착
중요하지 않은 하위 목표에 에너지 소모
목표 달성 여부를 판정하지 못하고 방황
툴은 손이다.
에이전트는 뇌의 판정 구조다.
손만 늘어나고 뇌의 구조가 없으면, 그것은 노동자이지, 의사결정자가 아니다.
3. 오해 B: “플래너 프롬프트가 있으면 에이전트다”
두 번째 오해는 “계획이 있으면 사고가 있다”는 착각이다.
Planner–Executor 구조, ReAct 패턴이 대표적이다.
ReAct는
Reasoning → Action → Observation → Reasoning → …
이라는 루프를 돈다.
겉으로 보면 사고처럼 보인다.
하지만 대부분의 구현은 다음과 같다.
계획을 문장으로 생성
그 문장을 순서대로 실행
실패하면 다시 전체 계획을 생성
성공 판정은 외부 로직
종료 기준은 하드코딩
이것은 사고가 아니라 스크립트 생성 자동화다.
진짜 사고는 “계획을 세우는 능력”이 아니라 계획을 폐기하는 능력에서 드러난다.
이 계획은 전제가 틀렸는가?
부분 수정으로 충분한가?
전면 재설계가 필요한가?
아예 목표 자체가 잘못 설정되었는가?
지금은 중단하는 것이 합리적인가?
이 판단 구조가 없으면, 플래너는 시나리오 작가일 뿐 에이전트가 아니다.
ReAct를 잘못 쓰면 이런 문제가 생긴다.
관찰 결과가 계획 수정으로 이어지지 않는다
실패 원인을 구조적으로 분류하지 않는다
동일한 오류를 다른 표현으로 반복한다
“생각하는 것처럼 보이는 루프”만 존재한다
사고는 문장이 아니라 판정 함수다.
4. 오해 C: “여러 모델을 연결하면 에이전트다”
세 번째 착각은 멀티모델 체인이다.
요약 모델
검색 모델
코드 모델
검증 모델
평가 모델
이들을 체인으로 엮으면 마치 조직처럼 보인다.
그러나 이것은 파이프라인이다.
파이프라인에는 흐름은 있지만, 책임은 없다.
어디까지가 성공인지,
언제 실패인지,
무엇을 고쳐야 하는지,
계속할지 멈출지,
이 모든 판단이 외부에 있다면 그것은 조직이 아니라 공정 라인이다.
조직과 파이프라인의 차이는 단 하나다.
판정의 주체가 내부에 있는가, 외부에 있는가.
에이전트는 내부에 판정자가 있어야 한다.
그 판정자가 목표, 전략, 종료를 결정해야 한다.
5. 오해 D: “자동으로 반복하면 에이전트다”
마지막 착각은 루프다.
“실패하면 다시 시도합니다. 스스로 반복합니다. 그래서 자율 에이전트입니다.”
그러나 반복과 사고는 다르다.
조건 없는 반복 = 방황
판정 없는 반복 = 소모
종료 없는 반복 = 폭주
AutoGPT, BabyAGI 계열이 여기에 속한다.
루프가 있다고 사고가 생기지 않는다.
사고는 반드시 다음 구조를 가진다.
판정
수정
중단
이 세 가지가 없는 루프는 자율이 아니라 방치된 자동화다.
6. Workflow Agent와 기업 도입 실패
기업들이 “에이전트”를 도입하며 가장 많이 하는 실수는 이것이다.
업무 흐름을 자동화하면 의사결정이 자동화될 것이라 착각한다.
그러나 실제 실패 사례는 이렇게 반복된다.
보고서 생성은 되는데, 결론의 타당성을 판단하지 못함
일정 조율은 되는데, 우선순위 충돌을 해결하지 못함
리서치는 되는데, 전략 선택을 못함
요약은 되는데, 행동 결정을 못함
즉, 행동은 자동화되었지만 책임은 비어 있다.
7. 네 가지 오해의 공통 원인
이 네 가지 오해의 공통 원인은 하나다.
기능을 구조로 착각한다.
도구 = 지능
계획 = 사고
연결 = 조직
루프 = 자율
그러나 에이전트의 본질은 기능이 아니라 구조다.
정확히 말하면 에이전트는 다음 다섯 가지를 내부에 가져야 한다.
목표 공간의 명시적 표현
성공·실패 판정 함수
전략 수정 규칙
중단·포기·종료 조건
책임 귀속 구조
이 다섯 가지가 없는 시스템은 아무리 똑똑해 보여도 에이전트가 아니다.
