AI 사용하는 것이 일상이 되면서 어떻게 하면 AI를 “잘 쓸 수 있을까”하는 방법을 많이 고민합니다. 그리고 이제는 “어떻게 잘 일하게 만들 것인가”를 고민합니다. 이런 고민의 결과물이 프롬프트 엔지니어링, 콘텍스트 엔지니어링, 그리고 에이전트 엔지니어링입니다.
이 세 가지는 하나의 방향으로 이어진 진화의 단계입니다.
이 단계에서 중요한 것은 아주 단순합니다. 질문을 잘하는 것입니다.
Large Language Model(LLM)은 생각보다 정직합니다. 모호하게 물으면 모호하게 답하고, 명확하게 물으면 명확하게 답합니다.
“이거 요약해 줘”라고 말하면 적당한 결과가 나오고, “임원을 위한 3줄 요약으로, 핵심 메시지가 잘 나타나게 정리해 줘”라고 말하면 결과를 중심으로 결과가 나옵니다. 그래서 프롬프트 엔지니어는 질문을 다듬습니다. 역할을 부여하고, 출력 형식을 지정하고, 불필요한 여지를 줄입니다.
하지만 여기에는 한계가 있습니다. AI는 여전히 “그 순간의 질문”만 보고 판단합니다. 이전의 대화, 외부의 정보, 맥락은 충분히 반영되지 않습니다.
이 단계부터는 질문보다 더 중요한 것이 맥락입니다.
AI는 기억이 없습니다. 하지만 우리는 기억이 있으면 더 잘하는 것을 알고 있습니다. 그래서 이런 기억을 주는 작업이 Retrieval-Augmented Generation(RAG)입니다. 필요한 정보를 외부에서 가져와서, 질문과 함께 넣어주는 방식입니다. 문서, 데이터베이스, 이전 대화, 사용자 정보까지 모두 하나의 “상황”으로 만들어주는 것이죠.
이제 AI는 단순히 질문에 답하는 것이 아니라, 맥락 속에서 판단하기 시작합니다. 예를 들어 같은 “마케팅 전략을 만들어줘”라는 요청이라도, 시장 데이터와 고객 정보가 함께 들어가면 결과는 완전히 달라집니다.
이 단계에서 중요한 역할은 질문을 만드는 것이 아니라, 상황을 설계하는 것입니다.
여기서부터는 AI의 역할이 많은 부분에서 바뀝니다. 이제 AI는 답변만 하지 않습니다. 직접 행동합니다.
에이전트는 목표를 받아서 일을 쪼개고, 필요한 도구를 사용하고, 결과를 확인하고, 다시 시도합니다. 단순하게 질문에 대한 답변을 제공하던 것에서 목표 → 계획 → 실행 → 피드백 → 반복으로 구조가 변경됩니다.
예를 들어 “신규 서비스의 마케팅 전략을 만들어라”라는 목표가 주어지면, 에이전트는 시장을 조사하고, 경쟁사를 분석하고, 전략 초안을 만들고, 부족한 부분을 보완합니다.
무엇보다 중요한 것은 이 과정을 한 번으로 끝내지 않습니다. 여러 번의 판단과 실행이 이어지는 작업 흐름이 됩니다.
프롬프트 엔지니어링은 “말을 잘 거는 단계”입니다.
콘텍스트 엔지니어링은 “상황을 이해시키는 단계”입니다.
그리고 에이전트 엔지니어링은 “일을 맡기는 단계”입니다.
AI를 잘 쓰고, 잘 활용하는 단계에서 AI에게 일을 시키고 결과물을 받는 시대가 되었습니다.
좋은 질문을 넘어서, 좋은 상황을 만들고, 결국에는 좋은 일을 시키는 것이 AI 시대의 새로운 능력입니다.
참고
1) Prompt engineering. https://en.wikipedia.org/wiki/Prompt_engineering
2) Effective context engineering for AI agents. https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents
3) AI 전성 시대, ‘컨텍스트 엔지니어링’을 주목해야 하는 진짜 이유. https://www.lgcns.com/kr/moa/insight/detail.agenticai-context-engineering-2601-2
4) Retrieval-augmented generation. https://en.wikipedia.org/wiki/Retrieval-augmented_generation
5) What is agentic engineering? https://www.ibm.com/think/topics/agentic-engineering
6) Agent Engineering: A New Discipline. https://blog.langchain.com/agent-engineering-a-new-discipline/