40대 아저씨도 배워보는 AI:
Zero to One
4. AI와 '진짜' 대화하는 법
안녕하세요, 멘토 P입니다.
지난 브런치에서는 AI 시대의 핵심 도구인 LLM 모델들을 깊이 있게 이해하고, 각 모델의 특성과 활용 범례를 살펴보았습니다. AI가 사람의 언어를 이해하고 생성하는 '지능'을 가졌다는 것을 알았으니, 이제는 그 지능을 어떻게 가장 효과적으로 활용할지 고민할 차례입니다. 오늘은 그 핵심 기술인 '프롬프트 엔지니어링'과 '컨텍스트 엔지니어링'에 대해 함께 이해하고, 요즘 컨텍스트 엔지니어링이 왜 더 중요해지고 있는지 함께 공감해 보겠습니다.
AI에게 '명확하게' 지시하는 기술, 프롬프트 엔지니어링
'프롬프트 엔지니어링'은 AI에게 '신호'를 보내 원하는 답변을 얻어내는 기술입니다. 쉽게 말해, AI에게 일을 시키는 기술이라고 할 수 있죠. 이는 마치 사람에게 업무를 요청하는 것과 놀랍도록 유사합니다. 주제에 대한 맥락을 설명한 뒤 명확한 지시 사항을 전달하는 방식인데요, 특히 AI에게서 가장 적합한 답변을 받기 위해서는 다음과 같은 요소들이 프롬프트에 잘 반영되어야 합니다.
역할(Role): AI에게 특정 역할을 부여하는 것이 중요합니다. (예: "당신은 전문 마케터입니다.")
명확한 지시(Clear Instructions): 원하는 바를 구체적이고 분명하게 지시합니다. (예: "다음 내용을 300자 이내로 요약해 주세요.")
풍부한 맥락(Rich Context): 배경 정보나 상황을 상세히 설명하여 AI가 질문의 의도를 정확히 파악하도록 돕습니다.
제약 조건(Constraints): 답변의 형식, 길이, 포함되어야 할/되지 말아야 할 내용 등을 명시합니다.
프롬프팅의 핵심은 결국 AI에 대한 '통제력 확보'에 있습니다. AI를 내 의도대로 움직이려면, 좋은 프롬프트를 작성하는 것이 필수적입니다. 프롬프트를 잘 쓰기 위한 세 가지 방법은 다음과 같습니다.
다른 사람의 프롬프트 참고하기: 초보 단계에서는 '감성형(단순 요청)'부터 시작하여 '구조형(양식 부여)', 나아가 'Schema형(변수 정의)'으로 발전시켜 AI 통제력을 높이는 방향으로 참고하는 것이 좋습니다.
공식 프롬프트 가이드 참고하기: OpenAI 엔지니어들이 만든 ChatGPT 활용 가이드인 'OpenAI CookBook'이나, 논문을 기반으로 효과가 검증된 프롬프트 엔지니어링 기술들을 담은 'Prompt Engineering Guide' 등을 참고하십시오. 특히 'Chain-of-Thought (CoT) Prompting'과 같이 복잡한 사고 과정을 AI에게 유도하는 기법들은 매우 효과적입니다.
AI에게 직접 물어보기: 가장 간단하고 효율적인 방법입니다. AI에게 "이러한 목적에 맞는 더 좋은 프롬프트를 작성해 달라"라고 요청하면, 우리보다 훨씬 더 효과적인 프롬프트를 제안해 줄 것입니다.
'신호'를 넘어 '맥락'을 설계하는 기술, 컨텍스트 엔지니어링
최근 AI 분야에서는 '프롬프트 엔지니어링'에서 한발 더 나아간 '컨텍스트 엔지니어링'이 중요하게 부각되고 있습니다. 프롬프트 엔지니어링이 '프롬프트 문장 설계'에 초점을 맞춰 AI에게 잘 지시하는 기술이라면, 컨텍스트 엔지니어링은 '맥락 설계'에 초점을 맞추면서 적용 범위를 확장합니다.
컨텍스트 엔지니어링은 AI가 잘 일할 수 있도록 업무 가이드를 제공하는 기술이라고 할 수 있습니다. 여기에는 첨부 자료, 프로세스, 검색, 외부 도구와의 연동 등 AI가 정보를 처리하고 작업을 수행하는 데 필요한 '충분한 맥락'을 제공하는 것이 핵심입니다.
에이전트가 복잡한 일을 제대로 수행하려면 단순히 명령만으로는 부족합니다. 다음과 같은 과정을 통해 컨텍스트를 풍부하게 제공하고 개선해야 합니다.
컨텍스트 정의: AI가 이해해야 할 상황과 목표, 필요한 배경 지식 등을 명확히 합니다.
데이터 연결: AI가 참고할 데이터를 연결하거나 정보를 요약하여 제공합니다.
컨텍스트 주입 및 테스트: 정의된 컨텍스트를 AI에 주입하고, 실제 작동 방식과 결과물을 테스트하며 개선합니다.
반복 개선: 이 과정을 반복하여 에이전트가 더욱 복잡하고 정교한 일을 수행할 수 있도록 만듭니다.
간단하게 말해, '프롬프트 엔지니어링'이 AI에게 보내는 '신호'라면, '컨텍스트 엔지니어링'은 그 신호가 정확하게 해석되고 실행될 수 있도록 도와주는 주변 '맥락'의 설계라고 볼 수 있습니다. 이제는 단순히 효과적인 프롬프트에 기댈 것이 아니라, 어떻게 하면 AI에게 효율적인 컨텍스트, 즉 맥락을 줄지를 고민하는 방식이 더욱 중요해지고 있는 것입니다.
AI와 함께 '일잘러'가 되기 위한 핵심 여정
오늘 우리는 AI와 '진짜' 대화하는 법을 배웠습니다. AI 언어의 기본을 이해하고, LLM 모델들을 익히고, 이제는 그 AI에게 정확하게 명령하고 깊은 맥락을 부여하는 기술까지 알게 되었습니다. 문과 출신인 저 멘토 P도 이 과정을 통해 AI가 결코 어렵거나 멀리 있는 존재가 아니라는 것을 점점 깨닫고 있습니다.
다음 브런치에서는 오늘 배운 프롬프트와 컨텍스트 엔지니어링 기술을 활용하여 '콘텐츠 제작 AI'를 어떻게 효율적으로 사용할 수 있을지 구체적인 방법들을 탐색해 볼 예정입니다. 아이디어 구상부터 최종 결과물까지, AI가 우리의 창작 활동에 어떤 혁신을 가져올지 함께 지켜봐 주십시오. 이 흥미로운 AI 여정에 계속 함께해 주시길 바랍니다.
미래를 향한 뜨거운 열정을 응원하며, 멘토 P 드림.
