Vanderbilt 대학 프롬프트 엔지니어링 코스 완주

[에필로그] 시작

그날, 저는 아주 단순한 질문을 던졌습니다.

"이 계획, 괜찮을까?"

AI는 친절하게 답했습니다. 논리적이었고, 틀린 말도 없었습니다. 하지만 이상하게도 마음에 남지 않았습니다. 그 답은 맞았지만, 충분하지 않았습니다.

그때 처음 깨달았습니다. 문제는 AI가 아니라, 내 질문이 너무 단순했다는 것을. 그날 이후, 나는 질문을 바꾸기 시작했습니다. 그리고 그 여정의 끝에서 이 글을 씁니다.

1. 이 코스를 공부한 이유

제가 이 코스를 선택한 이유는 하나였습니다. 컴퓨터 전공자들이 쓰는 용어, 프롬프트의 언어, AI가 편하게 받아들이는 표현 방식. 그것을 알고 싶었습니다. 마치 외국어를 배우는 것처럼, AI와 더 자연스럽게 대화하기 위한 언어를 배우고 싶었습니다.

물론 이 과정은 시작일 뿐입니다. 수박 겉핥기 수준일 수 있습니다. 하지만 시간의 무게와 작은 경험의 축적이 주는 무게를 알기에, 차곡차곡 쌓아간다는, 스며든다는 기분으로 하나씩 경험하고 있습니다.

2. 코세라에서 만난 질문의 기술

Vanderbilt University의 "Prompt Engineering for ChatGPT"와 "Advanced Prompt Engineering for Everyone" 코스를 완주했습니다.

솔직히 말하면, 처음 이 코스를 시작할 때의 기대는 크지 않았습니다. 밴더빌트 대학이 코세라에서 유명하다고는 추천 받아서 시작하기는 했지만 "프롬프트 엔지니어링? 그냥 ChatGPT에 말 잘 거는 방법 아닌가?" 라는 생각이 들었던 것이 사실입니다. 하지만 코스를 진행하면서 그 생각이 조금씩, 그리고 결국 크게 바뀌었습니다.

이 코스는 Coursera 플랫폼에서 진행되며, 프롬프트 엔지니어링을 처음 접하는 사람도, 어느 정도 다루어본 사람도 모두 새로운 관점을 얻을 수 있도록 설계되어 있습니다. 특히 단순한 기술 나열이 아니라, "왜 이렇게 질문해야 하는가"에 대한 논리적 근거를 함께 제시한다는 점이 인상적이었습니다.

3. 비즈니스 언어와 AI 언어의 교차점

이 코스에서 처음 배운 것은 놀랍게도 비즈니스 분석 도구들이었습니다.

분석 프레임워크 비교표

이 세 가지 프레임워크는 사실 경영학과에서, 컨설팅 회사에서, 스타트업 회의실에서 이미 오래전부터 써왔던 도구들입니다. 그런데 이것이 프롬프트 엔지니어링과 만나는 순간, 전혀 새로운 힘을 발휘하기 시작합니다.

예를 들어, 단순히 "이 계획 분석해줘"라고 하는 대신, 이렇게 묻는 것입니다.

"다음 계획을 SWOT, SMART, PESTLE 세 가지 프레임워크로 분석하고, 여러 프레임워크에서 공통적으로 나타나는 문제점과 이를 해결하기 위한 우선순위 높은 세 가지 추천을 제시해주세요."

결과는 완전히 달랐습니다. 하나의 평가가 아니라, 세 개의 렌즈를 통과한 입체적인 분석이 돌아왔습니다. 내부에는 강점이 있었지만 목표는 모호했고, 외부 환경은 그 계획을 위협하고 있었습니다. 그제야 전체가 보였습니다.

4. Markdown 전략: 보고서를 구조화하는 힘

이 코스에서 두 번째로 중요하게 다루는 것이 Markdown을 활용한 구조화된 출력 전략입니다. Markdown은 단순한 서식 언어가 아닙니다. AI에게 "어떻게 답해야 하는지"를 설계하는 도구입니다. 이 코스에서 배운 핵심 원칙은 다음과 같습니다.

프롬프트 안에 출력 형식을 명시하면 AI는 그 형식에 맞게 사고합니다. 예를 들어, 보고서를 요청할 때 아래와 같은 구조를 지정합니다.

"다음 데이터를 기반으로 보고서를 작성해주세요. 반드시 1) 헤더, 2) 표, 3) 출처를 참조하는 각주를 포함해야 합니다."

이것이 이 코스의 대표적인 과제 중 하나였습니다. 공개 데이터를 포함한 프롬프트를 작성하고, 그 결과물이 헤더, 표, 각주를 모두 갖춘 완성된 문서로 나오도록 설계하는 것입니다. 작은 차이처럼 보이지만, 이 과정에서 AI는 단순한 도우미가 아니라 구조적 사고의 파트너가 됩니다.

5. RAG 전략: 프롬프트 엔지니어링의 핵심

이 코스에서 가장 인상 깊었던 개념은 RAG(Retrieval-Augmented Generation) 전략이었습니다.

RAG란 무엇인가?

RAG(검색 증강 생성)은 AI가 답변을 생성할 때 외부 데이터베이스나 문서에서 관련 정보를 먼저 검색(Retrieve)한 후, 그 검색 결과를 바탕으로 답변을 생성(Generate)하는 방식입니다.

핵심 용어 정리

프롬프트 엔지니어링 관점에서 RAG의 의미

RAG 전략을 프롬프트 엔지니어링 관점에서 바라보면 매우 명확해집니다. AI의 가장 큰 약점은 "없는 정보를 있는 것처럼 만들어내는" 환각(Hallucination) 현상입니다. RAG는 이 문제를 근본적으로 해결합니다. 프롬프트에 실제 데이터를 함께 제공하거나, 검색 시스템과 연결하여 최신 정보를 주입함으로써, AI는 자신이 "알고 있는 것"이 아니라 "실제로 존재하는 데이터"를 기반으로 답변하게 됩니다.

이 코스에서는 RAG를 직접 구현하지는 않지만, 프롬프트 안에 데이터를 직접 삽입하는 방식으로 RAG의 원리를 체험할 수 있었습니다. 공개 데이터를 프롬프트에 포함시키고, AI가 그 데이터에 근거하여 보고서를 작성하도록 설계하는 과제가 바로 그것이었습니다.

6. 다중 경로 생성: 답이 아닌 지도를 만드는 전략

코스에서 배운 또 하나의 핵심 전략은 "하나의 최선"을 묻는 대신 "여러 경로"를 요청하는 것입니다.

"다음 시작점과 목표가 주어졌을 때, 최소 네 가지의 서로 다른 접근 방식을 제안해주세요. 각 경로는 서로 다른 전략(속도 우선, 위험 최소화, 비용 효율, 혁신 중심)을 사용해야 합니다."

이번에는 "답"이 아니라 지도(map)가 돌아왔습니다. 빠르게 실행하는 길, 위험을 최소화하는 길, 돈을 아끼는 길, 완전히 새롭게 접근하는 길. 그 순간 깨달았습니다. 문제는 답을 모르는 것이 아니라, 다른 선택지를 보지 못했던 것이었습니다.

[에필로그] 프롬프트 엔지니어링은 대단한가?

솔직하게 말씀드리겠습니다. 이 코스를 마치면서 드는 솔직한 생각은 이렇습니다. 프롬프트 엔지니어링은 생각보다 특별하지 않습니다. 아니, 정확히는 "대단해야 할 이유가 없습니다."

요즘 AI는 정말 놀랍도록 똑똑해졌습니다. 개떡같이 말해도 찰떡같이 알아듣습니다. "이 계획 좀 봐줘"라고 해도 웬만한 분석이 돌아옵니다. 그러다 보니 "프롬프트를 잘 써봐야 얼마나 차이가 나겠어"라는 생각이 드는 것도 당연합니다.

그런데 바로 그 점이 함정입니다. 차이가 안 느껴지는 것은, 잘 쓴 프롬프트의 결과와 내 결과를 비교해본 적이 없기 때문입니다. 수박 겉핥기로 꾸역꾸역 접한 이 인강이 저에게 가장 크게 가르쳐준 것이 바로 이것입니다.

작은 차이가 큰 변화를 만듭니다. 특히 AI는 여러분에게 최적화되어 있기 때문에, 그 작은 차이가 시간이 지나면서 기하급수적으로 벌어질 수 있습니다.