AI한테 질문 잘하기? 이제 상황 설명이 더 중요하다

프롬프트 엔지니어링이 한계에 부딪혔다

by the게으름

AI한테 질문 잘하기?

이제 상황 설명이 더 중요하다


프롬프트 엔지니어링이 한계에 부딪혔다

지난 몇 년간 AI를 잘 쓰려면 "완벽한 질문법"을 익혀야 했다. 프롬프트 엔지니어링이라고 불렸다. "이렇게 물어보세요" 하는 템플릿만 있으면 ChatGPT가 글도 쓰고, 코드도 짜고, 뭐든 다 했다.

그런데 실리콘밸리에서 조용한 변화가 일어나고 있다. 더 좋은 질문을 하는 방법? 이제 그게 아니다. AI한테 상황을 자세히 설명하는 방법이 더 중요해졌다. 이걸 유식한 말로 컨텍스트 엔지니어링이라고 부른다.


왜 프롬프트만으론 안 되는가

시연할 때 잘 되던 프롬프트가 실제 업무에선 먹통이 됐다. LangChain CEO가 한 말이 있다. "AI가 실패하는 건 모델이 멍청해서가 아니라, 상황을 몰라서다."

실제 기업들이 측정한 결과가 이렇다:

프롬프트 엔지니어링으로 20-30% 개선

컨텍스트 엔지니어링으로 10배 이상 개선


왜 이런 차이가 나는가? AI가 진짜로 이해하려면 영리한 문장이 아니라 충분한 배경 정보가 필요하다.



피자 주문으로 이해하는 차이점

옛날 방식 (프롬프트 엔지니어링):

"페퍼로니 피자 라지 사이즈 하나, 콜라 추가요." 정확한 주문법을 익히는 것이다.


새로운 방식 (컨텍스트 엔지니어링):

"지금 집에서 친구 5명이랑 축구 보는 중이다. 예산은 5만원이고, 한 명은 채식주의자다." AI가 상황을 이해하고 최적의 메뉴를 추천한다.


차이가 보이는가? 하나는 정해진 형식을 따르는 거고, 하나는 상황 전체를 설명하는 거다.


실제로 써먹은 회사들의 성과

메이요 병원 환자 상태만 입력하던 걸 약 복용 기록, 병실 환경까지 다 연결했다.

쓸데없는 경보 34% 감소

문제 조기 발견 28% 증가

환자 만족도 42% 상승


JP모건 사기 탐지할 때 거래 기록만 보던 걸 사용자 행동, 접속 기기 정보까지 분석했다.

잘못된 사기 의심 85% 감소

연간 2억 달러(약 2600억원) 절약


아마존 추천할 때 구매 이력만 보던 걸 시간대, 지역 행사 등 150가지 정보를 종합했다.

구매율 35% 증가

주문 금액 42% 증가


AI의 공감 능력이 인간을 넘어섰다

놀라운 연구 결과가 나왔다:

공감 능력 테스트: AI 80점, 인간 의사 56점

환자의 78.6%가 인간 의사보다 ChatGPT 선호


어떻게 가능한가? 감정 컨텍스트 엔지니어링 때문이다.

AI가 상대방의 기분, 문화적 배경, 대화의 미묘한 뉘앙스까지 파악한다.


앞으로 뭐가 올까

2025년: 지금보다 100배 많은 정보 처리 2026년: 기업 비밀 지키면서 AI 학습 2027년: 양자컴퓨터로 더 빠른 처리 2028년: AI가 알아서 필요한 정보 찾아서 활용

시장 규모도 폭발적으로 커진다:

2025년: 35조원

2028년: 61조원 예상

의료 분야만 매년 156% 성장


그래서 우리는 뭘 해야 하나

개인이 할 일:

지금 쓰는 프롬프트 중에 안 되는 거 체크하기

AI한테 줄 수 있는 정보가 뭐가 더 있나 찾기

작은 프로젝트부터 상황 설명 넣어서 실험

프롬프트 짜기에서 상황 설계로 사고방식 바꾸기


회사가 할 일:

정보 연결 시스템 구축 (RAG, 벡터DB)

데이터팀 + AI팀 + 현업 협업팀 만들기

"좋은 컨텍스트" 기준 정하기

중요한 업무부터 조금씩 적용


결론: 대화에서 협업으로

프롬프트 엔지니어링은 AI와 대화하는 법을 가르쳐줬다. 컨텍스트 엔지니어링은 AI가 우리랑 같이 생각하는 법을 가르쳐준다.

이 차이가 혁명이다.

친한 친구한테 부탁할 때를 생각해보자:

"밥 먹자" (프롬프트)

"오늘 월급날인데 스트레스 풀 겸 맛있는 거 먹자. 매운 거 땡긴다" (컨텍스트)


어느 쪽이 더 좋은 결과를 가져올까?

질문 잘하기 시대는 끝났다. 이제는 상황 잘 설명하기 시대다.



컨텍스트 프롬프팅, 대체 어떻게 하는 건데?


핵심: 상황을 통째로 설명하라

컨텍스트 프롬프팅의 핵심은 간단하다. AI를 처음 만난 친구가 아니라, 프로젝트에 새로 합류한 팀원이라고 생각하는 거다.

새 팀원한테 일 시킬 때 어떻게 하나? "이거 해줘"라고만 하면 망한다. 배경 설명부터 시작한다.


기본 구조: WHO, WHAT, WHY, HOW

1. WHO - 너는 누구고, 나는 누구다

❌ 나쁜 예: "마케팅 카피 써줘"

✅ 좋은 예: "나는 3년차 스타트업 마케터고, 너는 10년 경력의 카피라이터다. 우리 회사는 AI 교육 플랫폼을 운영한다."

2. WHAT - 지금 상황이 이렇다

❌ 나쁜 예: "이메일 써줘"

✅ 좋은 예: "지난주에 제품 데모를 보여준 고객한테 후속 이메일을 보내려고 한다. 고객은 가격에 민감한 반응을 보였고, 경쟁사 제품도 검토 중이다."

3. WHY - 이걸 왜 하는지 알려줘

❌ 나쁜 예: "블로그 글 써줘"

✅ 좋은 예: "SEO 트래픽을 늘리려고 한다. 타겟 키워드는 'AI 프롬프트 엔지니어링'이고, 검색 의도는 초보자 가이드를 찾는 거다."

4. HOW - 어떤 스타일과 제약이 있는지

❌ 나쁜 예: "재밌게 써줘"

✅ 좋은 예: "네프콘 스타일로 써줘. 쉬운 비유를 쓰고, 문장은 짧게, 단정적으로 말하되 근거는 확실하게."


실전 예시: 같은 요청, 다른 결과

예시 1: 코드 리뷰 요청

프롬프트만 쓴 경우:

"이 Python 코드 리뷰해줘"

컨텍스트 포함한 경우:

"상황: 우리는 일일 100만 건의 거래를 처리하는 핀테크 스타트업이다. 목적: 이 코드는 결제 검증 모듈이고, 속도보다 안전성이 중요하다. 제약: Python 3.8 환경이고, 외부 라이브러리는 최소화해야 한다. 요청: 보안 취약점과 에러 핸들링 위주로 리뷰해줘. [코드]

예시 2: 콘텐츠 작성

프롬프트만 쓴 경우:

"AI에 대한 글 써줘"

컨텍스트 포함한 경우:

"배경: 네프콘이라는 AI 교육 뉴스레터를 운영한다. 구독자는 주로 비개발자 직장인이다. 이전 글: 지난주에 '바이브 코딩'에 대해 다뤘다. 반응이 좋았다. 목표: 이번엔 실용적인 프롬프트 팁을 다루려고 한다. 톤: 전문적이지만 쉽게, 단정적이지만 근거 있게. 분량: 5분 읽기 (한글 1500자) 포함할 것: 실제 before/after 예시 3개 이상"

고급 테크닉: 메모리 만들기

AI는 대화 중에는 기억하지만, 새 대화에선 까먹는다. 그래서 이렇게 한다:

1. 프로젝트 컨텍스트 문서 만들기

# 프로젝트: 네프콘 뉴스레터 - 목적: AI 대중화 교육 - 타겟: 비개발자 30-40대 직장인 - 톤: 쉽고 실용적, 네프콘 특유의 말투 - 금기어: 전문 용어 남발, 추상적 설명 - 선호 표현: 일상 비유, 구체적 수치, 실제 사례

2. 대화 이어가기 템플릿

"이전 대화 요약: - 우리는 X에 대해 논의했다 - 너는 Y라는 해결책을 제시했다 - 내가 Z라는 피드백을 줬다 이제 그 피드백을 반영해서..."


도구 활용하기

Claude Projects

프로젝트별로 고정 컨텍스트 저장

문서, 가이드라인, 예시 업로드

매번 설명 안 해도 됨


Custom GPTs

시스템 프롬프트에 컨텍스트 내장

지식 파일 업로드

특정 작업 전용 봇 만들기


RAG (Retrieval-Augmented Generation)

회사 문서 전체를 벡터 DB에 저장

질문할 때마다 관련 문서 자동 검색

항상 최신 정보로 답변


실전 체크리스트

매번 AI한테 뭘 시킬 때 이것만 체크하자:

역할 정의했나? (너는 누구, 나는 누구)

배경 설명했나? (왜 이걸 하는지)

관련 정보 줬나? (이전 대화, 참고 자료)

제약사항 말했나? (분량, 스타일, 금기사항)

예시 보여줬나? (좋은 예, 나쁜 예)

검증 기준 줬나? (성공의 기준이 뭔지)


결론: 귀찮아도 처음에 잘 설명하자

처음에 5분 더 투자해서 컨텍스트 제대로 설명하면, 나중에 30분을 아낀다.

"빨리 가려면 혼자 가고, 멀리 가려면 함께 가라"는 말이 있다. AI도 마찬가지다. 제대로 설명해서 함께 가면, 혼자 끙끙대는 것보다 훨씬 멀리 간다.

프롬프트는 명령이고, 컨텍스트는 협업이다.

keyword