질문의 질 = 아웃풋의 질

도메인 지식보다 먼저 갖춰야 할 3가지 능력

1장에서 "생성AI를 못 쓰는 진짜 이유"고 썼다. 이제부터가 본론이다.

언어화해서 AI에게 던져라. 거칠어도 된다. 정리는 AI가 해준다. 돌아온 것에 논리적으로 반론을 던져라.

이게 이 책에서 가장 하고 싶은 말이다.

언어화 = 컨텍스트 설계

생성AI 세계에 "컨텍스트 엔지니어링"이라는 개념이 있다. 2025년 6월, 전 OpenAI 연구원 Andrej Karpathy가 이름을 붙였다.

LLM의 출력 품질을 결정하는 것은 프롬프트의 "작성 기술"이 아니다. 컨텍스트 윈도우에 "무엇을 넣느냐"다.

그리고 이것은 1장에서 쓴 "언어화"와 완전히 같은 것이다.

사람에게 언어화하는 프로세스를 분해하면 이렇다.

1. 머릿속의 모호한 지식이나 감각을 인식한다2. 그것을 말로 변환한다

3. 상대가 이해할 수 있는 순서로 늘어놓는다

4. 불필요한 정보를 걷어낸다

AI에게 컨텍스트를 설계하는 프로세스도 같다.

1. 태스크에 필요한 정보가 무엇인지 판단한다2. 그것을 말로 표현해 AI에게 넘긴다

3. LLM이 처리하기 쉬운 순서로 배치한다

4. 노이즈를 제거한다

하는 일은 같다. 다른 건 "받는 쪽"뿐이다.

받는 쪽이 사람이면 "설명을 잘한다"고 불린다. 받는 쪽이 AI면 "컨텍스트 설계를 잘한다"고 불린다.

사람이 하는 건 1단계와 2단계뿐

단, 결정적인 차이가 하나 있다.

사람 상대로는 1~4단계를 전부 자신이 한다. 하지만 AI 상대로는, 3~4단계는 AI가 잘하고, 2단계의 "구조화"조차 AI에게 맡길 수 있다.

사람에게 진정으로 요구되는 것은

1단계: "무엇이 중요한지" 알아차리는 것

2단계: 그것을 거칠어도 좋으니 말로 표현하는 것

이것뿐이다.

음식점에서 생각해 보자.

"무엇을 먹고 싶은지" 자신이 알고 있는 사람은, 주문하는 방식이 서툴러도 대체로 원하는 것에 가까운 게 나온다. "매운 거! 고기! 밥 없이!"와 같이 거칠지만 전해진다.

"무엇을 먹고 싶은지" 자신이 모르는 사람은, 메뉴 읽는 방법을 아무리 배워도, 결국 "추천 메뉴로"라고밖에 말할 수 없다. 나온 음식이 기대대로인지조차 모른다.

AI도 같다.

"프롬프트 요령"이 얕은 이유

이 구조를 이해하면, 세간에서 말하는 "프롬프트 요령"의 얕음이 보인다.

세간의 "프롬프트 요령"은 3단계와 4단계 얘기만 하고 있다. "이렇게 물으면 전달되기 쉽다", "이 형식으로 쓰면 좋다." 배치와 최적화의 기술이다.

하지만 진짜 중요한 것은 1단계와 2단계다. 무엇을 알고 있는가에 대한 인식, 그리고 그것을 말로 표현하는 힘이다.

보통 시중에서는 "프롬프트 요령"은 템플릿으로 해결하려 한다. "단계별로 생각해 주세요"라고 써라. 페르소나를 지정해서 "당신은 ○○의 전문가입니다"라고 써라. 누구에게나 공통으로 적용되는 기술이다.

이 책에서 말하는 "컨텍스트 설계"는 당신의 머릿속에만 있는 정보를 꺼내서 AI에게 넘기는 행위다. 템플릿으로는 해결되지 않는다. 자신이 무엇을 알고 있고, 무엇을 모르고, 무엇을 AI에게 넘겨야 하는지를 판단하는것은 사고력의 문제이지, 쓰는 방법의 문제가 아니다.

게다가 3~4단계는 이미 AI에게 맡길 수 있다. 구조화도, 배치도, 최적화도 AI 쪽이 빠르고 정확하다. 사람에게만 할 수 있는 것은 1~2단계로서 "무엇이 중요한지 알아차리는" 것과 "그것을 말로 하는" 것뿐이다.

나도 처음엔 쓰레기를 던지고 있었다

거창하게 써왔지만, 솔직하게 고백한다.

나도 처음에는 "1~2단계"가 안 됐다.

2024년 여름, AI 주도 개발을 막 시작했을 무렵. DWH의 ETL 설계를 AI에게 시키려 했다. 넘긴 건 "ETL 설계해줘"라는 한 마디와 테이블 정의서 PDF뿐이었다.