당신의 질문에는 가격표가 붙어 있다

1만 원짜리 질문과 100원짜리 질문, 그 차이를 만드는 것

by 낭만닥터진사부

당신은 매일 AI에게 질문을 던진다.

보고서를 요약해 달라고, 이메일을 써달라고, 아이디어를 달라고. 그런데 한 번이라도 이런 생각을 해본 적 있는가.

"내 질문이 잘 만들어진 질문인가, 아닌가?"

대부분은 없을 것이다. 그냥 떠오르는 대로 입력하고, 결과가 마음에 안 들면 다시 입력한다. 그렇게 같은 작업을 세 번, 다섯 번 반복한다.

그런데 사실 그 질문에는 가격표가 붙어 있다.

토큰이라는 이름의 가격표가.


같은 AI인데 왜 결과가 다른가

지난 편에서 AI는 토큰 단위로 텍스트를 처리한다고 했다. 그렇다면 자연스럽게 이런 질문이 따라온다.

같은 AI, 같은 요금제를 쓰는데 왜 어떤 사람은 한 번에 원하는 결과를 얻고, 어떤 사람은 열 번을 시도해도 원하는 결과가 안 나올까?

답은 질문의 구조에 있다.

AI는 당신이 입력한 토큰의 패턴을 계산해서 답을 만든다. 입력이 모호하면 출력도 모호하다. 입력이 정확하면 출력도 정확하다. 당연한 말처럼 들리겠지만, 실제로 이걸 실천하는 사람은 생각보다 훨씬 적다.

같은AIVS다른결과.png

100원짜리 질문의 패턴

100원짜리 질문에는 공통점이 있다.

짧다. 모호하다. 맥락이 없다. 그리고 결과가 마음에 안 들면 "아니 그게 아니라"로 시작하는 수정 요청이 반복된다.

예를 들면 이렇다.

"이거 좀 고쳐줘." "더 자연스럽게 써줘." "좀 더 전문적으로 바꿔줘."

이런 질문들은 AI에게 아무것도 알려주지 않는다. AI는 자신이 가진 가장 평균적인 패턴으로 답을 만들어낸다. 당신이 원하는 게 무엇인지 알 방법이 없으니까.

그리고 수정이 반복될수록 토큰이 쌓인다. 대화창에 토큰이 쌓일수록 AI는 점점 처음 맥락을 잃어간다. 악순환이다.

1만 원짜리 질문의 구조

1만 원짜리 질문은 다르다.

맥락을 준다. 형식을 지정한다. 독자를 알려준다. 그리고 원하지 않는 것도 명시한다.

식당에서 주문하는 것과 똑같다.

"맛있는 거 해줘"라고 하면 주방장은 그날 재료 남은 걸로 아무거나 만든다. 하지만 "알덴테로 삶은 크림파스타, 소금 적게, 파슬리 올려줘"라고 하면 당신이 원하는 것이 나온다. 주방장의 실력이 같아도 결과물은 완전히 다르다.

AI도 마찬가지다. 같은 AI라도 질문의 구조가 결과를 결정한다.

질문의 4가지구성요소.png

토큰과 질문 품질의 관계

여기서 중요한 반전이 하나 있다.

많은 사람들이 이렇게 생각한다. "질문을 자세하게 쓰면 토큰이 더 많이 소모되는 거 아닌가요?"

맞다. 1만 원짜리 질문은 100원짜리 질문보다 토큰이 더 많이 든다.

그런데 전체 대화를 놓고 보면 정반대다.

100원짜리 질문을 하면 수정 요청이 반복된다. 수정이 반복될수록 대화창에 토큰이 기하급수적으로 쌓인다. 결국 처음 질문을 잘 쓰는 것보다 훨씬 많은 토큰을 소모하게 된다.

반면 1만 원짜리 질문은 처음에 토큰을 조금 더 쓰지만 한 번에 끝난다. 전체 토큰 소모량이 훨씬 적다. 그리고 결과물 품질도 높다.

처음 질문에 투자하는 것이 결국 절약이다.

질문품질과총토큰소모량.png

실전 변환 연습

이론은 충분하다. 지금 바로 써먹을 수 있는 변환 공식을 드린다.

당신이 지금까지 쓰던 질문을 이렇게 바꿔보라.

실습.png

지금 당장 해볼 수 있는 것

오늘 AI에게 질문하기 전, 딱 5초만 이렇게 물어봐라.

"나는 지금 1만 원짜리 질문을 하고 있나, 100원짜리 질문을 하고 있나?"

맥락이 있는가. 형식이 지정되어 있는가. 독자가 명시되어 있는가. 원하지 않는 것이 들어가 있는가.

이 네 가지 중 하나라도 빠져 있다면, 질문을 보내기 전에 10초만 더 투자하라. 그 10초가 수정 요청 다섯 번을 줄여준다.

요약정리.png

그런데, 질문을 잘 써도 문제가 생기는 순간이 있다

질문을 완벽하게 만들었다. 결과도 좋았다. 그런데 대화를 이어가다 보면 어느 순간 AI가 이상해지기 시작한다. 앞에서 한 말을 잊어버리고, 맥락이 흔들리고, 처음과 전혀 다른 답을 내놓는다.


당신 탓이 아니다. 구조적으로 그렇게 될 수밖에 없는 이유가 있다.

대화가 길어질수록 AI가 멍청해지는 그 정체가 다음 편에 있다.

이전 02화AI에게 '단어'란 없다