어텐션 희석과 기법이 충돌하는 현실
ROOFTOP을 배운 날 저는 욕심이 생겼습니다.
'이제 프롬프트 기법도 제대로 써봐야지.'
그래서 한 번에 다 넣었습니다. Role Prompting으로 역할을 주고, Chain-of-Thought로 단계적으로 생각하게 하고, Few-shot으로 예시 두 개를 보여주고, Constraint Prompting으로 금지사항까지 명시했습니다. 완벽한 프롬프트라고 생각했습니다.
아놔! 결과물을 보고 멈췄습니다.
이럴 수가 처음보다 못했습니다.
예시를 따르는 건지, 단계적으로 생각하는 건지, 제약을 지키는 건지, AI가 갈피를 못 잡는 느낌이었습니다. 구조는 있는데 초점이 없어 보였습니다.
예를 들면 반짝이는 것들이 너무 많아서 아무것도 반짝이지 않는 결과물이었습니다.
혹시 기법이 많이 알수록 좋은 게 아닌가? 그랬습니다.
잠깐! 여러분들이 기법을 잘 모르실 수 있으니 기법이 뭔지부터 짚고 갈게요.
충돌 이야기를 하기 전에, 기법이 무엇인지 한눈에 보겠습니다.
AI에게 지시하는 방식에는 패턴이 있습니다. 그 패턴에 이름을 붙인 것이 프롬프트 기법입니다. 어렵게 들리지만 실제로 보면 이미 쓰고 계신 것들입니다.
어떤가요? 이름은 낯설어도 설명을 보면 "아, 이거 나 이미 하고 있었는데?"라는 느낌이 드시죠?
그리고 눈치채셨겠지만, 6번 Context Seeding과 7번 Skeleton-of-Thought은 이미 4편과 12편에서 배우신 겁니다. 여러분은 이미 11가지 중 2가지를 쓰고 계셨던 겁니다.
AI에게는 '어텐션(Attention)'이라는 개념이 있습니다.
혹시 영어쌤 중에 인사를 리드하는 반장에게 이렇게 요구하는 쌤 없었나요?
어텐션~~ 바우! 중고딩 때 있었을 텐데요.....^^ 집중!입니다.
AI가 한 번에 집중할 수 있는 양이 정해져 있다는 건데요.
스포트라이트를 상상해 보세요.
하나를 비출 때 가장 밝습니다. 두 곳을 동시에 비추면 각각 절반의 밝기입니다. 네 곳을 동시에 비추면 4분의 1씩입니다. 스포트라이트 총량은 변하지 않습니다. 나눌수록 각각이 어두워지죠?
프롬프트 기법이 정확히 이렇게 작동합니다.
기법 하나 → AI가 그 기법에 집중합니다.
기법 넷 → AI가 네 방향으로 집중력을 나눕니다. 결과는
네 가지를 다 어중간하게 반영한 무언가가 됩니다.
혹시 기법을 여러 개 넣었는데 결과가 오히려 밋밋했던 경험이 있으신가요?
그게 바로 어텐션 희석입니다.
어텐션 희석보다 더 심각한 문제가 있습니다.
기법이 서로 충돌하는 경우입니다.
충돌은 기법의 수가 아니라 기법의 조합에서 일어납니다. 잘못된 두 가지 기법을 함께 쓰면 기법이 2개뿐이어도 결과가 무너집니다.
대표적인 충돌 유형 네 가지입니다.
충돌 유형 ① — Few-shot + Role Prompting의 방향 불일치
예시(Few-shot)가 "친근한 말투"인데, 역할(Role)이 "냉철한 전문가"면 — AI는 말투를 고르지 못합니다. 예시를 따를지, 역할을 따를지 혼란이 생기죠? 결과물은 어색한 혼합 말투가 됩니다.
충돌 유형 ② — Chain-of-Thought + Constraint Prompting의 분량 충돌
"단계적으로 생각해서 설명해 줘(CoT)"와 "300자 이내로 써줘(Constraint)"는 방향이 반대입니다. 단계적 사고는 길어지는 방향이고, 분량 제약은 줄이는 방향이죠? AI는 둘 다 지키려다 둘 다 어중간하게 지킵니다.
충돌 유형 ③ — Zero-shot + Few-shot의 기준 혼선
"예시 없이 바로 해줘(Zero-shot)"와 "이런 형식으로 해줘(Few-shot — 예시 포함)"는 모순입니다. AI는 예시를 따를지 무시할지 판단을 멈춥니다.
충돌 유형 ④ — Persona + Instruction의 목소리 충돌
"스티브 잡스처럼 말해줘(Persona)"와 "객관적 데이터 중심으로 써줘(Instruction)"는 목소리가 다릅니다. 스티브 잡스는 감성적 선언을 합니다. 객관 데이터는 수치와 사실을 나열합니다. 둘을 동시에 지시하면 — 이상하게 감성적인 수치 나열이 나옵니다.
정답은 1~2개입니다.
처음 들으면 너무 적다고 느껴지죠? 11가지나 되는 기법을 배웠는데 겨우 하나 둘?
맞습니다. 겨우 하나 둘입니다.
예를 들면, 망치를 생각해 보세요. 망치 하나로 못을 박을 때 망치가 온전히 작동합니다. 망치 세 개를 동시에 들면 아무것도 제대로 박히지 않습니다. AI의 어텐션도 마찬가지입니다. 하나의 기법에 집중력을 몰아줄 때, 그 기법이 가장 선명하게 발현되죠?
단, 예외가 있습니다.
같은 방향을 가진 기법 두 개는 시너지를 냅니다. Role Prompting으로 역할을 주고, 동시에 Tone으로 말투를 맞추는 것 이 둘은 충돌하지 않습니다. 둘 다 '어떤 사람처럼 말할 것인가'를 강화하는 방향이기 때문입니다.
충돌하는지 안 하는지 확인하는 방법은 간단합니다.
두 기법의 지시 방향이 같은가?, 다른가? 그것만 보면 됩니다.
그리고 의미를 아셨으니 넣어서 써보면 더 완벽해지겠죠?
기법을 고를 때 저는 이 순서로 생각합니다.
1단계 — 지금 이 작업에서 가장 중요한 것이 무엇인가?
결과물의 형태가 중요하다 → Format + Constraint
결과물의 깊이가 중요하다 → Chain-of-Thought + Role
결과물의 일관성이 중요하다 → Few-shot + Instruction
결과물의 창의성이 중요하다 → Persona + Zero-shot
2단계 — 선택한 두 기법이 같은 방향인가?
같으면 함께 사용, 다르면 하나만 선택. 그게 전부입니다.
3단계 — Others로 마무리
분량, 금지사항, 특수 요청을 ROOFTOP의 Others 칸에 정리해 넣으면 — 기법 충돌 없이 작업이 정밀해집니다. (ROOFTOP은 13편 참조)
이 연재를 읽으시면서 한 가지 역설을 느끼셨을 겁니다.
토큰도 줄여야 하고 (5편 참조), 대화도 짧게 끊어야 하고 (10편 참조), 기법도 적게 써야 하고.
왜 AI를 잘 쓰는 법은 전부 '줄이는 것'일까요?
이유가 있습니다. AI는 많은 것을 처리할 수 있습니다. 그러나 많은 것을 동시에 잘 처리하지는 못합니다. 하나에 집중할 때 AI는 가장 선명합니다. 나눌수록 흐릿해지죠?
혹시 이건 AI만의 이야기가 아닌가? 그렇습니다.
사람도 마찬가지입니다. 한 가지에 몰입할 때 가장 잘합니다. 동시에 여러 일을 하면 어중간해지겠죠?
그래서 부서가 나누어지는 겁니다.
AI를 진짜로 잘 쓰는 사람들은 기법을 많이 쓰지 않습니다. 하나를 정확하게 씁니다.
지금 다음 프롬프트를 쓰실 때, 기법 하나만 골라보세요. Role 하나만. CoT 하나만. Constraint 하나만. 그것만으로도 지금까지와 다른 결과를 경험하실 겁니다.
11가지 기법을 다 알면서 1개를 고르는 사람과, 1개밖에 모르는 사람은 같지 않습니다. 선택지를 알고 고르는 것 그게 진짜 실력입니다. 이 기준을 아시는 순간, 이미 대부분의 분들과 완전히 다르게 쓰고 계신 겁니다.
그리고 AI가 아직 바보라고 생각하시지 않을 거예요.
여기서 아주 쉽지만 가장 핵심 내용을 알려드릴까요?
AI는 전문가 일 수록 잘 사용할 수밖에 없습니다. LLM은 말 그대로 Large Language Model입니다. 다른 생성형 AI도 마찬가지겠쥬? 즉 단어를 잘 이을 수 있는 학습을 한 친구입니다. 그런데 이 친구가 세상이 기록한 문서 외의 것을 어떻게 조합할 수 있을까요? 그건 쉽지 않습니다. 그래서 한 분야에 경험이 많고 어떻게 해야 좀 더 세세히 아는 사람에게 가장 좋은 결과물이 나올 수 있는 것이고, 그래서 경험이 부족한 사람에게는 결과물 내용의 디테일이 떨어질 수밖에 없습니다. (여기서 아이디어를 번뜩이는 사람이 더욱 승자가 되는 거예요^^)
그렇다면 나에게 맞는 기법은 무엇이고, 그 기법을 루틴으로 굳히려면 어떻게 해야 할까요.
직장인, 프리랜서, 콘텐츠 창작자 — 상황마다 최적의 AI 대화 루틴이 다릅니다. 15편에서 각자의 자리에 맞는 루틴을 찾아드립니다.
#챗GPT #Claude #클로드 #ChatGPT #프롬프트엔지니어링 #AI프롬프트기법 #어텐션희석 #AI잘쓰는법 #AI활용팁