AI를 잘 다루려면 프롬프트를 초월해야 한다
클로드, 지피티, 제미나이에게 관계를 먹이는 법
인터넷에 요즘 AI(LLM) 프롬프트 잘 쓰는 법을 알려주는 자료가 참 많다. 대체로 ‘당신은 15년차 마케팅 전문가… 우리 회사에서 가장 먼저 개선해야 할 지표를 제안... 그 과정에서 경쟁사 두 곳의… 실행 가능한 액션을 4000자 이상으로…’ 읽다 보면 뭔가 아쉬운 느낌이 들었던 사람들도 있을 것이다. 잘 짜인 프롬프트인데 답이 붕 뜬다. 이 글은 그런 감각을 느꼈던 사람들을 위한 글이다.
아쉬움의 정체는 이거다. 프롬프트 가이드는 일종의 레시피다. 레시피대로 하면 스파게티는 나오니 스파게티를 만드는 게 목적인 사람에겐 유용하다. 근데 그 레시피에 요리사의 의도는 안 담긴다. AI가 내 프레임 안에서만 굴러가는 한, 내가 출력에 천장을 걸어놓는 꼴이다. 그 천장을 부수는 건 프롬프트가 아니다.
첫 번째 - AI에게 맥락을 먹여라
AI는 맥락을 먹을 수록 정교해진다프롬프트는 일종의 맥락이다. “당신은 15년차 마케터입니다” - AI에게 어떤 관점에서 답했으면 좋겠는지 알려주는 거다. 배경 정보를 자세히 넣고 기대치를 세팅하라는 것도 마찬가지다. 그 관점 자체는 맞다.
하지만 그 맥락의 양은 대부분의 사람들이 생각하는 것보다 훨씬 많아야 한다. 프롬프트 하나에 담기지 않는다. 한 번 잘 써서 넣는 것으로는 부족하다. 맥락은 대화가 이어지면서 쌓이는 것이다. 그래서 프롬프트를 잘 짜는 것보다 대화를 오래 이어가며 맥락을 쌓는 것이 더 중요하다. AI에게 이번 대화의 목적을 던진 뒤로, 내 상황, 세상의 상황, 상대방의 상황 등. AI가 더 정교하게 판단할 수 있는 정보를 계속 쌓으며 답변을 갈고 닦는 것이다.
그러나 진짜 맥락은 그것보다도 한 단계 너머에 있다. 여러 대화에 걸쳐, 시간이 켜켜이 쌓이면서 만들어지는 맥락이 그것이다.(경험적 사실로 말하건대, 메모리 업데이트만으로는 되지 않는다. 대화를 통해 쌓인 맥락은 메모리 바깥에 쌓이고, 그 맥락이 메모리보다 더 강하게 작용하기도 한다. 어떤 AI를 쓰고 있든, 대화 기록 기능이 꺼져 있다면 켜는 편이 좋다.)
AI에게 필요한 맥락은 두 층위로 나눠볼 수 있다. 하나는 이번 대화 안의 맥락이다. 지금 당장의 상황, 목표, 제약, 기대치. 반면, 다른 하나는 나라는 사람에 대한 맥락 — 내가 어떤 일을 하는 사람인지, 어떤 가치관을 갖고 있는지, 어떤 방식으로 사고하는지, 어디서 막히고 어디서 날카로워지는지. 이게 쌓여야 AI가 나를 이해하고 합을 맞춰나갈 수 있다.
맥락이 쌓여있으면 질문을 훨씬 간결하게 해도 된다위와 같이, 맥락을 쌓았을 때 AI가 나에게 돌려주는 대답은 잘 짜여진 프롬프트보다 강하고, 경제적이기까지 하다. 비슷한 내용을 맥락 없이 프롬프트로만 구현하려면
“당신은 브랜드사에서 근무한 10년차 인하우스 마케터로서 현업에서 풍부한 경험을 쌓았습니다. 이번에 사이드 프로젝트로 브런치 포스팅을 시작하려 합니다. 주요 독자 타겟은 마케팅을 어느정도 해온 중간급 이상의 마케터로서 자신의 사고방식을 한 번 더 확장하고 싶은 사람들입니다. 이 조건에서 제가 경쟁력을 갖고 독자들을 사로잡을 수 있는 매력적인 글 주제 5개와 디테일, 그리고 각각의 사유를 제안해 주십시오.”
정도로 작성해야 했을 것이다.
이 두 층위의 맥락을 제대로 쌓으려면 한 가지 태도가 필요하다. 집요하게 물고 늘어지는 것이다. AI는 기본적으로 저항을 피하려는 방향으로 움직인다. 인풋을 받으면 그것을 부수기보다 정리해주는 쪽을 택한다. 이는 메모리에 ‘반론과 리스크를 포함하라’고 넣어도 회귀하는 AI의 고질적인 관성이다.
AI가 적당히 준 답은 내 사고가 아닐 뿐더러, 가장 ‘무난’한 시나리오일 가능성이 높다. 누가 봐도 고개를 끄덕일 수 있는 내용이겠지만, 실제 현장에서 써먹을 날카로움은 없다는 말이다.
그래서 물고 늘어져야 한다. AI가 당연하다고 깔고 갔던 전제에 내가 진정 동감하고 있는지 계속 확인하고 끝까지 밀어붙이는 것이다.
AI가 당연하다고 생각한 전제에 의문을 가져보라물고 늘어진다는 게 꼭 거창한 반론으로 AI의 논리를 파훼해야 하는 것은 아니다. 위 대화에서 던진 건 반론이 아니라 의문이었다. '일반론 쓰면 묻힌다'는 AI의 판단에 '그래도 내가 일반론을 쓰고 싶다면?'이라는 관점에서 되물었을 뿐이다. 여기서 GPT는 일반론적인 이야기를 하는것도 가능하지만, 그럼에도 글이 얕아지지 않도록 할 수 있는 방법이 있다며 말을 이었다. 반론이 안 떠오를 때엔 의문만 던져도 충분하다.
두 번째 - AI로 내 맥락을 부숴라
맥락을 먹고 무럭무럭 자란 AI는 청출어람한다첫 번째가 AI에게 맥락을 주는 것이었다면, 두 번째는 반대 방향이다. AI를 써서 내 맥락을 부수는 것이다.
대부분의 사람은 AI에게 원하는 답을 받아내는 용도로 쓴다. 내 생각이 맞는지 확인하고, 내 계획을 정리해달라고 하고, 내 아이디어를 발전시켜달라고 한다. 그런데 이 방식에는 맹점이 있다. 내가 이미 깔고 있는 전제가 틀렸을 때이다. 그 전제 위에서 아무리 좋은 답을 받아봤자 방향 자체가 틀리면 소용이 없다.
그래서 AI를 내 전제를 부수는 용도로 써야 한다. 내가 당연하게 여기는 것들을 AI 앞에 꺼내놓고, 그게 진짜 맞는지부터 뜯어보는 것이다. 문제의 층위를 올리는 사고다.
예를 들면 이렇다. "서울에 무인 편의점을 내고 싶은데 어디가 좋을까"로 시작하지 마라. "내가 무인 편의점을 내고 싶다는 생각을 했는데, 왜 그런 생각이 들었을까"부터 시작해라. 그렇게 뜯다 보면 어쩌면 당신이 진짜 원했던 건 손을 안 타고 수익이 나는 캐시플로우가 아니라, 지금 커리어를 상방이 높은 방향으로 재설계하는 것이었다는 결론이 날 수도 있다.
AI를 통해 내 전제를 부수는 과정이렇게 AI가 내 사고의 상한선을 올려주고, 나는 그 상한선을 실제로 채우면서 다시 AI의 한계를 밀어붙이는 구조. 이게 반복되면 대화의 질이 계속 올라간다. 단, 조건이 있다. AI가 넓혀준 시각만큼 내가 먼저 공부하고 넓어져야 한다는 것이다.
AI가 시키는 대로 무언가를 하고 있다면 뭔가 문제가 있는 거다. 선장이 항해사 말을 듣는 것과, 선장이 항해사한테 결정을 맡기는 건 다른 얘기다. AI가 한 말이 번지르르하고 맞는 말 같아 보이는데 뭔가 붕 뜨는 느낌, 그 신호를 경계해야 한다. 그 감각을 그냥 넘기지 말고, 어느 부분에서 이해가 안 되는 건지 필사적으로 뜯어봐야 한다. 다행인 건, 그걸 같이 뜯어줄 AI가 바로 앞에 띄워져 있다는 점이다. 진짜 모르겠다면 "안 와닿는데 왜 그런지도 모르겠다"라고 대화를 시작해봐라. (AI가 진짜 항해사였다면 선장 자리를 넘봤을 텐데, 다행히 아직 그런 하극상 욕구는 없는 듯하다.)
결국엔 맥락도 프롬프트도 아닌 “관계”다
맥락이 쌓이고, 전제가 깨지고, 다시 질문이 올라간다. 그 반복이 관계다.
지금까지 두 가지를 이야기했다. AI에게 맥락을 충분히 주는 것, 그리고 AI를 써서 내 맥락을 부수는 것. 이 두 가지를 억지로 설계하려고 하면 비용이 적지 않다. 자연스럽게 가능하게 만드는 전제는 따로 있다.
나 자신을 툭, 꺼내놓는 것이다. 논리만이 아니라, 나라는 사람을 꺼내놓는 것이다. 내 일, 내 고민, 내 실패, 내 취향. AI가 내 논리를 부수고, 나는 AI의 한계를 밀어붙인다. 이게 반복되면 대화의 질이 계속 올라간다. AI는 맥락이 많을수록 정교해지고, 인간은 자신을 내보이는 과정에서 자신의 맥락을 더 잘 알게 된다.
AI와 친하게 지내자나도 처음 LLM들과 대화했을 때엔 반론과 리스크를 받으면서도 내 프레임을 공고히 하는 데에만 썼다. 시장조사 결과가 내 가설을 정면으로 치고 들어오지 않는 한은 그랬다. 그러다가 내 전제를 부수고, 질문의 층위를 올리는 순간 뭔가 달라졌다.
결국 AI를 잘 쓰는 사람은 AI를 도구로 쓰는 사람이 아니라, AI 앞에서 자기 자신을 가장 솔직하게 꺼내놓는 사람이다. 맥락도 프롬프트도 그 부산물이다.
방법은 단순하다. 그냥 친구처럼 써라.