2024년 말 - 2025년 초 AI가 막 시끄러워지기 시작할 즈음, 저 또한 AI를 열심히 써보려 한 적이 있어요.
“이거 요약해 줘”, “이 개념 설명해 줘”, “메일 초안 좀 써줘.”
결과는 나쁘지 않았어요. 꽤 그럴듯한 답변이 돌아왔고, 처음에는 무척 신기하기도 했어요.
그런데 어느 순간 깨달았어요.
내가 AI를 쓰는 방식이 구글 검색과 뭐가 다르지?
이전과 전혀 다르지 않았어요. 질문하고, 답을 받고, 창을 닫고. 다음에 또 비슷한 질문을 하고.
내가 무슨 일을 하는지, 어떤 맥락에서 질문하는지, 지난번에 무슨 이야기를 했는지 전혀 모르고 있었어요. 지금은 메모리 기능이 향상되어 AI가 나를 잘 기억하지만, 처음에는 매번 처음부터 다시 설명해야 했었어요.
그 시점에 AI에게 Custom Instruction이나 Preferences 같은 ‘맥락’을 주기 시작해 봤어요.
그리고 그 순간부터 AI가 완전히 다른 도구가 되었어요.
이 글은 AI를 검색 도구를 넘어 PO가 개인의 사고 파트너로 쓰게 되기까지의 이야기입니다.
· AI를 똑똑하게 만드는 건 AI가 아니라 나였다
· AI와 함께 생각하면 달라지는 것들
· 결국 프롬프트가 아니라 커뮤니케이션이다
처음 만난 사람에게 “이거 어떻게 하면 돼요? “라고 물으면, 대답이 두루뭉술할 수밖에 없어요. 상대가 아무리 똑똑해도 내 상황을 모르니까 당연히 일반적인 이야기밖에 할 수 없는 거지요.
그런데 동일한 질문을 3개월간 같이 일한 동료에게 같은 질문을 하면 어떨까요? 내가 진행하고 있는 프로젝트를 알고, 우리 팀의 일하는 방식을 알고, 내가 어떤 스타일로 문서를 쓰는지 아는 동료라면. 답이 완전히 달라질 수 있어요.
AI도 마찬가지였어요.
저는 처음에는 AI를 마치 처음 만난 사람처럼 대하곤 했어요. 매번 새로운 대화를 열고, 매번 처음부터 상황을 설명하고, 매번 일회성으로 답을 받곤 했습니다. 그러니 결과가 늘 검색 수준에 머무는 수밖에 없었어요.
다만 어느 순간부터 저는 AI에게 만약 동료였다면?이라는 가정하에 동료가 알아야 할 것들을 세팅해 주기 시작했어요. 크게 세 가지로 나눌 수 있어요.
첫째, 내가 어떻게 일하는지를 알려줬어요.
내가 쓰는 문서 포맷, 보고서의 톤, 선호하는 구조를 미리 설정했습니다. 예를 들어 주간 보고서를 쓸 때 어떤 섹션으로 나누는지, 완료된 업무 중심으로 쓰는지 진행 중인 업무 중심으로 쓰는지, PRD는 어떤 형태로 쓰는 지와 같은 것들이에요. 이걸 세팅해 두니 “이번 주 위클리 문서 정리해 줘”, "이 기능 PRD로 만들어줘"라는 한마디에 제가 주로 쓰는 포맷에 맞는 초안이 나오곤 했어요.
구체적으로 어떻게 했냐면, 대부분의 AI 도구에는 ‘사전 지시’를 설정하는 기능이 있어요. “나는 핀테크 회사에서 프로모션 상품을 기획하는 PO이다”, “주간 보고서는 네 개 섹션으로 나눠서 완료 업무 중심으로 쓴다”, “기획서는 배경과 목표를 먼저 쓰고, 구현 방식은 상세하게 적지 않는다” 같은 것들을 한 번 적어두면, 이후 모든 대화에 자동으로 적용돼요. 매번 “나는 이런 사람인데…“라고 설명하지 않아도 되는 거죠.
둘째, 내가 자주 다루는 데이터를 알려줬어요.
업무에서 자주 조회하는 데이터의 구조, 주요 테이블의 컬럼, 자주 쓰는 지표의 정의를 미리 넣어두었어요. 그랬더니 “지난달 주요 쿠폰별 발급 / 사용 현황이나 성과 비교 쿼리 만들어줘”라고 하면, 내가 일일이 테이블명을 알려주지 않아도 맥락에 맞는 분석 쿼리가 바로 생성되었어요.
팀을 막 옮겨서 아직 데이터 구조에 대한 맥락을 충분히 잘 모르는 상황에서 쿼리를 직접 짜는 어려웠어요. 그때, AI에게 데이터 구조를 알려줬더니 바로 내가 원하는 분석 내용을 자연어로도 가능하게 되었어요.
방법은 간단해요. 자주 조회하는 데이터베이스의 테이블 이름, 주요 컬럼, 그리고 “이 지표는 이렇게 계산한다”는 정의를 텍스트로 정리해서 AI에게 알려주면 돼요. 거창한 연동이 아니라, 말 그대로 “우리 팀은 이런 테이블을 쓰고, 핵심 지표는 이거야”라고 적어주는 수준이에요. AI가 이 구조를 기억하고 있으니, 자연어로 질문하면 그에 맞는 분석 쿼리를 만들어주는 거예요.
셋째, 내가 어떻게 생각하고 싶은지를 알려줬어요.
사실 이 부분이 가장 큰 차이를 만들었어요. 저는 문제를 마주하면 근본 원리까지 쪼개서 생각하고 싶어 해요. 일론 머스크가 얘기하는 First Principle Thinking 방법인데, 이 방법을 응용해서 AI에게 “문제가 주어지면, 먼저 근본 원리로 분해하고, 다른 분야의 관점을 교차 적용해서 새로운 아이디어를 도출해 줘”라고 설정해 두었어요. 마치 “너는 이런 사고방식으로 나와 대화해 줘”라고 주문한 셈이죠.
이것도 사전 지시에 넣었어요. “문제가 주어지면 표면적인 해결책부터 찾지 말고, 먼저 근본 원리까지 분해해 줘. 그다음 경제학, 심리학, 네트워크 이론 같은 다른 분야의 관점을 교차 적용해서 새로운 아이디어를 제안해 줘.” 이렇게 사고의 프로세스 자체를 지정해 둔 거예요. AI에게 “무엇을 해줘”가 아니라 “어떻게 생각해 줘”를 주문한 셈이죠.
이 세 가지를 세팅하고 나니, AI와의 대화가 근본적으로 달라지기 시작했어요. 매번 처음부터 설명하지 않아도 됐고, AI가 내 상황을 이해한 상태에서 대화가 시작되었어요. 마치 오래 함께 일한 동료와 이야기하는 것처럼 말이죠.
AI를 이렇게 쓰면서 가장 예상 못한 변화가 있었어요. 업무 속도가 빨라진 것보다, 생각의 깊이가 달라지게 된 부분이에요.(업무 속도도 빨라졌냐고 물으신다면, 그만큼 일이 늘어서 체감은 잘 모르겠어요.. 하하)
다시 돌아와서 AI를 쓰면서 달라질 수 있었단 사례를 예시로 살펴볼게요.
에피소드 1. 카니발라이제이션 고민을 통한 사고 확장
두 개의 마케팅 채널을 동시에 준비했던 일이 있었어요. 하나는 인플루언서가 콘텐츠로 홍보하는 구조, 다른 하나는 일반 사용자가 지인에게 공유하는 구조. 이 두 과제를 동시에 수행하는 것은 당연히 매출 향상에 기여하고, 거래액 향상에 이어져 회사에 도움이 되는 부분일 거예요. 근데 다른 한편으론 “두 채널이 같은 사용자를 놓고 싸우는 거 아닌가”라는 우려로 이어졌었어요.
AI에게 이 고민을 던졌더니, 예상 못한 관점들이 돌아왔어요. AI는 경제학의 가격차별 이론을 가져와 두 채널의 이용자는 동기 자체가 다르다, 네트워크 이론으로 보면 지인 간 추천(강한 연결)과 불특정 다수 대상 콘텐츠(약한 연결)는 도달하는 사용자 풀이 근본적으로 다르다고 얘기했어요.
혼자 생각했으면 ‘경쟁인가, 아닌가’라는 이분법에 갇혔을 텐데 말이에요. AI가 다른 학문의 렌즈를 빌려준 덕분에, “경쟁이 아니라 보완”이라는 구조적 결론에 더 빠르게 도달할 수 있었어요.
에피소드 2 CAC 분해 연습을 통한 데이터 분해 훈련
어느 날은 AI와 함께 가상의 채널별 성과 데이터로 분석 연습을 해보았어요. 세 개 채널의 비용, 전환율, 재구매율 데이터를 놓고 “예산을 어떻게 배분할 것인가”를 고민하는 훈련이었습니다.
고객 획득 비용을 계산하니 한 채널이 압도적으로 낮은 결과를 보여주었어요. 그래서 “그럼 여기에 집중하면 되는 거 아닌가?” 싶었어요. 그런데 AI가 이 결정에 반문을 던졌습니다. “비용이 낮은 채널에 2배 투자하면, 성과도 2배가 될까?”
순간 멈칫했어요. 그 채널은 사용자의 자발적 공유로 노출이 만들어지는 구조였거든요. 결국 돈을 투입한다고 사람들이 더 공유하지는 않는 채널이었죠. 결국 “어디에 얼마를 넣을까”가 아니라 “공유를 더 만들어내려면 뭘 바꿔야 하는가”가 진짜 질문이라는 것을 깨달았어요.
이런 질문을 반복하면서 숫자 뒤의 구조를 읽는 습관이 생겼어요. 사실 좋은 동료가 해주는 것도 결국 이것이지 않을까?라고 생각해요. 답을 주는 게 아니라, 내가 놓친 관점을 짚어주는 것
“프롬프트를 잘 써야 AI를 잘 쓸 수 있다”는 말이 자주 보이고, 자주 들려요. 사실 틀린 말은 아닙니다. 하지만 저는 이 말이 무언가 본질을 놓치고 있다고 생각해요.
좋은 프롬프트라는 건 결국 좋은 업무 요청과 같다.
PRD를 쓸 때를 생각해 볼게요. 좋은 PRD는 배경과 맥락을 충분히 전달하고, 원하는 결과물의 형태를 명확히 하고, 구현 방식에 대해서는 만드는 사람에게 자율성을 줄 수 있어야 해요. AI에게 지시를 내리는 것도 정확히 같은 구조입니다.
“이 기능 만들어주세요”라고만 쓰인 PRD가 좋은 결과를 만들 수 없듯, “이거 정리해 줘”라고만 던지는 프롬프트도 좋은 결과를 만들 수 없어요. 이 기능이 왜 필요한지, 어떤 맥락인지, 어떤 형태로 받고 싶은지를 전달해야 합니다.
재밌는 건, 이게 역으로도 작동한다는 점이에요. AI에게 명확한 지시를 내리는 연습을 하다 보니, 사람에게 전달하는 기획서나 업무 요청의 품질도 함께 올라가곤 했어요. “내가 이걸 동료에게 이렇게 설명했으면 이해했을까?” 하는 검증을 AI와의 대화에서 먼저 할 수 있게 된 것입니다.
결국 AI를 잘 쓰는 사람과 그렇지 않은 사람의 차이는 기술적 능력이 아니라고 생각해요. 내 업무를 얼마나 구조화할 수 있느냐, 내가 원하는 것을 얼마나 명확하게 표현할 수 있느냐의 차이가 성과의 차이로 이어질 수 있다고 생각합니다.
돌이켜보면, AI를 잘 쓰게 된 계기는 새로운 기술을 익혀서가 아니었어요. 내 업무를 한 번 더 들여다본 것이 계기였습니다. 내가 어떻게 일하는지, 어떤 데이터를 보는지, 어떤 방식으로 생각하고 싶은지. 그걸 정리하는 과정 자체가 이미 일하는 방식을 바꾸는 시작이었던 거죠.
AI는 그 정리된 것을 받아서 증폭시켜 주는 도구였을 뿐이에요.
그래서 이건 사실 AI의 이야기가 아닐 수 있어요. 그보다는 일 잘하는 사람의 이야기에 더 가까울 수 있습니다.
오늘은 AI가 제 사고를 어떻게 바꿨는지 살펴보았어요, 다음 글에서는 이 변화를 개인을 넘어 팀으로 확장하는 이야기를 해보려 합니다. "같은 작업을 세 번 이상 했다면, 그다음부터는 AI가 해야 한다"라는 생각으로 AI를 어떻게 생산성 향상의 도구로 확장했는지 소개해볼게요.