gpt와의 대화로 본 맥락 있는 질문의 힘

이제는 gpt와의 업무가, 그와의 일상이 너무도 자연스러워졌어요. 단순한 질문을 던지기도 하고, 누구에게도 털어놓지 못한 이야기를 사부작사부작 적어내려갈 때도 있죠. “너 참 똑똑하구나”라는 감탄을 하면서요.

그런데 너무 익숙해져서일까요. 가끔은 gpt가 내놓는 답이 천편일률적으로 느껴집니다. 아이디어를 내보라고 하면 어디서 한 번쯤 들어본 리스트를 내놓고, 제가 하는 말에는 언제나 “좋아요”라는 대답과 함께 비슷한 대안을 제시하는 것 같아요. 그러다 보니 점점 단순한 작업 위주로만 사용하게 되더라고요.

얼마 전, 지인들과 함께 한 스터디에서 새로운 접근법을 배웠습니다. 쏘카의 TPM 영기님이 리드한 스터디였는데요. 각자가 사용하는 'LLM과 대화’를 통해 문제를 풀어보는 거였어요. 3시간 정도 진행됐는데 스터디의 핵심은 세 가지였습니다.

1. ‘small step’ 질문으로 생각의 경로를 만들 것
2. 질문과 요구보다, 의도와 맥락을 전달할 것
3. 그 과정을 통해 목표에 도달할 것

예를 들어 “우리 회사의 26년 상반기 전략을 짜줘”라고 질문하면 gpt는 늘 그렇듯 일반적인 답을 내놓을 때가 많지만 “매년 이맘때면 내년도 전략을 고민하게 돼”라는 식으로 대화를 시작하면, 점점 맥락을 쌓아가며 사고의 깊이를 확장해간다는 논리였어요. 단순히 결과를 요구하기보다, 의도와 맥락을 통해 목표에 도달해보는 거예요. 물론 그 과정을 이끌어가기 위해서는 나만의 힘(전문성)이 필요하고요.

이렇게 대화를 이어가면, 우리는 단순히 ‘gpt에게 질문하는 사람’이 아니라 복잡한 프로젝트를 지휘하는 프로세스 매니저가 됩니다. 정답을 요구하기보다, 정답에 도달하기 위한 논리적 경로를 설계하는 사람으로요.

물론 빠르게 답을 얻고 싶을 때는 이런 방식이 조금 과하게 느껴질 수도 있습니다. "저는 당장의 답이 필요할 때 gpt를 찾곤 하는데, 이건 너무 시간이 필요할 것 같다"다고 하니 'small step 질문법은 복잡하고 풍부한 사고가 필요한 이슈에 좋은 방법'이 될 것이라고 하더라고요.

그러고보니 이건 AI뿐 아니라 사람과의 협업에도 적용되는 원리입니다. 일을 시작할 때 목표를 공유하는 것, 그 목표를 얼라인하기 위해 충분히 질문을 주고 받곤 하잖아요. 우리가 가고자 하는 최종 목표를 모른채 당장의 task에만 집중한다면 각자의 결과물이 아무리 훌륭해도 목표점에서 맞물리지 않을 수도 있고요.

궁극적인 목표를 인지하고 같은 눈높이에서 이야기한다면, 실행도 훨씬 빠릅니다. 우리가 갈 최종 목적지를 알고 있으니 다음 단계를 예측하고, 스스로 제안할 수도 있죠. 결국 ‘목표에 대한 정렬(alignment)’이 사고와 실행을 가속화한다는 뜻입니다.

영기님이 스터디를 처음 제안했을 때, 저는 그저 옵저버로 참여하려 했어요. 그런데 어느새 누구보다 열정적으로 문제를 풀고 있더라고요. 옆에 계시던 분이 “이 정도면 은혜님은 수업비를 내야 하는 거 아니에요?”라고 말할 정도로 ㅎㅎ. 그 후 제가 운영하는 북클럽 멤버들과도 같은 주제로 스터디를 했어요. 모두들 각자의 방법으로 LLM과 대화하고 있었지만, 새로운 접근법을 흥미로워했습니다.

이미 gpt를 잘 활용하고 계시겠지만, 이 ‘작은 질문의 대화법’만큼은 한 번쯤 시도해보시길 추천드립니다. gpt와의 대화에서는 물론, 조직에서도 말이죠. 대화의 깊이가 곧 사고의 깊이가 될 수 있습니다.