새 대화창, 언제 열고 언제 유지할까?
상황별 대화 관리 실전 기준
보고서를 쓰다가 멈췄습니다.
AI 답변이 어딘가 이상해졌습니다. 9편에서 말씀드린 그 느낌입니다. 처음 설정했던 방향과 조금씩 달라지고 있는 것 같았습니다.
화면을 보며 5분 정도 고민했습니다.새 창을 열어야 하나? 아니면 그냥 이어가야 하나?
새 창을 열면 지금까지 쌓은 맥락이 사라질 것 같았습니다. 그냥 이어가자니 점점 더 엉켜갈 것 같았습니다. 결국 그냥 이어갔습니다. 반쯤은 귀찮아서, 반쯤은 기준이 없어서.
그날 보고서는 마지막 두 섹션을 다시 썼습니다.
이 고민을 한 번쯤 해보셨을 겁니다. 새 창을 열어야 할 것 같은데 기준이 없어서 그냥 이어갑니다. 또는 새 창을 열었는데 처음부터 다시 설명하느라 오히려 더 오래 걸립니다.
둘 다 맞는 선택이 있습니다. 상황이 다를 뿐입니다.
대화창은 작업대
대화창은 작업대입니다. 지금 이 창 안에 재료들이 올라와 있습니다. 제가 설명한 배경, 중간중간 수정 요청, AI가 쌓아온 맥락. 이 작업대 위에서 지금 작업이 진행 중입니다.
새 창을 여는 건 새 작업대로 이사하는 것입니다. 깔끔합니다. 아무것도 없습니다. 처음부터 다시 재료를 올려야 합니다.
그렇다면 언제 이사하는 게 맞을까요?
작업대가 너무 지저분해서 원하는 재료를 찾기 어려울 때. 또는 지금 하려는 작업이 이 작업대의 재료와 전혀 관계없을 때. 그때 이사하는 게 맞습니다.
반대로, 지금 재료가 필요할 때 이사하면 손해입니다.
새 창을 열어야 하는 신호 3가지
신호 1. 작업의 목적이 바뀌었습니다
보고서를 쓰다가 갑자기 이메일 초안을 써달라고 합니다. 소설을 쓰다가 여행 일정을 짜달라고 합니다. 목적이 완전히 달라진 순간입니다.
이 상황에서 같은 창을 쓰면 두 가지가 섞입니다. AI가 보고서 맥락을 이메일에 끌어들이거나, 소설 말투가 여행 일정에 스며듭니다. 작업대가 지저분해지는 가장 흔한 원인입니다.
목적이 바뀌면 창도 바뀝니다. 이게 가장 명확한 기준입니다.
신호 2. AI 답변이 3번 연속으로 방향을 잃었습니다
9편에서 말씀드린 문맥 붕괴 2단계 이상입니다. 재시딩을 한 줄 넣어봤는데도 계속 이상합니다. 이건 작업대가 너무 지저분해진 것입니다. 재료를 다시 올려도 잡음이 너무 많습니다.
이 시점엔 새 창에서 핵심 조건만 깔끔하게 다시 심는 게 더 빠릅니다.
신호 3. 작업 자체가 완전히 끝났습니다
오늘 쓰려던 것을 다 썼습니다. 내일 다른 작업을 시작합니다. 이때 같은 창을 쓸 이유가 없습니다. 오래된 작업대에서 새 작업을 시작하면 이전 맥락이 조용히 영향을 줍니다.
완전히 끝난 작업, 새로운 목적의 작업. 둘 다 새 창입니다.
유지해야 하는 신호 3가지
신호 1. 같은 작업이 아직 진행 중입니다
당연해 보이지만 놓치기 쉽습니다. 9편에서 말씀드린 재시딩으로 충분히 방향을 잡을 수 있는 상태라면 창을 바꿀 이유가 없습니다. 이 작업대의 재료가 아직 필요합니다.
신호 2. 이전 답변을 레퍼런스로 써야 합니다
"아까 네가 제안한 3번 아이디어를 조금 더 발전시켜 줘." 이 말이 나온다면 같은 창이어야 합니다. 새 창에서는 "아까"가 없습니다.
신호 3. 맥락이 복잡하고 다시 설명하는 게 더 오래 걸립니다
새 창에서 처음부터 설명하는 데 10분이 걸린다면, 지금 창에서 한 줄 재시딩으로 해결되는지를 먼저 시도합니다. 해결되면 유지입니다.
혹시 이런 경험 없으셨나요? 새 창을 열었더니 오히려 더 오래 걸렸던 경험을요?
결국 하나만 물으면 된다
판단 기준을 6가지로 썼지만 사실 다 하나로 수렴합니다.
이번 작업의 목적이 지금 창과 같은가? 같으면 유지. 다르면 새 창.
단, 같은 목적인데 작업대가 너무 지저분해졌다면 새 창에 핵심 조건만 다시 심고 시작합니다. 이때 잃는 건 중간의 잡음들입니다. 필요한 재료는 다시 올리면 됩니다. 그 재료가 많지 않다면 새 창이 더 빠릅니다.
"새 창 = 손해"가 아닙니다. 지저분한 작업대에서 계속 버티는 것이 손해일 때가 있습니다.
이걸 아는 것 자체가 이미 실력입니다
다음 작업을 시작하기 전에, 딱 한 번만 물어보세요.
"이번 작업의 목적이 지금 창과 같은가?"
대부분의 사람은 지금도 이 질문 없이 감으로 결정합니다. 새 창을 열어야 할 때 버티고, 버텨야 할 때 새 창을 엽니다. 그리고 왜 안 되는지 모릅니다.
이 기준을 알게 된 순간, 이미 달라진 겁니다. 다음 작업부터 5분씩 고민하던 것이 자연스럽게 사라집니다. 배운 게 아니라, 원래 알고 있던 것이 정리된 것입니다.
그런데 새 창을 열든 유지하든, 토큰은 어디선가 계속 쌓입니다.
그 차이가 실제로 얼마나 나는지 — 다음 편에서 숫자로 보여드릴게요!
[1] Liu et al. (2023), "Lost in the Middle: How Language Models Use Long Contexts", arXiv:2307.03172
#챗GPT #ChatGPT #Claude #클로드 #AI업무자동화 #프롬프트 #AI활용팁 #AI초보 #직장인AI