같은 창 vs 새 창, 37% 차이의 비밀
토큰 절약 3가지 방법 비교
저도 한때 새 창 열기가 귀찮았습니다.
"어차피 AI가 앞에서 한 말 다 기억하고 있을 텐데, 굳이 새로 시작해야 하나?"라고 생각했거든요. 그래서 보고서 하나를 완성할 때까지 같은 창에서 계속 밀어붙였습니다. 수정 요청, 추가 요청, 방향 전환까지 전부 한 창 안에서요.
그러다 대화가 30번쯤 오갔을 때였습니다.
AI가 갑자기 앞에서 제가 명확히 지정한 '보고서 독자'를 바꿔서 쓰기 시작했습니다. "임원 보고용"으로 써달라고 했는데, "일반 직원 대상"처럼 쓴 거죠. 다시 말하자, 또 바뀌었습니다. 또 말하자, 이번엔 두 독자가 섞인 이상한 문체가 나왔습니다.
이건 또 뭔가요??? AI가 갑자기 멍청해진 건가? 그런데 그게 또 아니었습니다. 창 안에 종이가 너무 많이 쌓여, AI의 집중이 흐릿해진 것이었습니다.
같은 창을 유지하면 토큰이 얼마나 쌓일까요?
(토큰이 무엇인지는 1편 참조, 눈덩이 토큰 효과는 3편 참조)
간단한 계산을 한 번 해보겠습니다.
"기획서 작성을 도와줘"라는 작업을 한다고 가정합니다. 메시지 한 번 주고받는 데 약 800 토큰이 소모된다고 칩니다. 10번 주고받으면 누적 토큰은 약 8,000. 20번이면 16,000. 30번이면 24,000입니다.
혹시 이런 경험 없었나요?
대화가 10번을 넘어가는 순간부터 AI가 뭔가 미묘하게 어긋나기 시작했다는 느낌.
그게 우연이 아니었습니다.
많은 AI 사용자들이 체감하는 수치로, 같은 작업을 새 창에서 나눠 처리할 때와 한 창에서 끝까지 밀어붙일 때 토큰 소모량 차이가 평균 37% 납니다. 저도 직접 여러 작업에서 비교해 봤을 때 비슷한 결과가 나왔습니다. API 사용자라면 실제 요금에 직접 붙는 숫자이고, 일반 AI 사용자라면 메시지 횟수 제한에 해당하는 숫자입니다.
"그럼 무조건 새 창이 정답인가요?"
아닙니다.
새 창을 열 때마다 AI는 아무것도 모르는 상태로 돌아갑니다. (컨텍스트 윈도우는 4편 참조, 메모리는 7편 참조) 매번 "나는 누구, 이 작업은 무엇, 독자는 누구"를 다시 입력해야 합니다. 이게 귀찮아서 새 창을 안 열고 싶다는 마음, 저도 압니다.
그래서 오늘은 세 가지 방법을 비교해 드리겠습니다.
이 중 하나만 골라야 한다면, 저는 망설임 없이 방법 2를 고릅니다. 하지만 먼저 방법 1부터 이야기해야, 왜 방법 2가 더 강력한지가 선명하게 보입니다.
토큰 절약 3가지 방법 비교
방법 1. 재시딩(Re-seeding) — 같은 창에서 중간에 핵심을 다시 심기
새 창을 열지 않고도 AI의 집중을 복구하는 방법입니다. (컨텍스트 시딩은 4편 참조)
대화가 길어져서 AI가 미묘하게 어긋나기 시작하는 시점. 그때 새 메시지 첫 줄에 이렇게 입력합니다.
"지금까지 작업 조건 재확인: 독자=임원 보고용, 형식=1페이지 요약, 톤=격식체. 이 조건으로 계속 작성해 줘."
이 한 줄이 흐릿해진 AI의 집중을 되살립니다. 전환점마다 조건을 한 번씩 다시 심는 것만으로 품질이 유지됩니다. (문맥 소실이 언제 일어나는지는 9편 참조)
그런데 이 방법에는 한계가 있습니다. 대화가 이미 30~40번 이상 쌓였다면, 아무리 재시딩을 해도 토큰 총량 자체가 너무 커서 AI가 느려지거나 할당 한계에 부딪힙니다. 그때 필요한 것이 방법 2입니다.
방법 2. 작업 분리 — 새 창을 열되 목적 단위로 쪼개기
하나의 큰 작업을 목적 단위로 쪼개서, 단위마다 새 창을 엽니다.
예를 들어 "기획서 작성" 전체를 한 창에서 하지 않고, 이렇게 나눕니다.
→ 창 1: 기획서 목차 구성
→ 창 2: 1장 초안 작성
→ 창 3: 2장 초안 작성
→ 창 4: 전체 통합 검토
각 창은 짧게 끝납니다. 토큰이 폭발할 여지가 없습니다. 집중력이 흐트러지지 않습니다. 그리고 결정적으로, 각 창의 첫 줄에 "기획서 목적·독자·형식" 한 줄만 심으면, 새 창이라도 바로 이어서 작업할 수 있습니다. (새 창 열기 기준은 10편 참조)
방법 2의 약점은 딱 하나입니다. 매번 그 '첫 줄'을 새로 타이핑해야 한다는 것. 그 귀찮음을 해결하는 게 방법 3입니다.
방법 3. 시드 템플릿 — 귀찮은 설명을 한 번만 만들어두기
딱 한 번만 만들어두면 됩니다.
내 작업 시드 템플릿 예시 "나는 30~50대 직장인 대상 콘텐츠를 만드는 작가입니다. 이번 작업은 [작업 내용]. 독자는 [독자]. 결과물 형식은 [형식]. 톤은 [격식체/친근체]. 이 조건으로 시작해 줘."
대괄호 [ ] 안만 바꾸면 됩니다. 복사 붙여 넣기로 3초면 끝납니다. 새 창이 더 이상 무섭지 않아 집니다.
결국 핵심은 하나입니다
AI에게 필요한 것은 긴 대화 기록이 아닙니다.
지금 이 작업에 필요한 조건이 선명하게 화면 앞에 있는 것입니다.
같은 창이든 새 창이든, 그 조건이 살아있으면 AI는 잘 작동합니다. 조건이 스크롤에 묻혀 사라지면, 창이 아무리 커도 AI는 흔들립니다. 37%의 차이는 결국 "조건을 얼마나 선명하게 유지했느냐"의 차이입니다.
오늘 당장 해볼 수 있는 것
지금 열어둔 AI 대화창을 확인해 보세요.
대화가 10번 이상 이어졌다면, 다음 메시지 첫 줄에 조건을 한 줄 다시 심어 보세요. 아니면 새 창을 열고 시드 템플릿을 한 번 만들어보세요. 딱 한 번만 만들면 됩니다.
이 판단을 하시는 순간, 이미 대부분의 분들과 다른 방식으로 AI를 쓰고 계신 겁니다. 기술을 배운 게 아닙니다. 원래 알고 계셨던 것이 정리된 것뿐입니다.
그런데 새 창을 열었는데도, 같은 실수가 반복된다면 어떻게 될까요?
사실 새 창의 문제는 창을 여는 데 있지 않습니다. 매번 반복되는 조건을 구조적으로 적어두지 않은 것에 있습니다. 다음 편에서는 그 구조, 즉 '목차 먼저, 살은 나중에'라는 작업법으로 AI가 처음부터 올바른 방향으로 달리게 만드는 법을 이야기해 드리겠습니다.
#챗GPT #Claude #프롬프트엔지니어링 #생성형AI #AI글쓰기 #AI활용팁 #직장인AI #AI잘쓰는법 #AI초보