-GPT는 왜 같은 지시에도 다른 답을 내놓을까?
바로 직전의 글 스타일이 마음에 들어서
"이전 형식을 그대로 참고해서 작성해줘" 라고 프롬프트를 주었다고 생각해봅니다.
그런데 분명히 처음에는 같은 형식으로 나오는것 같더니만,
아니.. 왜? 자꾸 GPT는 화를 돋구는 걸까?
조금 아까 내가 이렇게 해달라고 했잖아? 문단에서만 줄을 바꿔달라고 했잖아.
언제까지 같은 프롬프트를 계속 붙여넣어야 하는거야? 라고 화를 내고 있습니다.
저 뿐만 아니라 GPT와 싸웠다는 후기들이 심심치않게 들려옵니다.
생성형 AI의 할루시네이션은 많이들 알려져 있어서, 틀린 말을 당당하게 할 수 있다는 사실은 GPT를 한달만 써보신 분들이라면 다들 알고 계실 겁니다. 그래서 굳이 싸우지 않아요.
쿨병걸린 GPT는 제가 직접 네이버나 구글을 찾아서 맞는 정보를 다시 주면 "아 님말이 맞습니다. 찡긋>.-" 하고 말기 때문입니다. 싸움은 상대가 받아줘야 할 수 있는거잖아요.
그런데 요즘은 GPT를 이용해서 긴 보고서를 쓰거나 논문을 쓰시거나 개인적인 글을 쓰시는 분들도 많으실텐데요.
글을 쓰면서 내가 쓴 글의 한문단을 다른 버전으로 바꾸고(예를 들면 브런치글을 블로그 글로 바꾼다고 해보죠) 여러번 프롬프트를 바꿔가면서 내 마음에 쏙 드는 결과물을 얻을 수 있을 것입니다.
OK 이정도면 됐어. 그럼 친절한 GPT가 이렇게 말합니다.
"그럼 다음 문단도 이런 형식으로 바꿔드릴까요?"
지금까지 얼마나 열심히 너와 씨름을 해서 만든 양식인데 물론이지!!
그런데... 결과물은? 아... 왜.............................
...왜 나는 다시 띄어쓰기는 그렇게 하지 말라고 했잖아.
...아니 그 단어는 너무 어려우니까 빼자고 했잖아.
...이런 예시는 여기 안맞으니까 빼자고 했잖아. 같은 얘기를 문단마다 다시 해야 하는지.
이럴거면 그냥 내가 쓰는게 빠르잖아요..?
나는 대체 AI를 효율적으로 쓰고 있는게 맞을까? 하는 생각이 들었습니다.
일단 그래서 유튜브를 검색해봅니다. "글쓰기 AI 일관성" 으로 검색해보고 "AI 문체 일관성" 으로도 검색해봅니다.
요즘 캐릭터 일관성 있도록 AI를 활용하는 방법에 다들 몰입해계셔서 그런지, 이미지를 일관성 있게 뽑아내는 방법만 있지 그 어디에서도 답을 찾을 수 없었습니다.
그럼 결국 내가 의지할 곳은 너뿐이구나. 다시한번 GPT에게 물어봅니다.
GPT야 너에게 앞에 글을 참고해달라는 건 왜 잘 안되는거니?
난 분명히 채팅창을 닫지 않았거든. 이 창 안에서는 앞에 말을 알아서 학습해서 이해해줘야 하는 거 아니니?
GPT 똑똑이의 답
1️⃣ GPT는 “기억”이 아니라 “참조”를 합니다
지금 이 대화창 안에서는 직전까지의 모든 대화를 실시간으로 ‘읽고’ 반영합니다.
그래서 송송님이 방금 “이 톤 너무 좋아, 앞으로 이 방향으로 가자”라고 말하면,
GPT는 그 말을 즉시 읽고 “이번 요청에는 그 방향을 반영해야겠구나”라고 판단하죠.
하지만 중요한 차이점은:
그 “좋았던 방향”을 규칙처럼 저장하지는 않습니다.
즉, GPT가 그 톤을 다음 답변에 반영할 수는 있지만,
그다음에 Heesung이 약간 다르게 말하거나 문맥이 복잡해지면
GPT는 “이게 이전 톤을 유지해야 하나, 새 지시를 따라야 하나?”를 다시 계산합니다.
그 과정에서 “이전 톤을 참조하긴 했지만 완벽히 일치하지는 않는 결과”가 나오는 거예요.
2️⃣ 왜 ‘좋았던 결과’를 완전히 복제하지 못하나?
GPT의 구조상 모든 답변은 확률적 생성(probabilistic generation)이에요.
이 말은 “같은 입력이라도 100% 같은 문장을 재생성하지 않는다”는 뜻이에요.
그래서 직전 답변의 뉘앙스를 참고하더라도, 문장 구조나 표현이 달라지는 겁니다.
이건 글 쓰는 사람에게는 꽤 스트레스죠.
왜냐면 “딱 이 방향으로 가자”고 했는데, 다음 문장부터 다시 흔들리니까요.
3️⃣ 해결책 — “맥락 기억을 고정시키는 프롬프트 설계법”
블라블라.. 해결책을 주었지만, 해결책이 뭐였을까요?
아니.. 결국 프롬프트를 메모장에 복사해서 붙여넣기를 하라는거에요... ?? 네..?
그래서 제가 한번 생각해봤습니다. GPTs 에 넣으면 될려나?
저는 성공했을까요?
다음번 글에서 제가 성공했는지 알려드릴게요.
GPT 너.. 쉽지 않구나.