챗GPT, 제미나이 같은 범용 LLM 화면에 보면 [새채팅] 버튼이 있습니다. 이것을 윈도우라고 합니다.
윈도우의 의미는 쉽게 말해서 복제인간(복제두뇌) 이라고 생각하면 쉽고, 새 창을 생성한다는 의미는 새로운 복제두뇌의 연산을 시작한다는 의미로 보면 됩니다.
윈도우를 카테고리 분류 용도로 쓰시는 분들이 많습니다. 채팅 이름을 [여행], [숙제], [검색] 등 특정 주제로 바꿔놓고 이곳에서 같은 카테고리의 질문을 하고 답면을 해서 나중에 필요할 경우 다시 찾을 수 있도록 분류하는 사용자가 많은 걸로 알고 있습니다.
결론부터 말씀 드리겠습니다. 이렇게 하시면 안됩니다.
이전 포스팅에서도 언급했듯이, AI 는 논리적 정합성이 어긋나는 지점이 많으면 할루시네이션에 빠질 확률이 증가합니다. 텍스트가 길어지면 이 논리적 정합성이 어긋나는 지점이 당연히 증가하게 되는 것입니다. 새로 생성된 클론 두뇌는 처음에는 순정상태 입니다. 아무런 정보도 없는 상태 입니다. 이때가 바로 어떤 논리적 정합성도 어긋나지 않은 상태인 것입니다. 첫 프롬프트를 넣고 AI가 연산을 시작하고 답변을 뱉어 내면서(생성하면서) 기억이 시작되며 이 기억들 중에는 당연하게도 정도의 차이가 있을 뿐 논리적 정합성이 어긋난 부분이 발생하기 시작합니다.
할루시네이션은 AI의 기억력 한계에서 오는 것이 아닙니다 (물론 이런 경우도 있습니다. 단 우리가 경험하는 대부분의 할루시네이션은 기억력 한계의 문제가 아닙니다). 할루시네이션은 논리적 정합성이 어긋남의 누적에서 발생합니다. 쉽게 말해 [말이 길어지면 문제가 생길 확률이 커집니다].
기본적인 원칙은 하나의 윈도우에서 한턴(한번의 대화)로 작업을 끝내는 것입니다. 특히 생성, 분석 같은 무거운 작업은 거의 무조건적으로 하나의 윈도우에서 한턴으로 작업하는 것이 사소한 할루시네이션도 발생시키지 않는 최선의 방법입니다.
단, 브레인스토밍의 경우는 다릅니다. 브레인스토밍의 경우에는 내가 생각했던 것, 내가 말했던 것, AI가 답변했던 내용들이 쌓여가면서 새로운 아이디어를 얻거나 내 생각의 논리를 검증해 가는 과정입니다. 따라서 새로운 창을 연다는 것은 처음부터 생각을 다시 시작해야 한다는 말이 되므로, 이건 브레인스토밍의 취지에 맞지 않습니다. 따라서 이럴 경우는 한번의 브레인스토밍이 끝날 때 까지 윈도우를 종료하지 않는 것이 더 좋습니다.