아마도 이번 포스트가 가장 처음 [AI란 무엇인가]와 함께 가장 중요한 포스트가 될 것입니다.
개념이 많이 어렵습니다. 그래도 이 포스트는 건너뛰시면 안됩니다.
제가 이전 포스트에서 언급했던 이상한 개념들, 사이비 과학같은 기존개념 비틀기는 모두 이 문제를 해결하기 위해 끌어들인 장치들 입니다.
할루시네이션과 연속성은 서로 상충합니다. 상호충돌 한다는 말입니다.
할루시네이션을 잡으려면, 한 위도우에서 한턴으로 작업을 끝내는 동시에 프롬프트 전역에 걸쳐 논리의 정합성이 유지되야 합니다. (프롬프트에는 인풋데이터도 포함됩니다)
그런데 이렇게 하면 앞의 맥락을 참조하지 못한 새로운 AI는 연속성을 잃어 버리고 딴 소리를 하게 됩니다. 그래서 이 연속성을 유지하려면 한 윈도우에서 연속적으로 작업을 해야 합니다.
두 문제는 상호충돌 합니다.
(제가 생각할 수 있는 범위내에서) 이 문제를 해결할 수 있는 유일한 방법은 워크플로우 및 프롬프트 설계단계에서 최종출력물을 예측하고 논리적 적합성이 어긋나지 않도록 구조를 만들어야 한다는 것입니다.
즉 A 를 넣으면 B 가 나올 것이다, 라는 것을 설계단계에서 미리 예측할 수 있어야 한다는 것입니다.
좀 더 정확하게 말하면 A 를 넣으면 B 가 99%, 97%의 편차내에서 100%, 50% 의 수율로 나올것인가를 여측하여야 합니다.
그런데 또 중요한 문제가 있습니다. AI의 병렬연산은 블랙박스 상태라는 것입니다. 넣어 보고 결과물이 나와야 예측한 대로 나왔는지 확인이 가능합니다. 문제는 이렇게 확인하더라도 결과물이 예측치에서 벗어 나면 정확하게 어디가 잘못되서 예측치에서 벗어났는지 알수가 없다는 것입니다.
(많이 어렵죠? 방법이 없습니다. 어려워도 이해 하셔야 합니다. 정 이해가 안되시면 일단 그냥 넘어가세요. 나중에 하나하나 다시 설명을 하도록 하겠습니다)
이것을 예측할 유일한 방법은 AI에게 물어 보는 것입니다. AI는 AI를 가장 잘 이해하고 있기 때문에 AI에게 [이 길을 따라가면 설정한 범위내에 도달하는지, 그 확률이 얼마나 되는지]를 물어봐야 합니다. 또한 워크플로우와 프롬프트를 설계할 때도 AI에게 물어보고 확인 과정을 하나하나 거쳐야 합니다.
여기서 또 다른 문제가 발생을 합니다. 도대체 어떻게 AI에게 물어 보느냐 입니다. 이 물어 보는 방법을 컴퓨터공학자가 제대로 알 수 있을 확률은 거의 0에 가깝습니다.
왜 그런지는 다음에 설명하겠습니다.