제가 컴퓨터 공학자도 아니고 이 분야를 정식으로 공부해 본 적도 없기 때문에 용어의 사용이 잘못 될수도 있습니다. 그래도 이런 말이 아니면 설명을 하기 너무 어렵기 때문에 일단 사용하기로 하겠습니다.
이번 포스트는 정말 어렵습니다. 전문가 조차 알아듣기 힘든 논리가 들어가며, 일반적인 AI 사용자는 이 내용에 대해 깊이 고민할 일도 없을 겁니다. 또한 제가 적어놓은 글을 처음부터 차근차근 읽고 오지 않으셨다면 거의 이해가 불가능 하실 겁니다. 왜냐하면 이 블로그를 통해 말한 모든 개념과 예시는 모두 [15. 할루시네이션과 연속성], 그리고 [30. AI 자율교정의 진짜의미]를 설명하기 위해 끌어들이고 비틀었다고 보셔도 무방합니다. 그만큼 중요하고 어려운 내용이라는 것을 미리 말씀드립니다.
'단일 윈도우에서 1턴' 이란 말에서 많이 쓰인 '윈도우'는 다른말로 '에이전트'라고 부릅니다.
디지털 트윈 세계 A, B 에 형사가 있다고 가정합니다. 이 형사는 다른 세계에 살고 있지만 같은 뇌구조를 가진 에이전트입니다.
A 세계에서 일어난 사건을 형사가 조사를 합니다. 그리고 범인을 지목했습니다.
이제 B 세계에 있는 형사를 초대해서 A 세계에 있는 형사가 제대로 조사를 했는지 지목한 범인이 진짜 범인이 맞는지 검사를 시킵니다. B 세계의 형사와 A 세계의 형사는 다른 세계에 살고 있는 같은 클론 형사 입니다.
이때 B 세계의 형사는 A 세계의 형사의 조사와 범인지목에 대한 내용을 제대로 검사할 수 있을까요?
B 세계의 형사는 이렇게 생각할 겁니다. [내가 조사하면 이렇게 했을텐데, A 세계 형사가 나와 같은 방식으로 조사했는지 살펴보자]. 그런데 B 세계의 형사는 A 세계의 형사와 정확하게 같은 뇌 구조를 가진 클론입니다. 같은 방식으로 조사를 할 수 밖에 없고, 다른 요인이 없다면 같은 결론이 나올 수 밖에 없습니다.
결국 서로다른 에이전트간의 검수와 교정이라는 것은 '외부요인' (인간이 만든 프롬프트)이 얼마나 논리적 정합성을 가지고, 촘촘하게 구성되어 있는가를 검사하는 것으로 회귀할 수 밖에 없습니다.
아마도 이 구조의 근본개념은 사람의 자기성찰(자기반성)이나 동료평가를 모방하지 않았을까 추측해 봅니다.
그런데 이건 AI 의 한계 때문에 성립하지 않습니다.
AI 는 [빽도]를 하지 못합니다. 한방향으로만 나아가기 때문에 생각(연산)을 원점으로 돌릴 수 있는 구조가 아닙니다.
동료평가는 더 말이 안됩니다. 여기서 동료란 다른 뇌구조와 다른 환경에서 살아온 완전히 다른 인격체의 사람을 말합니다. 검수 에이전트는 다른 환경에서 살아 왔을지는 모르나 같은 뇌구조를 가졌기 때문입니다.
AI 자율교정이란것이 어폐가 있는 더 근본적인 이유가 있습니다.
AI 에게는 절대적인 기준이 없습니다. AI 에게 절대적인 기준은 중간값(평균값)이고 이것은 변합니다. 그런데 AI에게 지금 절대적인 기준에 맞는지 (정답인지 오답인지)를 검사하라는 말입니다. 이상합니다.
지금 제가 설명드린 말을 수학적으로, 학문적으로 하면 이렇습니다. (첨부참조)
이 문서는 저의 개념을 AI에게 학습시킨 뒤 논문형식으로 만들도록 하여 생성한 것입니다. (물론 제가 일부 수정을 하였습니다) 당연히 검사도 했습니다. 자신들이 만들어 놓은 것이니 당연히 이상 없다고 했습니다. 이게 AI 자율 교정입니다. 사람이 짠 프롬프트가 논리적 정합성을 갖게 되면 그것을 통해 나온 결과물을 다른 AI 가 검수하게 해도 다 옳다고 판단하는 것. 이것이 AI 자율교정의 진짜 의미 입니다.
굳이 기계에게 검사를 시켜야 한다면 AI 가 아닌 컴퓨터에게 검사를 시키는 것이 합당합니다. 물론 프로그램을 사람이 아주 정교하게 직조한 후 AI 가 내놓은 결과값을 컴퓨터에게 계산을 시킨다는 말입니다.
그런데 이것 또한 효율이 떨어집니다. 그래서 이것을 해결할 방법은 제가 이미 [15. 할루시네이션과 연속성] 에서 언급한 방법을 적용하는 것입니다.
다른 포스트에서는 이 방법을 더 자세히 설명하고 예시를 보여드리도록 하겠습니다.