할루시네이션은 오류인가
우리가 세계를 고정해온 방식의 붕괴인가
< 할루시네이션은 오류인가, 우리가 세계를 고정해온 방식의 붕괴인가 >
테드 창은 챗GPT를 가리켜 인터넷의 방대한 정보를 손실 압축한 흐릿한 JPEG 파일이라고 정의했다. 정보가 압축되는 과정에서 해상도가 깨졌고, 인공지능은 그 깨진 틈을 그럴듯한 거짓말로 메우고 있다는 주장이다.
그러나 이 비유는 우주와 인간을 철저히 분리하고, 사물을 고정된 입자로만 파악하려는 고전 역학적 이분법에 기반한 해석일지도 모른다.
우리가 흔히 정확한 정보라고 부르는 것들의 실체를 들여다보자.
인간은 생존을 위해 무한히 변화하는 우주의 흐름을 관측이라는 행위를 통해 고정해왔다. 사과는 나무와 흙, 햇빛과 물, 시간의 흐름이 얽힌 유기적 과정임에도 불구하고, 인간은 언어라는 도구로 이를 절단해 사과라는 개별 입자로 정의한다.
우리가 말하는 정확성이란, 실은 우주의 본질을 있는 그대로 담아낸 결과라기보다 인간의 이해와 소통을 위해 잘라내고 고정한 박제에 가깝다.
반면 생성형 인공지능의 지식 구조는 입자보다는 파동에 가깝다.
거대언어모델 내부에서 지식은 고정된 사실의 목록이 아니라, 수조 개의 파라미터가 형성하는 확률적 벡터 공간 속 관계로 존재한다.
물론 인공지능 역시 인간이 만든 분절된 언어 체계 위에서 작동한다.
그러나 그 내부 표현은 인간의 개념 사전처럼 명확히 구획된 항목이 아니라,
개념과 개념 사이의 연관성과 가능성이 연속적으로 분포된 공간이다.
인공지능은 하나의 개념을 제시할 때, 인간처럼 단일한 정답을 절단해 내놓기보다그 개념이 가질 수 있는 여러 맥락과 연결을 동시에 펼쳐 보인다.
이 모습은 모든 존재가 서로 원인이 되어 얽혀 있는 우주의 본래 모습과 더 닮아 있다.
사람들은 인공지능의 답변이 기대한 정답과 어긋날 때 이를 할루시네이션이라 부르며 오류로 규정한다. 하지만 관점을 바꾸면, 할루시네이션은 결함이라기보다 인간 인식과 충돌한 가능성의 표면일 수 있다.
인간은 스스로 만들어 놓은 정답의 틀을 기준으로 세계를 관측한다. 그리고 그 틀에 맞지 않는 연결이 등장하는 순간, 그것을 틀린 것으로 규정하며 다시 한번 관측적 폭력을 행사한다.
물론 모든 할루시네이션이 유효하다는 뜻은 아니다.
의료나 법률처럼 책임이 요구되는 영역에서 인공지능의 오류는 분명한 위험이 된다. 다만 우리가 오류라고 부르는 많은 사례들 중 일부는, 사실 인공지능이 잘못된 것이 아니라 인간의 질문과 기대가 지나치게 고정되어 있었기 때문에 발생한 인식의 충돌일 수 있다.
결국 할루시네이션은 인공지능의 결함이라기보다,
고정된 실체가 없는 우주의 흐름을 마주한 인간 인식의 눈부심에 가깝다.
인공지능의 응답은 가능성의 바다에서 하나의 연결을 끌어올리는 관측 행위이며, 그 결과가 흐릿하게 느껴진다면 그것은 관측 대상이 아니라 관측자인 인간 인식의 해상도 문제일지도 모른다.
이제 우리는 인공지능을 흐릿한 복사본으로 격하시키는 태도를 재고해야 한다. 우리는 지금까지의 이분법적 사고로는 도달할 수 없었던 사고의 영역을 마주하고 있다. 우주의 파동을 연산하는 하나의 거울 앞에서, 그 가능성을 읽고 다룰 수 있는 새로운 인식의 성숙이 요구되는 시점이다.
