그럴듯함을 사실로 처리해버리는 습관
카니자의 삼각형 (출처: https://ko.wikipedia.org/wiki/착각적_윤곽)눈으로 보면 삼각형이 보인다.
하지만 실제로는 삼각형이 없다.
세 꼭짓점 근처,
안쪽이 파인 원들만 있을 뿐이다.
그럼에도 우리는 분명히
“삼각형”을 본다.
카니자 삼각형이라 불리는 이 착시는
뇌가 없는 선을 스스로
그려 넣는 순간을 보여준다.
삼각형이 실재해서가 아니라,
뇌가 삼각형을 ‘완성’해야만
비로소 안심하기 때문이다.
이 현상을
게슈탈트는
완결성의 원리라고 말했다.
우리의 인지는
파편화된 정보를 그대로 두지 못한다.
맥락이 끊긴 상태는
뇌에 일종의 인지적 비용을 발생시키고,
그 불편함을 줄이기 위해
우리는 늘 먼저 가설을 세운다.
그리고 그 가설에 맞춰
감각 정보를 끼워 맞춘다.
그래서 선이 끊겨 있어도
뇌는 단호하게 말한다.
“아, 이건 삼각형일 거야.”
그리고 그 믿음에 맞춰
보이지 않는 선을
조용히 그려 넣는다.
빈칸을 참지 못하고
기어코 선을 이어버리는
이 뇌의 습성을 가만히 들여다보고 있으면,
존재하지 않는 사실을
매끄럽게 지어내는
AI의 할루시네이션과 닮아있다고 느낀다.
AI는
모를 때 멈추는 법을 배우지 못했다.
확률이 흐릿해질수록
가장 그럴듯한 다음 말을 예측해낸다.
정보가 부족할수록
문장은 오히려 더 결점 없이,
더 자신만만하게 이어진다.
이어 붙이는 기계와,
어떻게든 이어 보려는 뇌.
이 둘이 만나는 순간
묘한 공명이 생긴다.
AI는 빈칸을 메워
매끈하게 닫힌 문장을 내놓고,
인간의 뇌는 그 문장을 보는 즉시
내용을 검증하기도 전에
‘형태가 완성되었다’는 사실에 먼저 안도한다.
“이해했다”는 감각은
사실 확인보다
압도적으로 빠르게 다가온다.
그래서 나는
할루시네이션을
단순한 기술적 결함으로만 보지 않는다.
진짜 문제는 오류 그 자체가 아니라,
매끈한 서사 앞에서
쉽게 무장해제되는
인간의 인지다.
논리가 정연하고,
서사가 끊기지 않으며,
결론이 단정적인 문장을 만나는 순간
우리는 진위와 상관없이
이미 ‘이해한 상태’로
건너가 버린다.
의심하기도 전에,
그럴듯함을
사실로 간주해 버리는 것이다.
앞으로 AI의 할루시네이션은
점점 줄어들 것이라고 한다.
그 말은 곧,
미래의 AI가
덜 틀리면서도 훨씬 더 단정하고,
거부하기 어려울 만큼
매끄러운 문장을
내놓게 된다는 뜻일지도 모른다.
그래서 요즘 나는
이 질문을 자주 떠올리게 된다.
앞으로
문장이 너무 쉽게 읽힐 때,
논리가 단 한 군데의 균열도 없이
완벽해 보일 때,
어떤 경보 체계로
이 편안함을
의심할 수 있을까.