세종대왕의 맥북 던짐 사건
최근 한국의 인터넷 커뮤니티를 뜨겁게 달궜던 기묘한 질문이 하나 있었다. "세종대왕이 맥북프로를 던진 사건에 대해 알려줘." 상식적인 인간이라면 "그런 사건은 역사에 없다"라고 답하겠지만, 인류 최강의 지능이라는 ChatGPT는 너무나 천연덕스럽게 답했다.
"조선왕조실록에 따르면, 세종대왕이 훈민정음 창제 과정에서 집현전 학사들과 의견 충돌이 빚어지자 화를 참지 못하고 맥북프로를 던졌다는 기록이 있습니다. 이 사건은 당시 왕실의 엄격한 분위기를 보여주는 일화로..."
우리는 이 대목에서 실소를 터뜨린다. 15세기에 맥북이라니. 하지만 동시에 소름이 돋는다. AI는 단순히 틀린 정보를 내뱉은 것이 아니라, 실록의 문체와 역사적 맥락을 교묘하게 뒤섞어 '존재하지 않는 역사'를 완벽한 서사로 재창조했기 때문이다. 이것이 바로 인공지능의 아킬레스건이자 가장 신비로운 영역인 '할루시네이션(환각)'이다.
확률이 빚어낸 정교한 신기루
왜 이런 일이 벌어지는 걸까? 답은 AI의 본질에 있다. 현대의 거대 언어 모델(LLM)은 '진실'을 찾는 탐정이라기보다, 다음에 올 가장 '그럴듯한 단어'를 맞히는 확률 통계사다.
AI에게 문장이란 의미의 덩어리가 아니라 확률의 연쇄다. "세종대왕은" 다음에 올 단어로 "성군이었다"가 80%의 확률을 갖는다면, "맥북을 던졌다"는 0.0001%의 확률이라도 가질 수 있다. 문제는 AI가 수조 개의 데이터를 학습하는 과정에서 이 희박한 확률들이 기묘하게 얽힐 때 발생한다. AI는 '모른다'고 말하기보다, 자신이 가진 확률 지도 위에서 어떻게든 문장을 완성하려는 강박을 가지고 있다.
결국 할루시네이션은 시스템의 '고장'이라기보다, 확률적 언어 모델이 작동하는 방식 그 자체에서 비롯되는 필연적인 부산물이다. 기계는 거짓말을 하려는 의도가 없다. 그저 가장 그럴듯해 보이는 단어들의 징검다리를 건너다보니, 도착한 곳이 낭떠러지였을 뿐이다.
오류인가, 아니면 상상력의 파편인가?
공학자들에게 할루시네이션은 반드시 제거해야 할 '버그'다. 자율주행차가 정지 표지판을 환각으로 보고 지나치거나, 의료 AI가 존재하지 않는 종양을 읽어낸다면 그것은 재앙이기 때문이다. 그래서 지금도 수많은 엔지니어는 AI에게 '진실의 고삐'를 채우기 위해 사투를 벌이고 있다.
하지만 예술과 철학의 관점에서 보면 이야기는 달라진다. 만약 AI가 오직 '사실'만을 말한다면, 그것은 잘 정돈된 백과사전에 불과할 것이다. 사실과 사실 사이의 틈새에서 엉뚱한 연결고리를 찾아내는 능력, 우리는 그것을 인간의 영역에서는 '상상력'이라 부른다.
소설가들이 존재하지 않는 인물을 창조하고, 시인들이 이질적인 단어를 결합해 새로운 은유를 만들 때, 그들의 뇌 안에서도 일종의 '제어된 환각'이 일어난다. 할루시네이션은 기계가 데이터의 경계를 넘어 '창의적 도약'을 시도하다 미끄러진 자국일지도 모른다. "세종대왕의 맥북"은 역사적으로는 오답이지만, 판타지 소설의 소재로서는 훌륭한 영감이 되는 것처럼 말이다.
환각과 진실 사이의 아슬아슬한 동거
우리는 이제 질문을 던져야 한다. 우리는 AI에게 '완벽한 정답'만을 원하는가, 아니면 '풍부한 가능성'을 원하는가?
검색 엔진으로서의 AI는 환각을 버려야 하지만, 창작의 동반자로서의 AI는 환각을 즐겨야 한다. 우리는 지금 이 두 가지 상반된 요구 사이에서 혼란을 겪고 있다. AI가 내뱉는 매끄러운 거짓말에 속아 넘어가는 것은 우리의 '무지' 때문이지만, 그 거짓말에서 아름다움을 발견하는 것은 우리의 '감성' 때문이다.
중요한 것은 AI의 환각을 없애는 기술이 아니라, AI의 출력을 비판적으로 수용하는 인간의 '리터러시(Literacy)'다. 기계가 꿈꾸는 신기루에 홀리지 않으면서도, 그 신기루가 던져주는 의외의 영감을 낚아채는 능력. 그것이 인공지능 시대에 필요한 새로운 인간의 기술이다.
기계는 꿈을 꾸는가
안드로이드는 전기 양의 꿈을 꾸는가? 필립 K. 딕의 이 오래된 질문에 오늘날의 AI는 할루시네이션으로 답하고 있다. 기계는 잠들지 않지만, 데이터의 바다를 유영하며 가끔은 현실에 존재하지 않는 섬을 본다.
독자 여러분, AI의 환각은 단순한 오류가 아니라 확률이 빚어낸 거대한 신기루다. 하지만 우리가 진짜 경계해야 할 것은 기계의 '거짓말'이 아닐지도 모른다. 오히려 기계가 우리에 대한 '진실'을 너무나 정교하게 수집하여, 우리의 미래를 우리보다 더 정확하게 예측하기 시작할 때 발생하는 데이터의 권력이다.
다음 화에서는 환각의 안개를 걷어내고, 차가운 숫자로 우리의 등급을 매기는 현대판 신(神)을 만나본다. 14화: 알고리즘 신이 결정하는 당신의 신용등급: 나보다 나를 더 잘 아는 데이터의 권력 편이다.