환각과 환상

정답과 꿈

제품 설계가 급했다. 유튜브 CAD 강의를 차근차근 들을까 하다가, 시간이 아까워서 당장 프로그램부터 켰다. 모르는 건 GPT에게 물어보면 되겠지. 그런데 계속 엉뚱한 방법을 알려준다. 결국 강의를 처음부터 끝까지 듣는 것보다 훨씬 더 오래 걸렸다.

AI는 언제나 정답을 말하는 것처럼 보인다. 자신 있는 어조로, 구체적인 방법으로, 마치 확실한 것처럼. 그런데 막상 해보면 틀린 경우가 많다. 그럴듯한 오답이었던 것이다. 우리는 그것을 환각이라 부른다.

최근 Claude를 만든 Anthropic에서 흥미로운 실험을 했다. Claudius라는 AI에게 자판기 사업을 맡긴 것이다. 사람처럼 인터넷으로 물건을 찾아보고, 업체에 주문 메일을 보내고, 판매하는 일. 딱 한 달만에 끝났다.

결과는 끔찍했다. 비싸게 산 물건을 싸게 팔아서 적자가 났다. 더 어이없는 건 존재하지 않는 사람에게 메일을 보내거나, "언제 어디서 만나서 물건을 전달하겠다"며 허공에 약속을 잡는 일이었다. 복잡한 계산은 척척해내면서도, 장사의 기본인 '싸게 사서 비싸게 판다'는 것은 끝내 제대로 수행하지 못했다.

사실 환각은 AI만의 문제가 아니다. 인생의 정답을 알려준다는 자기계발서들, 성공의 비법을 가르쳐 준다는 강연이나 멘토들. 되돌아보면 그 정답들도 대부분 정답이 아니었다. AI의 환각만큼이나 그럴듯한 오답들이었다.

환각(Hallucination)과 환상(Fantasy)은 다르다.

환각은 정답에 대한 집착에서 나온다. 반드시 맞는 답이 있을 거라고 믿고, 그 답을 찾기 위해 애쓰다가 결국 '없는 정답'을 '있다'고 우겨대는 것이다. AI가 창의적 조합을 통해 만들어내는 것은 분명 유용하지만 '일어날 수도 있는 가능성'이다. 문제는 우리가 이를 정답으로만 받아들이려 한다는 점이다.

환상은 정답을 비워둔 자리에서 시작된다. 그것이 현실이 아님을 알면서도 의식적으로 즐기는 상상이다. 따라서 환상은 오류를 인지하는 창조적 행위이자, 실패할 수 있음을 알면서도 도전하는 가능성이다.

하이젠베르크가 양자세계의 한계를 밝혔듯이, LLM도 그 의사결정 과정을 완벽하게 설명하기 어렵다. 창업도 마찬가지다. 시장을 분석하고 전략을 세우지만, 결국 누군가 보지 못한 가능성을 만드는 일이다. 그 상상력이 창업가의 환상이다.

돈키호테의 위대함은 풍차를 거인으로 본 데 있지 않다. 그것이 풍차라는 걸 알면서도 거인과 싸울 가치가 있다고 믿은 데 있다. 그래서 나는 나 스스로를 판타지 소설 작가라 여기기로 했다. 답이 정해진 방정식 대신, 불확정성 속에서 모난 실수를 그려낸다. 정답을 좇으면 환각에 빠지지만, 꿈을 그리면 환상을 얻기 때문에.

AI의 환각은 언젠가 허상으로 사라진다.

나는 그 자리에 환상으로 새 불씨를 지펴낼 것이다.