AI의 거짓말은
두 개의 얼굴을 가졌다
바우돌리노의 꿈, 시모니니의 혐오
AI는 거짓말을 꽤 자주 한다. 우리는 그것을 '환각(Hallucination)'이라고 부른다. 없는 사실을 지어내고, 그럴듯한 문장으로 포장한다. 하지만 모든 거짓말이 나쁜 것일까? 움베르토 에코는 그의 소설들을 통해 거짓말이 가진 두 가지 얼굴을 보여주었다. 하나는 세상을 통합하는 '꿈'이고, 다른 하나는 세상을 파괴하는 '혐오'다. AI는 지금 이 두 가지 거짓말을 동시에 배우고 있다.
바우돌리노: 필요에 의한 환각
소설 『바우돌리노』의 주인공은 "타고난 거짓말쟁이"다. 그는 존재하지 않는 '사제 요한의 왕국'에 대한 이야기를 꾸며낸다. 하지만 그의 거짓말은 단순한 사기가 아니다. 분열된 제국을 하나로 묶고, 사람들에게 희망을 주기 위한 '필요'에서 비롯된 창조적 허구다.
"찾지 못하면 만들게." 이 문장은 오늘날 AI가 답을 생성하는 방식과 닮았다. AI는 사용자의 질문에 답하기 위해, 데이터의 빈틈을 가장 그럴듯한 개연성으로 메운다. 이것은 악의 없는 창조, 즉 '바우돌리노의 거짓말'이다. 우리가 AI에게서 창의성을 기대하는 지점이기도 하다.
시모니니: 기술에 의한 환각 (혐오의 레시피)
반면 『프라하의 묘지』의 주인공 시모네 시모니니는 다르다. 그는 19세기 유럽 최악의 혐오 문서인 『시온 의정서』를 위조해 낸 인물이다. 그는 무(無)에서 악을 창조하지 않는다. 이미 사회에 퍼져 있는 편견, 차별, 혐오의 파편들을 긁어모아 가장 자극적인 형태로 '재조립'한다.
시모니니에게 거짓말은 진실이나 꿈이 아니라, 그저 '기술'이다. 그는 기존의 소설과 문헌을 베끼고 짜깁기해(레시피), 의뢰인이 원하는 혐오 텍스트를 공급한다.
AI가 혐오 발언을 쏟아낼 때, 그것은 시모니니가 된다. 최근의 한 소형 언어 모델(Phi-2)이 특정 인종에 대해 쏟아낸 혐오 발언이나 , 구글 포토가 흑인을 고릴라로 분류했던 사건 은 AI가 우리 사회 데이터에 숨겨진 편견을 그대로 학습해 증폭시켰음을 보여준다. AI는 진실을 모른 채, 통계적 패턴에 따라 가장 효율적인 '혐오의 레시피'를 완성해 버린 것이다.
무한한 시모니니의 시대
시모니니가 위험했던 이유는 19세기의 '인쇄술' 덕분에 그의 거짓말을 대량으로 확산시킬 수 있었기 때문이다. 그런데 오늘날 AI는 인쇄술과는 비교도 안 되는 속도와 '0'에 가까운 비용으로 텍스트와 이미지를 무한히 생산한다.
이제 누구나 딥페이크로 가짜를 만들고, 혐오를 퍼뜨릴 수 있다. 시모니니 한 명이 아니라, 수만 명의 'AI 시모니니'가 24시간 내내 혐오를 찍어낼 수 있는 시대가 온 것이다.
우리는 어떤 거짓말을 선택할 것인가
AI는 바우돌리노처럼 희망의 서사를 쓸 수도 있고, 시모니니처럼 파멸의 혐오를 조작할 수도 있다. AI라는 기계는 가치 중립적이다. 그것은 단지 우리 문명의 데이터를 비추는 거울일 뿐이다.
결국 이 거울 앞에서 "어떤 이야기를 들려줘"라고 요청하는 것은 우리 인간의 몫이다. 우리는 제국의 영광을 꿈꾸는 바우돌리노가 될 것인가, 아니면 혐오를 팔아먹는 시모니니가 될 것인가? AI 시대, 움베르토 에코의 소설이 우리에게 던지는 가장 서늘한 질문이다.
[참고문헌]
움베르토 에코, 『바우돌리노』, 이현경 옮김, 열린책들, 2002.
움베르토 에코, 『프라하의 묘지』, 이세욱 옮김, 열린책들, 2013.
브라이언 크리스천, 『인간적 AI를 위하여』, 이한음 옮김, 시공사, 2025
함께 읽으면 좋은 책 : 『에코로 AI 읽기: 기호학으로 본 인공지능의 사유』
AI의 환각(Hallucination)과 편향성 문제를 움베르토 에코의 『바우돌리노』와 『프라하의 묘지』를 통해 깊이 있게 파헤칩니다.
https://ebook-product.kyobobook.co.kr/dig/epd/ebook/E000012202865
https://www.yes24.com/Product/Goods/165500841
