나는 챗GPT의 할루시네이션을 존중한다
AI에게서도 배워야 하는 이유
인공지능(AI)의 성능이 급속도로 발전하고 있다. 정확하게 말하면, 생성형 AI 모델의 대표 격인 대규모언어모델(LLM)들이다. 최근에 챗GPT 5.1과 제미나이3를 사용하면서 놀라움과 무력감, 그리고 강력한 위기감을 느꼈다. LLM을 즐겨 쓰지 않았다면 결코 경험할 수 없는 이야기다.
"설마? 써봤자 얼마나 쓰겠어?"라고 반문하거나 여전히 받아들이지 못하는 이들도 있을 것이다. 대다수의 인간은 기술의 발전에 둔감하다. 하지만 파도가 바위를 깎아내듯 끝없이 들이치는 문명은 결국 우리의 삶을 송두리째 바꿔놓는다. 컴퓨터가 그랬고 또 스마트폰이 그랬듯 말이다. 요즘 지하철에서 사람들을 바라보고 있으면, 하나같이 스마트폰에 몰두하고 있다. 불과 10년 전 우리가 그 시간에 뭘 했는지 떠올려보면 많은 생각이 든다.
(이건 말하고 싶지 않은 사실이지만... 내가 하고 있는 '기자'라는 직업은 10년 내 그 형태가 완전히 바뀌거나 사라질지도 모른다)
문돌이로써 기술의 발전을 쉽게 받아들이지 못하는 데는 '정서적 반감'이 크다고 본다. 나는 그 이유를 '특별하고 싶은 인간의 욕구' 때문이라고 생각한다. 특히 AI라는 기술은 인간의 뇌를 모방해서 만든 기술로 우리의 존재에 큰 영향을 미칠 수 있다. 전문가들이 말하는 '고위험 AI'는 인간의 삶 전반에 큰 영향을 미칠 수 있다. 살제로 그 영향력은 점점 확대되고 있다. AI는 엄청나게 빠른 산업 발전으로 새로운 일자리와 콘텐츠를 만들어 낼 가능성이 크다. 반면 인간의 어두운 욕망이 투영된 AI를 지구를 파괴하는 무서운 살상 AI 로봇으로 변모할 수도 있다. 물론 이미 인간이 지구를 파괴하고 있다는 점은 모순이지만 말이다.
결국, AI는 인간이 어떻게 사용하느냐에 달려있다. 그래서 자꾸 사용해봐야 한다. 우리가 평소에 당연하게 해 온 모든 일들을 말이다. 그리고 계속 질문해야 한다. 전문가들은 AI가 더 발전할수록 답을 찾는 것보다 "질문하는 능력이 더 중요해진다"라고 강조한다. 아무리 생각해도 그렇다. 어떤 질문을 얼마나 새롭게 하느냐에 따라 그의 대답도 달라질 테니까.
하지만 이 모델은 단순히 AI에게만 적용할 일은 아니다. 인간에게도 마찬가지로 적용된다. 질문하고 답을 찾고 또 그 과정에서 새로운 경험을 하고 새로운 가치를 찾는다. 인간도 이 과정에서 성장한다. 아쉬운 점은, 한국인들은 질문에 인색하다는 점이다. 하지만 오히려 그런 이유 때문에 챗GPT가 더 많은 인기를 누리고 있다. 눈치 보고 분위기 챙기느라 현실 세계에서는 쉽게 꺼낼 수 없는 질문들, 바보 같은 질문도 AI는 친절히 받아주지 않는가.
그러니 때론 바보 같은 질문을 하고, 또 답을 하는 연습을 우리는 계속해 나가야 한다. 얼마나 답을 잘 맞히는지, 똑똑한지는 그다음의 문제다. 쓸모의 가치를 넘어 존재의 가치를 논할 수 있을 때 인간은 비로소 스스로의 가치를 찾아낼 수 있다.
그런 면에서, 최근 AI의 발전과 함께 쟁점으로 떠오른 말이 있다. 바로 '할루시네이션(환각)'이다. AI가 착각을 해서 정확하지 않은 대답을 하는 경우를 말한다. 하지만 이 또한 모순이다. 인간의 지능을 모방하고, 인간이 만든 데이터를 학습해 만든 AI인데 왜 완벽해야 하는가? 그럼 우리의 뇌는 할루시네이션이 없는가? 우리는 우리가 하는 말에 일체의 오답이 없다고 장담할 수 있는가?
할루시네이션이 있기에 인간이다. 우리의 지능은 감정과도 연결돼 있다. 그래서 때론 착각하고, 왜곡하고, 반대로 말하며, 심지어는 거짓말까지 한다. 그러니 AI의 할루시네이션도 존중해 줄 필요가 있다. 오류는 학습을 통해 더 정교하게 잡아가면 될 일이다. 혹시 아는가? 할루시네이션이 엄청난 예술 작품을 만드는 상상력의 원천이 될지. 오차가 없는 것이 늘 해답은 아니다.
"인공지능(AI)도 마찬가지다. 우리 수준과 입맛에 맞는 결과물만 고집해선 안 된다. 이해 못 할 답변에서 아이디어를 얻을 수 있다. '위고비'는 혈당 조절을 위한 당뇨치료제로 개발됐지만 식욕억제, 체중감소를 놓치지 않았기에 비만치료제로 거듭났다. AI에게 당뇨치료제를 만들라고 콕 찍어 주문했다면 비만치료제가 나올 수 있을까. 화가 프랜시스 베이컨은 사람을 있는 모습 그대로 그리지 않았다. 사람을 해체해 뼈, 근육이 튀어나온 해괴한 그림을 그렸다. 인간의 폭력성과 불안감을 표현했다는 평가를 받았다. AI가 인간의 주문에 따라 그렸다면 그런 작품이 나올 수 있을까. 그런데 AI가 내놓아야 할 결과물은 그런 것이어야 하지 않을까. 쉽게 예상하거나 그럴듯한 답변을 듣기 위해 AI를 만든다면 얼마나 낭비인가. 뜻밖의 생각과 행동을 AI에서 찾아야 한다. 실험적인 질문과 기상천외한 답변, AI환각에 답이 있다." - '[이상직 변호사의 생성과 소멸] 〈6〉나는 AI환각을 옹호한다' 中에서, 이상직 법무법인 태평양 변호사
-글로 나아가는 이
