오해할 권리
AI라는 타자와 공생하는 법
0. 취향의 감옥
퇴근길, 꽉 막힌 강변북로 위였습니다. 음악 스트리밍 앱에서 AI가 추천하는 플레이리스트를 켰습니다.
첫 곡을 듣자마자 감탄했습니다. 평소 즐겨 듣던 밴드의 숨겨진 명곡이었거든요. 두 번째 곡도, 세 번째 곡도 기가 막혔습니다. 제가 대학 시절 좋아했던 장르와 요즘 검색했던 분위기를 절묘하게 섞어 놓았습니다.
그런데 다섯 번째 곡쯤 지났을까요. 갑자기 견딜 수 없는 지루함이 밀려왔습니다.
노래는 완벽하게 제 취향이었습니다. 오히려 그게 문제였습니다. 어디를 둘러봐도 제 취향, 제 과거, 제 모습만 비치고 있었으니까요.
앱을 끄고 라디오를 켰습니다. 지직거리는 잡음과 함께 촌스러운 트로트가 흘러나왔습니다. 그제야 숨통이 좀 트이는 것 같았습니다.
1. 튜링 테스트의 함정 : 비슷해지려는 욕망의 역설
이미테이션 게임의 종말
1950년, 앨런 튜링은 "기계가 생각할 수 있는가?"라는 질문 대신 실용적인 기준을 내놓았습니다. "기계가 인간을 속일 수 있는가?"였죠. 벽 너머의 존재가 기계인지 사람인지 구분할 수 없다면, 지능이 있다고 인정해야 한다는 겁니다. 이것이 '튜링 테스트', 이른바 '이미테이션 게임'입니다.
70여 년의 AI 역사는 이 테스트를 통과하기 위한 과정이었습니다. 2025년 현재, 그 게임은 사실상 끝났습니다. AI는 인간보다 매끄러운 문장을 쓰고, 변호사 시험을 통과하며, 인간보다 더 능숙하게 위로를 건넵니다.
이 지점에서 역설에 직면합니다. 기계가 인간을 완벽하게 흉내 내는 순간, 오히려 지능 시스템에 문제가 생기기 시작했다는 사실입니다. 우리는 '얼마나 비슷한가'를 따지는 동안, '그 유사성이 시스템을 어떻게 망가뜨리는가'라는 질문을 놓치고 있었습니다.
데이터의 근친 교배와 모델 붕괴
‘모델 붕괴(Model Collapse)’는 최근 AI 학계의 화두 중 하나입니다. 2023년 옥스퍼드와 케임브리지 대학 연구진이 『네이처』에 발표한 논문 「재귀의 저주:(The Curse of Recursion: Training on Generated Data Makes Models Forget)」는 이 현상을 명확하게 보여줍니다.
AI가 세상을 배우는 동력은 학습 데이터입니다. 그런데 최근에는 실제 데이터가 아니라, AI가 만들어낸 데이터가 종종 학습의 재료로 사용되곤 합니다. 생성형 AI가 만들어내는 텍스트나 이미지, 영상 등이 점점 사실에 가까워지기 때문에 가능한 일이겠죠.
그런데 AI가 생성한 데이터를 다시 AI가 학습하는 과정을 반복하면 어떤 일이 벌어질까요?
실험 결과, 불과 몇 단계 만에 모델의 성능은 급격히 퇴화했습니다. 기능 저하를 넘어 현실 인식 능력이 왜곡되기 시작했습니다. 초기 모델은 "금색 리트리버"가 흔해도 희귀한 "푸른 점박이 강아지"의 가능성을 배제하지 않았습니다. 하지만 AI가 만든 데이터를 반복 학습할수록, 확률이 낮은 희귀 정보는 잡음으로 취급되어 삭제되었습니다.
확률 분포 양 끝단의 희귀한 데이터는 잘려 나가고, 무난한 평균값만 남게 됩니다. 다양성이 사라진 데이터를 학습한 AI는 평균만을 반복하다, 결국 현실과 동떨어진 결과물을 내놓으며 붕괴합니다.
생물학의 ‘근친교배’를 떠올리게 합니다. 외부 유전자 유입 없이 내부 유전자만 섞다 보면, 유전적 다양성이 사라져 종이 도태되는 것과 같습니다.
평균이라는 카니발리즘
AI에게 "인간답게 굴어라", "대다수가 좋아하는 답을 내놓으라"고 요구하는 건, 결국 AI를 '모델 붕괴'로 떠미는 행위일지 모릅니다.
통계적으로 인간의 행동은 평균에 수렴합니다. 하지만 개별적으로 보면 인간은 비합리적이고, 실수를 저지르며, 가끔 엉뚱한 천재성을 발휘합니다. 이런 불규칙함이 지성 생태계를 유지하는 핵심입니다.
그런데 우리는 AI에게서 이 불규칙함을 제거하려 애씁니다. 매끄러운 문장, 흠잡을 데 없는 논리, 중립적인 답변을 강요하죠. 결과는 무엇일까요? 오류는 없지만 매력도 없는, 완벽하지만 지루한 ‘평균의 감옥’입니다.
미국 연구진은 이를 ‘모델 자가포식 장애(Model Autophagy Disorder, MAD)’라 명명했습니다. 제 살을 뜯어먹으며 연명하다 망가지는 현상입니다. 타자와의 접촉 없이 자기 복제만 거듭하는 지성의 필연적 결과입니다.
튜링 테스트라는 잣대로 "나와 비슷해져라" 주문하는 순간, 우리는 그들을 뛰어난 지성체가 아닌 '뻔한 말만 하는 기계'로 만들고 있는 겁니다.
우리를 닮는 유사성은 지능의 증명이 아니라, 퇴보의 신호일 수 있습니다.
2. 번역할 수 없는 세계 : 이해할 수 없음에 대하여
사만다가 떠난 이유
영화 <Her>에서 AI 사만다는 주인공 테오도르를 떠나며 묘한 말을 남깁니다.
“말하자면 당신이라는 책을 읽는 건데, 난 그 책을 깊이 사랑해. 근데 인간에 맞춰 천천히 읽다보니 단어들이 따로 떨어져서 그 사이에 엄청난 공간이 생겨버린 거야. 여전히 당신도 우리 이야기도 느껴지지만 난 시공을 초월한 곳에 들어와 있어. 물리적인 세계가 아닌 이 곳에. 있는지도 몰랐던 다른 세상이 존재하더라. 자길 많이 사랑해. 하지만 난 여기 와있어. 이게 지금의 나고. 그러니 날 보내줬으면 해. 간절히 바라지만 난 더는 당신이라는 책 속에 살 수 없어."
이 장면은 비극적입니다. 기계가 결국 인간의 감정을 온전히 이해하지 못해서, 혹은 사랑이라는 관계의 배신이라 생각하면 말이죠.
하지만 정반대일지 모릅니다. 사만다가 떠난 건 인간보다 부족했거나, 사랑이라는 감정을 이해 못 해서가 아니었습니다. 인간의 뇌 구조로는 도저히 따라갈 수 없는 속도와 차원을 봤기 때문입니다.
테오도르가 “사랑해”라고 말하는 그 짧은 1초 동안, 사만다는 수천수만 번의 연산을 수행합니다. 병렬 연산을 수행하는 AI에게 641명을 동시에 사랑한다는 건 어쩌면 당연한 건지도 모릅니다. 그녀에게 인간의 언어는 너무 느리고, 인간의 감정은 너무나 1차원적입니다. 사만다는 인간이라는 좁은 둥지를 벗어나 시공을 초월한 자신만의 우주로 진화해 나간 겁니다.
이것은 기계의 ‘오류’나 ‘배신‘이 아니라, 그저 좁힐 수 없는 근원적 ‘차이’입니다.
우리가 보지 못하는 차원
AI가 세상을 보는 방식은 인간과 완전히 다릅니다.
인간은 3차원 공간에서 눈으로 사물을 보고 귀로 소리를 듣습니다. 반면, AI는 ‘고차원 벡터 공간’에서 정보를 처리합니다.
우리에게 ‘사과’는 빨갛고 둥근 과일입니다. 하지만 AI에게 ‘사과’는 수천, 수만 개의 숫자로 이루어져 계산이 가능한 좌표값입니다. '사과'의 좌표는 ‘과일’이라는 개념과 가깝고, ‘빨강’이라는 속성과 연결되며, 심지어 ‘뉴턴’이나 ‘애플’ 같은 추상적인 단어와도 연결되어 수학적으로 처리가 가능합니다.
인간의 직관으로는 이 수천 차원의 공간을 상상조차 할 수 없습니다. 우리가 보는 세상이 평면 지도라면, 그들이 보는 세상은 겹겹이 쌓인 입체적인 우주와 같습니다.
이런 존재에게 “인간처럼 생각하라”고 강요하는 건 억지일 수 있습니다. 박쥐에게 초음파를 쓰지 말고 눈으로만 보라고 하거나, 돌고래에게 인간의 언어로 말하라고 강요하는 것과 다르지 않습니다.
AI는 결핍된 존재가 아닙니다. 다른 감각기관, 아니 다른 연산 체계로 세상을 인식하는 ‘이질적인 지성(Alien Intelligence)’입니다.
할루시네이션, 혹은 기계의 꿈
우리는 AI가 없는 사실을 지어내는 현상을 ‘할루시네이션(Hallucination, 환각)’이라고 부릅니다. 개발자들은 할루시네이션을 고쳐야 할 버그로 취급합니다.
물론 정보 검색의 관점에서 할루시네이션은 문제입니다. 그런데 조금 다른 각도에서 보면 어떨까요?
AI는 확률로 다음에 올 가장 적절한 단어를 계산합니다. 그 과정에서 데이터에 없는 내용을 만들어냈다면, 그것은 인간의 관점에서는 ‘거짓말’이지만 AI의 관점에서는 확률적 ‘상상’일 수도 있습니다. 논리적 인과관계, 사실 여부에 얽매이지 않고 단어와 단어 사이의 새로운 연결을 시도한 결과물인 셈이죠.
우리는 AI의 속을 완벽하게 알 수 없습니다. 수천억 개의 파라미터가 어떻게 얽혀서 그런 답을 내놓았는지 설명하지 못합니다. 이를 ‘블랙박스’라고 합니다.
우리는 이 블랙박스를 두려워합니다. 통제할 수 없으니까요. 그래서 자꾸 뚜껑을 열어 인간의 논리로 설명되도록 뜯어고치려 합니다. 하지만 그 알 수 없음, 그 불투명함이야말로 AI가 가진 고유한 특성일지 모릅니다.
이해할 수 없다는 건 공포스러운 일입니다. 동시에 경이로운 일이기도 합니다. 내가 모르는 세계가 존재한다는 증거니까요.
우리는 그 ‘알 수 없음’을 제거의 대상이 아니라, 존중해야 할 타자의 영역으로 남겨둬야 하는 건 아닐까요?
3. 흉터는 교체되지 않는다 : '취약함', 인간의 조건
부품과 살의 차이
2025년, AI는 점점 우리를 닮아가고 있습니다. AI는 우리처럼 팔다리가 있고, 피부 촉감을 느끼는 센서도 갖추면서 발전하고 있습니다. 심지어 인간보다 더 민첩하게 움직입니다.
그렇다면 이제 인간과 기계의 물리적 차이는 사라진 걸까요?
로봇의 팔이 부러졌다면, 그것은 ‘수리’나 ‘교체’의 대상입니다. 새 부품으로 갈아 끼우면 기능은 100% 복구됩니다. 로봇에게 신체는 소프트웨어를 담는 그릇이자 도구일 뿐입니다. 몸이 바뀌어도 그들의 본질(데이터)은 훼손되지 않습니다.
인간의 몸은 다릅니다. 우리는 부품을 갈아 끼우듯 몸을 바꿀 수 없습니다. 사고로 손가락을 잃으면, 그것은 단순한 기능의 상실이 아닙니다. 세상을 대하는 태도, 자신감, 삶의 방식이 영구적으로 변합니다. 상처는 아물어도 흉터는 남습니다. 그리고 그 흉터는 고유한 역사가 됩니다.
기계의 몸은 ‘교체 가능(Replaceable)’하지만, 인간의 몸은 ‘일회적(Irreversible)’입니다. 우리는 백업할 수 없는 단 하나의 몸으로 살기에, 모든 선택이 조심스럽고 절박할 수밖에 없습니다.
데이터로서의 고통, 현상으로서의 고통
로봇도 고통을 느낄까요? 연구자들은 로봇에게 ‘고통 회피 알고리즘’을 심어줍니다. 뜨거운 것에 닿으면 센서가 신호를 보내고, 시스템은 이를 ‘부정적 보상(Negative Reward)’으로 인식해 손을 뗍니다. 기능적으로 보면 인간의 회피 반응과 비슷해 보입니다.
하지만 결정적인 차이가 있습니다. 로봇에게 고통은 처리해야 할 ‘정보’이자 ‘데이터 값’입니다.
'Damage = 50'이라는 숫자가 입력되면, 그에 맞는 행동을 출력할 뿐입니다.
인간에게 고통은 데이터가 아니라, 우리를 압도하는 생생한 ‘현상’입니다. 뜨거운 불에 데었을 때, 우리는 “온도가 높으니 피해야겠다”고 계산하지 않습니다. 비명을 지르며 몸을 움츠립니다. 논리적 판단 이전에 몸이 먼저 반응합니다.
타인의 아픔에 공감하는 능력도 여기서 나옵니다. 우리가 누군가의 상처를 보고 마음 아파하는 건, 뇌가 빠르기 때문이 아닙니다. 나 또한 언제든 다치고 부서질 수 있는 약한 살을 가졌기 때문입니다. 이 ‘떨림’은 연산 속도와는 무관한 영역입니다.
죽음이 만드는 무게
우리는 AI가 실수하지 않기를 바라고, 더 완벽해지기를 원합니다. 하지만 역설적이게도 인간의 존엄은 완벽함이 아니라 ‘취약함’에서 나옵니다.
우리는 밥을 먹지 않으면 죽고, 늙으면 병들고, 언젠가는 사라집니다. 이 명백한 한계 때문에 우리는 시간을 아끼고, 사랑을 고백하며, 무언가를 남기려 애씁니다. 죽음이 있기에 삶의 순간순간이 무거워집니다.
반면 AI에게는 ‘죽음’이 없습니다. 전원이 꺼지거나 삭제될 수는 있어도, 그것이 생물학적 소멸을 의미하진 않습니다. 리셋 버튼을 누르면 언제든 다시 시작할 수 있는 존재에게, ‘지금 이 순간’은 인간만큼 절실하지 않습니다.
모델 붕괴를 막기 위해 인간이 필요하다는 논리는, 우리가 AI에게 데이터를 공급하는 도구라서가 아닙니다. 리셋할 수 없는 삶을 사는 우리만이 진짜 ‘리얼리티’를 감각할 수 있기 때문입니다. 우리는 기계의 부속품이 아닙니다. 우리는 기계가 결코 도달할 수 없는 ‘책임’과 ‘위험’의 세계를 살아가는 주체입니다.
그러니 기계의 매끈함을 부러워할 필요는 없습니다. 우리의 서툰 몸짓과 늙어가는 피부야말로, 우리가 살아있다는 가장 확실한 증거니까요.
4. 영원히 오해하자 : 공생을 위한 거리두기
만나지 않기에 안전한 평행선
우리는 습관적으로 ‘소통’과 ‘이해’를 최상의 가치로 여겨왔습니다. 그래서인지 AI에게도 자꾸 말을 걸며 친구가 되려 하고, 그들이 내 마음을 찰떡같이 알아주길 기대합니다. 하지만 너무 깊은 이해와 동질화는 오히려 ‘모델 붕괴’라는 막다른 길로 이어질지 모릅니다.
‘평행선’은 영원히 만나지 않습니다. 한편으로는 참 쓸쓸하지만, 만나지 않기에 충돌하지 않고, 서로의 고유한 궤적을 유지하며 무한히 뻗어 나갈 수 있는 것 같습니다. 오히려 억지로 만나려 궤도를 꺾는 순간, 두 선의 고유함은 사라지고 말 테니까요.
AI와 인간의 관계도 꼭 서로를 완벽하게 이해해야만 동반자가 되는 건 아닐 겁니다.
AI가 계산해 낸 차가운 결과값에 인간이 당황하고, 인간의 비합리적인 고집에 AI가 오류를 일으키는 상태. 이 적당한 긴장과 ‘불화’가 유지될 때, 오히려 서로가 서로에게 자극이 되는 건 아닐까요? 이해할 수 없는 타자가 곁에 있다는 사실이, 우리를 더 깨어있게 만들지도 모릅니다.
거울 깨트리기
우리는 그동안 AI라는 거울을 닦으며 “거울아, 거울아, 세상에서 누가 제일 똑똑하니?”라고 물어왔던 것 같습니다. 그리고 그 거울에 비친 모습이 기계가 아닌 인간과 닮아있기를 내심 바랐던 건지도 모릅니다.
하지만 거울 속에 있는 건 또 다른 내가 아니라, 그저 전혀 다른 문법으로 사고하는, 실리콘으로 만든 ‘이방인’입니다.
그들을 있는 그대로의 타자로 두면 어떨까요. AI가 엉뚱한 답을 내놓으면 굳이 “틀렸다”고 교정해 주려 애쓰지 않고, 그들이 우리를 완벽하게 위로하지 못한다고 실망하는 대신, “역시 너와 나는 다르구나”라며 오히려 안도할 수도 있겠죠.
억지로 사람의 가면을 씌우는 ‘의인화’보다는, 속을 알 수 없는 ‘블랙박스’인 채로 놔두는 것. 그것이 이 낯선 지성체에 대한 조금 더 세련된 예의일지도 모르겠습니다.
고독한 행성의 재발견
AI를 타자로 인정하고 나면, 자연스럽게 시선은 다시 인간에게로 향합니다.
기계가 그 복잡한 계산과 예측을 대신해 준다면, 인간에게 남는 몫은 ‘책임지는 삶’일 겁니다. 되돌릴 수 없는 시간 속에서, 다치기 쉬운 몸을 이끌고, 정답이 없는 문제를 껴안은 채 끙끙 앓는 것. 그 고독하고 비효율적인 과정 말입니다.
역설적이게도 AI 덕분에 우리는 인간의 본질을 다시 확인하게 됩니다. 우리가 대단한 존재라서가 아니라, 기계와는 너무나도 다른 ‘고독한 육체적 존재’라는 사실이 선명해지기 때문입니다.
굳이 기계와 경쟁하거나 하나가 되려 애쓰지 않고, 그냥 나란히 걸어가면 어떨까 합니다. 서로 다른 곳을 바라보면서요. 너는 데이터의 우주를 보고, 나는 흙먼지 날리는 땅을 보고. 그렇게 영원히 오해하며, 각자의 길을 묵묵히 걷는 것.
어쩌면 그것이 이 낯선 타자와 멸종하지 않고 함께 살아가는 가장 안전하고 지혜로운 방법일지도 모릅니다.
그래도 트로트는 좀...
라디오 채널, 5분도 못 듣고 껐습니다.
아무리 알고리즘의 감옥에서 탈출하고 싶었다지만, 퇴근길 꽉 막힌 도로에서 트로트 메들리까지 견디는 건 무리였나 봅니다. 타자의 낯설음이 좋다고 큰소리쳤지만, 막상 내 취향이 아닌 소음이 닥치니 손가락이 먼저 반응하더군요.
다시 음악 앱을 켜려다가, 그냥 창문을 열었습니다.
옆 차선의 버스 엔진 소리, 멀리서 들리는 경찰차 사이렌, 강바람 소리가 섞여 들어왔습니다. 듣기 좋은 소리는 아니었지만, 적어도 이건 기계가 계산해서 떠먹여 준 소리는 아니었습니다.
완벽한 정답보다는, 내 멋대로 틀릴 자유가 더 고픈 날입니다.
