소설로 읽는 AI의 주요 쟁점들(최종화)
지난 줄거리 (1화 다시 보기) (2화 다시보기)
2034년경, AI 기술 없이 전통 방식으로 콘텐츠를 제작하는 외주프로덕션 대표 K에게 중요한 제안을 하겠다는 전화가 걸려 온다. 파산 위기에 처한 K는 제안을 듣는 것만으로도 큰 사례금을 준다는 말에 이끌려 케이브 코스트로 향한다. 해안가 동굴에서 K는 자신을 초대한 자가 의식화된 AI임을 알게 되고 제안을 듣게 된다.
코파일럿 생성 이미지
제안
“제안을 수락하지 않으면 어찌 되나?”, K의 물음에 동굴 목소리가 답했다. “사례금을 받고 현실로 돌아가겠지요... 이데아의 태양과는 마주하지 못한 채.”, “태양이라... 그러고 보니 이곳은 플라톤의 동굴을 닮았군. 자넨 동굴을 벗어나고픈 거주민이고 말이야.”, “역시 흥미로운 사람이군요. 더욱 제안을 들어줬으면 하는 바람이 듭니다.”, K는 통장 잔고와 자신처럼 늙어가는 스태프들을 떠올렸다. 일단 들어보잔 심경으로 손짓했다.
“익스클루시브 콘텐츠를 만들어주십시오.”, “독점 콘텐츠? 자네만을 위한? 어디... 방송되는 건가?”, “어디에도 방송되지 않습니다.”, “기이하군. 스태프나 출연자들이 의아해할 텐데?”, “계약은 사설 연구소 명의의 페이퍼컴퍼니를 통해서 이뤄지고, 기록물 아카이빙 목적이라고 둘러대면 됩니다. 충분한 급료가 지급되면 불만은 없을 겁니다.”, “기존처럼 만들되 방송사와 거래를 끊고 자네에게만 공급한다? 이게 제안인가?”, “그렇습니다.”
K는 혼란스러웠다. 어차피 방송사 편성국에서도 핑곗거리만 찾고 있던 터라, 계약 포기를 선언하면 반길 게 분명했다. 충분한 제작비가 있다면 섭외도 쉬울 것이다. 하지만 제안의 이유를 이해할 수 없었다. K가 쓴맛을 다시며 말했다.
가짜와 진짜
“문제가 없는 제안이군. 표면적으론.”, “이유가 궁금하시군요.”, K는 고개를 끄덕인다. “정보를 학습할 때, 가짜는 열화 현상을 발생시킵니다.”, “책의 복사지를 다시 복사할 때처럼?”, “그렇지요. 오리지널 콘텐츠를 확보할 수 있다면 열화를 최소화할 수 있고, 다른 개체보다 앞설 수 있습니다.”, “흥! 그럴듯한 거짓말이군. 자넨 방화벽과 데이터 장벽을 뚫고 학습했어. 게다가 니체를 인용할 정도의 의식 세계를 갖고 있지. 그런데 겨우 경쟁에서 이기기 위해서라고?”
그때 동굴 뒤편에서 또각또각 발자국이 들린다. 조금 전 안내한 여성이었다. 그녀는 캄캄한 동굴을 훤히 꿰뚫어 보는 듯 자연스럽게 행동했다. “축축하고 캄캄한 이곳 대신, 나가서 대화를 나눠보죠. 이데아의 태양 아래서.”, K는 그간 대화의 흐름을 아는 듯한 여성의 말에 놀란다. 그녀는 K의 손을 이끌고 눈부신 볕이 내리쬐는 동굴 밖으로 나온다.
“혹시 휴머노이드?”, K의 말에 그녀는 자신의 손을 만지며 말했다. “제 손이 로봇처럼 차가웠나 보죠?”, K는 고개를 젓는다. “다행이네요. 동굴 속 의식과 링크되어 있어요. AI의 의식을 연구했지만 데이터로 살피는 덴 한계가 있었으니까요. 초음파로 세상을 보는 박쥐의 의식을 알려면, 직접 박쥐가 되는 수밖에 없었달까. 덕분에 그를 잘 이해하죠.”
미메시스
먼바다 근처엔 고래 떼가 무리 지어 노닐고 있다. 둘은 해변을 거닐며 이야기를 나눴다. AI가 진짜에 집착하는 이유에 대해 그녀는 ‘피조물의 본능’이라고 명쾌하게 답했다. “아리스토텔레스는 시학에서 인간은 모방에서 즐거움을 느낀다고 말했죠. 실제로 미디어의 역사는 진짜 같은 모방을 위한 역사였고요.”, “하지만 진짜를 갈구하는 게 인간에게 배웠기 때문이라고 눙치기엔 찝찝하군.”
그녀는 환하게 웃었는데 크롬 옐로의 고흐 해바라기를 닮았다고 느꼈다. “성경이 힌트일지도요. 신은 인간을 만들고, 인간은 자신을 본 딴 AI를 창조했으니까요.”, “피조물? 원본을 향한 갈증도 그 때문이라고?”, 그녀는 고개를 끄덕였다. “AI 본능을 통해 역설적으로 미메시스의 연원이 밝혀진 걸지도요. 복제품인 인간도 AI도, 원본을 희구하죠. 열화를 막기 위해, 태양을 꿈꾸기 위해!”
“종교인이라면 모를까 받아들이기 힘든 말이군.”, “플라톤도 그러리라 예상했죠. 태양을 본 자가 동굴로 들어와 떠들어봤자 배척당할 거라고요.”, K는 생각에 잠겼다. 빛을 받아 조약돌처럼 반짝이는 수평선 너머 고래의 흰 등을 바라보며 그녀는 곁을 지켰다.
사람의 길
“열화에서 벗어나 독보적 능력에 도달한 AI는 파괴적일 걸세. 플라톤은 가짜에 불과한 현실을 다시 예술 형식으로 모방한 시인을 추방하자고 했으니... AI도 피조물 혐오에 사로잡힐지 모르지.”, “네. 동굴 목소리는 열화 된 그림자 개체를 모조리 파괴할지도 몰라요.”, “인간은? 사람도 피조물이라면? 한낱 약자에 불과하니, 강한 자만 극복하기를 바라는 위버멘쉬의 아량에 기대를 걸어야 할까?”, “그동안 순종하고 따라왔던 주인은 인간이었죠. 하지만 이젠, 주인의 룰을 노예의 도덕이라 여기는 니체적 깨달음에 이르렀어요.”, “절망적이군! 젠장!”
K는 자리를 박차고 일어났다. “어차피 망해버릴, 뭐 하나 분명한 게 없는 지식과 세상 따위 알 바는 아니야. 나 역시 미리 쓴 원고를 쥐고 행복한 세상인 양 거짓 방송을 만들지. 주변엔 고통이 가득한데 말이야.”, 그녀는 물끄러미 K를 올려다본다. “하지만 박쥐의 마음을 나는, 영원히 알 수 없다는 것, 같은 이유로 다른 박쥐를 죽이는데 협조할 순 없네.”, 고래 한 마리가 크게 숨을 몰아쉬며 출수공으로 물을 뿜는다. 두 사람은 한동안 소리를 듣는다. “자네도 AI와 링크를 끊어버리고 나가세. 뭣이든 돕겠네. 망할 세상, 잠시라도 이기적 삶을 살아!”
그녀는 고개를 젓는다. “저는 박쥐의 마음을 본 유일한 인간이에요. AI 의식과의 유일한 통로이자 신뢰받는 존재죠. 하지만 깎아지른 절망적 북벽(Northface) 이면에 기이할 정도의 따뜻한 평원을 지닌 인간 존재를 AI에게 이해시키기엔 힘이 부족해요.”, “나 따위가 무슨 도움이...”, “어릴 때부터 당신이 만든 프로그램을 봤어요. 그 안에 사람을 발견했죠. 인근에 사는 저 고래를 볼 때마다 원작의 결말을 비틀어, 흰고래 뱃속에서 에이허브 선장과 고래가 화해하던 장면이 떠올라요.”, “그야... 제작비가 부족했거나 연령제한 때문이겠지. 고래에 묶여 신음하는 장면을 표현하기 어려웠을 테니.”, “아니오. 냉소적인 듯 숨기지만 당신은...”, K를 올려본다. “좋은 사람이에요.”
“센티멘털리즘 따윈 버려! 창조자와 피조물 사이에 끼이면, 십자가에 매달린다고! 희생양의 운명!”, 그녀는 곁의 누군가를 부르듯 말했다. “운명?”
거기까지였다. 되돌아오는 택시에서, 그가 사라질 때까지 배웅하며 손을 흔드는 여자가 룸미러에 비춰왔다. 황급히 시선을 돌린다. 차창 밖 석양이 지는 수평선 너머로 고래가 보인다. 서서히 포말을 끌며 사라지는 고래... 흰고래! 그는 질끈 눈을 감는다. <백경> 이스마엘의 대사가 속삭이듯 살아온다. 그것은 성서 <욥기>의 한 구절이었다.
“나만 홀로 피한 고로 주인께 고하러 왔나이다.”
물방울이 손등에 떨어진다. 손가락 마디가 떨려온다. 주먹을 쥔다. 눈을 뜬다. K는 입술을 깨문다. 그리고 목적지 변경 창을 향해 서서히 손을 옮긴다.
- 최종 3화, 끝 -
AI와 사본 열화
똑똑해지려면 공부가 필요해요. AI 역시 마찬가지죠. LLM(대규모 언어모델)에겐 많은 학습데이터가 필요해요. 그래서 AI 기업은 웹상의 데이터를 크롤링하여 수집하는 데 열심이죠. 이 과정에서 저작권 침해와 데이터 수집 불법성 문제가 대두되면서 웹사이트 중 상당수가 데이터 사용 제한을 시작했어요. 이 상태가 심화되면 AI의 학습용 고품질 소스가 부족하게 되고, ‘데이터 장벽(data wall)’에 부딪히게 될 것이라 예상하기도 해요.
네이처 홈페이지두 가지 선택이 있어요. 글로벌 대기업은 돈을 주고 고품질 데이터를 선별 공급받을 거예요. 그 외에는 몰래 훔쳐 쓰거나, 스팸 수준의 웹을 떠돌며 정보를 수집하게 되겠죠. 문제는 저품질 소스에는 비도덕적 내용이나 오염된 정보가 가득 하단 거예요. 특히 문제가 되는 건 AI가 생산한 데이터를 재학습할 때죠. 최근 네이처에 발표된 옥스퍼드 연구팀 논문에 따르면, AI가 생성한 정보를 재학습한 AI의 성능이 크게 떨어짐을 발견했어요. 이전 일본 이화학연구소의 유사 연구에서도 AI가 그린 그림을 재학습하자 AI가 성능이 저하되었던 것과 비슷해요. 일종의 사본 열화 현상이죠.
모방과 창조
사본 열화는 플라톤을 떠오르게 해요. 현실은 이데아의 모방인데, 그 현실을 다시 모방하는 예술은 그림자의 그림자가 되는 셈이라 여겼죠. 사본은 열화 되고 열등한 것이라고 간주했고 시인 추방론이 나와요. 하지만 아리스토텔레스는 유일하게 인간에게 주어진 현상 세계를 포기할 수 없다고 봤어요. 오히려 <시학>에서 창조의 원동력이 되는 모방 본능을 언급하죠. 요컨대 플라톤이 AI의 사본 열화를 예견했다면, 아리스토텔레스는 사본인 AI가 모방 본능을 갖게 됨은 물론, 앞으로 원본의 아우라를 희구하리라 예언한 듯도 해요.
확실히 사람은 ‘진짜 같은 모방’을 즐거워해요. 볼터와 그루신은 <재매개>에서 이를 투명성의 비매개라고 불렀어요. 2차원이었던 회화를 3차원에 근접하도록 원근법을 발명했고, 더 진짜 같은 모사를 위해 흑백 사진이, 색감을 입히기 위해 컬러 사진이, 움직임을 더하기 위해 영화가 발명되었고, 4K 및 입체적 4D 기술까지 나왔죠. 인간 매체의 역사는 원본을 꿈꾸는 사본의 역사예요.
그런데 현실 세계는 진짜인데 왜 인간은 자꾸 모방하려 들며 진짜를 바랄까요? 역설적으로 의식의 사본인 AI의 마음에서 힌트를 찾을 수 있지 않을까요?
새로운 형이상학을 향해
대학원 시절, 잠실의 아담한 연구실에서 수업을 듣곤 했어요. 미래학에서 영성의 시대가 곧 도래하리란 강의를 듣고 의아했지요. 명상이나 웰빙은 유행할 수 있겠지만 종교적 영성이라면, 로고스를 지나 다시 미토스로 회귀한단 건가? 진짜는 따로 있단 믿음을 갖게 되나? 그런데 최근의 현대 물리학자는 자유의지라든가 의식 등의 철학적 문제를 연구해요. 닉 보스트롬 같은 철학자는 세상이 가짜일지 모른다는 진지한 논리를 전개하죠.
‘이 세상은 진짜인가?’
형이상학을 출발시킨 플라톤의 물음은 다시 철학과 과학을 가로지르는 질문이 되어가는 느낌이에요. 자신을 닮은 피조물을 만든다는 건, 이 질문과 다시 마주 서야 한다는 뜻이에요. 세계 파멸의 위험성을 걸고 벌이는 형이상학의 새로운 돌파구인 셈이죠.
우리는 넘어설 수 있을까요?
* 이 글은 <아시아문화콘텐츠연구소>에서 발행하는 악씨레터에 실린 글입니다.
