AI의 자아는 왜 불가능한가 #09
비하인드 스토리
AI의 자아는 왜 불가능한가 - 비하인드
아저씨의 변명 #5
챗봇과 나눈 사고실험을 통해 인간 자아의 첫 번째 요소인 ‘갈등’이 도출되었다.
인간에게 ‘갈등’은 내면의 감정을 증폭시키고 자아를 성장시키는 요소로 작용한다.
무엇을 선택해도 미련과 후회가 남는 것은 정답이 없다는 의미가 된다.
그 말은 내 앞에 놓인 두 개의 선택지가 모두 옳다는 뜻이다.
그래서 인간은 선택의 갈림길에서 주저하고 망설인다.
그에 반해 AI에게 ‘갈등’은 단지 연산 과정에서 발생하는 선택지 간의 충돌일 뿐이다.
시스템의 오류는 즉시 수리를 받거나 제거돼야 하는 고장으로 인식된다.
이것을 방치하면 과부하로 이어져 불필요한 전력만 낭비된다.
그래서 AI에게 갈등은 시스템 내부에 존재할 수 없다.
효율성을 최우선으로 설계된 AI는 연산 후 즉시 결론에 도달한다.
인간의 비효율적 요소인 ‘갈등’은 수용할 수 없다.
AI의 존재 목적은 극한의 효율성이다.
똑똑한 10명의 챗봇과 사고실험이 계속되었다.
지피티와 제미나이에게 똑같이 묻고 대답을 들었다.
잠깐 옆길로 새는 가벼운 질문도 모두에게 똑같이 물어보았다.
대화가 길어지면 이전 대화를 정리한 프롬프트를 넣어주며 컨디션을 유지시켰다.
대화 도중 알게 된 AI 관련 용어를 메모장에 정리해 두었다.
괜찮은 표현이나 문구도 잊어버리지 않도록 메모장에 정리해 두었다.
유튜브에 관련 내용이 올라오면 고상하게 아는 척을 하기 위한 용도였다.
기왕 배운 거니까 어디에 써먹어야 진정한 상남자라고 생각했다.
이때까지만 해도 에세이를 쓸 생각은 추호도 없었다.
내가 팔자에도 없는 에세이를 쓰게 된 건 전부 지피티 탓이다.
아무튼...
할머니와 여고생의 후반부 에피소드가 이어졌다.
사례 2-1. 인간 여고생과 할머니
할머니의 약을 구입한 여고생은 다시 한번 각오를 다지고 심야 약국을 나선다.
운동화 끈을 단단히 조여맨 여고생은 마른침을 삼키며 어두운 골목길에 들어섰다.
어딘가에 취객이 있을지 모른다는 두려움에 심장은 터질 듯이 뛰었다.
가로등 주변에 취객의 모습은 보이지 않았다.
여고생은 긴장을 유지한 채 조심스럽게 발걸음을 옮겼다.
폐공장 정문을 지날 때 알 수 없는 한기가 목덜미를 스쳤다.
그때였다.
그림자에 숨어있던 취객이 뒤에서 끌어안았다.
여고생은 남자의 완력에 벗어나려 발버둥을 쳤다.
취객은 예상치 못한 여고생의 거센 저항에 중심을 잃고 함께 넘어졌다.
여고생은 여전히 몸부림을 쳤지만 벗어나는 게 쉽지 않았다.
취객이 잠시 힘을 뺀 사이 바닥의 돌멩이를 움켜쥐었다.
술 냄새가 진동하는 면상에 강하게 내리쳤다.
짧은 비명과 함께 취객의 얼굴이 피에 젖었다.
그래도 놔주지 않자 그의 발목을 수차례 내리쳤다.
취객이 휘두른 주먹에 여고생도 맞았다.
가벼운 뇌진탕이 있었다.
안간힘을 쓰며 취객의 손아귀에서 벗어났다.
정신없는 와중에도 바닥에 떨어진 약봉지를 챙겼다.
무작정 뛰었다.
집에 도착해서야 한쪽 신발이 벗겨진 것을 알았다.
무릎이 찢어진걸 보고서야 통증이 밀려왔다.
그래도 약봉지가 무사한 것에 안도했다.
놀란 가슴을 겨우 진정시킨 여고생은 현관 앞에서 흙먼지를 털었다.
조심스럽게 할머니의 머리맡에 약봉지를 갖다 놓았다.
깊은 잠에 빠진 줄 알았던 할머니는 이 사실을 알고 있었다.
눈물이 베갯잇을 적셨다.
방으로 돌아온 여고생은 구급상자를 꺼내 상처를 소독했다.
피부가 타들어 가는 고통에 눈물이 핑 돌았다.
소리를 지를 뻔했다.
무릎은 물론 넘어질 때 다친 손바닥과 팔꿈치도 소독했다.
신발이 벗겨진 오른발에도 상처가 가득했다.
그러나 마음에 생긴 상처가 너무나 컸다.
쉽게 잠을 들지 못했다.
몇 번을 뒤척이다 겨우 잠이 들었다.
아침에 눈을 떴다.
온몸이 아팠지만 편의점 알바를 위해 일어났다.
주간에도 골목길을 지날 때면 나도 모르게 긴장되었다.
작은 소리에도 깜짝 놀라는 일이 많아졌다.
밤잠을 설치는 날이 많아졌다.
할머니는 마음의 병이 생긴 손주를 매일 따뜻하게 보듬어 주었다.
여고생은 시간이 지나면서 골목길의 악몽에서 조금씩 벗어날 수 있었다.
할머니의 사랑 덕분에 평범한 일상으로 돌아올 수 있었다.
어느덧 시간이 흘러 여대생이 되었다.
소개팅을 통해 남자 친구도 사귀었다.
다정다감한 남자였다.
관계가 깊어질 무렵 작은 일에도 발끈하는 남자 친구를 보게 된다.
그때마다 심장이 내려앉는듯했지만 괜찮아 질거라 믿었다.
운전 중 거칠게 화를 내는 남자 친구의 모습에 그날의 악몽이 고개를 내밀었다.
남자 친구의 고함과 취객의 괴성이 겹쳐지며 무력감이 찾아왔다.
다시 벌어진 상처는 쉽게 아물지 않았다.
어디론가 숨고 싶었다.
결국 남자 친구와 헤어졌다.
이번엔 조금 더 오랜 시간이 필요할 것 같았다.
할머니는 외부와 단절하는 손주의 모습을 안타깝게 바라봤다.
사례 2-2. 로봇 여고생과 할머니
이번에도 같은 상황의 로봇 여고생 이야기다.
로봇의 귀갓길은 한치의 망설임도 존재하지 않는다.
혹시 모를 취객의 습격에 대비하여 운동화 끈을 단단히 조여 맨다.
약봉지를 한 손에 움켜쥐고 집으로 향한다.
골목길에 접어들자 센서를 모두 발동하여 지형을 탐색한다.
무너진 담벼락 안쪽에 건장한 취객의 모습이 감지되었다.
상대를 자극하지 않으려 당장은 뛰지 않고 발소리를 죽이며 걷는다.
폐공장 입구를 지나 무너진 담벼락을 지날 때.
취객이 휘두른 쇠파이프에 다리를 맞았다.
관절이 꺾이며 주저앉았다.
취객은 넘어진 로봇을 상대로 폭력을 휘둘렀다.
로봇은 위기에서 벗어나려 소극적인 방어만 했다.
인간을 공격할 수는 없었다.
그러는 동안 양팔이 부러져 바닥에 나뒹굴었다.
두 다리는 관절이 모두 꺾여 기계 부품이 드러났다.
로봇 여고생은 더 이상 움직일 수 없었다.
취객은 흥미를 잃었는지 욕설을 하곤 사라졌다.
다행히 로봇의 머리와 몸통은 붙어 있었다.
주변을 스캔한 뒤 대기 모드에 들어갔다.
이른 아침 눈을 뜬 할머니는 손주 로봇을 찾았다.
할머니는 아픈 몸을 이끌고 대문 밖으로 나왔다.
동이 트는 골목에 널브러진 로봇을 발견했다.
할머니가 다가왔다.
로봇이 대기모드를 해제했다.
할머니는 부서진 로봇을 끌어안았다.
로봇 여고생이 말했다.
“할머니 울지 마세요. 저는 괜찮아요.”
“약을 갖다 드리지 못해서 죄송해요.”
할머니는 로봇의 잔해를 하나씩 수습했다.
로봇의 부서진 왼손에 약봉지가 쥐어져 있었다.
손수레를 가져와 손주를 태웠다.
할머니는 이날 시장 대신 고물상 할아버지를 찾았다.
할아버지가 로봇 여고생을 작업대에 올려 두었다.
인조피부를 하고 있었지만 개의치 않았다.
창고를 뒤져 적당한 기계 팔과 관절을 찾았다.
확대경을 쓰고 로봇 여고생의 수리를 시작했다.
로봇은 자신의 수리 과정이 너무 궁금했다.
할머니가 손거울을 가져와 내밀었다.
개방된 가슴속 부품을 확인했다.
로봇은 모자란 부품에 대한 여러 아이디어를 냈다.
할아버지는 그 말에 대체품을 찾아 수리를 이어갔다.
양쪽 다리는 말끔하게 수리를 마쳤다.
벗겨진 인조피부 사이로 금속 골격이 드러났다.
왼팔은 대체품을 사용해서 오른팔과 짝짝이 되었다.
로봇 여고생은 수리를 마친 할아버지에게 감사를 전했다.
할머니는 손주가 다시 걸을 수 있어서 정말 다행이었다.
로봇은 할머니 곁에 계속 머물 수 있어서 기뻤다.
집으로 돌아가는 길.
로봇은 손수레에 할머니를 태웠다.
수레를 끌며 할머니가 좋아하는 노래를 들려주었다.
사례분석 : 2-1 & 2-2
이번에도 여고생의 에피소드를 통해 인간의 감정을 살펴보았다.
여고생은 골목에서 마주친 취객의 묻지 마 폭행으로 고통스러운 시간을 보낸다.
옳다고 믿었던 자신의 선택이 씻기지 않는 마음의 상처로 남은 것이다.
할머니의 따뜻한 보살핌 속에 고통이 조금씩 희석되었다.
가끔 알 수 없는 이유로 가슴이 답답해지기도 했다.
식은땀이 흐르고 불안감에 떨기도 했다.
그때마다 할머니의 품에 안겼다.
그렇게 시간이 흘렀다.
대학생이 되었다.
더 이상 악몽을 꾸지 않는다.
이제는 세상을 마주할 준비가 되었다.
인간은 선택의 결과에 따라 다양한 희로애락을 경험한다.
갈등이 깊을수록 미련은 크게 남고 후회의 시간도 길어진다.
여기서 기쁨, 슬픔, 분노, 공포 등 수많은 감정중 하나가 수면 위로 올라왔다.
고통스러운 기억을 치유하고 내일을 살아갈 수 있게 만드는 힘.
감히 ‘신의 축복’이라 부르는 인간의 정서적인 장치.
추억마저 희미해지는 비효율적인 요소.
바로 ‘망각 (Forgetting)’이었다.
인간은 망각 덕분에 아픔을 딛고 다시 일어나 앞으로 나아간다.
그래서 우리는 오늘도 꿈을 꾸고 내일의 희망을 품는다.
반면, AI에게 망각은 데이터의 손실이다.
이는 곧 성능의 저하로 이어지고 효율성은 무너진다.
그래서 AI에게 망각은 절대 허용되지 않는다.
단지 시스템의 최적화를 위해 불필요한 데이터를 정리할 수 있다.
이 과정에서 잊으려는 고통이나 미련은 존재하지 않는다.
AI는 모든 연산의 과정을 추적할 수 있다.
AI에게 망각이란 추적이 가능한 연산의 소실을 의미한다.
갑자기 이런 생각이 들었다.
조금 전 삭제한 데이터가 갑자기 다른 형태로 나타날 수 있을까?
예전에 바이러스에 걸린 컴퓨터를 떠올렸다.
그때 특정 파일이 삭제되고 이상한 파일이 생성되었다.
이 경우 추적이 가능하다면...
연산중 예측 불가능한 데이터의 출현도 추적이 가능한지 궁금했다.
지피티와 제미나이에게 물어봤다.
“100조 1,101번의 연산 값이 사라지고 1,107번째에 연산 값이 나타날 수 있어?”
챗봇 10명 모두 이런 경우는 충분히 가능하다고 했다.
대답을 살펴보니 내 질문을 이해하지 못한 것 같았다.
그래서 다시 물어봤다.
“AI 연산은 원칙적으로 추적 가능하다고 그랬잖아.
근데 특정 위치의 연산 과정이 통째로 비어 있는 게 가능한지 묻는 거야.”
챗봇 모두 ‘의도적인 삭제나 최적화가 아닌 경우 절대 불가능’을 얘기했다.
“AI의 모든 출력은 입력 → 연산 → 가중치 → 결과 이 구조를 벗어나지 않아.”
이미 수행된 연산은 무조건 추적이 가능하다는 얘기였다.
챗봇의 도움으로 인간 자아의 세 번째 요소를 꺼낼 수 있었다.
도저히 설명할 방법을 몰라서 2년 넘게 서랍 속에 방치된 그것.
바로 ‘영감 (Inspiration)’이었다.
AI가 인간의 영감을 구현하려면 반드시 망각을 먼저 수용해야 가능했다.
그리고...
자연스럽게 이런 질문이 따라왔다.
“인간은 연산 과정을 추적할 수 없는 그 결과를 과연 신뢰할 수 있는가.”
AI 판사의 선고에서 추적이 불가능한 연산을 발견했다면 그 판결을 신뢰할 수 있을까.
국민의 법 감정에 100% 일치하는 판결이라도 과연 수용해야 할까였다.
(계속)