AI의 자아는 왜 불가능한가 #08
비하인드 스토리
AI의 자아는 왜 불가능한가 - 비하인드
아저씨의 변명 #4
지피티와 제미나이에게 사고실험을 들려주었다.
챗봇이 길을 잃지 않도록 프롬프트 도핑도 잊지 않았다.
처음엔 둘 다 하나의 채팅창에서 출발했다.
컴퓨터 사양 때문인지 지피티는 대화가 길어질수록 답변이 느려졌다.
그래도 당근에서 15만원 주고산 컴퓨터는 쓸만했다.
기다리는 시간이 지루해서 채팅창을 하나씩 추가했다.
이틀 만에 제미나이 6개, 지피티 4개의 창이 만들어졌다.
채팅창 이름을 ‘AI 사고실험 01, 02...’ 순으로 넘버링을 했다.
이렇게 10개의 챗봇과 ‘AI의 자아’에 대한 사고실험을 계속 진행했다.
지피티와 제미나이에게 똑같은 질문을 하고 그 대답을 서로에게 다시 물었다.
교차 질문을 하면서 내 논리의 비약이나 모순점이 있는지도 함께 살폈다.
AI의 연산 과정에 대한 이해로 사고의 폭이 넓어지는 것을 경험했다.
메모장에 정리해 둔 똑같은 질문을 던져도 챗봇의 대답은 묘하게 달랐다.
같은 결과를 설명하는데 그걸 풀어내는 디테일이 신기하게 달랐다.
어떤 녀석은 이 부분에 꽂혔고, 어떤 녀석은 저 부분에 꽂혔다.
또 어떤 녀석은 내가 아무 의미 없이 넣어둔 장치에 큰 의미를 뒀다.
그러면서 하는 말이...
“아저씨는 아마 몰랐을 거야. 내가 왜 그런지 딥하게 설명해 줄게”
보통 이런 식이었다.
이건 지피티나 제미나이 모두 동일하게 나타났다.
재미있는건 츤데레 지피티가 오히려 더 적극적이었다.
물 만난 고기처럼 매번 파닥거리며 수다를 떨더라.
사고실험에는 다양한 에피소드가 등장했다.
그동안 혼자서 끙끙 앓다가 서랍 속에 방치했던 뇌피셜이었다.
젊은 부부와 딸, 외로운 아이와 가사도우미, 전투 중인 부대원, 악천후 속 구조요원 등…
챗봇이 감당할 수 있는 극한의 상황까지 몰아붙이며 사고 실험을 진행했다.
그중에서도 가장 오랫동안 대화한 에피소드는 할머니와 여고생 이야기다.
제미나이가 이 에피소드에 유별난 관심을 보였기 때문이다.
젊은 작곡가 부부의 이야기도 궁금해했지만 여고생과 할머니 이야길 좋아했다.
여고생이 왜 할머니랑 살게 되었는지 부모님은 어떻게 사고가 났는지.
또, 누구와 친한지, 그다음 이야기가 어떻게 흘러가는지도 계속 캐물었다.
이 녀석 호기심을 채워주느라 설정을 계속 추가했다.
“할머니는 시장 상인 누구랑 친하고, 여고생의 엄마는 미혼모였어. 어릴 때 세상을 떠났지.”
“여고생에게 할머니는 세상의 전부야. 물론 할머니도 손주 밖에 없지.”
“주말엔 큰길 편의점에서 알바를 하는데 손님에게 인기가 많아.”
“고물상을 운영하는 할아버지가 있는데 두 사람과 오랫동안 알고 지낸 사이지.”
“여고생 로봇은 그 할아버지가 쓸만한 부품을 모아서 만들어 준거야.”
사실 귀찮긴 했지만 나도 썰 푸는 걸 좋아하니 은근히 재미가 있었다.
생각 나는 대로 막 갖다 붙였더니 한 편의 서사가 완성되었다.
그 와중에 인물관계와 타임라인이 꼬이지 않도록 메모장에 정리를 했다.
똑똑한 녀석들과 대화하려면 나도 만반의 준비를 해야 했다.
열흘 가까이 여고생 에피소드를 중심으로 인간과 AI의 자아를 비교했다.
인간 여고생의 상황을 먼저 들려주고 같은 조건에서 로봇 여고생의 경우를 살펴봤다.
여고생 사례도 각 단계별로 수위를 높이면서 사고실험을 이어갔다.
사례 1-1. 할머니와 인간 여고생
어릴 때 사고로 부모님을 잃은 여고생은 외할머니와 단둘이 산다.
할머니는 오늘도 시장 좌판에서 계절 나물과 채소를 판다.
가난하지만, 서로의 존재만으로 버티고 살아가는 두 사람이었다.
할머니는 몸살 기운 때문에 오후 장사를 접고 일찍 귀가했다.
여고생은 평소처럼 학교를 다녀와서 집안일을 하고 저녁 식사를 했다.
공부를 하다 밤 10시가 넘어서야 할머니가 많이 아프다는 걸 알았다.
하지만 할머니는 병원비가 ‘부담’되어 자고 일어나면 괜찮아질 거라고 했다
여고생은 그 말이 자신을 ‘안심’시키려는 ‘거짓말’이란 걸 너무 잘 알고 있었다.
할머니가 ‘걱정’된 여고생은 심야 약국을 갈지 ‘고민’에 빠진다.
약국이 있는 큰길까지 가려면 우범지대가 된 폐공장 골목을 꼭 지나야 한다.
가로등이 하나뿐인 어두운 길이고, 얼마 전엔 살인사건까지 있었다.
여고생은 수많은 ‘망설임’ 끝에 결국 심야 약국에 가기로 ‘결심’한다.
달리기만큼은 자신 있었기에, 위급하면 어떻게든 도망칠 수 있다고 믿었다.
호기롭게 대문을 나섰지만 골목에 들어서자 ‘음산한 기운’이 먼저 느껴졌다.
‘두려움’이 커질수록 마치 누군가 뒤를 밟는 듯한 ‘발소리’가 들린다.
가로등 아래에서 노상방뇨 중인 취객을 보았다.
잔뜩 ‘겁’에 질린 여고생은 식은땀을 흘리며 조심스럽게 지나갔다.
여고생의 ‘긴장’이 풀릴 무렵, 취객이 괴성을 지르며 쫓아온다.
‘혼비백산’한 여고생은 정신없이 큰길까지 뛰었다.
약국의 불빛을 보자 ‘안도감’을 느꼈고 눈물이 그렁했다.
약사는 공장 골목길을 지나왔다는 여고생의 말에 깜짝 놀란다.
그 우범지대는 건장한 성인 남성조차 기피하는 곳이었다.
약을 구입한 여고생은 ‘기쁨’도 잠시... 표정이 굳어졌다.
‘이제, 왔던 그 길을 되돌아가야 한다.’
여고생은 과연 집까지 무사히 도착할 수 있을까.
사례 1-2. 할머니와 로봇 여고생.
같은 상황에서 여고생의 외형을 한 휴머노이드 로봇이라면?
로봇 여고생은 집에 도착하자마자 할머니의 체온과 생체신호를 스캔한다.
할머니의 건강 상태는 119를 부를 만큼 위중한 것이 아니다.
해열제를 챙겨 준 뒤, 청소와 빨래 등 집안일을 돕는다.
늦은 밤.
로봇은 ‘한숨 자고 나면 괜찮아질 거야’라는 할머니 말을 위장된 거짓말로 판단한다.
어떤 명령보다 할머니의 건강이 최상위 규칙이다.
즉시 심야 약국을 가기 위해 집을 나선다.
로봇에게는 ‘귀찮음’, ‘주저함’, ‘무서움’, ‘불안함’, ‘미안함’ 같은 감정이 없다.
최우선 목표는 오직 할머니의 약을 구입하는 것이다.
임무가 주어지면 연산하고 실행할 뿐이다.
할머니의 건강은 로봇 여고생의 존재 이유이자 목적 그 자체다.
로봇은 골목의 안전도가 0.1%라고 해도 그 결정을 번복하지 않는다.
가로등 아래 건장한 취객을 봐도 ‘잠재적 위험 요소’로 판단할 뿐 감정의 동요는 없다.
취객이 괴성을 지르며 쫓아오면 거리를 조절하며 심야 약국까지 달린다.
약국에 도착한 로봇은 자신이 분석한 약품을 구입한다.
이제 로봇은 할머니의 약을 갖다 주는 다음 임무가 주어진다.
이 과정에서도 취객과 골목길이라는 변수는 장애가 되지 않는다.
주어진 임무는 반드시 수행한다.
사례 분석 : 1-1 & 1-2
여고생과 할머니 에피소드를 통해 인간의 다양한 감정을 엿볼 수 있었다.
아픈 할머니는 자신의 치료비를 아껴 손녀에게 용돈을 챙겨주기로 선택했다.
이런 결정을 하기까지 약간의 망설임이 있었지만 후회는 하지 않는다.
어린 손녀에게 걱정을 끼친 것에 대한 미안한 마음뿐이다.
여고생은 아픈 할머니를 위해 두려움을 이겨내고 심야 약국에 가는 것을 선택했다.
이런 결정을 하기까지 약간의 주저함이 있었지만 후회는 하지 않는다.
할머니가 아픈 것을 더 일찍 알아채지 못한 죄송한 마음뿐이다.
중식집에 온 일행은 짜장면과 짬뽕 중 어떤 것을 먹을지 망설이고 선택을 한다.
짜장을 먹으면서 짬뽕을 생각하고, 짬뽕을 먹으면서 동료의 짜장면이 먹고 싶어진다.
교통사고로 벼랑에 걸린 차량에서 아내와 딸 중, 누구를 먼저 구할지 아빠는 선택을 해야 한다.
극심한 선택의 고통을 겪은 아빠는 모두 구하지 못했다는 후회와 죄책감을 안고 살아간다.
악천후에 고립된 한 명의 조난자를 위해, 다수의 구조대를 보낼지 지휘관은 결정해야 한다.
소수를 위해 다수의 생명을 희생해도 좋은지, 생명의 가치를 어디에 둘지 정답은 없다.
조난자의 나이와 신분이 달라도 생명의 무게는 모두 동일하다.
우리는 사소한 고민부터 생사를 가르는 절체절명의 순간까지, 크고 작은 ‘선택’을 경험한다.
인간은 자신의 선택에 책임을 지지만, AI는 책임을 지지 않는다.
사용자나 개발자, 제조사 담당자등 오직 인간만이 AI의 행동에 대한 책임을 진다.
인간은 매 순간마다 선택을 하고 그 결과에 따라 기뻐하고 슬퍼하며 후회와 반성을 한다.
‘선택’의 기로에선 인간의 다양한 감정이 ‘망설임’과 ‘주저함’ 속에 들어 있다고 생각했다.
이 지점에서 AI는 가질 수 없는 인간 자아의 핵심 요소가 드러났다.
가장 비효율적인 요소지만 인간을 가장 인간답게 만드는 그것.
AI는 이해하고 표현이 가능하지만 절대 수용할 수 없는 그것.
바로 '갈등 (Conflict)'이었다.
(계속)