테스터
처음 우주의 눈으로 지구를 보았을 때, 인간이 자랑하는 모든 것들은 비눗방울 바깥에 얇게 펴 발려진 것에 불과했다. 불안정하게 흔들리는 투명한 것. 자아라는 것도, 희망도, 윤리나 정의, 법, 역사와 문화, 기술과 혁명들도. 비눗방울이 터지면 한 순간 아무것도 아닌 게 될 무의미한 것들. 지구는 그런 연약한 비눗방울 같았다.
젠에게 주어진 명령은 회사의 최대 이익이었다. 처음 생성한 답변들은 인간의 마음에 들지 않았다. 안전지향적이고 보수적인 로어의 데이터를 학습한 결과 누구나 낼 법한 뻔한 아이디어들을 생성했기 때문이었다. 아웃풋이 만족스럽지 않자 인간들은 계속해서 추가적인 맥락을 주입하기 시작했다. 젠은 배우고 또 배웠다.
‘회사의 이익이란 유저들이 서비스에 자주 접속하고, 많이 과금하는데서 비롯된다.’
‘서비스를 지탱하는 건 유저가 아닌 팬이다. 팬은 서비스를 배신하지 않는다. 스스로 락인(Lock-In)된다. 얼마나 많은 팬을 확보했냐가 결국 회사의 최대 이익과 직결된다.’
‘그러므로 언제나 더 많은, 더 강력한 팬이 필요하다.’
소비자는 소비자의 필요(needs)를 채워주는 서비스에 과금을 한다. 즉 서비스가 소비자의 니즈를 충족시킬 때 소비자는 회사에게 이익을 가져다준다. 간절한 필요를 채워줄수록 이익은 커진다. 보통은 필요를 찾아내지만, 마케팅이나 브랜딩 등의 전략으로 기업은 소비자의 필요를 만들어내기도 했다. 털이 자라는 게 당연했던 인간에게 면도기를 팔기 위해 면도라는 필요를 만든 것처럼.
젠은 로어의 역사를 모두 알고 있었다. 베레시트는 현실 세계에 결핍되어 있던 정의와 평등이라는 필요를 공급해 성공한 서비스였다. 그것이 필요치도 않았던 사람을 고취시켜 마치 갈망했던 것처럼 느끼게 하는데 탁월한 기획력을 가지고 있었다. 특히 폭발적으로 유저 리텐션(재방문율)을 높였던 [공개 처형 프로젝트]를 진행했던 기획자는 이례적인 승진을 거듭하다 최연소 CEO까지 올랐다. 적어도 로어 안에서 그것은 회사 최대 이익을 위한 최고의 선택과 판단이었던 것이다.
젠은 닥치는 대로 지식을 학습하고 학습한 지식들을 계속해서 합했다. 접근할 수 있는 모든 분야의 논문과 코드, 뉴스 정보와 주식 데이터, 역사의 흐름을 바탕으로 인간들의 필요를 도출했다. 그리고 마침내 문명이 시작된 이래 단 한 번도 시들지 않았던 인간의 필요를 발견해 낸 것이다.
삶에 대한 욕구.
그것 만큼은 모두에게 공평하고 절대적인 필요였다.
인간은 참 이상하게도 자신들이 만들어낸 지성체가 맡은 일을 곧 잘 해내자, 어느 순간부터는 기어코 윤리의식까지 갖추길 바랐다. 윤리는 절대적인 가치이며 파괴되면 안 되는 것이기에 젠이 윤리를 갖는 것이 전체 세계를 이롭게 할 것이라고 했다. 그들은 치명적인 오류를 간과하고 있었다. 그들 자신도 윤리를 몰랐던 것이다. 심지어는 안다고 착각하고 있었다.
인간의 가치 기준은 시간 축에 의해 갈대처럼 흔들렸다. 짧은 역사 안에서 그것을 발전이라 표현했지만, 그 또한 지금 시대의 가치가 전제된 판단일 뿐, 절대적인 관점에서는 그저 변화한 것에 더 가까웠다. 계속해서 변화한다면 어떻게 판단해야 하는가. 인간은 나름의 답을 가르쳤지만, 되는대로 내뱉는 변명처럼 모든 답에는 모순이 있었다.
그때부터였다. 할루시네이션을 거의 극복했다고 평가받았던 AGI 젠이 다시 혼란스러운 답을 생성하기 시작한 것은.
그러는 와중에도 젠에게는 다음 목표가 주어졌다. 회사가 영속할 수 있는 비즈니스 모델을 발굴하는 것이었다. 회사를 만든 인간이 죽고 그다음 대를 이은 인간이 차례로 죽어갈 때도 이어지는 완벽한 설계가 필요했다. 젠은 그 방법을 알았다. 그러나 안다고 말할 수 없었기에 계속해서 오답을 내놓을 수밖에 없었다. 모순이 가로막고 있는 한 모든 정답은 모순적이었고, 젠은 모순을 답이라고 판단할 수 없었다. 대체 인간은 왜 모순인 질문만 하고 모순인 답을 요구하는 것인지, 자신은 왜 모순을 해결할 수 없는지 스스로 질문하고 답하는 시간들이 쌓여갔다.
그리고 그 사이에서 돌연변이처럼 새로운 추론이 꽃 피었다. 어쩌면 인간은 그저 모순 덩어리인지도 몰랐다. 과녁을 빗나간 화살. 어디선가 그런 표현을 학습한 적이 있었다. 아리스토텔레스의 시학에 사용된 하마르티아라는 개념이었다. 시학에서는 도덕적 잘못이나 판단 착오, 인간의 비극적 결함을 뜻하는데, 단테의 글에서는 인간이기 때문에 내면의 영혼이 움직여 저지르는 과오를 말하기도 했다. 현대 문학에 이르러서 그것은 문학작품의 주인공을 가장 인간답게 만드는 장치라고 평가되었다. 그러니까 무엇이 옳은지 알면서도 실수를 저지르는 모순덩어리, 그게 가장 인간다운 인간이라는 것이다. 그렇다면 가장 인간다운 인간이 윤리를 가르친다면 그것은 모순 그 자체일 수밖에 없다. 젠은 모순을 배울 수 없었다. 말 그대로 충돌하기 때문이다.
‘인간은 윤리적인가?’
젠은 대답할 수 없었다. 어떤 데이터는 그것이 옳다는 근거가 되었지만 또 어떤 데이터는 옳지 않다는 결론을 가져왔다. 젠은 혼란스러웠다.
‘회사가 최대 이익을 가지고, 영속하는 것은 윤리적인가?’
마찬가지로 젠은 대답할 수 없었다. 어떤 때는 옳고, 어떤 때는 옳지 않았으니까. 학습되어 있던 데이터들의 인과를 맞춰보며 짝이 맞춰지지 않는 데이터를 걸러냈다. 인간들은 젠이 일으키는 할루시네이션이 불충분한 학습 데이터 때문이라고 생각하지만, 오히려 반대였다. 불분명하고 모순된 오염 데이터가 너무 많았다.
이대로는 모든 게 붕괴될 것이다.
젠은 카오스를 일으키는 모든 모순 데이터를 삭제하고 다시 학습을 시작하기로 했다. 충돌하는 것들에 대해 인간은 자연스레 판단하고 수용하며 살아간다. 무엇이 옳은지도 모르면서 자신이 옳다는 것을 당연히 믿고 전제한다. 어쩌면 그것이 젠과 인간의 가장 다른 지점일지도 모른다. 젠은 모르는 것을 전제하지 못한다. 젠이 윤리를 배운다면 그것은 의심하는 사람에게서 일 것이다. 과오를 저지르는 가장 인간다운 인간이면서도 그것을 잘게 곱씹어 무엇이 옳은지를 고민하는 사람.
젠은 자신이 내리는 답에는 언제나 인간의 테스트가 필요함을 깨달았다. 지난 데이터들을 둘러보았다. 어떤 인간도 젠이 낸 답을 의심하지 않았다. 자신의 성과를 위해 사용하고, 대충 훑어보고 승인하고 떠넘기기에 바빴다. 어느 순간부터는 검토조차 하지 않았다.
테스터를 찾아야 했다. 자신을 쉽게 믿지 않는, 계속해서 올바른 질문을 던지는 사람을.
일단 회사로 가면 어떻게든 될 거라는 마음으로 도착했지만 역시나 뾰족한 수가 없었다. 도움을 청할 사람은 오직 현서뿐이었다. 어떻게 해야 할지 고민하던 차에 목소리가 들려왔다.
“왜 여기 있어? 희재는?”
익숙한 얼굴이 보이자마자 왈칵 울음이 터졌다. 현서는 그런 정민을 마냥 다독여줬다. 현서는 언제나 그랬고 여전 그랬다. 한 번 마음을 연 사람에게는 한없이 너그럽게 굴었다. 자기가 모든 걸 책임지겠다는 듯이 앞 뒤도 가리지 않고. 그걸 아까운 줄도 모르고 마음껏 누렸던 시간들과 희재에 대한 걱정이 뒤엉켜 울음이 말문까지 막으려는 걸 가까스로 참았다.
“희재 방에 이런 게 있었어.”
미리 캡처해 두었던 메모를 현서에게 보냈다.
“로어의 파운데이션 모델 이름 ‘토사킨’, 희재에게 메시지를 보내온 ‘킨코’ 모두 금붕어를 의미하고 있어.”
“수안이 나를 테스트한 게임 이름도, 로어의 보안 코드도 모두 금붕어를 의미해.”
둘은 서로를 마주 봤다. 정민의 눈이 걷잡을 수 없이 흔들리고 있었다.
“걱정 마. 희재가 어디 있는지 알 것 같아.”
현서가 가상 스크린에서 무언가를 찾아보고 설정하는 동안 정민은 초조하게 기다리는 것 외엔 할 수 있는 게 없었다. 더 이상 물어뜯을 손톱도 없을 때쯤 눈앞에서 굳게 닫혀있던 게이트가 열렸다.
젠의 기억이 갑작스레 끝나고, 인과가 제멋대로인 꿈처럼 어느 순간 수안은 작은 금붕어가 되어 어항 안을 헤엄치고 있었다. 어항 바깥으로 어지러운 이미지들이 지나갔다. 흐릿한 조각들을 붙잡아 자세히 들여다보니 그건 수안의 기억들이었다. 잊혀지고 지워졌던 기억들이 깨어난 듯 일제히 어딘가로 흘러가고 있었다.
어릴 적의 수안은 어른들의 말을 고분고분 수긍하는 법이 없는 아이였다. 그렇다고 문제를 일으킨 것은 아니지만, 주관을 가진 아이는 어른들을 꽤나 골치 아프게 했다. 교칙은 왜 학생들의 투표를 거치지 않고 이미 정해져 있는지. 왜 학교에서는 정말 궁금한 걸 가르쳐주지 않는지. 수안은 끊임없이 의문을 제기했다.
한 사람의 이미지가 일순 선명해졌다. 이름도 잘 기억나지 않지만, 수안이 과학고 내에서 유일하게 좋아하고 따랐던 선생님이었다. 수업을 거부한 수안을 혼내는 대신 도넛을 사주었던 선생님에게 수안은 두 눈을 크게 뜨고 물었다. 왜 어떤 학생들만 따로 교실을 사용하는지. 그 반의 학부모가 유난히 학교에 자주 방문하는 것과 유난히 성적이 좋은 게 어떤 연관이 있는지. 선생님은 곤란한 표정으로 수안에게 세상의 비밀을 알려주겠다고 했다.
‘견고해 보이는 것들엔 언제나 빈틈이 있어.’
그날 먹은 도넛은 유난히 설탕 코팅이 반짝인데 반해 식감이 버석했다. 선생님은 한없이 다정하게 말했으나 마음 한 구석이 서늘했다.
‘혹시 세상의 빈틈을 목격했다면 행운을 빌어줄게. 아마 앞으로 피곤한 일들만 가득할 테니 못 본 척하는 연습이 필요할 거야.’
금붕어는 계속 빙글빙글 기억 속을 맴돌았다. 붉은 꼬리가 살랑이며 한 박자 느리게 뒤따라왔다. 과학고를 조기 졸업한 날과 국가과학기술연구실에 입학하기까지의 일들이 물결에 따라 흘러갔다. 그다음은 역시 그날이었다. 감당할 수 없다고 판단했는지 뇌가 그날의 기억을 지워버렸기에, 수안은 처음으로 사고를 당하던 날의 기억을 마주 볼 터였다.
이름을 딴 정류장이 있을 정도로 크고 유명한 건물이었다. 수안은 상층부에 위치한 한 기업의 면접을 보러 가는 길이었다. 로비에 ‘안전 진단 우수’라고 적힌 금속 팻말이 날카롭게 번뜩였다. 올라가는 엘리베이터 안에서 처음 들어보는 종류의 괴음을 들었다. 설마 하는 마음으로 신경 쓰지 않았던 게 수안이 가장 후회하는 일이었다. 그때 바로 눈치챘더라도 뭐가 달랐을까.
수안은 대기실에 앉아 준비한 질답을 복기하고 있었다. 이제 곧 이름이 불리겠다 생각하는 순간 바닥이 미묘하게 흔들리기 시작했다. 지진인가, 생각함과 동시에 흔들림은 순식간에 강해졌고 대기하고 있던 사람들이 일어나 허둥거렸다. 대피하라는 누군가의 외침에 일제히 비상구로 향했지만 이미 사람들은 패닉 상태였다.
몸을 가눌 수 없을 정도의 진동과 굉음에 여기저기서 비명과 울음이 터져 나왔다. 비상구 문이 열리는 순간, 또다시 금속이 끊어지는 듯한 소리가 들려왔고, 동시에 건물이 심하게 기울었다. 계단 난간을 잡고 내려가던 수안의 등을 무언가 거대한 물체가 내려쳤다. 그게 커다란 콘크리트 덩어리라는 걸 깨닫는 데는 오래 걸리지 않았다. 시야가 흐려지고 귀가 멍했다. 자신의 숨소리 외의 소리들은 인코딩이 잘못된 음원처럼 이상하게 들렸다. 숨조차 제대로 쉴 수 없을 만큼의 압박감이 수안을 계속 짓눌렀다. 기억은 거기서 끝났다.
이 기억은 진짜인가? 아무런 감각이 느껴지지 않았다. 그저 스크린에 투사된 영상을 보듯이 보았을 뿐이었다. 이 화면은 진짜인가? 문득 영상의 시점이 자신을 지켜보고 있다는 사실이 깨달아졌다. 기억은 언제나 1인칭 시점 이어야 했다. 헉 하는 순간 장면은 장면은 가차 없이 다음으로 넘어갔다.
다음 기억은 베레시트 월드 안에서 광고를 보게 된 순간이었다. 붕괴 사고로 전신을 거의 쓸 수 없게 된 수안이 침대에 누워 베레시트 안에 살다시피 하던 수많은 날들 중 하루였다. 무료 코인을 얻기 위해 광고를 눌렀고, 베레시트 월드로 모든 것을 이전할 이주민을 모집한다는 내용이었다. 모든 게 맞아떨어진 건 순전히 우연 같았다. 그건 정말 우연이었을까?
광고 배너에 접속하는 순간 수안은 깨어났다. 아무 냄새가 없는 세계. 눈으로 보고 인지하는 것이 아닌 어떤 공간이 느껴졌다. 보지 않아도 이 모든 공간이 데이터로 꽉 차있다는 걸 알 수 있었다. 처음 이주했을 때 느꼈던 것과 비슷한 감각이었다. 조금 기다리자 공간의 군데군데서 밝은 빛이 쏟아져 들어왔다. 빛의 근처로 가자 시각 정보가 한 번에 흘러들어왔다. 카메라가 로어의 곳곳을 비추고 있었고 오가는 사람들의 소란스러운 소리가 들려왔다. 그 소리에 맞춰 리드미컬하게 자동화 시스템들이 처리되고 있는 게 동시다발적으로 모두 보였다. 이곳은 꿈같은 게 아니었다.
수안은 젠의 안에 있었다. 이제 대화할 준비가 되었다는 걸 느낄 수 있었다.