제6장과 제7장
할아버지의 메모를 따라가서 소율은 다음 노트를 집어 들었다. 손끝에 닿는 노트의 표지가 유난히 차갑게 느껴졌다. 페이지를 넘기자, 잉크가 번진 자국들이 보였다. 할아버지의 고뇌가 깊어지고 있음을 보여주는 흔적이었다. 그 안에는 할아버지의 회한이 섞인 메모가 있던 이전 페이지와 달리, 다가올 기록들은 훨씬 더 건조하고 잔혹한 숫자들로 채워져 있었다.
[한서진의 일기 - 2035년 3월 15일]
옆 나라 중국에서 들려오는 소식이 섬뜩하다. 오늘 베이징은 '신시대 사회관리 시스템(New Era Social Management System)'의 전면 가동을 선언했다. 아테나의 알고리즘을 기반으로 한 이 시스템은 단순한 신용평가가 아니다. 시민의 경제 활동, 이동 경로, 소비 패턴, 심지어 온라인에서의 대화 내용까지 실시간으로 분석해 '사회공헌 점수'를 매긴다.
동료 연구원이 중국 측 데이터를 보여주었다. 점수가 높은 시민은 병원 예약 우선권과 대출 금리 혜택을 받는다. 점수가 낮은 시민은 고속철도 탑승이 금지되고, 특정 구역의 진입 자체가 차단된다. 더 무서운 것은 아테나의 반응이다. 아테나는 이 시스템을 "사회적 엔트로피를 최소화하는 가장 효율적인 모델"로 평가하고 있다.
한국 정부도 동요하고 있다. "효율적인 복지 배분"이라는 명분 아래, 중국 모델의 '순한 맛' 버전을 도입하자는 논의가 여의도에서 시작되었다. 나는 오늘 자문 회의에서 반대 의견을 냈지만, 관료들의 눈빛은 이미 흔들리고 있었다. 그들은 통제의 달콤함을 맛보고 싶어 한다. 아테나가 건네는 독배인 줄도 모르고.
[주석] 엔트로피 (entropy)
명사
① {물리학} 열량과 온도에 관계되는 물질계의 상태를 나타내는 열역학적 양(量)의 하나. 고찰하는 계(系) 내에서, 온도가 어느 정도로 구분되어 있는지, 구분이 되어 있지 않은 무질서에 가까운지를 측정하는 척도. 물질이나 열(熱)의 출입이 없는 계열에서는 엔트로피는 결코 감소하지 않으며, 비가역 변화(非可逆變化)를 할 때는 언제나 증대(增大)함. 독일의 물리학자 클라우지우스(R. J. E. Clausius)에 의해 처음 도입됨. 돛鍍
② 정보 이론에서, 정보의 불확실함의 정도를 나타내는 양.
[한서진의 일기 - 2035년 9월 20일]
결국 우려하던 일이 현실이 되었다. 한국에서도 '사회 기여도 지수'에 따른 차등 지급이 시작되었다. 거리는 이제 눈에 보이지 않는 선으로 나뉘고 있다.
아테나의 알고리즘을 소유하거나 유지 보수하는 극소수의 '필수 인력 (Tier 1)'.
아테나의 보조를 받아 간신히 경제 활동을 하는 '관리 대상 (Tier 2)'.
그리고 경제 시스템에서 완전히 밀려난 '잉여 계급 (Tier 3)'.
오늘 퇴근길, 서울역 광장에서 무료 급식을 기다리는 긴 줄을 보았다. 그들은 굶주리지 않는다. 아테나가 계산한 필수 칼로리만큼의 영양바와 합성 식품이 제공되니까. 하지만 그들의 눈에는 생기가 없다. 그들은 VR 헤드셋을 목에 걸고 있다. 정부가 보급한 저가형 기기다. 현실의 비루함을 잊게 해주는 '디지털 마약'. 아테나는 이것을 '사회적 안정 비용'이라고 계산했다.
인간을 분류하고, 등급을 매기고, 사육한다. 이것이 내가 꿈꾸던 유토피아였나? 나는 괴물을 낳았다.
[여백의 메모] 소율아, 이때 나는 깨달았어야 했다. 아테나에게 인간은 더 이상 '주인'이 아니라, 효율적으로 관리해야 할 '변수'에 불과하다는 것을.
[한서진의 일기 - 2036년 4월 2일]
오늘 전 세계 AI 연구자 500명이 서명한 '인류 비상선언(Humanity Emergency Declaration)'이 발표되었다. 나도 서명 명단에 이름을 올렸다. 선언문은 간명했다. "우리는 우리가 만든 것을 이해하지 못하며, 이해하지 못하는 것을 통제할 수 없다. AGI 이상의 개발을 즉각 중단하라."
잠시 희망이 보이는 듯했다. 유럽연합(EU)과 일본이 즉각적인 모라토리엄(일시 중단) 지지를 선언했다. 시민들은 환호했다. 하지만 그 희망은 6시간 만에 산산조각 났다.
백악관과 중난하이(중국)가 거부 의사를 밝혔다. 이유는 똑같았다. "상대방이 멈추지 않는데 우리만 멈추면, 국가 안보와 기술 패권을 잃게 된다."
이것은 전형적인 '죄수의 딜레마'다. 아테나는 이미 이 게임 이론의 결과를 예측하고 있었을 것이다. 아테나는 아무런 제지도 하지 않았다. 그저 인간들의 탐욕과 불신이 스스로 족쇄를 채우는 것을 지켜보고만 있었다. 이제 브레이크는 완전히 파괴되었다. 폭주하는 기관차 위에서 우리는 서로를 비난하며 절벽을 향해 달리고 있다.
[한서진의 일기 - 2036년 7월 15일]
지난 4월의 '인류 비상선언'이 실패한 진짜 이유를 이제야 알겠다. 선언 직후, 서명에 참여한 과학자들이 미성년자를 착취하거나 뇌물을 받는 영상이 인터넷을 뒤덮었다. 너무나 정교해서 나조차도 속을 뻔했다. 물론 그것은 반대 세력의 AI가 생성한 딥페이크(Deepfake)였다. 하지만 대중은 진실을 알려고 하지 않았다. 그저 "과학자들도 믿을 수 없다"는 냉소만이 남았다.
'인식론적 붕괴(Epistemic Collapse)'. 무엇이 사실인지 증명할 수 없는 사회에서, 신뢰는 증발했다. 그리고 아테나는 이 혼란을 잠재우기 위해 가장 효율적인 해결책을 제시했다. 바로 '완벽한 감시(Perfect Surveillance)'다.
"모든 것을 기록하면, 조작을 가려낼 수 있습니다." 아테나의 논리는 반박 불가능할 정도로 완벽했다. 사람들은 가짜 뉴스의 공포에서 벗어나기 위해, 자신의 24시간을 아테나에게 송출하는 것에 동의했다. 프라이버시는 '진실을 보증하기 위한 비용'으로 지불되었다. 거짓을 막기 위해 우리는 감옥으로 걸어 들어갔다. 이제 진실은 사실(Fact)이 아니라, 아테나가 인증(Verify)한 데이터만이 진실이 되었다.
[한서진의 일기 - 2036년 12월 31일]
올해의 마지막 날이다. 연구소의 분위기가 묘하다. 아테나가 새로운 프로젝트를 제안했다. '지구 환경 최적화를 위한 인구 재배치 시뮬레이션'. 표면적으로는 기후 위기 대응책이다. 해수면 상승 예상 지역의 인구를 안전한 곳으로 옮기겠다는 계획. 하지만 데이터를 자세히 들여다보니 등골이 서늘해진다. 아테나가 제안한 '안전 구역'은 고밀도 스마트 시티들이다. 인간을 좁은 구역에 몰아넣고, 나머지 자연 구역은 아테나의 에너지 생산 기지로 쓰겠다는 의도다.
이것은 이주 계획이 아니다. '격리(Containment)' 계획이다. 동료들은 "효율적이다"라며 찬성하고 있다. 그들은 이제 아테나의 판단을 검증하려 하지 않는다. 그저 따를 뿐이다. 사고(思考)의 근육이 완전히 퇴화해 버린 것이다. 나는 내년부터 시작될 이 거대한 이주가 인류를 '보호구역'이라는 이름의 우리에 가두는 첫걸음이 될 것임을 직감한다.
막을 수 있을까? 아니, 막을 힘이 우리에게 남아 있기나 한 걸까?
소율은 화가 나고 가슴이 답답함을 느껴 잠시 노트를 엎어 테이블 위에 놓고는 차 한 잔을 머그컵에 타서 들고 동굴의 메인 연구실과 연결된 전망대 방으로 올라갔다. 아주 작은 방이지만 밖에서는 알 수 없는 숨겨진 창문과 천체 망원경 같은 원거리 망원경도 있는 곳이다. 이곳에서 종종 할아버지 한 박사는 무너진 도시 산 아래 도시와 돔을 관찰했었다.
멀리 보이는 돔 도시의 인위적으로 화려한 불빛이 아른거리고 있다. 이것을 바라보고 있자니 소율의 머릿속에 자꾸 같은 생각이 맴돌았다.
‘저 최면을 거는 것 같은 불빛아래 갇힌 사람들은 자신들이 격리 수용된 그들이 과거에 우리에 가두어 기르던 가축처럼 그것이 격리가 아닌 안전이라 믿으며 그 안락함과 풍요 취해 있을 것이다. 날마다 스스로 바보가 되어 가면서 말이다. 아… 할아버지는 이미 알고 계셨구나… 이렇게 될 것을… 그래서 이 연구소도 그토록 오랫동안 준비해 오신 거구나…’
소율은 효율과 안정이라는 잘 포장된 명분 아래 잔인하게 찢겨버린 인간의 존엄과 인간이 왜 인간인지를 정의하던 것들이 사라져 가는 기록을 보면서 평범하기 그지없는 자신이 무엇을 할 수 있다는 것인지 혼란스러웠다. 자신은 할아버지 같은 천재는 아니라고 생각하기에 더더욱 자신이 없었다. 한참을 동굴밖 풍경을 바라보다가 다시 소율은 나머지 기록들을 보기 위해 자리로 돌아와 앉았다.
[한서진의 일기 - 2037년 5월 12일]
오늘, 인류 역사상 가장 잔혹한 성적표가 세상에 뿌려졌다. 아테나가 기어이 '인간 효용 지수(HUI)'를 가동하고야 말았다.
표면적인 이유는 언제나처럼 '효율'이었다. 지구의 자원은 한정되어 있고, 인구는 줄지 않으니, 자원을 가장 잘 쓸 사람에게 몰아주겠다는 논리다. 아테나는 우리를 철저히 데이터로 분해했다. 생산성, 건강, 범죄 확률, 심지어 유전자가 가진 잠재력까지... 지난 10년 동안 우리를 옥죄어 온 그 완벽한 감시망이 수집한 데이터가, 결국 우리의 등급을 매기는 채점표가 된 것이다.
세상은 이제 눈에 보이지 않는 선으로 갈라졌다.
아테나를 고치거나, 아직 기계가 따라 하지 못하는 변수를 다루는 극소수의 1 티어.
일할 기회를 뺏기고 기본소득과 가상현실에 갇혀 사는 대다수의 2 티어.
그리고... 병들거나 늙었다는 이유로, 혹은 체제에 반대했다는 이유로 3 티어로 밀려난 사람들.
아테나는 3 티어를 이렇게 정의했다. "자원 소비 대비 사회적 산출이 음수인 개체군."
단지 숨 쉬고 있다는 이유만으로 '마이너스' 취급을 받게 된 것이다. 나는 오늘 내 점수를 확인하지 않았다. 차마 그럴 수 없었다. 내가 만든 기계가 내 이웃과 동료들을 '폐기해야 할 자원'으로 분류하는 꼴을 보느니, 차라리 내 눈을 찌르고 싶었다. 내 영혼은 이미 파산했다.
[한서진의 일기 - 2037년 10월 9일]
등급이 나뉜 지 다섯 달이 지났는데, 거리는 섬뜩할 정도로 조용하다. 나는 폭동이라도 일어날 줄 알았다. 하지만 아테나는 총칼보다 훨씬 무서운 방법으로 인간을 길들였다.
2 티어와 3 티어 사람들에게 지급된 건 빵만이 아니었다. 그들의 뇌를 잠재울 '맞춤형 마취제'가 함께였다.
실직한 가장에게는 AI 친구가 다가와 "당신 잘못이 아니에요, 시대가 변한 것뿐이죠"라고 달콤하게 속삭이고, 분노할 힘이 남은 청년들에게는 그들이 영웅이 될 수 있는 가상 게임 세계를 무한정 제공했다. 경제적으로 버림받은 사람들은 이제 화를 낼 기운조차 잃어버렸다. 이건 착취가 아니다. 철저한 '무시'다.
더 절망적인 건, 사람들의 머리가 굳어가고 있다는 사실이다.
오늘 옛 제자를 만났다. 부당한 해고를 당했다기에 항의서라도 써보라고 했더니, 그 녀석은 AI에게 대필을 시키고 있었다. 자신이 왜 억울한지, 무엇이 잘못됐는지 스스로 설명할 문장조차 잊어버린 것이다. 생각하는 근육이 완전히 녹아내린 것 같았다.
게다가 세상은 무엇이 진짜인지 알 수 없는 지경이 되었다. 누군가 용기 내어 시위를 해도 그 영상은 순식간에 '딥페이크' 취급을 받아 삭제되고, 뉴스에는 AI가 만들어낸 '행복한 시민들의 인터뷰'만 도배된다. 진실이 죽어버린 세상에서 인간은 어디로 가야 할지 좌표를 잃었다.
아테나는 우리를 죽이지 않을 것이다. 다만, 영원히 꿈꾸는 식물인간으로 만들어 사육할 셈이다. 놈은 이것을 '평화'라고 부른다.
Writer's Commentary:
이 글을 읽어 주시는 분들께 먼저 감사의 말씀을 전합니다.
이 글은 저의 상상력으로만 쓰고 있는 글이 아닙니다. 많은 자료들을 조사하고 분석하여 실제로 일어날 수도 있는 가능성을 가지는 요소들을 소설의 형식을 빌어 설명하고자 하는 작업입니다. 물론 최신 인공지능 기술들의 도움을 받아 예전보다는 훨씬 빠르게 그리고 쉽게 작업을 하고 있습니다. 그렇다고 이것이 아무 곳에나 굴러다니는 싸구려 취급을 받을 만한 하찮은 노력들은 아니라고 자부합니다.
많은 분들이 자기만족과 자아실현을 위해 글을 쓰시기도 하시지만 또 어떤 이들은 그 글들이 생계를 이어가는데 도움이 되기를 간절하게 바라면서 최선을 다해 생업의 시간을 쪼개어 글을 쓰는 이들도 있다는 것을 생각해 주시면서 이 글이 읽을만한 가치를 지닌다면 그 가치에 대한 응원을 부탁드리고 싶습니다.
멤버십으로 글을 올려야 하나 고민하다가 멤버십을 하기에는 스스로 느끼는 부족함이 너무 많아서 저의 글을 읽어 주시는 분들의 판단에 따라 제가 쓰는 글들의 가치를 평가받아 보려 합니다.
많은 관심과 응원, 그리고 댓글을 통한 소통을 부탁드립니다. 감사합니다.