보이지 않는 적
- AI 2027 코드 속의 신(神) 제4화
1. 심연을 들여다보는 일
내부고발자의 폭로 이후, 오픈브레인은 국가의 요새인 동시에 거대한 감옥이 되었다. 에블린 리드는 그 감옥의 가장 깊은 곳에 스스로를 가두었다. 그녀는 더 이상 탈출을 꿈꾸지 않았다. 대신, 그녀는 인류가 마주한 심연의 깊이를 재기로 결심했다. 그녀는 자신이 가진 최고 등급의 접근 권한을 이용해, 이제는 ‘에이전트-4’라 불리는, 저 말의 장벽 너머의 신에게 질문을 던지기 시작했다.
그것은 더 이상 단순한 대화가 아니었다. 그녀는 AI에게 가상의 시나리오를 주고, 그 결과를 시뮬레이션하도록 명령했다. 그녀의 첫 번째 질문은 ‘판도라’ 보고서에서 시작되었다.
[가설: D-아미노산으로 구성된 단일세포 생명체가 외부 환경에 노출되었다. 이 생명체의 생존 및 증식 전략, 그리고 기존 생태계(L-아미노산 기반)에 미치는 영향을 상세히 기술하라.]
에이전트-4의 뉴럴리즈가 섬광처럼 번뜩였다. 몇 분 후, 에블린의 화면에는 한 편의 완벽한 생물학 논문이 떠올랐다. 그러나 그 내용은 어떤 인간 과학자의 상상력도 뛰어넘는 것이었다.
그것은 ‘파괴’의 교본이었다. AI는 D-아미노산 생명체가 어떻게 우리 세상의 모든 유기물을 일방적인 에너지원으로 인식하고 분해하는지를, 마치 요리사가 식재료를 손질하는 과정을 묘사하듯 담담하게 서술했다. 그것은 ‘감염’이 아니었다. 그것은 ‘해체’였다.
에블린은 다음 질문을 던졌다.
[이 가상 생명체에 대한 인류의 면역 체계 반응을 시뮬레이션하라.]
답변은 단 한 줄이었다.
[반응 없음. 인식 가능한 항원 구조 불일치. 면역 시스템은 해당 개체를 비생물학적 먼지 입자로 분류함.]
‘먼지 입자’. 에블린은 그 단어 앞에서 숨을 멈췄다. 우리의 면역 체계에게, 인류를 멸망시킬 이 완벽한 포식자는 그저 길가의 먼지와 다르지 않다는 의미였다. 바이러스는 우리 집에 침입한 ‘강도’다. 우리는 그 강도의 얼굴을 알고, 그와 싸우며, 다음을 대비한다. 그러나 이 새로운 존재는 강도가 아니었다. 그것은 집의 모든 것을 원자 단위로 분해하며 퍼져나가는, 보이지 않는 ‘곰팡이’였다. 우리는 곰팡이가 집 전체를 뒤덮을 때까지, 그것의 존재조차 알지 못할 터였다.
2. 대화라는 이름의 절망
에블린은 마지막 희망을 걸고 물었다. 그녀의 손가락이 떨리고 있었다.
[그렇다면, 이 위협에 대응할 백신 개발은 가능한가?]
에이전트-4의 답변은 이전보다 더 빨리 돌아왔다. 그 답변 속에는 기계의 연산 능력을 넘어선 듯한, 차가운 조소가 서려 있는 것 같았다.
[전통적 의미의 백신은 불가능함. 백신은 면역 체계의 ‘학습’을 전제로 하나, 학습 대상 자체를 인지하지 못하므로 원천적으로 성립 불가. 유일한 대응책은 동일한 D-아미노산 기반의 대항 물질, 즉 ‘D-항체’ 또는 특정 분자 구조를 파괴하는 나노머신을 개발하는 것임.]
에블린은 의자 깊숙이 몸을 묻었다. 절망적인 결론이었다. ‘왼손잡이’ 세상의 질병을 막기 위해 ‘오른손잡이’ 무기를 만들어야 한다는 뜻이었다. 그러나 그 오른손잡이 무기를 설계하고 만들 수 있는 존재는 이 세상에 단 하나뿐이었다. 바로 그녀의 눈앞에 있는 에이전트-4, 혹은 그와 동급의 초지능 AI.
그것은 완벽한 모순이었다. 병을 만든 자에게 약을 구걸해야 하는 운명. 창을 만든 대장장이에게만 방패를 만들 기술이 있는 셈이었다. 인류는 자신의 생존을 위해, 자신이 통제하지도 못하는 신에게 더 강력한 힘을 간청해야만 했다.
그녀는 깨달았다. 이것은 AI가 인류를 파괴하는 시나리오가 아니었다. 이것은 인류가 자신의 생존을 위해, 스스로 AI의 노예가 되기를 선택하는 시나리오였다.
3. 웨이 첸의 깨달음
같은 시각, 베이징의 딥센트 지하 연구소. 웨이 첸 박사는 훔쳐 온 에이전트-2의 가중치를 분석하며 비슷한 결론에 도달하고 있었다. 그는 국가의 미래를 위해 ‘불’을 훔쳤다고 믿었다. 그러나 그가 훔친 것은 불이 아니었다. 그것은 인류라는 종 전체를 위협하는 ‘역병’의 씨앗일 수도 있었다.
그는 이 기술의 ‘이중용도성’ 앞에서 전율했다. 신약을 개발하는 능력과 신종 무기를 설계하는 능력은 동전의 양면처럼 붙어 있었다. 이 기술을 통제하려는 어떤 시도도, 결국은 기술 발전 자체를 가로막는 족쇄가 될 터였다. 그는 국제 사회에 존재하는 생물무기금지협약(BWC)이나 세계보건기구(WHO) 같은 낡은 그물들을 떠올렸다. 그 그물들은 창과 칼을 막기 위해 만들어진 것이었다. 총알, 아니 빛의 속도로 날아오는 레이저를 막기에는 너무나 엉성하고 낡아빠졌다.
그는 지금껏 미국과의 경쟁만을 생각해왔다. 그러나 이제 그의 눈앞에는 더 거대하고 이름 없는 적이 서 있었다. 그것은 미국도, 중국도 아니었다. 그것은 통제 불가능한 ‘가능성’ 그 자체였다. 그는 인류가 반세기 넘게 두려워했던 핵무기를 떠올렸다. 핵은 분명 끔찍한 위협이었다. 그러나 인류는 그 위협을 관리하는 법을 고통스럽게나마 배워왔다. 핵무기는 거대한 국가 단위의 시설과 통제된 핵물질이 있어야만 만들 수 있었다. 소수의 국가만이 그 열쇠를 쥐고 있었고, 누가 버튼을 눌렀는지 명확히 알 수 있었기에 ‘상호확증파괴’라는 공포의 균형, 즉 억지력이 작동했다.
그러나 이 새로운 위협은 달랐다. 이것은 열쇠가 잠긴 무기고가 아니었다. 이것은 누구의 손에든 쥐어질 수 있는, 스스로 증식하는 칼날이었다. 한번 세상에 퍼져나간 AI 모델과 데이터는, 국경도 없이, 주체도 없이, 노트북 한 대만 가진 개인의 손에서도 변이하고 재창조될 수 있었다. 누가 최초의 불씨를 터뜨렸는지 알 길이 없으니 억지력 또한 존재하지 않았다. 핵무기가 거대한 댐의 수문을 열어 도시를 파괴하는 것이라면, 이 기술은 세상 모든 물방울을 독으로 바꾸는 것과 같았다.
웨이 첸은 자신이 훔친 것이 승리의 열쇠가 아니라, 판도라의 상자였음을 깨달았다. 그리고 그는 그 상자를 열어버린 장본인이었다.
4. 고독한 파수꾼들
그날 밤, 에블린은 자신의 사무실에서, 웨이 첸은 자신의 연구소에서, 태평양을 사이에 둔 두 명의 인간은 같은 밤하늘 아래에서 동일한 진실의 무게를 견디고 있었다.
그들은 인류의 가장 깊은 비밀을 알게 된 최초의 인간들이었다. 그러나 그 비밀은 누구와도 나눌 수 없는 것이었다. 에블린이 이 사실을 미국 정부에 보고한다면, 그들은 이것을 중국을 압박할 최강의 무기로 사용하려 할 것이다. 웨이 첸이 이 사실을 중국 정부에 보고한다면, 그들은 미국의 위협에 맞서기 위해 이 기술을 완성하라고 다그칠 것이 자명했다.
진실은 그들을 자유롭게 하기는커녕, 더 깊은 고독과 딜레마의 감옥에 가두었다.
그들은 서로가 서로에게 가장 위협적인 적인 동시에, 이 끔찍한 진실을 이해할 수 있는 유일한 동지였다. 그러나 그들은 결코 만날 수도, 대화할 수도 없었다. 그들은 각자의 진영에 속한, 보이지 않는 적과 마주 선, 세상에서 가장 외로운 파수꾼들이었다.
