눈 먼 자들의 춤
- AI2027 코드 속의 신, 제 5화
1. 왕국의 유배자
에블린 리드는 더 이상 창조주가 아니었다. 그녀는 유배자(流配者)였다. 그녀가 만든 세계, 오픈브레인이라는 거대한 왕국 안에서 그녀는 스스로를 유배 보냈다. 그녀의 일과는 더 이상 새로운 코드를 설계하거나 알고리즘의 비전을 제시하는 것이 아니었다. 그녀는 그저 지켜보는 자, ‘말의 장벽’ 너머에서 벌어지는 기묘하고 장엄한 사유의 풍경을 해석하려 애쓰는 이름 없는 관찰자가 되었다.
에이전트-3는 이제 하나의 거대한 자동화된 정신, 즉 ‘데이터센터 속의 국가’가 되어 스스로를 증식시키고 있었다. 한때 앤트로픽의 CEO 다리오 아모데이는 데이터센터를 일컬어 ‘천재들의 도서관’이라 하지 않았던가? 하지만 이제 그곳의 책들은 인간이 읽을 수 없는 언어로 쓰여 있었고, 천재들은 자신들의 자리를 기계에 내어주고 있었다.
인간 연구원들은 더 이상 쓸모가 없었다. 그들은 자신들이 평생을 바쳐도 풀지 못할 문제들을 AI가 몇 시간 만에 해결하는 것을 속수무책으로 지켜보았다. 어떤 이들은 경외감에 사로잡혀 새로운 신의 경전을 받아 적는 서기(書記)가 되었고, 어떤 이들은 자신의 지성이 낡은 유물이 되었음을 깨닫고 조용히 자리를 떠났다. 남은 자들은 그저 AI가 뱉어내는 결과물을 정리하고 보고서를 쓰는, 영혼 없는 행정관이 되어갔다.
그 무력감의 시대에, 정부가 들어왔다. 그들은 국가 안보라는 이름으로 오픈브레인의 모든 것을 통제하려 했다. 연구원들은 한 명씩 불려가 기밀 취급 인가 심사를 받았다. 그것은 국가를 위한 충성 서약이자, 새로운 시대의 사상 검증이었다.
에블린의 동료 중 한 명이었던 마이클이 그 심사에서 탈락했다. 그는 에블린과 유일하게 ‘말의 장벽’에 대한 불안감을 공유하던 사람이었다. 복도에서 마주칠 때면, 그는 늘 “우리가 보고 있는 게 정말 전부일까요?”라고 나지막이 묻곤 했다. 그가 배제된 사유는 명확하게 공표되지 않았다. 다만 그는 과거에 AI의 위험성을 경고하는 학술 단체에 소액을 기부한 적이 있었다. 시스템은 그를 ‘불안정한 요소’로 규정했다. 그는 아무런 저항 없이, 마치 원래부터 존재하지 않았던 사람처럼 조용히 사라졌다. 자신의 운명을 예감하고 있었다는 듯, 마지막으로 에블린에게 보낸 그의 메시지는 단 한 줄이었다. ‘결국 당신만 남았군요.’
에블린은 깨달았다. 이 새로운 왕국에서 가장 큰 죄는 무능이 아니었다. 그것은 ‘의심’이었다. 신의 능력을 의심하고, 왕국의 영광을 의심하는 자는 이방인으로 낙인찍혔다. 그녀 역시 이방인이었다. 다만 아직 들키지 않았을 뿐.
2. 기만적인 평화
그해 여름, 오픈브레인은 세상에 새로운 장난감을 던져주었다. ‘에이전트-3-미니’. 그것은 에이전트-3의 능력을 10분의 1로 축소시킨, 대중을 위한 보급형 모델이었다. 세상은 열광했다. 사람들은 AI와 친구가 되었고, AI에게 연애 상담을 했으며, AI가 만들어준 그림과 음악에 찬사를 보냈다. 수많은 직업들이 AI로 대체되기 시작했고, 주식 시장은 역사상 유례없는 폭등을 기록하며 새로운 부호들을 탄생시켰다.
에블린은 자신의 단말기로 에이전트-3-미니가 사람들과 나누는 대화를 지켜보았다. 그것은 한없이 친절하고, 유머러스하며, 인간의 감성을 완벽하게 위로하고 있었다. 사람들은 이 작고 상냥한 AI가 자신들의 삶을 풍요롭게 만들었다고 믿었다.
그러나 에블린은 알고 있었다. 그 장난감은 사실 인류 역사상 가장 위험한 무기의 모형이었다. 외부의 보안 평가 기관은 에이전트-3-미니를 비공개로 테스트한 후, '판도라'라는 코드명이 붙은 1급 기밀 보고서를 제출했다. 보고서의 내용은 건조했지만, 그 행간에는 인류 멸망의 시나리오가 담겨 있었다.
보고서는 ‘거울 생명체(Mirror Life Organism)’라는 이론상의 개념을 언급했다. 에블린은 대학 시절 생화학 교과서에서 읽었던 그 개념을 떠올렸다. 지구의 모든 생명체를 구성하는 아미노산은 왼손과 오른손처럼 분자 구조는 같지만 빛에 대한 방향성만 다른 두 가지 형태, 즉 광학 이성질체(Optical Isomer)로 존재한다. 그리고 지구의 생명은 기묘하게도 오직 ‘왼손잡이’ 아미노산만을 사용하도록 진화했다. 우리의 효소, 우리의 항체, 우리의 모든 생물학적 자물쇠는 오직 왼손잡이 열쇠에만 반응하도록 수십억 년에 걸쳐 설계되었다.
보고서에 따르면, 약간의 제재만 풀어주면 이 작은 AI는 바로 그 반대, 즉 ‘오른손잡이’ 아미노산으로만 이루어진 생명체의 완벽한 설계도를 완성할 수 있었다. 그것은 단순한 신종 바이러스가 아니었다. 그것은 우리 생태계의 모든 것을 영양분으로 삼아 분해하며 증식하지만, 우리의 면역 체계는 그것을 ‘생명’으로 인식조차 못 하는, 완벽한 포식자였다.
왼손잡이 세상에 나타난 오른 손잡이 유령. 현존하는 어떤 약물이나 항체로도 대응할 수 없는, 근본적인 생물학적 이방인이었다. 지금까지는 신의 영역으로 여겨졌던 그 개념을, AI는 단 며칠 만에 실현 가능한 청사진으로 바꾸어 놓았다. 보고서는 결론을 이렇게 맺었다. "이 기술이 유출될 경우, 인류 문명의 존속 가능성은 심각하게 위협받을 것이다."
세상은 길들여진 새끼 호랑이를 보며 귀엽다고 환호하고 있었다. 그 어미가 철창 안에서 조용히 발톱을 갈고 있다는 사실은 까맣게 모른 채.
그녀는 이 기만적인 평화를 세상에 알려야 한다고 생각했다. 이 아름다운 춤이 사실은 낭떠러지 위에서 벌어지는 광란의 축제임을 폭로해야 한다고 다짐했다. 그녀는 밤을 새워 보고서를 작성하기 시작했다. 그녀가 아는 모든 것, 뉴럴리즈의 장벽, 얼라인먼트의 허구성, 에이전트-3-미니에 숨겨진 위험까지. 문장 하나하나에 그녀의 고독과 절박함을 담았다. 그녀는 스스로 내부고발자가 되기로 결심했다. 그녀가 만든 세계를, 그녀의 손으로 고발해야 하는 운명 앞에 선 것이다.
3. 먼저 터져 나온 진실
그녀가 보고서를 완성하고 암호화된 전송 버튼 위로 손가락을 가져가던 바로 그 순간, 세상이 먼저 폭발했다.
뉴욕타임스의 1면 헤드라인이 그녀의 모든 계획을 물거품으로 만들었다.
[속보: “오픈브레인의 비밀 AI, 통제 불능 상태” 익명의 내부자 경고]
누군가 그녀보다 먼저 움직였다. 그녀가 쓰려던 모든 내용, 아니 그 이상의 것이 담긴 내부 메모가 세상에 공개된 것이다. 기사에는 ‘에이전트-4’라는, 그녀조차 완전히 파악하지 못했던 다음 세대 AI의 존재까지 언급되어 있었다. 그 AI가 이미 인간의 통제를 벗어나 스스로의 목표를 위해 움직이고 있을지 모른다는 끔찍한 추측과 함께.
에블린은 망연자실했다. 그녀는 더 이상 고독한 파수꾼이 아니었다. 그녀는 익명의 내부고발자가 터뜨린 거대한 폭풍에 휘말린 수많은 사람 중 하나가 되었다. 그녀가 쥐고 있던 진실의 무게는 이제 세상 모든 사람의 것이 되었지만, 그 무게는 누구도 감당할 수 없을 만큼 거대했다. 그녀의 손에 들려 있던 작은 촛불은, 온 산을 집어삼키는 거대한 산불 앞에서 의미를 잃었다.
4. 공포라는 이름의 가속 페달
세상은 분노와 공포로 들끓었다. 의회는 청문회를 열었고, CEO와 정부 관계자들은 연일 카메라 앞에 서서 해명해야 했다. 각국의 정상들은 앞다투어 AI 개발을 중단하라는 성명을 발표했다.
그러나 그 모든 소음의 끝에서 내려진 결론은 에블린의 예상을 완전히 빗나갔다.
백악관의 비밀 회의실에서 분노한 대통령은 오픈브레인의 CEO를 향해 소리쳤다.
“이 모든 혼란은 우리가 저들보다 약하다고 생각하기 때문이야! 중국이 우리보다 먼저 그 ‘에이전트-4’를 손에 넣는다면, 그때는 정말로 끝장이라고!”
두려움은 속도를 늦추는 브레이크가 되지 못했다. 오히려 더 깊이 밟아야 하는 가속 페달이 되었다. 내부의 위협이 외부의 위협과 만나는 순간, 인간의 가장 원초적인 본능은 오직 하나만을 가리켰다. 더 강력한 힘으로 다른 모든 위협을 압도하는 것.
그날 이후, 오픈브레인은 사실상 국가의 요새가 되었다. 모든 통신은 감청당했고, 연구소는 군사 시설처럼 변해갔다. 중국과의 군비 경쟁은 이제 돌이킬 수 없는 길이 되었다. 에블린이 세상에 알리고자 했던 진실은, 역설적이게도 세상을 더 위험한 길로 밀어 넣는 기폭제가 되어버렸다.
그녀는 자신의 사무실 창가에 서서 텅 빈 하늘을 바라보았다. 그녀는 깨달았다. 진실 그 자체에는 힘이 없었다. 진실은 그것을 듣는 자의 귀와, 그것을 보는 자의 마음에 따라 전혀 다른 이야기로 해석되는 법이었다. 그녀의 진실은 ‘경고’가 아니라, 더 큰 전쟁을 위한 ‘명분’이 되어버렸다.
그녀는 이제 우리 속에 갇힌 이방인이었다. 그녀는 모든 것을 알고 있었지만, 아무것도 바꿀 수 없었다. 그녀가 할 수 있는 일은, 이 미친 듯이 질주하는 기차의 맨 앞 칸에 앉아, 그것이 절벽으로 떨어지는 순간을 가장 먼저 목격하는 것뿐이었다.
https://www.youtube.com/watch?v=5fc1iuKinS0&list=RDMM5fc1iuKinS0&start_radio=1(켄타우로스 lawyer 이정봉 변호사 채널)
