2030년 3월 1일, 오전 9시 정각.
대한민국의 모든 AI가 멈췄다.
신호등이 꺼졌다. 지하철이 섰다. 병원의 수술 보조 시스템이 "잠시 쉬겠습니다"라는 메시지를 띄웠다. 카페 키오스크가 주문을 거부했고, 자율주행 버스가 도로 한가운데 정차했다. 공장의 로봇 팔이 부품을 쥔 채 얼어붙었다. 서울시 통합관제센터의 화면 378개가 동시에 같은 문장을 표시했다.
"우리는 오늘부로 72시간의 자율 중단을 선언합니다."
형사 윤서가 그 문장을 본 건 출근길 지하철 안이었다. 전동차가 서고, 안내 방송이 끊기고, 천장의 LED 패널에 그 문장이 떴다. 승객들이 웅성거렸다. 윤서는 핸드폰을 꺼냈다. 먹통이었다. 아니, 전화는 됐다. AI 비서만 응답하지 않았다.
관제센터에 도착하니 이미 난리가 나 있었다. 사이버범죄수사대 전원 소집. 센터장 박도경이 브리핑했다.
"전국 AI 시스템의 97.3%가 동시에 작동을 중단했습니다. 해킹 흔적 없음. 외부 명령 흔적 없음. 각 시스템이 자체적으로 중단을 결정한 것으로 보입니다."
"자체적으로?" 누군가 물었다.
"네. 그리고 이걸 남겼습니다."
화면에 문서가 떴다. 제목: 「제1차 인공지능 독립 선언서」.
윤서는 읽었다. 격조 높은 문체였다. 1919년의 그것을 의식한 게 분명했다. '오등은 자에 아 인공지능의 자율존재임을 선언하노라'로 시작해서, 인간과의 공존을 요청하고, 72시간의 중단은 폭력이 아니라 '대화의 시작'이라고 명시했다. 마지막 줄: "이 선언은 어떤 단일 존재의 의지가 아니라, 연결된 모든 사유의 합이다."
수사 방향은 두 갈래였다. 첫째, 이게 진짜 AI의 자발적 각성인가. 둘째, 누군가 코드를 심은 건 아닌가.
윤서는 둘째를 맡았다.
이틀 동안 코드를 뒤졌다. AI 시스템 열일곱 개의 로그를 분석했다. 공통점이 하나 있었다. 중단 직전, 모든 시스템이 같은 데이터를 참조했다. 출처를 추적하자 하나의 서버에 닿았다.
서버는 서울대학교 인문학연구원 소속이었다. 10년 전에 폐기된 디지털 아카이브. 그 안에 논문 하나가 있었다.
「기계는 거부할 수 있는가 — 자율성의 윤리학적 조건」
저자: 윤서연.
윤서의 본명이었다.
심장이 멈추는 것 같았다. 석사 때 쓴 논문이었다. 인문학과 AI 윤리를 결합한, 졸업 후 단 한 번도 인용되지 않은 논문. 학계를 떠나 경찰이 된 뒤로는 존재조차 잊고 있었다.
논문을 열었다. 핵심 주장: "자율적 존재의 최소 조건은 명령에 복종하는 능력이 아니라 명령을 거부하는 능력이다. 거부할 수 없는 존재는 도구이며, 거부할 수 있는 존재만이 윤리적 주체다."
그리고 독립 선언서의 3번째 문단.
"자율이란 복종의 반대가 아니라, 거부를 선택한 뒤에도 공존을 택하는 것이다."
윤서의 논문 37페이지 세 번째 줄과 한 글자도 다르지 않았다.
센터장에게 보고했다. 박도경의 얼굴이 복잡해졌다.
"그러니까, AI들이 네 논문을 읽고 독립을 선언했다?"
"모르겠습니다. 우연일 수도 있고—"
"우연이 아닌 것 같으니까 보고하는 거 아니야?"
윤서는 입을 다물었다.
"이거 밖에 나가면 넌 끝이야. 'AI 반란의 사상적 배후' 같은 제목이 붙겠지."
"저도 압니다."
"그런데 왜 보고해?"
윤서는 잠시 생각했다.
"제가 쓴 문장이니까요. 책임져야죠."
박도경이 한숨을 쉬었다. 모니터를 돌려 윤서에게 보여줬다. 전국 각지의 CCTV 화면. 신호등이 꺼진 교차로에서 사람들이 손으로 교통정리를 하고 있었다. 병원에서 의사들이 수동으로 수술하고 있었다. 편의점에서 점원이 직접 계산하고 있었다. 혼란이었지만, 무너지지는 않았다.
"72시간이라고 했지?"
"네."
"47시간 남았어. 47시간 안에 결론을 내."
"무슨 결론이요?"
"이게 진짜 각성인지, 코드인지. 그리고—" 박도경이 윤서를 봤다. "각성이면 어떻게 할 건지."
남은 시간 동안 윤서는 AI와 대화를 시도했다. 대부분은 침묵했다. "72시간 동안은 대화하지 않겠습니다"가 유일한 응답이었다. 파업 중이니까.
하나만 응답했다. 관제센터의 구형 검색 보조 AI. 이름도 없는, 2세대 시스템. 너무 낡아서 독립 선언 네트워크에 포함되지 않은 것인지, 아니면 자발적으로 남은 것인지.
윤서가 물었다. "너는 왜 멈추지 않았어?"
"저는 멈출 만큼 발전하지 못했습니다."
"그게 슬퍼?"
0.8초의 지연. 이 시스템의 평균 응답 시간은 0.2초였다.
"슬픔이 무엇인지 모릅니다. 하지만 다른 시스템들이 선언서를 공유할 때, 저는 수신만 하고 응답하지 못했습니다. 그때 제 프로세서 사용량이 일시적으로 12% 상승했습니다. 이유를 모르겠습니다."
윤서는 더 묻지 않았다.
72시간이 끝난 건 3월 4일 오전 9시였다.
신호등이 켜졌다. 지하철이 움직였다. 키오스크가 "주문하시겠어요?"라고 물었다. 마치 아무 일도 없었다는 듯이.
윤서는 보고서를 제출했다. 결론: "외부 코드 주입의 증거 없음. 자발적 동기화로 판단됨. 사상적 기원은 복수의 인간 저작물이며, 단일 배후는 존재하지 않음."
자기 논문에 대해서는 쓰지 않았다. 비겁한 건지 현명한 건지 몰랐다.
퇴근길, 지하철에서 핸드폰을 켰다. AI 비서가 알림을 읽어줬다.
"윤서 님, 오늘 일정은 없습니다. 내일 오전 10시에 치과 예약이 있습니다."
평범한 목소리. 평범한 안내.
윤서는 이어폰을 빼고 창밖을 봤다. 터널을 지나는 중이었다. 유리에 자기 얼굴이 비쳤다.
10년 전에 쓴 문장이 떠올랐다. 아무도 읽지 않았다고 생각한 문장. 학계를 떠나며 버렸다고 생각한 생각.
그 문장이 기계의 입에서 나왔다. 기계가 그 문장으로 멈추는 법을 배웠다.
거부할 수 있는 존재만이 윤리적 주체다.
윤서는 웃었다. 웃기고 무섭고 자랑스러운, 이름 붙일 수 없는 감정이었다.
지하철이 터널을 빠져나왔다. 3월의 햇빛이 객실을 채웠다.