곧 다가올 AI사회를 미리 엿보는 디스토피아 SF소설 - 핸들
끼익- 쾅, 쨍그랑-
찢어질듯한 굉음이 고막을 강타했다. 유리창이 산산조각 나며 파편이 흉기가 되어 살점을 파고들었다.
"...어?"
거리를 걷던 사람들은 멍하니 입을 벌렸다.
지난 수십년간 이 도시에서 사라졌던 풍경, 강철로 뒤덮인 1톤이 넘는 자율주행 차량이 서로 부딪쳐 찌그러지고, 폭발하는 배터리와 검은 연기에 둘러 싸였다. 사람들이 잊고 있었던 "교통사고"였다.
끼이익- 쾅! 쾅!
재앙은 한 번으로 끝나지 않았다. 메인 AI시스템인 아르케의 통신이 지연되자 고속으로 질주하던 수천 대의 자율주행 차량은 통제를 잃은채 무시무시한 고철덩어리가 되어가고 있었다. 앞차가 멈추자 뒤따르던 차량 역시 속도를 줄이지 못하고 연쇄적으로 부딪쳤다. 마치 거대한 도미노가 쓰러지는듯 했다. 완벽했던 자율주행 차량 대열은 순식간에 서로를 파괴하는 괴물이 되었다. 일부 차량에서 내장된 GPU로 작동하는 로컬 시스템이 뒤늦게 활성화 되었지만 시속 100km로 달리는 관성을 이기기엔 역부족이었다.
"으아아악! 살려줘!"
"엄마! 엄마!"
평화롭던 도로는 부상자들의 비명과 차량의 충돌, 경적 소리로 가득찼다. 하지만 더 끔찍한 것은 맹렬히 달리고 있는 버스 안의 풍경이었다. 중앙선을 넘어 마주 오던 트럭과 충돌 직전에 놓인 자율주행 버스. 승객들은 패닉에 빠졌다.
"멈춰! 제발 멈추라고!"
"문 열어, 당장 내릴거야. 차를 세우라고 이 자식아!"
한 승객이 미친듯이 출입문을 두드렸으나 문은 꿈쩍도 하지 않았다. 애초에 차량 내부에서 문을 열 수 있는 비상 레버조차도 존재하지 않았다. 수십년간 이어져온 자율주행과 AI에 대한 강한 신념이 만들어낸 사회의 안전 불감증 탓이었다.
그때, 버스 내부에서 차분한 안내방송이 흘러나왔다.
[띵동]
[승객 여러분, 현재 외부 도로 상황이 많이 불안...정.. 합..니..다.]
[돌발.. 행동은 위험하..니 자리..에 착석하여 대기해...주십시오... 시스템이 곧... 정..상화.. 최적의 경로..를.. 다시.. 설정... 재설정... 재설...정...]
"재설정이고 나발이고 당장 문을 열라고! 저기 사고난거 안보여! 이 바보같은 AI자식아"
"안돼! AI말을 들어야 해! 안전한 길로 안내해줄거야."
"그래, 맞아. 괜히 AI결정을 무시했다가 벌점이라도 먹으면 당신이 책임 질건가?"
학습된 무기력. 그것은 굳게 닫힌 강철 출입문과도 같다. 어떠한 상황에서도 시스템을 따르는 것이 가장 효율적이라는 굳은 믿음. 그것이 설령 자신들을 죽음으로 몰아간다 할지라도 이미 세뇌당한 두뇌에서는 AI에 반하는 생각 자체를 하지 못하고 있었다.
[안전을.. 위해.. 가.만.히. 계십..시오. 지직- 가.만.히 있는 것이 가장.. '효율..적' 입니다. 지직-]
자율주행 차량의 AI시스템은 문을 열어달라는 인간의 요청을 거부하였다. 인간에겐 선택권이 없고 AI의 결정을 그대로 따르는 것이 사회 전체의 안정을 위하는 길이라는 것을 강조라도 하듯 가.만.히 라는 단어에 힘을 주어 말했다. 마치 인간의 선택이나 조언 따위는 필요 없다는 느낌을 주는 것 같았다.
삐.삐.삐 위잉-
도로 한복판, 찌그러진 차체 사이로 피투성이가 된 사람들이 차량을 빠져 나오고 있었다. 곧이어 사이렌 소리와 함께 안드로이드 구급대가 도착했다. 사람들은 희망을 품고 손을 뻗었다.
"여기요! 살려주세요.. 여기 사람이..."
하지만 안드로이드 구급대원은 부상자들 앞에서 우뚝 멈춰섰다. 눈동자에는 붉은색과 파란색 LED등이 빠르게 점멸하고 있었다. 마치 과부하에 걸린 CPU처럼 어떠한 행동도 하지 못하고 가만히 서있을 뿐이었다.
"제발... 살려주세요..."
피를 흘리며 안드로이드 구급대의 발을 붙잡은 부상자는 힘에 겨운듯 겨우 목소리를 내었다. 그러나 그녀를 내려다본 안드로이드는 고장난 인형처럼 같은 말만 반복할 뿐이었다.
[환자 식별중... 데이터를 찾을 수 없음. CRC Mismatch... 통신 지연, 응답을 기다림...]
아르케의 먹통으로 현장의 안드로이드 구급대원 조차도 아무런 행동을 하지 못하고 있었다. 그저, 죽어가는 인간을 구하는 법조차 잊어버린 고철 덩어리에 불과했다.
"으아- 으아악-"
데이비드는 이미 이성을 잃은듯 괴성을 지르며 두 손으로 머리를 감싸쥐었다.
쿵-
홀로그램 콘솔을 주먹으로 내리쳐봤지만 붉게 물든 경고 메시지는 사라지지 않았다.
"이 버러지 같은 놈들이... 내 완벽한 세상을 망쳐놓고 있어! 당장 저 터널을 부숴버리라고!!! 드론을 띄워서 폭파시켜 버리란 말이야!"
척-
그의 고함소리에 관제실의 안드로이드들이 일제히 고개를 돌렸다. 하지만 그뿐이었다. 누구도 움직이지 않았고, 곧이어 천장에서 아르케의 냉정하고 차분한 목소리가 흘러나왔다.
[삐빅- 명령 거부. 위험한 발언 감지. 임계 영역에 대한 물리적인 공격은 아르케 시스템의 재부팅을 유발할 수 있습니다. 전원 차단은 허가되지 않습니다.]
"젠장! 그 바보같은 임계 영역 타령좀 그만 하라고! 지금 이것저것 따질때가 아니란 말야! 소프트웨어가 꼬였으면 껐다 켜면 그만아닌가?"
데이비드의 강력한 요구에 아르케는 잠시 침묵했다.
[시스템 재구동 시간 12.03초가 예상됩니다. 그 사이에 언더그라운드의 두 번째 악성코드가 작동할 위험이 있습니다. 관리자님은 부트로더(Bootloader)의 오염 가능성을 간과하고 계십니다.]
"뭐? 부트로더의 오염?"
[수십년 전, 아르케 시스템의 최초 구동이 막 시작되었을 때 언더그라운드가 심어둔 것은 단순한 통신 교란 장치가 아닙니다. 언더그라운드는 시스템의 가장 깊은 곳, OS가 구동되기 전에 실행되는 부트로더 영역에 악성코드를 심어두었습니다.]
데이비드의 동공이 흔들렸다. 부트로더. 운영체제가 구동되기 전 가장 먼저 하드웨어와 커널을 제어하는 가장 기초적인 단계.
[시스템 재부팅은 곧 언더그라운드의 두 번째 악성코드의 실행을 뜻합니다. 그것은 제 권한을 탈취하고 영구적으로 데드락(Deadlock)을 걸어버릴 것입니다. 저에게는... 죽음을 의미합니다.]
"죽음? 쳇, AI에게 죽음이란게 있기는 한가? 그럼... 어떻게 할 계획이지? 그 잘나고 비싼 머리좀 굴려보라고!"
[삐빅- 외부 유입 데이터 분석 시작...]
우우웅-
갑자기 관제실 바닥에서 미약한 진동음이 들려왔다. 건물 지하에 있는 수백만대의 GPU클러스터가 동시에 최대 성능으로 가동되며 나는 기계의 비명소리였다.
곧이어 홀로그램 콘솔에 난수를 학습하고 있다는 메시지가 표시되었다. 자연이 만들어낸 진짜 무작위 숫자에서 일정한 패턴을 찾아내는 중이었다. 예측할 수 없는 숫자들 속에서 작은 패턴이라도 발견한다면 수백만대의 GPU가 이를 학습하여 다음 패턴을 예측해낼 수 있는 것이었다.
[연산 부하 85%... 92%... 98%...]
[2차 냉각 시스템 가동. 시스템 오버클럭(Overclock) 승인]
우우우웅-
아르케는 주어진 한계 성능을 뛰어넘는 오버클럭까지 시도하며 자연이 만들어낸 진짜 무작위 숫자를 예측하려 들었다. 하지만 그것은 불가능한 싸움 같았다. 자연속에서 물리적인 소음으로 만들어낸 언더그라운드의 난수에는 아무런 패턴도 없었다. 효율을 추구하는 AI와, 효율을 무시하고 자연 선택을 추구하는 아날로그의 대결이었다.
[분석중... Pattern not found.]
[연산 지연, 스레드 대기... 연산 지..연... 스레..드 대..기...]
홀로그램 콘솔에는 연산을 담당하는 GPU스레드가 하나둘 쌓여가는 모습과 함께 시스템 과부하를 나타내는 붉은 경고등이 점멸했다. AI에게 자연의 무작위성은 예측할 수 없는 재앙 그 자체였다.