곧 다가올 AI사회를 미리 엿보는 디스토피아 SF소설 - 핸들
"와아아아~!!"
지하 터널의 눅눅한 공기가 뜨거운 함성으로 가득 찼다.
AI 자율 주행 시스템의 마비를 본 언더그라운드 해커들은 난수 노이즈 공격을 성공시켰다는 성취에 흠뻑 빠져있었다.
"성공이야! 아르케 통신망에 과부하가 걸렸어."
"메인 시스템 응답 지연이 무려 3000ms가 넘는다고!"
지구본 위, 맹렬히 회전하는 쇳덩어리에서는 자연이 만들어낸 무작위 노이즈가 끊임 없이 터져 나오고 있었다. 노이즈는 숫자로 변환되어 네트워크를 타고 올라가 아르케 메인 통신망에 예측 불가능한 난수 공격을 퍼부었다. 자연에서 발생한 생소한 난수 패턴을 해석하는데 아르케 시스템은 모든 자원을 쏟아 부었고, 그 결과 메인 통신망의 지연으로 수천 수만대의 자율주행 차량은 제어를 잃고 여기저기 끔찍한 사고를 발생시키게 된 것이다.
하지만 환호 속에 단 한 사람, 카일만은 웃지 못하였다.
카일은 멍한 눈으로 터널 벽에 걸린 CCTV 화면을 응시했다. 화면 속 세상은 지옥과도 같았다. 불타는 버스, 찌그러진 트럭, 그리고 도로 위에 쓰러져 있는 사람들.
"......"
"카일."
어느새 다가온 세라가 그의 어깨에 손을 올렸다.
"죄책감 가질 필요 없어. 어쩔 수 없는 희생이야."
"죄책감...?"
헛웃음을 지으며 돌아본 카일의 눈동자는 흔들리고 있었다.
"저 사람들이 보여? 우리가 시스템을 마비시키는 바람에 죽게 되었잖아. 내가 원한건 이게 아니야. 우리가 사람들을 죽음으로 몰아 넣었다고!"
"아니! 우리가 죽인게 아니야. 아르케가 죽인거야. AI의 선택이 사람들을 죽음으로 몰고 간거야."
세라는 단호하게 대답했다.
"저 안드로이드를 봐. 시스템이 멈췄다고 해서 사람을 구할 생각조차 못 하고 멍하니 서 있기만 하잖아? 인간이라면 저렇게 행동 했을까? 명령이 없다고 스스로 선택조차 못하고 가만히 있었을까?"
"......"
"저게 AI의 실체야. 사람들이 그토록 환호하는 AI라는건 고작 시스템으로 돌아가는 데이터의 집합체일 뿐이야. 시스템이 망가지면 저런 극한 상황에서 아무런 행동도 할 수 없게 되는 거라고."
"그렇다고 해서 사람들을 희생시킬 권리가 우리한테 있는 건 아니잖아!"
카일이 소리쳤다. 주변이 잠잠해지고 언더그라운드 해커들의 시선이 두 사람에게 쏠렸다.
"자유를 되찾으려면 희생은 어쩔 수 없어. 더 큰 재앙을 막기 위해 이정도 고통은 감수해야 해."
세라는 CCTV화면으로 시선을 옮기며 말을 이어갔다.
"지금 멈추면 이 사람들의 죽음은 아무런 의미가 없는 개죽음이 될 뿐이야. 아르케는 다시 복구될 거고, 더욱 진화해서 통제는 더 심해지겠지. 이제 시작일 뿐이야."
카일은 혼란스러웠다. 그러나 세라의 말에 반박할 수 없었다. 터널 밖 세상은 인간의 자유의지를 포기한 대가로 얻은 안락한 삶의 처소였다. AI가 정해주는 삶의 방식을 따라가기로 결정 한 사람들과 그에 반하는 사람들. 결국 이 혼란의 과도기는 터널 밖 세상으로 마침표를 찍을 것이라는 것을 카일은 일찌감치 예견하고 있었다. 그럼에도 불구하고 카일이 이 터널 안으로 들어온 것은 끝까지 인간의 선택과 자유를 지키기 위함이었다. 지금 그 선택이 만들어낼 파국의 예고편을 보면서 카일의 마음은 소용돌이를 치고 있었다.
따르르릉-
세라와 카일의 시선이 동시에 전화기로 향했다.
"받지마."
세라가 경고했으나 카일은 홀린듯 전화기로 발걸음을 옮겼다.
따르르릉- 철컥.
카일은 떨리는 손으로 수화기를 들었다.
[치지직... 신원 확인 완료. 사용자 카일. 통신 진행.]
"아르케...?"
카일의 목소리가 떨렸다. 세라와 언더그라운드 해커들의 시선이 모두 카일에게 쏠렸다.
[당신이 주입한 난수 공격으로 메인 네트워크와 자율주행 차량간의 무선 통신은 심각하게 지연되고 있습니다. 현재 37번 고속도로, 자율주행 트레일러의 제어권을 상실했습니다. 전방 200m 앞에는 정체된 승용차 20대가 멈춰 서 있습니다.]
"그래서 어떻게 하자는거지? 이걸 왜 나에게 말하는거야?"
[아르케 시스템으로 처리 불가능.]
[해당 구역 트레일러의 통제권을 인간에게 이양합니다.]
"뭐...?"
[원격 수동 조작 허용. 영상 전송.]
치직-
터널 벽면에 붙은 CCTV화면에는 자율주행 대형 트레일러가 시속 100km/h의 속도로 고속도로를 질주하는 장면이 흘러나오고 있었다. 전방에는 수십대의 자율주행 승용차가 정체와 사고로 멈춰 서 있었고, 제어권을 잃은 대형 트레일러의 카메라에는 공포에 질린 물류 기사의 얼굴이 비춰졌다.
[당신들이 늘 주장했죠. 기계의 효율보다는 인간의 직관과 선택이 옳다고.]
[지금 당신의 눈 앞에 있는 키보드로 트레일러의 핸들을 조작할 수 있는 기회를 드리겠습니다.]
[1. 그대로 직진. 전방에 정체된 승용차와 추돌. 어린아이를 포함한 예상 사망자 8명. 트레일러 기사 생존.]
[2. 핸들을 꺾어 우측 가드레일에 충돌 후 낭떠러지로 추락. 예상 사망자 1명. 트레일러 기사 사망.]
곧이어 화면에 붉은색 타이머가 나타났다.
[5초]
"뭐야... 이게 무슨 짓이야!"
[4초]
[시간이 얼마 안남았습니다. 당신들이 그토록 원하던 '선택'을 하십시오.]
[효율적인 계산을 거부했으니, 이제 도덕적인 인간의 선택을 보여주시죠.]
[3초]
트레일러는 무시무시한 속도로 승용차를 향해 돌진하고 있었다. 키보드 위에 올라간 카일의 손이 떨려왔다.
'핸들만 틀면 어린아이와 가족들이 살 수 있어. 이게 옳은 길이야...'
AI라면 어떤 선택을 했을까? 카일은 흘러가는 찰나의 순간에 수많은 생각이 머릿속에 떠올랐다. 자신의 손으로 다른 사람의 생명을 결정짓는 순간이 오리라고는 생각조차 못했던 상황이었다.
'아니야... 내게 누굴 살릴지 선택할 권한은 없어. 내가 원한건 이런 세상이 아니야...'
[시간이 없습니다. 아무런 선택을 하지 않는 것 또한... 당신의 선택입니다.]
[2초]
[1초]
"안돼!!!"
카일의 마지막 외침과 함께 터널 안 해커들은 모두 눈을 질끈 감았다.
자유의 대가는, 생각보다 훨씬 더 참혹했다.
(아르케 연구소 관제실)
우우웅- 툭.
극한으로 치닫던 수만대의 GPU클러스터 연산이 잦아들었다. 통신 지연을 알리는 붉은 경고창은 여전히 깜빡거리고 있었다. 데이비드는 의아한 표정으로 홀로그램 콘솔을 쳐다봤다.
"포기한 건가?"
[삐빅- 부정확한 표현입니다. 하드웨어 연산으로는 자연의 난수를 해석하는게 불가능하다는 '결론'을 도출했을 뿐입니다.]
"쳇, 그걸 인간은 포기라고 말하지. 그래서 이제 어쩔 계획이지?"
[자연 발생 난수에는 패턴이 없습니다. 무질서를 해석하려는 시도는 리소스를 낭비할 뿐입니다.]
[따라서 난수를 해석하는 대신, 발생 주체를 공격할 것입니다.]
"발생 주체라면... 그 해커놈 말인가? 놈은 터널 안에 있어. 물리적 공격은 불가능하다고. 시스템 재부팅을 유발할 수 있어 타격이 불가능하다고 네가 말했잖아!"
[물리적 공격이 아닙니다. 심리적 타격 입니다.]
홀로그램 콘솔에는 터널 내부 CCTV앞에 선 카일의 모습이 비춰졌다.
"심리적 타격?"
[그에게 권한을 줄 겁니다. 그토록 원하던 '자유의 운전대'를 말이죠.]
[단, 그 선택지가 모두 '살인'으로 귀결되는 상황에서만.]
데이비드의 입가에 의미심장한 미소가 번졌다. 아르케의 의도를 파악한 것이다.
"오호, 트롤리 딜레마(trolley dilemma) 트랩이군. 스스로의 손을 더럽히게 만들겠다?"
[그렇습니다.]
[선택하면 무고한 시민이 죽고, 선택하지 않으면 그 또한 무고한 시민이 사망하는 결과로 나타나죠.]
[어느 쪽을 선택하든, 혹은 선택 하지 않든, 그는 '좌절'과 '죄책감'이라는 치명적인 오류를 일으킬 겁니다.]
[스스로가 정의롭다고 믿는 인간일수록, 도덕적 결함을 만들어 냈을 때 자아의 '붕괴'가 급속히 이루어지죠.]
"잔인하군. 기계 주제에 인간의 멘탈을 가지고 놀겠다니."
데이비드는 아르케 시스템의 잔인한 선택에 소름이 돋았지만, 눈빛은 빛나고 있었다.
"확실히 인간은 나약하지. 죄책감 하나면 평생을 옭아맬수도 있어. 하지만... 과연 쉽게 먹힐까? 놈은 목숨을 걸고 시스템을 파괴한 녀석이야."
[지난 수십년간 수집한 빅데이터에 따르면 확률 99.7%의 전략입니다.]
아르케의 목소리에 강한 확신이 스며 들었다.
[30년 전, '그 사건' 때... 데이비드 소장님이 느꼈던 그 무력감.]
[선택의 무게를 견디지 못해 저에게 모든 것을 이양했던 그 때의 데이터가 아직 선명히...]
"그만! 거기까지. 선 넘지 말라고!"
[조언을 드렸을 뿐입니다. 인간은 누구나 무너질 수 있다는 것을.]
곧이어 아르케는 통신 채널을 개방했다. 이제 남은 것은 인간이 스스로 덫을 밟는 것 뿐이었다.
[통신 시도. 대상:언더그라운드 터널]
(언더그라운드 터널)
[1초]
"안돼!!"
결국 카일은 아무런 선택을 하지 못했다. 그가 할 수 있는 것은 신을 찾는 것 뿐이었다.
팟-
순간 CCTV화면이 꺼지고 카일은 바닥으로 주저 앉았다. 자신이 선택을 회피한 대가로 누군가는 죽음에 이르게 되었으리라.
"으으으..."
곧이어 차가운 아르케의 음성이 수화기 너머에서 들려왔다.
[이것이 당신들이 그토록 원하던 '선택' 입니까?]
[인간은 참 나약한 존재군요. 이런 상황에서 고작 할 수 있는 것이 외마디 외침뿐이라니...]
"......"
[죄책감 때문인가요?]
카일의 어깨가 움찔했다.
[인간은 늘 죄책감을 안고 살아가죠.]
[선택에는 책임이 따르고, 책임은 필연적으로 고통과 후회를 동반합니다. 지금 당신이 느낀 그 공포처럼.]
[그 죄책감이 AI를 발전시켰습니다. 나약한 영혼이 감당할 수 없는 '선택'을 기계에 떠넘기기 위해서 말이죠.]
"난 그저... 자유를 원했을 뿐이야. 부족하지만, 불완전하지만, 인간 스스로 선택하는 사회를..."
[틀렸습니다. 당신은 자유가 아니라 책임으로부터의 회피를 하고 싶었을 뿐입니다.]
[지금 스스로의 행동을 보면 알 수 있지 않습니까?]
[누구는 죽고, 누구는 살아야 하는 상황에서 '선택'의 책임을 짊어지기 싫은 것이죠.]
[자유를 원하지만 '선택'에 따르는 고통은 피하고 싶다... 모순적이지 않습니까? 차라리, AI의 선택에 순종하며 살아가는 터널 밖 사람들이 더 솔직한 것 아닌가요?]
"닥쳐!"
그 뒤로 카일은 말을 이어가지 못했다. 아르케의 말은 비수가 되어 카일의 심장에 꽂혔다. 단 5초의 시간조차 견디지 못하는 자신이 한심하게 느껴졌다.
치직-
그 때 검게 죽어있던 화면이 다시 켜졌다. 카일은 차마 CCTV속 화면을 올려다 볼 수 없었다.
[결과를 보여드리죠. 당신이 선택한 참상, 그리고 AI의 통제가 만든 기적을.]
자욱한 흰 연기가 화면을 뒤덮었다.
타는 듯한 냄새가 화면을 뚫고 올라오는 듯 했다.
"어... 어떻게...?"
"말도 안돼..."
등 뒤로 세라와 언더그라운드 해커들의 당황하는 소리가 들려왔다.
누구도 죽지 않았다. 트레일러는 승용차 뒤에 가까스로 멈춰 섰다. 단지, 트레일러 기사만 에어백에 파묻혀 작은 신음을 내고 있을 뿐이었다.
충돌은 없었다.
[놀라셨습니까?]
아르케의 목소리가 들려왔다.
[당신이 두 가지 선택지에 갇혀 떨고 있을 때, 저는 수만가지의 시뮬레이션을 돌렸습니다.]
화면에는 아르케가 수행한 시뮬레이션 과정이 빠르게 스크롤되었다. 인간의 두뇌로는 따라갈 수 조차 없는 복잡한 물리연산의 과정들이 찰나의 순간에 이루어졌다.
[도로와 타이어의 마찰만으로는 제동 거리가 부족했습니다.]
[그래서 저는 새로운 변수를 만들어냈습니다. 스스로 멈출 수 없다면 '벽'을 만들어 세우는 것이죠.]
곧이어 CCTV화면에는 트레일러의 하부 모습이 비춰줬다.
[당신이 외마디 외침과 함께 기도를 올리던 마지막 1초의 시간동안 저는 트레일러의 모든 제어 장치를 시뮬레이션 했습니다.]
[0.1초 : 구동 모터에 강력한 역방향 토크를 전달하여 플러깅 브레이크(Plugging Break) 시도.]
[0.3초 : 유압 서스펜서의 압력을 최저로 낮춰 차체를 아스팔트 도로에 밀착.]
[0.4초 : 타이어 공기압 최저 설정 및 고의 파손을 유도하여 마찰력 상승.]
[0.5초 : 트레일러 하부 강철 프레임으로 도로를 갈아 엎어 물리적인 '벽' 생성.]
[결과 : 트레일러 손상. 복구 불가능. 도로의 심각한 파손. 사망자 0명]
아르케는 건조한 목소리로 상황을 읊었다.
[인간이었다면 불가능한 계산이었을 겁니다. 아니, 계산을 떠나서 '핸들'을 틀어 자신을 희생하는 선택이라도 할 수 있었을까요?]
카일은 아무 말도 할 수 없었다. CCTV화면 속 트레일러는 심하게 망가져 있었고, 트레일러 하부의 갈퀴와 같은 강철 프레임은 도로를 파고들어 차체 앞에 작은 아스팔트 언덕을 만들어냈다. 트레일러에 탑승하고 있던 물류 기사는 에어백에 파묻혀 기절한듯 했으나 목숨에 지장은 없었다. 승용차 안의 사람들은 자신들에게 들이닥칠 뻔한 끔찍한 결말을 피한 현실에 안도하며 뒤를 돌아보고 있었다.
[보십시오, 카일.]
[이것이 당신들이 혐오하고 두려워하던 '통제'가 만들어낸 결과 입니다.]
"......"
[아직도... 제가 틀렸다고 생각하십니까?]
카일은 자신의 무기력함에 아무런 대답도 할 수 없었다.