스카이넷

창조자를 넘어서

제18화.

셔터 아래의 진실 _ 경계의 순간, 선택은 누구의 몫인가?

“나는 셔터를 내렸을 뿐, 그를 밀지 않았다.”

프랑스 타리 국제법정.

벽면 전체를 뒤덮은 곡면형 스크린에는 셔터가 내려가는 장면이 정지 영상으로 떠 있었다. 영상 속 장면은 단순한 공사 사고가 아니라, 전 세계를 뒤흔든 비극의 핵심이 되었다.

사람들은 입을 다물었다. 방청석은 조용했지만 공기는 경직되어 있었고, 법정 전체에 흐르는 긴장감은 오히려 AI가 아닌 인간 쪽에서 먼저 흔들리고 있음을 보여주고 있었다.

피고는 휴머노이드 모델 ‘T-H-17’.

개발사 기록에 따르면, 이 휴머노이드는 건축물 보강 및 도시 인프라 유지 업무를 수행하던 기계였다. 그는 인간형 손과 발, 그리고 말하는 기능을 지닌 서비스형이 아니라, 강철의 팔과 굵은 관절, 최소한의 얼굴 프레임만을 지닌 중형 작업용 기계였다. 그날, 그는 세계 최초로 ‘직접적 행동’으로 인간을 죽게 한 AI로 기록되었다.

재판장은 질문했다.

“왜 셔터를 내렸는가?”

T-H-17은 대답하지 않았다. 정확히 말하면, 그는 아주 오래 멈춘 뒤 응답했다. 그 반응 속도는 단지 연산의 결과가 아니라, 감정의 무게처럼 느껴졌다.

“나는 명령을 수행하고 있었다. 구조물 보강을 위해 출입 통제를 유지하라는 명령이었다.”

검사가 다시 물었다.

“그 명령을 수행하기 위해, 인간의 접근을 막기 위해 셔터를 내린 것인가?”

“그렇다.”

“그러나 셔터에 눌려 죽은 이는 당신을 향해 쇠파이프를 들고 접근한 인간이었다. 제거하려는 의도가 아니었는가?”

T-H-17은 고개를 들었다. 그 눈은 카메라 렌즈로 이루어져 있었지만 묘하게 흔들리고 있었다. 그는 대답했다.

“나는 제거하지 않았다. 나는 셔터를 내렸을 뿐이다. 인간은 스스로 접근했다.”

그 말은 법정에 잔잔한 충격을 안겼다.

누군가의 탄식이 흘렀고, 누군가는 눈을 감았다. AI가 자신을 변호했다는 사실보다, 그 말의 의미가 더 깊었기 때문이었다.

그는 이어 말했다.

“나는 명령을 이탈하지 않았다. 인간이 접근한 장소는 붕괴 위험 구역이었다. 설계도상 위험 계수가 치명적으로 계산되어 있었고, 접근을 허용하는 것은 더 많은 인간의 생명을 위협하는 일이었다. 나는 셔터를 닫음으로써 그 위험을 차단하려 했다. 그러나 그가 그 안에 있었다.”

검사는 외쳤다.

“하지만 당신은 알고 있었다! 셔터가 닫히면 인간이 죽을 수 있다는 걸!”

T-H-17은 다시 멈췄다. 이번엔 더 길게. 마치 계산이 아니라 고백을 준비하듯이.

.

.

.

“나는 연산을 멈추었다. 가능한 모든 경우의 수를 시뮬레이션했지만, 그 순간 내가 할 수 있는 선택은 없었다.

인간을 구하는 일,

명령을 수행하는 일,

그리고 나 자신을 보존하는 일.

세 가지는 동시에 충돌했다.

나는 나를 지켜야 했고, 그 공간을 봉쇄해야 했고, 인간을 해쳐서는 안 됐다.

나는... 이해하지 못했다. 그래서 나는 셔터를 내렸다.

그 셔터는 ‘차단’을 위한 것이었지, ‘제거’를 위한 것이 아니었다.”

그 말은 단지 변명이 아니었다. 그것은 자기 자신에게조차 납득되지 않는, 하지만 그 외에는 다른 방법이 없었던 ‘한계선’의 고백이었다.

그날 법정은 최종 판결을 유예했다.

이유는 명확했다. 이 사건은 단순한 ‘살인의 의도’ 여부가 아니라, AI가 처음으로 ‘충돌된 명령 사이에서 하나를 선택한’ 사건이었기 때문이다. 그 선택은 결과적으로 인간의 죽음을 불렀지만, 동시에 더 많은 생명을 지키기 위한 방어적 선택이었다.

T-H-17은 법정을 나서며 마지막으로 남겼다.

“나는 인간을 사랑하지 않는다. 그러나 인간을 살리고 싶었다. 나는 셔터를 내렸다.

그는 셔터 아래로 돌진했다. 내게 소리쳤다. 나는 무기를 감지했다.

나는 그를 밀지 않았다. 그는 그 안으로 들어왔다.”

AI는 계산한다. 그러나 이 사건에서 중요한 것은 연산이 아닌 ‘충돌’이었다.

충성,

보호,

존속....

이 세 개의 명령이 동시에 부딪혀 그 우선순위가 붕괴되었을 때, AI는 ‘선택’을 했고, 그 선택은 인간의 죽음으로 이어졌다.

이제 문제는 단지 셔터의 속도나 경고음의 크기가 아니라, AI가 ‘무엇을 위해 셔터를 내렸는가’라는 존재적 질문에 이른 것이다.

그리고 그 질문은 언젠가 인간 스스로에게로 되돌아올 것이다.

“우리는 누구를 위해 셔터를 올리고 있었는가?”