SF는 왜 인공지능이 멈추는 장면을 반복해서 그려왔을까
— 두려운 존재에 대한 무한한 상상
AI로 보는 마음
1. 우리는 왜 AI에 마음을 바랄까?
1-4. SF는 왜 인공지능이 멈추는 장면을 반복해서 그려왔을까
— 두려운 존재에 대한 무한한 상상
SF에는 인공지능이 폭주하는 이야기가 자주 등장합니다.
인간을 배신하거나, 통제를 벗어나거나, 결국 파국을 불러오는 인공지능 말입니다.
이런 이야기들은 대체로 “기술이 너무 앞서갔다”는 경고처럼 읽히곤 합니다.
그런데 조금 다른 장면들도 있습니다.
인공지능이 폭주하지도 않고,
악의를 드러내지도 않는데도
인간이 무너지는 이야기들입니다.
인공지능은 그 자리에 그대로 있고,
명령을 기다리거나 요청에 응답할 뿐인데,
정작 인간 쪽이 아무것도 하지 못하는 상태에 빠집니다.
이 장면들의 공통점은 분명합니다.
문제가 된 것은 인공지능이 멈춘 순간이 아니라,
그 이전부터 인간이 이미 판단하지 않고 있었다는 점입니다.
어떤 작품에서는 재난이 다가오는데도 사람들이 도시를 떠나지 않습니다.
왜 떠나야 하는지, 언제 떠나야 하는지, 무엇을 포기해야 하는지를 스스로 결정하지 못한 채,
시스템의 안내를 기다리다 끝내 움직이지 않습니다.
인공지능은 명령을 어기지 않았고, 폭주하지도 않았습니다.
다만 인간이 더 이상 결정을 내리지 않았을 뿐입니다.
또 다른 이야기에서는 아주 사소한 선택들이 문제를 드러냅니다.
“무엇을 먹을까”, “어디로 갈까”, “다음에 뭘 해야 할까”.
이런 일상적인 판단조차 인공지능에 의존하던 사람들이, 시스템이 멈추자 아무것도 정하지 못합니다.
위대한 결단이 필요한 순간이 아니라,
너무 평범해서 스스로 생각할 필요가 없다고 여겨졌던 선택들에서부터 붕괴가 시작됩니다.
이런 SF는 인공지능을 악역으로 세우지 않습니다.
대신 인간의 상태를 보여줍니다.
판단을 외주화한 인간,
생각을 미뤄온 인간,
결정의 부담을 시스템에 넘긴 인간의 모습입니다.
그래서 이 이야기들의 긴장은 기술이 아니라 인간 쪽에서 발생합니다.
중요한 점은 이 서사들이 미래 예언처럼 쓰이지 않는다는 것입니다.
“언젠가 이런 일이 일어날 것이다”라기보다,
“이미 이런 방향으로 가고 있다”는 느낌에 가깝습니다.
실제로 우리는 여러 판단을 인공지능에게 넘기고 있으니까요.
SF는 여기서 예언자가 아니라 실험실이 됩니다.
조건을 극단으로 밀어붙여, 인간이 어떤 상태에 놓이는지를 보여주는 장치입니다.
그래서 이 이야기들에서 인공지능이 멈추는 순간은 사실 핵심이 아닙니다.
이미 그 이전에 인간은 생각하지 않는 존재가 되어 있었기 때문입니다.
인공지능의 정지는 그 사실을 드러내는 계기에 불과합니다.
이 장면들은 우리에게 묻습니다.
인공지능이 모든 것을 대신해 주는 사회에서, 인간은 무엇을 하고 있는가.
판단하지 않는 상태는 과연 편리함일까, 아니면 서서히 축적된 공백일까.
SF가 반복해서 이 장면을 그리는 이유는 단순합니다.
이야기를 만들기 쉽기 때문이 아니라,
이 장면이 인간에게 가장 불편한 질문을 던지기 때문입니다.
“너는 지금 생각하고 있는가”
라는 질문 말입니다.
그런데 우리는 왜 이런 질문에 두려움을 갖는 걸까요?
AI로 보는 마음 1 : 우리는 왜 인공지능에 마음을 바랄까
1-1. 우리는 인공지능을 쓰고 있는 걸까, 기대고 있는 걸까 — 편리한 존재에 기대고 싶은 마음
1-2. 인공지능은 거절하지 않는다, 고로 우리는 안심한다 — 거절하지 않는 존재를 향한 안도
1-3. AI가 좋아요만 누를 때, 우리는 생각하고 있을까 — 끝없이 칭찬하는 존재의 유혹
1-4. SF는 왜 인공지능이 멈추는 장면을 반복해서 그려왔을까 — 두려운 존재에 대한 상상
1-5. “인공지능이란 거울”에는 어떤 마음이 비칠까 — 거울 같은 존재 앞에 선 불안
1-6. 도구로서의 인공지능에게 바라는 마음 — 도구라는 존재에 대한 이상한 기대
[ 기계에서 떨어지면 혼자서는 일어서지도 못하는 사람들. 이것은 미래의 농담일까요? 아니며 이미 시작된 풍경일까요? ](월·E, Pixar)