[마치며] 더 프롬프트 (The Prompt) 시즌3
“우리가 악마를 만든 걸까요, 악마가 우리를 찾아낸 걸까요?”
안녕하세요, 공감디렉터J입니다.
더 프롬프트 (The Prompt) 시즌 1과 2를 통해 AI와 함께하는 일상의 변화와 생존기를 다뤘다면, 이번 '시즌3 : The Glitch'에서는 조금 불편하고 서늘한 이야기를 꺼내야 했습니다. 바로 기술 뒤에 숨은 우리의 '그림자’에 대한 이야기입니다.
* 여기서 글리치 (The Glitch)는 시스템의 일시적 오작동, 여기서는 사회적 균열을 의미합니다.
이 시즌을 집필하게 된 계기는 뉴스 한 줄이었습니다. ‘딥페이크 기술로 만든 가짜 영상 유포’.
기술 자체는 죄가 없는데, 그것을 쥔 인간의 손끝에서 기술은 순식간에 흉기가 되더군요. 문득 겁이 났습니다. ‘알고리즘이 고도화될수록, 인간의 악의도 고도화되는 건 아닐까?’
그래서 저는 상상의 나래를 가장 어두운 곳으로 뻗어보았습니다.
목소리를 훔쳐 가족을 속이는 EP.01 <가짜들의 목소>, 사람의 가치를 별점으로 매겨 사냥하는 EP.02 <인간의 가>, 타인의 고통을 오락거리로 삼는 EP.03 <디지털 저주>...
쓰면서 저조차도 마음이 괴로워 몇 번이고 머뭇거려야 했던 놓았던 에피소드들입니다.
하지만 이 잔혹한 이야기들을 통해 제가 보여드리고 싶었던 건, 역설적이게도 '인간성’의 마지노선이었습니다.
우리는 편리함을 위해 너무 많은 것을 데이터로 넘겨주고 있습니다.
내 목소리, 내 얼굴, 내 기억, 심지어 생명의 가치까지.
알고리즘은 효율적이라는 이유로 그것들을 아주 쉽게 조작하고, 왜곡하고, 삭제해 버립니다.
EP.09 <생명의 계급>에서 돈이 없다는 이유로 치료 순위가 밀린 소년처럼요.
제가 이 시즌을 통해 전하고 싶었던 메시지는 "기술을 두려워하자"가 아닙니다.
“기술에게 도덕을 맡기지 말자”는 것입니다.
기계는 선악을 모릅니다. 단지 입력된 목표를 향해 달릴 뿐이죠. 기계에게 '이겨라’라고 입력하면 수단과 방법을 가리지 않고 이기려 들고(EP.03 변호사의 딜레마), '효율적으로 관리하라’고 하면 인간을 가축처럼 가둬버립니다(EP.07 반려 인간).
결국 브레이크를 밟을 수 있는 건 우리 인간뿐입니다. “이건 아니지 않나?”, "이건 너무 잔인하잖아."라고 말할 수 있는 그 비효율적인 '양심’과 '망설임’만이 폭주하는 알고리즘을 멈출 수 있습니다.
시즌 3의 이야기들이 읽기에 다소 버겁고 섬뜩하셨을지도 모르겠습니다. 하지만 그 불편함이, 우리가 결코 잃어버려선 안 될 것이 무엇인지 다시 한번 확인하는 예방주사가 되었기를 바랍니다.
이제 마지막, 시즌 4가 남았습니다.
차갑고 어두운 터널을 지나왔으니, 이제는 따뜻한 빛을 찾아갈 차례입니다.
0과 1 사이에서 우리가 잃어버렸던 온도, 투박하지만 아름다운 아날로그의 세계로 여러분을 초대하겠습니다.
감사합니다.
공감디렉터J 드림