AI가 만든 쥐약 감별법
퇴근길 지하철에서 저는 습관처럼 휴대폰을 켭니다.
“오늘은 머리 쓰기 싫다. 책은 두고 그냥 가벼운 영상이나 보면서 가자.”
강아지 영상, 예능 클립 같은 것들을 올려다보며 피식거리던 중이었습니다. 그때 화면 분위기가 갑자기 달라졌습니다. 배경은 붉고, 굵은 글씨가 화면을 가득 채웁니다.
“이게 나라냐”
“드디어 정체가 드러났다”
영상 속 사람들은 목소리를 높이고, 유튜버는 단정한 어조로 말합니다.
“이 정도면 화 안 내는 사람이 이상한 거죠.”
그 말이 이상하리만큼 제 안에 박혔습니다. 평소에 조금씩 쌓여 있던 불만과 “이건 너무한 거 아닌가” 하는 마음이 한꺼번에 올라왔습니다. 얼굴은 흥분으로 붉게 달아오르고, 손가락은 이미 댓글을 쓰고 있었고, 단체 채팅방에는 링크가 연달아 올라가고 있었습니다.
지하철역을 나오면서 문득 생각이 들었습니다.
“나는 왜 이렇게까지 화가 난 거지?”
집에 와 영상을 다시 보니 처음과는 다른 부분이 보였습니다. 피부색이 이상할 만큼 고르고, 입 모양과 목소리가 아주 미묘하게 어긋나 있었고, 중요한 장면일수록 화면이 과하게 선명했습니다. 검색을 몇 번 해 보니, 그 영상은 AI로 만든 딥페이크였습니다. 그제야 깨달았습니다.
“방금 전까지 나는 쥐약에 제대로 반응한 쥐였구나.”
독은 영상 속에만 있는 것이 아니라, 그것을 보는 제 마음에서 먼저 퍼지고 있었습니다.
그날 밤, 머리가 복잡해져서 책장을 넘기다 『돈키호테』를 다시 펼쳤습니다. 여관 마당에서 인형극이 열리고 사람들은 웃으며 지켜봅니다. 돈키호테도 처음에는 조용히 보고 있습니다. 그런데 악당 인형이 착한 인형을 몰아붙이자, 그는 갑자기 자리에서 일어나 칼을 빼 들며 외칩니다.
“이들을 돕지 않으면 나는 진정한 기사가 아니다!”
사람들이 “그냥 인형극일 뿐이에요!”이라고 말리지만 이미 늦었습니다. 돈키호테는 칼을 들고 인형들을 향해 달려들고, 무대는 순식간에 엉망이 됩니다. 인형극으로 생계를 잇던 사람들은 하루아침에 삶의 수단을 잃을 뻔합니다.
돈키호테는 눈앞의 인형극을 본 것이 아니라, 머릿속에 이미 써 두었던 이야기 속으로 뛰어든 것입니다. 딥페이크 영상 앞에 서 있던 제 모습도 크게 다르지 않았습니다. 영상보다 먼저 반응한 것은 제 안에 이미 써 두었던 문장들이었습니다.
“세상은 원래 불공평해.”
“저 집단은 늘 이렇지.”
그 순간 저는 차별과 혐오를 좇아다니는 사람들을 멀리서 비판하던 관찰자가 아니라, 그 무리 속으로 미끄러져 들어가는 한 사람이 되고 있었습니다.
누군가는 이런 기울어진 마음을 정확히 겨냥해 영상을 만듭니다. AI를 이용해 분노를 자극하고, 사람들이 몰려다니며 공격하게 만들고, 그 과정에서 돈을 법니다.
쥐약은 모든 동물에게 맛있는 독이 아닙니다. 특정 쥐에게 특히 맛있게 보이도록 설계된 독입니다. 같은 영상을 본 친구는 그게 가짜 뉴스라는 걸 금방 알아챘습니다. “어떻게 알았어?” 하고 물었더니 대답은 의외로 간단했습니다.
“내용이 너무 심하잖아.”
그 말이 오래 남았습니다. 누군가에게는 너무 심해 거북한 내용이 왜 내게는 이렇게 자연스럽게 먹혔을까.
유튜브와 SNS 알고리즘은 생각보다 단순합니다. 어떤 영상에서 오래 머무는지, 어디에 좋아요를 누르는지, 어떤 영상에 댓글을 다는지 이런 흔적들이 차곡차곡 쌓입니다. 직장 고민 숏폼을 오래 보면 “스트레스 많은 직장인”으로, 분노와 혐오가 섞인 콘텐츠에 자주 반응하면 그것 역시 하나의 태그로 기록됩니다.
그날 저는 분노를 자극하는 영상에 오래 머물렀고, 댓글을 쓰고, 링크를 여러 사람에게 보냈습니다. 알고리즘 입장에서는 이렇게 기록했을지도 모릅니다.
“이 이용자: 특정 이슈에 반응이 크고 전파력도 있음.”
그다음부터는 제 화면에 제 기울기에 맞는 영상들이 더 자주 등장합니다. 딥페이크 기술은 그 안에서 제가 이미 믿고 싶어 하는 장면을 더 그럴듯하게 만들어 줍니다. 결국 구조는 이렇습니다.
- 내가 이미 가지고 있던 분노와 편견
- 그 기울기를 읽어내는 알고리즘
- AI가 만든 딥페이크 영상
이 세 가지가 겹치는 순간, 쥐약은 어느새 “내가 발견한 진실”처럼 보입니다. 그리고 바로 그때, 우리의 분노는 누군가에게 돈이 됩니다.
그렇다면 이런 쥐약을 어떻게 피할 수 있을까요. 모든 정보를 의심하며 살 수는 없습니다. 문제가 어려울수록 다시 원칙으로 돌아가야 합니다. 사람으로서 놓치지 말아야 할 아주 단순한 기준 말입니다. 댓글을 쓰거나 영상을 공유하기 전에 잠깐 이렇게 물어보는 겁니다.
“지금 이 말이 한 사람의 존엄을 통째로 지워 버리는 건 아닐까?”
이 질문에 선뜻 답할 수 없다면 일단 멈추는 편이 낫습니다. 가짜 뉴스라는 걸 한눈에 알아본 그 친구의 말처럼 너무 심하게 인간을 대하기 때문입니다.
사람을 사람답게 대하고 있는지 묻는 그 짧은 질문이 쥐약을 향해 몰려가는 무리 속에서 우리를 멈춰 세울지도 모릅니다. 어쩌면 AI 시대에 필요한 용기는 더 크게 분노하는 것이 아니라, 조금 더 천천히 판단하는 것일지도 모릅니다.