필터 그리고 마지막으로 남은 사람
2032년 여름, 서울. 구름도 뜨겁게 보이던 날이었다. 마곡 한복판, 유리 외벽이 번쩍이는 빌딩 18층. 블라인드는 반쯤 내려와 있었고, 형광등은 꺼진 채 각자의 모니터 불빛만 책상 위를 비추고 있었다.
김서윤은 오늘도 그 불빛 앞에 앉아 있었다. 서른둘. 직함은 ‘콘텐츠 윤리 검토자’였지만, 회사 안에서는 그냥 “휴먼 레이어”라고 불렸다. 거대한 플랫폼의 마지막 필터. 인공지능이 밤새 걸러낸 수십만 개의 영상, 글, 사진 중에서, 기계가 “애매하다”고 느낀 것들만이 그녀의 화면으로 올라왔다.
욕설, 폭력, 성적인 내용, 위험한 행동을 부추기는 글들. 대부분은 AI가 알아서 처리했다. 삭제, 경고, 제한. 서윤의 일은 그 중에서도 ‘경계선’에 걸린 것들에 최종 판정을 내리는 일이었다.
모니터 오른쪽 상단에는 작은 숫자가 떠 있었다. 오늘 처리해야 할 건수: 842. 왼쪽에는 팀 지표가 표시되어 있었다. 평균 처리 시간: 19.8초. 정책 일치율: 98.7%. 팀장은 늘 말했다. “우리는 감정 노동자가 아니에요. 감정에 빠지면 안 됩니다. 우리는 정책을 적용하는 기계의 마지막 부품이라고 생각하면 돼요. 알겠죠?”
서윤은 처음엔 그 말에 고개를 끄덕였다. 학자금 대출과 월세를 생각하면, 통장에 찍히는 숫자가 제일 현실적인 설득력으로 다가왔다. “이 일은 오래 버티기 힘들다”는 선배들의 경고도 들었지만, 아직은 버틸 만하다고 믿고 싶었다.
오전 내내 영상과 글이 끝없이 올라왔다 내려갔다. 누군가의 농담이 정책선에 걸렸다 빠져나가고, 누군가의 분노가 ‘경고’ 마크를 달고 사라졌다. 노골적인 폭력 장면 앞에서 손은 거의 자동으로 움직였다. ‘삭제’, ‘제한’, ‘신고’. 깊이 생각하지 않아야 오래 버틸 수 있었다.
그러다 한 영상이 눈에 걸렸다. 제목은 단 한 줄이었다.
《도와주세요》
AI가 자동으로 붙인 태그가 옆에 나열되어 있었다.
“자해 가능성, 아동 등장, 폭력 암시, 정책 경계선.”
화면 하단에는 빨간 안내 문장이 떴다.
“이 콘텐츠는 플랫폼의 안전 정책을 심각하게 위반할 가능성이 있습니다. 기본값: 삭제 권고.”
서윤은 잠시 숨을 골랐다가, 이어폰을 끼고 재생 버튼을 눌렀다.
화면에는 어두운 방이 보였다. 흔들리는 카메라, 얼룩진 벽지, 구석에 쌓인 세탁물. 곧 화면 한 켠으로 작은 얼굴이 들어왔다. 여덟 살쯤 되어 보이는 여자아이였다. 눈 아래에는 멍 자국 같은 것이 옅게 퍼져 있었다.
아이의 목소리는 거의 속삭임에 가까웠다.
“안녕하세요… 이거… 이거 올리면… 누가 볼까요…?”
저쪽에서 남자의 고함 소리가 희미하게 들려왔다.
“조용히 안 해?!”
아이의 손이 급하게 카메라를 가렸다. 잠시 숨소리만 들리다가, 영상 각도가 바뀌었다. 이번에는 방문 틈 사이로 거실이 비쳤다. 화면 속 어른 남자는 술에 취한 목소리로 욕을 하고 있었다. 어디선가 그릇 깨지는 소리가 났다.
아이가 다시 속삭였다.
“저희 집… 아빠가 맨날… 엄마랑 저를 때려요. 어젯밤에도… 머리를 세게… 때렸어요. 엄마가 병원 가고 싶다고 했는데, 아빠가… 휴대폰도 못 쓰게 해서요…”
숨이 조금씩 가빠지는 소리가 마이크에 닿았다.
“이거 올리면… 잡혀 가나요? 경찰 아저씨가 오나요? 엄마가 그러는데, 우리가 잘못했다고 하지 말래요. 근데… 저는 잘 모르겠어요. 너무 무서워요. 도와주세요.”
영상은 그 말로 끊겼다.
서윤의 손이 마우스 위에서 멈췄다. 화면 오른쪽에는 익숙한 정책 문구들이 차례대로 줄지어 있었다. “아동에게 폭력을 암시하는 장면은 원칙적으로 즉시 삭제.” “피해 상황이 그대로 노출될 경우 2차 피해 가능성.” “자해·학대·폭력 장면은 재확산 방지를 위해 플랫폼에서 제거.”
AI는 이 항목들을 빠르게 대조해 이미 ‘삭제’를 추천해 둔 상태였다. 실제로 비슷한 경우 대부분은 자동으로 사라졌다. 피해자 보호라는 이름으로. 아무에게도 보이지 않게.
그런데 오늘은, 이 영상이 마지막 필터까지 올라왔다. ‘이건 사람이 보는 게 낫겠다’고 기계가 판단한 셈이었다.
머릿속에 여러 문장이 동시에 떠올랐다.
‘규정대로라면, 삭제가 맞다.’
‘이대로 올리면 아이 얼굴이 돌아다닐 수 있다.’
‘당장 신고도 못 하는데 영상만 올리는 건 위험하다.’
그리고 또 다른 문장이 하나, 조용히 따라붙었다.
‘그래도 이 아이가, 지금 할 수 있는 건 이거 하나일지도 몰라.’
화면 아래에는 선택지가 세 개 떠 있었다.
[정책 위반 – 즉시 삭제]
[경고 후 비공개 전환]
[예외 처리 요청]
숫자가 시야 한 켠에 걸렸다. 평균 처리 시간 19.8초. 서윤의 손가락은 이미 그 시간을 훌쩍 넘기고 있었다. 팀장의 말이 떠올랐다. “고민하는 시간보다 일관성이 더 중요해요. 개인 판단을 너무 섞으면 안 됩니다.”
그 말을 떠올리는 순간, 오히려 더 숨이 막혔다.
‘삭제’를 누르면, 이 영상은 아무 흔적 없이 사라진다. 아이는 아마 “아무도 답해주지 않았다”고 느낄지도 모른다. ‘경고 후 비공개’를 누르면, 이 영상은 아이의 기기 속 어딘가에 상처처럼 남을 것이다. 혼자 다시 재생하며, 혼자 울게 될 수도 있다.
남은 것은 하나였다. [예외 처리 요청]. 이 버튼을 누르면 영상은 일반 정책 대신 ‘특별 대응팀’으로 넘어간다. 외부 공개는 막고, 내부 신고용으로만 남기는 방식이었다. 대신 이 선택은 서윤에게 몇 가지 위험을 안겼다. “정책을 자의적으로 적용했다”는 평가가 내려지면, 그녀의 정책 일치율은 떨어질 것이다. KPI는 회사가 사람을 숫자로만 평가할 때 쓰는 거의 유일한 잣대였다.
‘이 정도로 감정 이입하면 오래 못 버틴다.’
선배들의 말이 다시 떠올랐다. 그 말이 틀렸다고 말하기 힘든 것도 사실이었다.
서윤은 한숨을 깊게 들이켰다가 천천히 내쉬었다. 그러고 나서야 손가락이 다시 움직였다.
[예외 처리 요청]
마우스 클릭 소리가 유난히 크게 들렸다. 화면에는 추가 입력창이 떠 있었다.
“사유를 입력해 주세요.”
손가락이 키보드 위를 더듬다가 멈췄다. 잠깐의 정적 끝에, 서윤은 짧게 타이핑했다.
“피해 아동의 직접적인 도움 요청으로 판단됩니다. 삭제보다 구조 요청이 우선되어야 한다고 생각합니다.”
엔터 키를 누르자, 영상은 목록에서 사라졌다. 대신 시스템 메시지가 떴다.
“특별 대응팀으로 전달되었습니다. 평균 처리 시간 초과: 00:57.”
오른쪽 상단 숫자가 미세하게 변했다.
평균 처리 시간: 20.4초.
정책 일치율: 98.1%.
숫자는 내려갔고, 그게 자신에게 어떤 의미인지 당장은 알 수 없었다. 가끔은 이런 생각이 들었다. ‘나는 사람을 지키는 걸까, 숫자를 지키는 걸까.’ 오늘은 그 질문이 유난히 또렷하게 떠올랐다.
퇴근 준비를 하려는데, 모니터 오른쪽 아래에 알림 하나가 떴다.
[안내]
“오늘 처리하신 케이스 중 하나가 긴급 구조 요청으로 이관되었습니다. 관련하여 별도 면담이 필요할 수 있습니다.”
문장을 읽는 순간, 가슴이 철렁 내려앉았다. ‘문제를 일으킨 건가?’라는 생각이 먼저 올라왔다. “괜히 눈에 띄는 선택을 했나” 하는 후회도 잠깐 스쳤다.
하지만 그 옆에서 다른 생각이 조용히 고개를 들었다.
‘그래도, 오늘 그 아이는 완전히 혼자는 아니었던 거네.’
회사 건물을 나와 지하철역으로 걸어가는 동안, 서윤은 휴대폰 화면을 켰다가 껐다. 피드에는 여느 때처럼 웃긴 영상, 분노 섞인 게시글, 예쁜 강아지 사진들이 끊임없이 올라오고 있었다. 어떤 글은 순식간에 수만 개의 공감을 받았고, 어떤 영상은 올라오자마자 사라졌다. 누가 눌렀는지도 모를 ‘삭제’와 ‘신고’ 버튼 뒤쪽 어딘가에서, 오늘 그 아이의 “도와주세요”도 여전히 떠다니고 있을 것 같다는 생각이 들었다.
지하철 유리창에 비친 자신의 얼굴은 조금 지쳐 보였다. 하지만 눈동자 한가운데에는 묘하게 가라앉지 않는 무언가가 있었다. “내가 할 수 있는 건 이 정도뿐일지도 모른다”는 체념과 “그래도 이 정도는 하고 싶다”는 마음이 묘하게 겹쳐진 표정.
집에 도착해 샤워를 마치고 나니, 휴대폰에 메시지가 하나 더 와 있었다.
[내부 공지]
“금일 긴급 이관된 아동 보호 관련 케이스는 현재 관할 기관과 협조 중입니다. 세부 내용은 공유되지 않으나, 초기 대응이 신속하게 이루어졌음을 알려드립니다.”
세부 내용은 알 수 없었다. 아이가 어떻게 되었는지, 어떤 어른이 그 집의 문을 열고 들어갔는지, 그 이후의 장면들은 그녀의 화면에 표시되지 않았다.
그럼에도 불구하고, 서윤은 알림창을 닫지 못하고 한참을 들여다보았다. 그리고 아주작은 한 숨과 안도가 흘러나왔다.
“그래도… 다행이다.”
오늘 하루를 떠올려 보면, 특별한 장면은 하나뿐이었다. 수백 개의 영상과 글 중 단 한 건. 삭제 대신 예외를 선택한 그 몇 초. 규정보다 사람 쪽을 조금 더 기울여 본 순간
누군가가 보기엔 사소한 클릭 하나였을지도 몰랐다. 하지만 서윤에게는, 오늘 하루를 버틸 수 있게 해주는 유일한 이유처럼 느껴졌다.
그녀는 침대에 누워 눈을 감았다. 수많은 이미지들이 잔상처럼 떠올랐다 사라졌다. 그러다 마지막으로 문득 이런 생각이 들었다.
‘나는 기계의 마지막 부품일지도 모르지만, 그래도 한 번쯤은 사람 쪽으로 고장 나고 싶다.’
그 생각과 함께, 조금은 덜 무거운 밤이 찾아왔다.