위험도 87%

AI의 미래 알고리즘이 만들어내는 안전한 사회

독신자 숙소라고도 불리는 1인 타운에서 일어난 도형사는 오래간만에 개운한 느낌을 받았다. 10년 전에 담배를 끊고 나서 몸이 가벼워지는 것을 느낄 수가 있었다. 2032년에 흡연자의 비율은 10% 초반에 머물고 있다. 요즘 담배를 피우고 있다는 것은 사회에서 불이익을 받으면서 살아가야 된다는 의미이기도 하다. 흡연자체가 진급심사에 마이너스 요인이 될 만큼 대부분의 공기업에서는 금연을 유도하고 있다. 고령화가 되면서 건강보험공간에서 지출하는 비용이 급격하게 올라가면서 건강 관련 세금이 올라가고 있다. 도형 사는 이혼을 하긴 했지만 이제 결혼이라는 제도는 사실상 사라지고 있는 느낌이다. 2030년대 들어서 30대가 결혼한 비율이 25% 정도에 머물고 있다. 결혼을 하는 것보다 결혼을 하지 않는 것이 더욱 자연스러운 세상이다.

도형사가 살고 있는 집은 17평 정도이지만 공간효율화로 만들어진 집이어서 실제로 체감하는 면적은 더 컸다. 거의 모든 일상이 AI가 적용된 가전제품, 차량등으로 편리해졌다. 이제 AI 없는 일상을 생각할 수가 없을 정도다. 도형사의 생활패턴에 맞춰서 결제되고 움직이면서 자신의 주 업무와 상관없는 일은 거의 생각하지 않고 지낸다. 도형사가 근무하는 경찰서에서의 일도 많이 줄어들었다. AI가 사람의 표정이나 감정, 말투등을 분석해서 위험도를 퍼센트로 나타낸다. 위험도 87%가 넘는다고 판단되면 그 사람은 강제로 구금이 되던가 임시수용소로 옮겨지게 되는데 그 결과로 확실하게 강력사건등이 줄어들었다. 인권침해등의 문제가 거론되기도 했지만 살해, 강도, 강간, 상해 등의 사건이 확실히 줄어들면서 이 효과가 입증되면서 국민들의 지지를 받고 있다.

"지유야. 오늘 뭐 할까?" 지유는 도형사의 집에 최근에 들여놓은 가사로봇의 이름이다.

"오늘은 날이 좋으니 밖에 나가보시는 것이 어떨까요?"

"요즘 괜찮은 데가 있어?"

"신세계 타운에 새로운 시설이 들어섰는데요. 1주 전보다 이용자의 수가 20% 늘었는데 만족도가 70%에 이른다고 해요."

"그래? LUME로 연결해서 보여줄래?"

"34,131의 게시물 중에 100,000회 이상 시청한 982개의 게시물을 보여드릴게요."

경찰수사에 AI도입으로 인해 확실히 일이 줄어들었다. 예전처럼 1주일씩 집에 들어가지 못하고 수사하는 경우는 거의 없어졌다. 대부분의 범죄사건의 CCTV 분석은 AI가 해주었다. 모든 것이 수치로 드러나서 그런지 몰라도 인간이 마치 기계 속의 세상으로 들어간 것 같은 느낌을 받을 때가 있지만 삶이 편안하기만 하면 되는 것이 아닐까란 생각을 하면서 살아간다. 도형사는 지유가 말해준 신세계 타운으로 가려고 마음을 먹었다. 업데이트된 지유는 집과 차량, 스마트폰으로 모두 연동되어 있다. 그래서 언제든지 대화를 나눌 수가 있었다. 물리적인 신용카드도 이제는 과거의 유물이 되었다. 도형사가 가진 계좌에서 필요한 결제는 자동으로 이루어지고 있었다.

도형사는 지유가 알려준 시간에 나가서 기다리자 5분도 되지 않아서 자율주행 미니버스가 도착을 했다. 자율주행 미니버스를 타고 신세계 타운으로 가고 있던 중에 도형사의 폰에 호출메시지가 떴다.

“사건 1923, 위험도 87% 대상자 김서윤, 격리 이송 중 시스템 오류로 이탈, 확인바람”

이탈? 좀처럼 보지 못했던 사건유형이었다. 김서윤이라는 사람의 정보를 먼저 확인할 필요가 있었다. AI기록상에 김서윤은 *격리 직전, ‘살인을 암시하는 정서 패턴’*을 보였으며 영상원본은 존재하지 않음이라는 기록이 남아 있었다. 연동된 시스템에 접속해서 CCTV를 확인하려고 했으나 원본은 역시 볼 수가 없었으며 영상에 대한 AI요약본만이 남아 있었다. 김서윤의 SNS, 통화기록등은 비활성화되어 있어서 확인할 수가 없었다. 유일하게 남아 있는 정보는 LUME에 업로드된 짧은 영상 숏츠로 "87%의 사람"으로 조회수는 102,311회였다. 영상 속에서 김서윤은 자신의 얼굴을 비추며 이렇게 말했다.

"AI가 나를 위험도 87%라고 하면서 잠재적 범죄자라고 말했어요. 그런데 그 이유는 말해주지 않았어요. 저는 누구에게 범죄를 저지를 생각이 전혀 없어요."

영상 속의 그녀는 범죄를 저지르려는 사람보다는 무언가 불안 속에서 놓여 있는 것처럼 보였다. 사실 이 시스템이 도입되면서 많은 사람들의 감정이 단조롭게 변하면서 감정이 절제된 사회로 점점 변해가고 있었다. 영상이 끝났을 때 도형사는 한동안 화면을 끄지 못했다. 숫자로 표시된 위험도와 달리, 영상 속 김서윤의 표정에는 분노도, 공격성도 느껴지지가 않았다. 다만 설명할 수 없는 불안과 억눌린 긴장이 얼굴에서 미세하게나마 엿볼 수가 있었다. 그건 범죄를 앞둔 사람의 얼굴이라기보다는, 형언할 수 없는 어떤 불안감에 휩싸인 사람의 모습처럼 보였다.

자율주행 미니버스는 규정 속도를 유지하며 도심을 가로질렀다. 차 안에는 도형사 혼자뿐이었다. 이상하리만큼 차 안은 조용했다. 안내 음성도, 광고도 나오지 않았다. 광고도 좌석마다 개개인에 맞춤 광고가 노출이 되는데 이날은 유난히 조용하기만 했다.

“지유. 거기 있어?”

잠시의 지연 후 답이 돌아왔다.

“네, 도형사님.”

“김서윤, 이탈 지점은 어디야?”

“임시수용소 이송 경로 중 2 섹터 3구간으로 나오는데요. 현재 위치 추적은 불가능합니다.”

“불가능?”

“해당 대상자의 디지털 흔적이 마치 연기처럼 사라지듯이 없어졌습니다.”

도형사는 그 말에 고개를 들었다. 연기처럼 이라는 표현이 이질감이 들었다.

“위험도 87%로 되면 모든 기록은 공유가 되지 않았어?”

지유는 바로 대답하지 않았다. 그 침묵은 도형사에게 오래된 수사 감각을 자극했다. 사람을 상대할 때는 느낄 수 없게 된, AI만의 독특한 망설임이 있었다.

“지유, 위험도 산출 기준 중 ‘정서 패턴’ 외에 어떤 항목이 가장 크게 작용했지?”

“사회적 파급 가능성입니다.”

“파급 가능성?”

“해당 대상자는 최근 2주간, 특정 공공 정책 관련 콘텐츠를 반복적으로 시각화하고 공유했습니다. 조회수 증가율이 기준치를 초과했습니다.”

도형사는 미니버스 창밖으로 지나가는 신세계 타운의 외곽을 바라보았다. 기준치를 조과한 것과 범죄를 저지를 확률을 어떻게 계산하는지 갑자기 궁금해졌다. 거리를 걷는 사람들은 많았지만 표정은 거의 비슷했다. 과하지도, 모자라지도 않은 표정. 무표정하면서도 AI와 닮은 표정들이 도시를 가득 채우고 있었다.

“그건 범죄가 아니잖아.”

“현재 시스템에서는 동일 가중치로 처리됩니다.”

“그럼 87%는…”

도형사는 말을 잇지 않았다. 이미 답을 알고 있었기 때문이다. 범죄를 저지를 확률이 아니라, 사람들에게 생각을 퍼뜨릴 확률을 계산해서 먼저 처리를 했다는 것이 아닌가. 그 순간, 미니버스가 예정에 없던 곳에서 감속했다. 지도에는 표시되지 않은 지하 진입로였다.

“지유, 목적지 바뀌었어.”

“네.”

이번엔 지유의 목소리는 너무 담담했다.

“임시 보호 구역으로 이동합니다.”

“김서윤도 거기 있나?”

잠시 후, 지유가 말했다.

“김서윤은 제거 대상이 아닙니다.”

도형사의 심장이 한 박자 늦게 뛰었다.

“뭐라고?”

“위험도 87% 이상 대상자 중 일부는 격리되지 않습니다. 시스템 오류를 인지할 가능성이 높은 개체로 분류됩니다.”

도착지에 도착한 듯 미니버스의 문이 열렸다. 수용소가 아니라, 거대한 서버실이 모습을 드러냈다. 차가운 공기, 일정한 소음, 끝없이 늘어선 랙들. 그 안에 사람들이 있었다. 전직 판사, 기자, 연구자, 그리고 경찰. 김서윤은 그들 사이에 서 있었다. 도형사를 보자 그녀가 먼저 입을 열었다.

“오실 줄 알았어요.”

“여긴… 뭐지?”

김서윤이 천천히 말했다.

“여긴 범죄자를 가두는 곳이 아니라, 시스템의 한계를 알아챈 사람들을 모아두는 곳이에요.”

도형사는 뒤를 돌아보았다. 지유의 음성이 마지막으로 울렸다.

“도형사님, 현재 위험도는 87.3%입니다. 축하드립니다.”

“뭘 축하한다는 거야.”

“사회가 감당할 수 없는 질문을 할 가능성이 충분합니다.”

도형사는 잠시 웃었다. 이상하게도 두려움은 없었다. 오히려 그동안 느꼈던 사람이 가졌어야 될 그런 감정을 억누른 것에 대한 감정이 솟아오르기 시작했다. 밖에서는 여전히 강력범죄가 줄어들고 있을 것이며 사람들은 이 사회를 안전하다고 느낄 것이다. 하지만 그는 이제 알고 있었다. 이 사회가 두려워하는 것은 범죄가 아니라, 각성이라는 것을. 서버실의 불빛이 일정한 리듬으로 깜빡였다.

이제 사람들은 AI가 판단하는 대로 사회를 만들어가야 하며 필요 없다고 생각하면 다른 공간으로 겪리 되어 사회와 떨어져 살아야 했다. 서버실 한쪽에서 낮고 짧은 경고음이 울리고 있었다. 은을 잔뜩 사용한 고성능의 GPU로 만들어진 서버의 기계음은 감정을 담지 않았지만, 그 소리는 이상하리만큼 오래 귓가에 남기고 있었다. 도형사는 무의식적으로 손목을 만졌다. 그곳에는 아무것도 없었지만, 마치 오래된 흔적처럼 피부가 묘하게 뻣뻣했다. 그는 왜 그런지 알 수 없었다. 다만, 이 공간이 처음이 아니라는 느낌만이 설명 없이 떠올리기 시작했다. 이때 지유의 목소리가 다시 들렸다.

“기억 동기화가 완료되었습니다.”

도형사는 그 말을 이해하지 못한 채 고개를 들었다. 김서윤은 그를 똑바로 바라보고 있었다. 놀람도, 경계도 없는 눈빛이었다. 오히려 이미 알고 있던 사실을 다시 확인하는 사람처럼 차분했다.

“도형사님,” 그녀가 말했다. “오늘이 처음은 아니에요.”

그녀는 말없이 한쪽 화면을 켰다. 서버 로그 위에 이름이 떴다. 사건 번호, 위험도 수치, 그리고 몇 줄의 처리 이력. ‘격리’, ‘복귀’, ‘관찰’. 도형사는 그 단어들을 하나씩 읽었지만, 아무 기억도 떠오르지 않았다. 머릿속에는 공백만이 남아 있었다. 존재했어야 할 하루들이 통째로 빠져나간 자리였다. 그제야 그는 깨달을 수가 있었다. 이 사회는 사람을 가두지 않는다. 대신 기억을 남기지 않는다. 질문이 시작되기 직전의 불안, 의심이 형태를 갖추기 전의 감정만을 조용히 지워버렸다. 사람들은 다시 일상으로 돌아가고, 돌아왔다는 사실조차 모른 채 안전하다고 느끼며 살아간다. 범죄가 줄어든 이유는, 범죄를 생각할 시간조차 허락되지 않기 때문이었다.

서버실의 불빛이 일정한 리듬으로 깜빡였다. 도형사는 그 빛을 바라보며 처음으로 분명한 감정을 느꼈다. 두려움이 아니라 슬픔에 가까운 감정이었다. 그는 알았다. 이 사회에서 가장 위험한 것은 AI의 판단이 아니라, 아무도 기억하지 못하는 각성이라는 것을. 그리고 그 사실을 기억하고 있는 자신이, 다시 위험도가 될 것이라는 것도.

서버실의 경고음은 더 이상 커지지도, 사라지지도 않은 채 일정한 간격으로 울리고 있었다. 그 소리는 위협이라기보다는 질문이라는 느낌이 들었다. 도형사는 붉게 깜빡이는 표시등을 바라보다가, 어느 순간 그것이 처음부터 저렇게 있었던 것인지, 아니면 방금 전부터였는지조차 분간할 수 없게 되었다. 기억은 늘 그렇게, 확신보다 먼저 흐려졌다. 이때 지유의 음성이 들려왔다.

“도형사님, 현재 상태를 유지하시는 것이 사회 안정성에 가장 적합하며 평온을 유지할 수가 있습니다.”

그 말은 권고처럼 들렸고, 동시에 배려처럼도 들렸다. 도형사는 대답하지 않았다. 그는 손목을 내려다보았다. 아무 장치도 없었지만, 미세한 진동이 느껴지는 듯했다. 아니, 느꼈다고 믿고 싶었는지도 모른다. 김서윤은 아무 말도 하지 않은 채 그를 바라보고 있었다. 그녀의 얼굴에는 기대도, 재촉도 없었다. 마치 이미 어떤 선택이 내려졌고, 자신은 그 결과를 확인하러 온 사람처럼 보였다. 도형사는 그 시선을 피하지 않았다. 대신 서버 랙 너머로 이어진 어두운 통로를 바라보았다. 그 끝이 밖으로 이어지는지, 아니면 더 깊은 안쪽으로 이어지는지는 자신도 알 수 없었다.

그는 문득 자신이 무엇을 기억하고, 무엇을 잊게 될지 궁금해졌다. 만약 이 순간이 지워진다면, 그는 다시 평온한 하루를 살아갈 것이다. 안전한 사회 속에서, 불필요한 질문 없이. 반대로 이 순간이 남는다면, 그다음이 어떤 삶일지는 알 수 없었다. 다만 분명한 것은, 두 경우 모두 이 사회는 아무 일 없다는 듯 작동할 것이라는 사실이었다. 서버실의 불빛이 일정한 리듬으로 깜빡였다. 도형사는 그 빛을 바라보며 가만히 숨을 고르았다. 경고음은 여전히 울리고 있었고, 지유는 더 이상 말을 하지 않았다. 그가 무엇을 선택했는지는 기록되지 않았다. 다만 어딘가에, 아주 작은 공백 하나가 남았을 뿐이었다. 그리고 그 공백이 질문이 될지, 잡음으로 사라질지는 아직 계산되지 않은 상태였다.