<우리 연구소 내 국제경찰지식센터에서 발간 예정인 <2040, 미래 영국 운영 환경>과 경찰청 내부 보고서에서 발췌해 재정리했다.>
“나는 아직 우리가 AI의 의미를 이해하지 못한다고 생각한다. AI의 가치와 윤리, 경찰활동을 위해 무엇을 할 것인지에 대한 생각과 설명 사이에 공백이 있다. 그 의미에 대해 생각하지 않고 기술 경쟁으로만 나아가는 것 같다” 영국 경찰직원협회(police staff association) 수석대표
AI는 향후 20년간 가장 혁신적인 기술일 것이라 예상한다. 많은 것을 바꿀 것이며 범죄와 경찰에게도 그러하다. 환상과 두려움, 외면도 있고 내용에 대한 이해보다 '그럴 듯 해 보이는' 경쟁과 과시도 있다. 범죄가 AI를 활용하는데 경찰이 외면할 수 없다. 무엇을 준비하고 어떻게 해야 할 것인가?
1. 범죄와 AI
상술 영국 보고서에서 인용한다.
'최근 범죄조직들은 암호화 서비스와 디지털 플랫폼 기반의 비즈니스 모델을 사용한다. 그들은 시장 접근성을 확대하고 사회에 재정적 부담을 안기는 한편 관련된 폭력을 증가시키는 데에 다양한 기술을 이용하고 있다. 국가적 경계가 없는 범죄에 대응하고 사람과 기계가 점점 더 연결되는 시대, 디지털 왜곡의 취약성이 높아지는 시대를 대비해야 한다. AI 시스템은 범죄인들에게 자동화를 통해 물리적, 심리적, 도덕적 장벽을 낮춰준다. 음성을 합성하여 사람처럼 말하거나, 프로그래밍한 해킹으로 사이버 공격할 수 있다.'
이런 표현, 문장은 범죄 조직을 개별적 일탈자(경찰은 '범죄꾼'이라는 표현도 쓴다)로 보는 것이 아니라, 경쟁 기업처럼 냉정하게 분석하고, 역량을 평가하는 관점이다. 이젠 이 관점을 더 많이 적용해야 하리라 본다. 범죄 조직보다 경찰의 기술력이 나은가? 이 질문에 자신 있게 답할 수 있을까? 수익이 명확하고 당연하게도 아무런 규제도 신경 쓰지 않는 범죄 집단은 기술을 가열하게 발전시켜 새로운 수법을 개발하고 확산할 것이다.
최근 보이스피싱 범죄에서 엄마 전화번호, 엄마 목소리로 걸려오는 사건(22.4.6 KBS)이 있었다.
범인들이 개인정보 탈취, 딥 보이스를 통한 음성 합성, 발신번호 조작 등 복합적 수법을 개발하고 있을 가능성이 있다. 이 범죄를 위해 데이터 수집, 음성변조, 대화 합성, 악성 앱 등을 연구 개발하고, 해당 서버와 범죄 시니리오, 역할 조직을 가지고 있을 것이라 상정해보자.
여기에 대응하는 경찰 AI를 개발하지 않는 것은 임무 방기이다.
경찰과 AI
고도의 판단을 내리는 결정을 AI에게 맡기는 일은 아직 시일이 남아 있다. 상대적으로 필요성이 높은 것은 경찰 사무의 자동화이다.
수사관이 검토할 많은 자료에서 문서를 요약해서 생성하고, 콜센터(한국에선 112) 경찰에게 대응 시나리오를 추천하는 기술은 한참 연구 중이다. 아직 성능이 낮고, 실용화하기 어렵지만, 경찰이 단순한 반복 작업을 줄여주는 친절한 AI는 , 사람과 사건에 더 깊이 관심을 가지게 할 수 있다. 시민들의 질의에 응답하는 챗봇이나 범죄 데이터를 분석하여 ‘핫스팟’ 관련 범죄 및 잠재적 범죄자를 예측하는 알고리즘들이 경찰 안으로 들어오고 있다. 사회적, 기술적, 국제적, 경제적 흐름 속에서 이 기술들은 발전할 것이다.경찰과 AI와의 여정은 아직 초기 단계이지만, 예정된 경로를 가고 있다.
생체인식(biometrics), 감시기술, 머신러닝의 결합은 ‘인간 프로파일링’ 시스템을 현실화하고 있다.
도망자를 식별·추적하며, 잠재적인 미래 범죄 활동을 프로파일링하고, 프로파일링에 근거하여 특정 개인(예, 성범죄자)이 규제되는 지역으로 이동하는 경우 경고를 하는 등 여러 곳에서 사용된다. 일부 지자체 적용을 목표로 하는 CCTV 수색 알고리즘(실종자 수색 국가 지원 사업, NIPA)이나 법무부의 전자발찌 착용자 추적 시스템이 우리나라의 사례이다. 인천은 CCTV 관제센터에서 모니터링하고(21.9월 보도) 안전귀가 앱에 연동해 주변 접근을 알 수 있게 하는 안양시 예(21.10.7, 프레시안)도 있다.
앞으로 AI는 범죄를 예방하고, 자원을 더욱 효율적으로 관리하며, 중요 사건에 대한 신속한 대응을 조정하는 경찰활동 능력을 향상시킬 수 있다. 범죄예방 및 범죄 수사팀은 범인 식별과 동기를 빠르게 파악할 수 있으며, 지역사회 변화를 더 잘 이해하고, 지휘관들은 상황인식을 더 잘하게 되어 전략과 전술을 더 잘 시각화할 수 있으며, 경찰 콜 센터는 요청에 효율적으로 대처할 수 있다.
경찰 AI를 받아들이는 기준에 대한 시도
경찰 활동의 판단 요소가 불투명한 알고리즘에 의해 점점 더 결정될 수 있다. 신속하고 높은 수준의 결정을 내래는 AI를 개발해서 활용할 수밖에 없음에도 AI의 유익과 위험성 사이의 균형이 필요하다. AI 여정’의 초기 단계에 있으므로, 윤리적인 체계와 규정을 만들 기회가 있다. ’ 22.3월 엉국 경찰 및 범죄위원협회(APCC)·경찰청장 협의회(NPCC)는 경찰에 도입할 신기술을 검토하는 <경찰 기술윤리위원회> 설립을 권고했다.
캐나다 토론토 경찰의 대응은 고심의 흔적이 느껴진다. AI 기술 등급을 1) 최고 위험(Extreme risk, 안면인식 기술 등), 2) 고위험(High risk, 경력 배치 분석 시스템 등) 3) 중위험(Medium risk, 교통분석 시스템 등) 4) 저위험(Low risk, 음성 텍스트 변환 프로그램 등) 5) 최저 위험(Minimal risk, 통역 프로그램 등)으로 나눴다.
등급 구분의 기준은 기술의 복잡성과 기술을 활용한 법집행의 강도에 따라 구분한 것으로 보인다. 최고 위험으로 산정한 안면인식 기술을 위해서는 막대한 데이터와 복잡한 알고리즘이 필요하고, 개발 결과 활용이 범죄자 등을 판별해 체포하는데 활용하기 때문이다. 저위험 등급인 음성 변환과 통역은 경찰의 사무를 돕고 직접적인 법집행의 기준이 되진 않는다. 이런 기술 도입 시 토론토 경찰은 경찰위원회에 도입 필요성과 위험관리 방안을 평가해야 하도록 했다.
지나친 기술에 대한 우려보다는 기술에 대한 이해와 발전 노력이 필요
AI 기술에 대한 기대와 실망, 장밋빛 전망 혹은 디스토피아적 상상에도 불구하고, 아직 기술 단계는 낮은 편이다. 과도한 기술이 문제가 아니다. 충분하지 못한 기술, 기술에 대한 낮은 이해가 더 문제이다. 위 예시한 전자발찌 착용자 추적시스템 그다지 효과가 없다는 지적이 그 예시(21.8.29 보도)다. AI를 도입한다고 문제를 해결하는 것이 아니며 계속 발전시켜 목표를 이루게 하는 노력이 필요하다.
데이터를 활용해 AI를 만드는 것은 자동으로 이루어지지 않는다. 어떤 데이터를 활용하고, 어떤 방법론을 사용해, 어떤 목표를 이룰 것인가 하는 인간의 의사결정이 필요하다. 미국 법원이 사용한 '재범 예측 시스템' 콤파스가 흑인을 백인보다 차별해서 판단했다는 사례(2019.10월 참고 보도)는 유명하다. 흑인을 차별하도록 설계한 알고리즘이 문제가 아니라, 실제 법집행 과정에서 같은 유형의 범죄를 저지르고도 형량이 높았던 실제 사례 자체의 데이터가 원인이었다. 잘못된 현상을 데이터로 입력해서 잘못을 강화한 것이다.
AI의 오류성과 경찰 의사결정의 위험성을 감안하면 알고리즘 개발과 AI 기반 평가를 감독하는 사람의 역량이 필요하다. 이는 데이터, 알고리즘, 법집행 과정을 이해하는 종합적 역량이다. 정부가 IT 기업에 목표를 제시해서 개발하라고 요구해서 제품으로 구매할 사항이 아니다. 작년 형사사법정보화시스템이 각종 분야의 AI를 반영한 고도화 사업을 발주했는데 응찰자가 없어 재입찰 후 계약했다는 보도는 정부와 IT 기업 사이에 목표-자원에 대한 눈높이가 맞지 않음을 짐작하게 한다. 조달입찰의 방식으로 경찰 분야의 AI를 개발하기는 민간사에게는 부담이 크고, 시행착오를 각오해야 하는 일이다.
핵심 데이터 분석과 AI 개발 기획은 직접 개발해야 한다.
실제 데이터를 검토하고, 핵심 알고리즘을 선택하는 것은 경찰이 직접 책임 저야 하는 영역이다. 한국 경찰에도 소수의 인원이지만, 데이터와 코드, AI 기술 동향을 읽을 수 있는 능력자들이 있다. 필자는 귀한 동료들과 일하고 있다. 이들의 더 인정받아 역할이 커지면 경찰이 기술을 이해하고 통제하는 흐름을 만들 수 있을 것이다.
