서울시, AI 기술로 디지털 성범죄 24시간 자동 추적

영상물 검출 최대 2시간→3분 단축…정확도 200% 향상

서울시가 전국 최초로 인공지능(AI) 기술을 도입, 디지털성범죄를 24시간 자동 추적·감시한다고 29일 밝혔다.

서울 디지털성범죄 안심지원센터는 오세훈 시장의 시정 마스터플랜인 '서울비전 2030'의 하나로 작년 3월 29일 개관했다.

제2, 제3의 'n번방' 피해를 막는다는 목표로 영상물 삭제부터 법률지원, 심리 치유까지 디지털성범죄 피해자를 원스톱 통합 지원한다.

서울기술연구원이 개발한 AI 기술은 24시간 실시간 모니터링을 통해 SNS상 피해 영상물을 자동으로 검출해 영상물을 삭제하고 재유포를 막는다고 서울시가 밝혔다.

기존에는 피해자의 얼굴이나 특이점을 육안으로 판독해 수작업으로 피해 영상물을 찾아냈다. 하지만 앞으로는 AI 딥러닝 기술이 오디오·비디오·텍스트 정보를 종합적으로 분석해 버튼 한번으로 피해자와 관련된 모든 영상물을 즉시 찾아낸다.

키워드 입력부터 영상물 검출까지 걸리는 시간은 기존 1∼2시간에서 약 3분으로 크게 단축된다. 정확도 역시 200% 이상 높아졌고 AI의 학습 데이터가 축적될수록 정확도와 속도가 더 향상될 것으로 서울시는 기대했다.

센터 직원이 피해 영상물을 접하면서 발생할 수 있는 트라우마와 스트레스를 줄일 수 있다는 것도 장점이다.

AI 프로그램 활용 전·후 변화하는 피해자 지원 환경. [서울특별시 제공]

센터는 아동·청소년 피해 예방에도 주력할 계획이다.

본인이 삭제를 요청해야 삭제 지원이 가능한 성인과 달리 아동·청소년은 관련 법률에 따라 당사자나 부모의 신고 없이도 즉시 삭제가 가능한 만큼 AI 추적·감시를 통해 영상물 확산을 차단할 방침이다.

정보기술(IT) 기업과 협업해 메타버스 공간을 활용한 교육 콘텐츠를 개발하고 청소년 스스로 안전한 디지털 환경을 만들도록 서포터즈 활동을 추진한다. 가해 청소년은 전문가 상담을 받게 한다.

센터는 지난 1년간 402명의 피해자에게 7천682건의 긴급상담, 수사·법률 지원, 삭제 지원, 심리치료·의료 지원 등을 했다고 서울시는 설명했다.

10∼20대 피해자가 약 57%로 가장 많았고, 이 가운데 10대는 16.6%였다. 피해 유형별로는 유포불안(23.1%), 불법촬영(20.1%), 유포·재유포(14.5%) 순이었다.

삭제한 피해 영상물 총 3천3건 중 절반이 넘는 1천608건(54%)이 아동·청소년 성 착취물이었다.

시는 경찰과 협력해 924건의 수사를 지원했고 이 과정에서 가해자를 검거·특정하는 성과를 거뒀다. 574건의 법률·소송, 507건의 심리치료도 지원했다.

디지털 성범죄 피해를 봐 도움이 필요한 아동·청소년, 시민 등은 센터 상담 전용 직통번호(☎ 02-815-0382)나 카카오톡(검색: 지지동반자 0382)으로 연락하면 된다.

http://www.ngonews.kr/news/articleView.html?idxno=139849

서울시, "AI 기술로 디지털 성범죄 24시간 자동 추적한다" - 한국NGO신문