사이버폭력 대응을 위한 IT 연구

사이버폭력 프로파일링-위험감지 기술

사이버폭력 예방을 위한 기술 개발 방향이 있는지 아이디어 회의에 참여하고 있다.

낯설었던 사이버 폭력에 대한 자료를 찾고, 경험있는 동료들의 의견을 물어 뱡향을 잡아봤다.

1. 사이버폭력의 정의 ('텍스트 마이닝을 통한 청소년 사이버불링 키워드 분석, 이세림·김진영·전종설)

한국정보화진흥원(2019)이 발표한 사이버폭력 조사에서는 사이버폭력을 “사이버(인터넷, 휴대전화 등) 공간에서 언어, 영상 등을 통해 타인에게 피해 혹 불쾌감을 주는 행위(p.20)”이라고 정의했다.

세부 유형으로는 사이버 언어폭력, 명예훼손, 스토킹, 성폭력, 유출, 따돌림, 갈취, 강요 등을 들었다.

최근엔 '인터넷 공간에서의 괴롭힘'이라는 취지의 '사이버불링'이라고 표현하기도 한다. 그 유형으로 개인정보 유출, 온라인 매체를 통한 욕설, 따돌림, 원치 않는 성적 행위나 대화 강요, 음란물 노출 등을 들었다.

최근 기술을 악용한 수법으로 지인능욕, 딥페이크, 알페스 등의 신종 수법도 발생하고 있다.

주로 또래 집단의 영향력이 크고, 인터넷 사용시간이 많은 청소년 들의 피해를 우려한다.

사이버불링 기사(JTBC : https://news.jtbc.joins.com/article/article.aspx?news_id=NB11704144)

2. 사이버폭력 대응을 위한 기술 개발

경찰들은 사이버폭력의 대응을 위한 최적의 해결책이 있다고 말하지 않는다. 실제 다양한 사건을 보는 현장에서는 기술적 해결을 기대하진 않는다. '교육을 열심히 하는 것'이 해법이라고 말하면서도, 열심히 알리고 교육해도 변하지 않는 현실에 낙담하시는 분도 있다.

실제 교육도 성인보다 많이 받음에도 청소년의 사이버불링 피해 사건은 늘어나고 있다. (뉴스1 보도)

2-1. 사이버폭력 프로파일링 수사지원 기술

수사 과정의 효율성을 높히는 연구 개발은 시도해볼만하다. 경찰은 압수수색영장을 발부받아 피해자나 가해자의 스마트폰과 PC의 데이터를 분석한다. SNS, 메세지, 사진, 동영상등을 수집해서 폭력으로 정의할만한 것이 있는지 선택하는 과정을 거친다. 그 과정은 디지털 포렌식 프로그램의 도움을 받아, 특정한 키워드를 필터링해서 검색하기도 하는데, 결국은 사람의 눈으로 폭력성을 판단한다.

이 과정을 AI의 학습을 통해 자동화할 수 있을까? 언어의 맥락 때문에 단순한 키워드로 검색하는 것이 아니라, 화자간의 발언 횟수, 특정한 단어, 발언의 길이 등 요소들을 쌓아 폭력성을 판단할수 있길 바란다.  실제 사건에서 수집한 디지털 포렌식의 데이터를 통해 인공지능 학습이 가능할지가 관건이다.

AI 학습으로 피해자-가해자의 디지털 컨텐츠에서 폭력성 여부와 그 위험 등급, 폭력성의 유형을 구분할 수 있다면 사람의 눈으로 디지털 증거를 채택하는 수고를 줄일 수 있을 것이다. 추출된 데이터에서 사이버폭력의 사건을 시간대별로 나열하거나, 사람-단어 등을 관계로 표현하는 것도 도움이 될 것이다.

2-2. 사이버폭력 위험 감지 기술

화자간 대화와 컨텐츠를 통해 화자간 폭력성을 판단할 수 있다면 그것이 수사 목적 뿐 아니라 위험을 탐지하는 기술로 활용할 수 있길 바란다. 전항에서 만든 기술을 가볍게 하여 청소년의 스마트폰 안에 설치하는 것이다.  서버와 통신하지 않고 단말기 안에서만 작동하는 기술로 대화와 컨텐츠의 폭력성 위험 수위를 탐지하는 기술을 목표로 한다. 부모와 같은 보호자에게 청소년인 자녀의 사이버폭력의 위험 수위가 높아질때 알려준다면, 심각해지기 전에 조기에 개입해서 대응할 수 있지 않을까?

이런 구상은 그저 아이디어이지만, 가능성을 탐색해 볼만 하다. 우선 2-1 수사용 프로파일링 시스템의 관건은 많은 데이터일진데, 실제 수사관들에게 디지털포렌식으로 지원하면서 위험 여부와 등급, 유형을 정의하게 하는 것은 방법상으로는 가능하다. 만들어진 개발물을 경찰관들이 사용해보면서 수사지원을 위한 정확성을 신뢰할만 하다면, 그 다음 단계로 그 모델을 경량화하여 청소년 보호용 어플리케이션을 만드는 순서이다.