딥페이크와 사회적 인식 변화의 필요성
김지현 / 양지원
재작년 초, 우리를 경악하게 했던 ‘n번방 사건’이 기억나는가? n번방 사건 이후 ‘n번방 방지법’이라는 이름 하에 디지털 성범죄를 예방 및 처벌하는 법안들이 통과되었다. 이에 따르면 불법 성착취물을 시청하거나 소지하고만 있어도 처벌받고, 합의 하에 촬영해도 동의없이 유포할 경우, 성적 촬영물을 이용해 협박 혹은 강요를 할 경우 가중 처벌을 받는다.
n번방 이후 우리나라에서 딥페이크 범죄에 대한 관심은 점차 줄어들었지만, 여전히 아동/청소년을 대상으로 한 디지털 성범죄는 만연하다. 아동/청소년 인권 보호 단체인 ‘탁틴 내일’이 지난해 8월부터 6개월 간 트위터 내에서 디지털 성범죄 게시물을 모니터링 한 결과 불법촬영과 아동 성착취물 등 총 2165건의 게시물을 적발했다. 이러한 게시물들은 #지인,#키즈,#고딩합성,#노예,#무료 등의 키워드를 통해 손쉽게 검색이 가능했다고 한다. 한편 2018년 인도에서는 정부를 비판한 여성 언론인의 얼굴을 음란물과 합성한 딥페이크 영상이 유포됐다. 같은 해 멕시코에서도 대선 기간 중 현 대통령 캠프 측 인사들이 뇌물을 받았다는 딥페이크 음성이 유포되어 곤혹을 치르기도 했다. 이처럼 딥페이크 기술은 성범죄 뿐만 아니라 정치 분야에서도 활용되며 가짜 정보를 만들어 혼란을 야기한다.
그러나 딥페이크 기술이 범죄에만 사용되는 건 아니다. SBS '그것이 알고 싶다'에서는 딥페이크 범죄 피해자들의 얼굴을 모자이크하는 대신, 가상 얼굴을 합성한 영상을 내보냈다. 엠넷의 'AI 음악 프로젝트'에서는 세상을 떠난 가수들의(거북이의 리더 터틀맨과 가수 김현식) 모습을 복원하는 데 이 기술을 사용했다. 영화 <패스트 앤 퓨리어스7> 촬영 도중 교통 사고로 숨진 폴 워커의 모습을 복원하기도 하였다.
딥페이크는 인공지능의 자체 학습 기술인 딥러닝(Deep Learning)에 가짜(Fake)를 붙여 만들어진 단어이다. 혹시 이 단어의 유래를 알고 있는가? 누가, 대체 어떤 배경에서 이 단어를 만들고, 처음 사용하게 됐을까? 사실 이 단어의 탄생에는 부끄러운 진실이 있다. 때는 2017년 말, 미국 최대 온라인 커뮤니티인 레딧의 사용자는 한 게시물을 올린다. 게시물의 내용은 딥페이크 영상과 더불어 딥러닝 알고리즘을 활용해 연예인의 사진으로 선정적인 영상을 제작할 수 있다는 것이었다. 그리고 이 게시물을 올린 사용자의 닉네임은 ‘deepfakes’였다. 그는 레딧에 합성된 영상을 올리며 활동했고, 다른 사용자들도 차츰 이 기술을 활용해 어플리케이션을 만들고 활용했다. 이렇게 딥페이크 기술과 단어는 널리 알려지게 됐다.
단어의 탄생은 현상이다. ‘딥페이크’라는 단어의 탄생은, 딥러닝 알고리즘을 이용한 성범죄였다.
이런 부끄러운 어원이 있음에도 불구하고, 사람들은 이 사실을 모른 채 단어를 사용한다. 과연, 범죄에서 시작된 이 단어를 계속 사용하는 게 옳을까? ‘딥페이크’ 이외에도 앞으로 계속해서 새로운 과학 기술이 등장할테고, 이에 따라 ‘딥페이크’라는 단어와 같은 윤리적, 사회적 문제가 제기될 것이다. 과학 기술과 관련된 문제들은 우리 사회와 떼어놓을 수 없을 것이며, 계속해서 고민해야할 문제이다. 법과 사회가 과학 기술의 발전 속도에 맞추어 과학 기술에 따른 윤리적, 사회적 문제를 함께 고민해야 한다.
https://www.metroseoul.co.kr/article/20210321500176 메트로신문 채윤정 기자
https://blog.naver.com/minumworld/222270800740 민음사 블로그
https://www.hankookilbo.com/News/Read/A2021120909540002113 한국일보
https://n.news.naver.com/article/025/0003127146 중앙일보 김가람 기자
https://news.jtbc.joins.com/article/article.aspx?news_id=NB12054003 jtbc 뉴스
https://www.youtube.com/watch?v=sHnsYG5hseU kbc 뉴스
https://csense.tistory.com/1356 세상의 상식 이야기
