딥페이크도 AI를 막을 수 없다면?
딥페이크 포르노가 대한민국 사회를 강타했다. 과거에도 합성을 통한 음란물 제작 및 유포 문제는 있었지만, 현재 일어나고 있는 딥페이크 포르노는 그 양상이 다르다. 그 중에서 일반인들까지 피해자가 되고 있다는 점이 가장 심각한 문제 중 하나다. 이전에는 연예인을 대상으로 한 합성 음란물이 대부분이었지만 최근에는 주변 지인을 대상으로 한 딥페이크 포르노가 실감나고 흥분된다는 이유로 제작되고 유포되고 있다. 대학생과 청소년들 사이에서 텔레그램 메신저를 통해 딥페이크 포르노가 거래되고 있으며, 여교사와 여군까지 피해에 시달리고 있다. 이처럼 광범위하고 무분별하게 퍼지고 있는 딥페이크 포르노는 더 이상 지켜볼 문제가 아니다.
딥페이크 포르노가 이토록 빠르게 확산된 배경에는 생성형 AI 기술의 급속한 발전이 있다. 불과 몇 년 전만 해도 전문적인 장비가 필요했던 영상 합성을 이제 누구나 손쉽게 할 수 있게 되면서 사진 한 장만으로도 딥페이크 포르노가 제작될 수 있는 시대가 도래한 것이다. 딥페이크 포르노 피해를 입은 사람은 진위 여부를 밝히는 것을 떠나서 지인에게 성 착취의 대상이 된 것에 매우 심한 불쾌함을 느끼고 있으며, 안 그래도 심화되고 있는 남녀갈등에 불을 지피고 있다. 이번 딥페이크 포르노 사태로 인해 당분간 생성형 AI 기술의 발전에 차질이 생길 수도 있다. 하지만 기술은 계속해서 발전할 것이기 때문에 기술의 오남용을 막는 방법이 매우 중요해졌다.
1. 제도를 통한 해결책
딥페이크 포르노 문제를 해결하기 위한 가장 빠른 방법은 제도적 대응이다. 미국, 유럽, 일본에서도 연예인과 정치인 뿐만 아니라 틱톡이나 인스타그램에서 활동하는 인플루언서들이 딥페이크 포르노의 피해를 입었고, 각국 정부는 제도적인 처벌을 강화하고 있다. 미국은 각 주마다 딥페이크 포르노를 형사 처벌하는 법안을 마련하고 있으며, 플랫폼 기업들이 자체적으로 딥페이크 포르노를 검열하고 차단할 수 있도록 책임을 지우고 있다. 유럽 연합도 디지털 서비스법을 통해 딥페이크 포르노를 제작 및 유포한 사람을 처벌하는 한편 피해자를 보호하고 있으며, 일본 역시 2023년 '성적 영상 피해 방지법' 개정을 통해 딥페이크 포르노를 규제하고 있다.
대한민국 정부는 윤석열 대통령이 직접 나서 딥페이크 포르노를 명백한 범죄 행위로 규정하고 엄중한 법적 제재를 지시했다. 이에 따라 경찰과 검찰은 딥페이크 포르노를 제작하고 유포하는 사람 뿐만 아니라 소지하거나 시청한 사람까지도 처벌하는 규정까지 신설하기로 했다. 올해 10월까지 전문가 의견을 수렴하여 범정부 종합대책을 마련하겠다고 선언했지만, 유례 없는 수준의 강력한 처벌이 이루어지지 않는 이상 딥페이크 포르노 범죄를 완전히 근절할 수는 없을 것이다. 특히 10대 청소년들이 저지르는 성범죄를 단지 촉법소년이란 이유만으로 처벌하지 못한다면 딥페이크 포르노는 마약과 더불어 대한민국 사회를 병들게 하는 사회악이 될 것이다.
2. 기술을 통한 해결책
기술의 발전에 따른 딥페이크 포르노 문제를 해결하기 위해서는 반대편의 기술이 필요하다. 예를 들어 딥페이크 포르노를 실시간으로 탐지하고 판별할 수 있는 인공지능 분석 기술이 있다. 알고리즘과 블록체인을 기반으로 딥페이크 콘텐츠에서 나타나는 미세한 왜곡이나 패턴을 발견하고 학습하는 것이다. 이를 통해 이미 유포된 딥페이크 포르노를 찾아서 삭제할 수 있을 뿐만 아니라 아직 제작되지 않은 딥페이크 포르노를 사전에 막을 수도 있을 것이다. 그리고 플랫폼에서 강력한 필터링 시스템을 도입하여 딥페이크 포르노가 확산되는 것을 방지할 수도 있다. 이는 딥페이크 영상으로 분류된 영상을 업로드하거나 전달할 수 없도록 차단하는 방식이다.
대한민국의 한 중학생은 '딥페이크 피해 학교 지도'라는 사이트를 개발하여 전국적으로 딥페이크 포르노의 피해 사실을 알렸다. 코로나19 바이러스가 확산되던 초기에도 이러한 지도가 만들어져 사람들이 경각심을 갖고 관련 당국도 신속하게 대응할 수 있었다. 이번에도 딥페이크 포르노가 바로 주변에서 일어나고 있다는 사실을 인지한 학생들과 부모들은 SNS에 게시한 사진을 내리며 혹시 모를 위험에 대비할 수 있었다. 세상에는 기술을 악용해서 범죄를 저지르는 블랙 해커도 있는 반면 기술을 통해 범죄를 예방하고 정의를 실현하는 화이트 해커도 존재한다. 기술 그 자체에는 선악이 없기 때문에 기술을 활용하는 인간의 성품이 더 중요해지고 있다.
3. 교육을 통한 해결책
결국 딥페이크 포르노 문제를 근본적으로 해결할 수 있는 것은 교육이다. 이번 딥페이크 포르노의 피해자 뿐만 아니라 가해자 역시 10대 청소년들이 대부분이었고, 이들은 문제의 심각성을 제대로 인지하고 못하고 있었다. 인간의 성욕은 자연스럽고 본능적인 욕구지만 그동안 학교에서는 이러한 욕구를 부끄럽고 감춰야 하는 것처럼 성교육을 진행했다. 이로 인해 성에 대한 호기심이 잘못된 성관념으로 자리잡았고, 통제되지 못한 성적 호기심은 성범죄로 이어졌다. 이미 알 거 다 아는 요즘 청소년들에게 필요한 성교육은 단순히 성에 대한 지식을 전달하는 것이 아니다. 성에 관한 궁금한 이야기를 솔직하고 유쾌하게 나누는 문화가 정착되어야 한다.
삼성의 창업주인 이병철 회장은 자서전에서 내적 규범을 중시했다. 법은 행위의 사후에 작용하지만 내적 규범은 범죄의 발생을 사전에 예방할 수 있기 때문이다. 인간의 행동을 규율하는 내적 규범은 개인의 윤리적 자각에서 시작된다. 이러한 인식을 사회 전반에 확산시키기 위해서는 가정과 학교의 적극적인 교육이 필수적이다. 딥페이크 포르노 문제 역시 법으로는 역부족이다. 당장의 문제 확산을 방지하기 위해 제도적인 대책을 마련하는 것이 필요하겠지만, 단기적으로는 기술을 통해 대응하는 한편 장기적으로는 교육을 통해 해결해야 한다. 최근 사회를 보면 내적 규범이 전혀 작동하지 않는 것 같아 암울하지만 그렇다고 포기할 수도 없는 노릇이다.
기술 발전을 옹호하는 사람으로서 생성형 AI 기술이 발달함에 따라 발생하는 사회적인 문제는 어느 정도 감수해야 한다고 생각했다. 하지만 실제로 생성형 AI 기술이 딥페이크 포르노라는 범죄에 악용되는 모습을 보니 경악할 수밖에 없었다. 기존의 일자리가 사라지고 새로운 일자리가 생겨나거나, 기계에 의해 사람이 죽거나 다치는 사고가 발생하는 것은 거시적인 관점에서 기술 발전에 따른 성장통이라 할 수 있다. 하지만 딥페이크 포르노처럼 인간의 본능을 이성으로 통제하지 못해 발생하는 문제는 성장통이 아닌 질병이다. 이 질병을 치유하려면 기술의 올바른 사용법과 부작용을 이해시키고 제도의 테두리 안에서 활용할 수 있도록 교육해야 한다.
생성형 AI는 양날의 검과 같아서 어떻게 다루느냐에 따라 인류에게 축복이 될 수도 있고 재앙이 될 수도 있다. 딥페이크 포르노는 생성형 AI 기술이 초래할 수 있는 여러 가지 문제 중 하나에 불과하다. 앞으로 생성형 AI는 상업, 의료, 예술 등 우리 삶의 모든 영역에 영향을 미칠 것이다. 인간의 창의성과 생산성을 크게 향상시키는 동시에 윤리적 딜레마, 프라이버시 침해, 정보 조작 등의 새로운 문제를 야기하는 파괴적인 형태로 말이다. 기술 발전은 불가역적인 특성이 있어서 억지로 멈출 수는 없으며 속도를 늦추거나 방향을 바꾸는 수밖에 없다. 인류사회의 지혜와 협력으로 이 강력한 기술이 진보와 행복을 위해 활용될 수 있기를 강력히 희망한다.
