딥페이크로 인한 의심의 사회

AI가 사람을 흉내낼 때 발생되는 음과양

2016년 3월 알파고가 이세돌 프로와 바둑을 두면서 인공지능이 인간의 지능을 위협할 수 있으리라는 우려가 팽배했다. 터미네이터처럼 지능을 갖춘 인공지능이 인간을 위협하고 공격하는 강인공지능의 시대가 도래하는 것 아닌가 하는 걱정이 있었다. 하지만, 인간이 내린 명령과 규칙을 위반하면서 스스로 생각하고 판단하며 인류 문명에 도전하는 AI는 아직 시기상조이다. 단, AI를 악용함으로써 발생될 수 있는 사회적 문제는 존재하고 갈수록 심각해져가고 있다.

deep fake는 인공지능 기술의 하나인 딥러닝과 가짜인 fake의 합성어로 인공지능을 이용해 사람 얼굴을 가짜로 만드는 것을 뜻한다. 문제는 사진 뿐 아니라 영상 속 인물까지 감쪽같이 얼굴을 바꿀 수 있다는 점이다. 기존에도 인공지능이 아니어도 사람이 사진, 영상 편집을 해서 이런 수정 작업을 할 수 있었다. 달라진 점은 사람이 시간과 노력을 들여 편집하지 않아도 인공지능이 손쉽고 빠르게 편집을 해준다는 것이다. 실제 스탠포드 대학 연구팀이 개발한 딥비디오 기술은 인공지능을 이용해 기존 동영상에 나오는 인물을 편집해서 영상 속 인물의 말하는 모습과 동작을 다른 인물로 옮길 수 있도록 해준다. 이 기술은 단순히 얼굴을 찡그리고 웃는 표정을 넘어 눈 깜박임과 입술의 떨림, 주변 배경과의 조화까지 완벽하게 최적화해서 편집해준다. 게다가 인공지능은 데이터가 쌓여갈수록 더욱 완벽하게 페이크 제작이 가능해진다. 누구나 쉽게 접근해서 고품질의 결과물을 얻을 수 있다. 그러니 아무나 수 많은 페이크 제작이 가능하다.

그렇게 악용된 사진이나 영상은 거짓을 사실인 것마냥 호도할 수 있게 한다. 포르노 제작물의 주인공 얼굴을 임의로 바꿀 수 있고, 불법을 자행하는 것처럼 한 정치인을 매장할 수도 있다. 딥 페이크는 이미지나 영상에만 적용되지 않고 소리에도 적용이 가능하다. 내가 말하지도 않은 것을 말한 것처럼 만들 수 있다. 전화 통화 너머로 들리는 보이스피싱의 어눌한 목소리가 진짜 가족이 말하는 것처럼 들리게 된다면 그 누가 속아 넘어가지 않겠는가.

딥 페이크의 문제는 없었던 것을 사실인 것처럼 만들어서 발생하는 문제 뿐만 아니라 있었던 것을 없었던 것처럼 희석시킬 수도 있다는 것에서 주목해야 한다. 즉, 모든 사실조차 믿으려 하지 않는 의심이 가득한 사회를 만들 수 있다. 특히 정치에서 악용될 경우 국가적 차원의 큰 피해와 혼란을 야기하게 된다. 선거를 이틀 앞둔 시점에 가짜 정보가 너무도 현실처럼 구체적인 증거 영상과 함께 유출된다면 투표자들은 혼란에 빠질 것이다. 해당 영상이 가짜인지, 진짜인지 판별하는데 소모적 논쟁이 벌어지고 잘못된 정보들로 인한 유권자들의 오판은 사회를 혼란에 빠지게 할 것이다. 이미 가짜뉴스로 인해 국내에 얼마나 많은 소모적 논쟁과 불필요한 검증 작업들이 있는지 우리는 체험하고 있다. 그런데, 그 가짜뉴스가 진짜처럼 보여진다면 얼마나 더 큰 혼란이 만들어지겠는가.

루이14세의 건강기록 정보를 기반으로 목소리를 재현한 구글의 인공지능

물론 딥 페이크를 이용해 과거 역사적 사실을 실제처럼 재현하거나 당사자의 승인 하에 다양한 창작물을 제작할 수 있는 유용성도 있다. 구글은 프랑스 방송국에서 루이14세를 주인공으로 하는 드라마 ‘베르사유’의 홍보를 위해 300년 전의 루이14세 황제의 목소리를 재현하는데 인공지능을 이용했다. 이렇게 다국어 더빙을 딥 페이크로 구현하거나 영화, 광고의 성우로서 딥 페이크를 이용하면 제작비 절감이 가능하다. 실제 이스라엘 기업 Canny AI는 각종 동영상을 다양한 언어로 더빙하는데 딥 페이크 기술을 이용한다. 이를 활용해 광고, 영화 더빙에 적용하는 사업을 전개하고 있다. 또한, 영국의 Synthesia라는 회사는 2019년 4월 축국스타 베컴이 말라리아 퇴치 캠페인을 홍보하는 영상을 중국어, 아랍어, 힌디어 등 9개 언어로 더빙하는 것을 딥 페이크를 이용해 제작했다.

청각 장애를 가진 사람이나 언어 장벽이 있는 사람들에게 이처럼 훌륭한 기적이 있을까. 비록 내가 말을 할 수는 없지만 나를 대신한 AI가 나만의 인공 목소리를 만들어 상대와 대화를 할 수 있게 해준다면 훨씬 자연스러운 대화가 가능할 것이다. 또한, 만날 수 없는 망자를 그리며 추억에 잠기고 보다 생생한 대화를 나누고 싶은 사람들에게 위로를 안겨다 줄 수도 있을 것이다. 이미 AI가 만든 가짜임을 인식할 수 있다면야 진짜같은 거짓이라 할지라도 편의와 위안이 될 수 있다.

 또한, 구글 듀플레스라는 서비스는 인간의 목소리를 인공지능이 흉내내어 사람 대신 전화를 걸어준다. 특정인을 모사하는 것이 아닌 존재하지 않는 사람의 음성을 재창조한 것이다. 통화를 한 상대방은 감쪽같이 사람이라 생각하고 대화를 하고 듀플레스는 바쁜 나를 대신해서 예약을 잡고 간단한 업무처리를 비서처럼 대행해준다. 음성을 넘어 영상으로 확대되어 가상의 아나운서를 만들어 뉴스 방송을 송출하는 스타트업도 등장할만큼 가상의 사람을 만들어내어 사람의 수고를 줄이고 비용을 절감할 수 있는 긍정적인 효율성도 제공해준다.

하지만, 오용과 남용의 폐단이 너무 크기에 이같은 장점이 빛을 발하지 못한다.

보고 듣고도 사실인지 의심해야 한다면 우리는 어떻게 사실이라는 것을 인지해야 할까?

명명백백한 증거 영상과 사진, 녹음이 딥 페이크로 조작되지 않다는 것을 어떻게 증명할 수 있을까?

사람간 신뢰로 운영되는 페이스북이나 유투브, 카카오톡과 같은 플랫폼에서 상대방이 보낸 메시지나 동영상을 믿지 못하면 이들 서비스가 정상적으로 운영될리 없다. 그렇다보니 페이스북이나 구글은 딥페이크를 탐지하고 이를 막는 기술 투자에 나서고 있다. 이를 위해 페이스북, MS, 구글과 애플이 함께 딥페이크 탐지 챌린지 프로젝트를 가동해서 주요 대학과 함께 가짜 편집 콘텐츠 퇴출을 준비하고 있다.

이렇게 딥 페이크 여부를 추적하는 인공지능이 나와야 할 판이다. 마치 인터넷 초기 이메일의 등장이 기대했던 바와 달리 스팸메일 폭탄을 탄생시켜 이 스팸을 차단하는 솔루션을 탄생시키며 창과 방패의 싸움이 시작된 것처럼 딥 페이크와 이의 차단을 위한 인공지능이 인간을 대리해 한 판 대결을 해야 할 것이다.