by
Dec 16. 2021
2032년 대선. 딥 페이크 영상 유포로 무효(가상)
Deep fake 기술의 위험성
‘2032년 3월 3일. 대한민국 제22대 대통령 선거 당일 오후 1시 투표 종료 5시간 전에 여당 후보의 스캔들 동영상이 유튜브를 통해 유포되기 시작했다. 누가 봐도 명백한 여당 대선 후보의 얼굴과 육성 메시지가 담긴 이 영상은 여당 후보의 치명적 약점을 증명하는 중요한 단서였다.
언론은 진위 여부를 확인하기 위해 동분서주했지만 잘 알려지지 않은 인터넷 언론사가 해당 유튜브 영상을 인용 보도하기 시작하면서 모든 언론사가 사실 확인을 뒤로한 채 ’ 카더라 통신‘을 앞 다투어 인용 보도하기 시작했다. 야당 후보 측은 즉각 비난 성명을 발표했고 여당은 조작된 영상으로 인한 가짜 뉴스임을 강력히 주장했다. 그러나 유튜브를 통해 확산된 영상은 중도성향의 유권자들과 야당 유권자들의 결집을 불러일으켜 투표율을 상승시켰다.
투표 종료 1시간 전인 오후 5시. 경찰의 공식적인 발표로 딥 페이크로 인한 조작된 영상임을 밝혔지만 파장은 계속되었고 개표함을 열자 박빙이었던 두 후보의 승패는 결국 야당 후보의 역전승으로 마무리되었다. 경찰 조사 결과 해외에 서버를 둔 국제적인 테러 단체의 소행으로 밝혀졌고 여당은 선거 결과에 영향을 미쳤다는 이유로 대선 무효 소송을 제기했다.
가짜 뉴스에 염증을 느끼고 있던 국민들은 확인되지 않은 뉴스를 무분별하게 전파한 언론사들의 해체를 요구했고 로이터 저널리즘 연구소가 발행하는 저널리즘 보고서에서 한국은 전체 170개국 중 언론 신뢰도 꼴찌를 기록하게 되었다.’
2022년 대선후보 AI 윤석열위 내용은 딥 페이크 기술이 가져올 위험성에 대한 가상의 시나리오다. 2022년 대선 후보들은 자신의 아바 타격인 AI 가상인간을 만들어 선 보이고 있다. 관련 제재가 전무한 상황에서 딥 페이크 가상 후보들이 자칫 오염된 정보를 전달하게 될 경우 위의 시나리오가 현실이 되지 않는다는 보장이 없다.
딥 페이크란 인공신경망의 한 종류인 생성적 적대 신경망(GAN;Generative Adversarial Network)을 통해 이미지를 학습해 새로운 이미지를 만들어 내는 기술이다. 쉽게 말하면 조작된 동영상인 것이다. 지난 2018년에 공개된 미국 대통령의 오바마의 거침없는 발언은 영화감독인 조던 필(Jordan Peele)의 성대모사에 딥 페이크 기법을 더한 것이다.
https://www.youtube.com/watch?v=bE1KWpoX9Hk, abc 뉴스 오바마 딥 페이크 영상 보도 국내에서도 딥 페이크 기술을 활용한 다양한 시도가 이루어지고 있다. 주로 가상 인플루언서들의 유튜브 콘텐츠나 얼굴 합성을 가능하게 한 흥미용 어플케이션의 주를 이룬다. 딥 페이크는 시각인지에서 비롯된 사실 확인에 강력한 의문을 제기한다. 이미지에 대한 외곡은 주로 지면 매체인 신문매체에서 정치인의 프로파간다를 확산하는 데 사용되어 왔다. 이렇게 조작된 이미지는 대중들에게 별다른 의심 없이 무차별적으로 전파될 수 있다. 이에 더해 영상으로 제작된 딥 페이크는 보는 이로 하여금 강한 확신을 가지게 하거나 기존의 인식을 바꾸는 계기가 되기도 한다.
Microsoft Research, Peking University develop AI deepfake detector