테크놀로지가 만든 디지털 범죄, 딥페이크

세상을 바꾸는 혁신적인 기술이 악용되는 경우 생기는 일 

일출을 보기 위해 등산을 했다. 정상에 올라 이 세상을 환하게 밝혀줄 오늘의 태양을 기다렸다. 이윽고 기다리던 일출이 시작되고 어둡고 차가웠던 이 세상의 모든 공기를 붉게 물들였다. 구름에 가려져 자신의 모습을 제대로 보여주지 않는 태양이 조금은 원망스러웠지만 구름 틈 사이로 빛을 뿜어내는 광경을 휴대폰으로 찍어 사진을 저장했다. 정상에서 내려와 휴대폰에 저장된 사진을 보니 역시 마음에 들지 않았다. 사진 편집 앱을 실행 시켜 아주 멋스럽고 강렬한 빛으로 뜯어고친 후 SNS에 ‘#일출’이라는 해시태그를 걸어 업로드했다. 이렇게 보니 볼품없던 사진 한 장이 작품이 되었다. 

자, 사람들은 이 사진을 보고 ‘멋진 사진’이라며 ‘좋아요’를 누르게 될 것이다. 아무도 그 사진이 진짜 일출인지 가짜인지 모른다. 전문가를 찾아가 굳이 진짜인지 물을 일도 없을 테니 편집된 이 사진 한 장은 일출이라는 해시태그 속에서 영원히 존재하게 될 것이다. 

지난해 제주도는 제12회 제주국제사진공모전을 진행했다. 대상 수상작은 ‘설원에 노루 나들이’로 선정되었지만 합성 의혹이 제기되었고 재심의 결과 합성으로 판정되어 대상 수상 자체가 취소되는 사례가 있었다. 사진을 출품한 작가 역시 합성이었다며 사실을 인정했다.  

합성으로 판정되어 대상이 취소된 <설원에 노루 나들이> 사진. 출처 : 허핑턴포스트

‘병풍처럼 펼쳐진 소나무 숲을 배경으로 눈 덮인 설원 위를 뛰어가는 노루 가족의 모습이 하나의 수묵화를 연상시키는 것 같다’는 심사평을 본 적이 있다. 이어 ‘제주 자연의 깨끗함 그리고 청정함을 잘 보여주는 작품’이라고 덧붙인 바 있다. 하지만 날 것이 아니었다. 노루가 합성되었으리라고 생각하지 못할 정도로 ‘진짜‘ 같았던 편집 사진이었던 것이다. 

오늘날 우리가 바라보고 있는 사진들은 진위를 가리기 힘들 정도로 피사체와 배경이 무엇이든 자연스러운 결과물을 보여준다. 카메라의 성능은 물론이고 사진을 보정 시켜주는 테크놀로지 자체가 월등하게 진화했다고 볼 수 있다. 새로운 모델을 준비하는 스마트폰 제조사들은 통화 음질이 아니라 카메라에 대한 성능을 우선 언급하는 경우들이 있는데 고작 세 자릿수 픽셀이 주름잡던 시대는 어느덧 과거로 묻혀버렸고 1천만 화소를 훌쩍 넘어서는 카메라들이 일상화되었다. 더불어 사진 편집과 관련된 수많은 애플리케이션이 우리가 찍은 사진을 ‘단순한 보정’ 그 이상의 화려함과 강력함을 갖출 수 있도록 마법 같은 힘을 부여해준다. 

출처 : The Indian Express

사진을 편집해주는 요즘 애플리케이션들은 (조명 따위로) 어둡게 보이는 얼굴이나 밋밋하고 볼품없는 배경 밝기를 조절해주는 심플함을 넘어 화려하게 만들어주곤 한다. 페이스북이나 인스타그램 등 SNS에 사진을 올릴 때도 기본적인 보정 기능을 포함하고 있어 유저의 입맛에 맞게 제어하기만 하면 보다 좋은 사진을 업로드할 수 있도록 했다. 틱톡(Tiktok)과 같은 동영상 플랫폼도 기본적인 영상 편집 기능을 포함하고 있어 손쉽게 다룰 수 있도록 했다. 물론 별도의 편집 앱을 쓰면 정성을 다한 작업의 결과물이 멋스러운 ‘작품’으로 탄생하기도 한다. 과거와 달리 유저들의 접근성을 고려했고 그만큼 기술은 발전했으며 덕분에 더욱 놀라운 화질, 놀라운 편집의 힘을 경험하고 있다.  

Tiktok. 출처 : article Ritz

최근 틱톡 추천 영상을 보다가 영화 속에서 봤던 장면들이 종종 올라왔다. 그러나 실제 영화 주인공의 얼굴은 온데간데없고 유저들의 얼굴을 합성해 마치 자신이 주인공이 된듯한 모습으로 편집된 영상들이었다. 약간의 어색함은 있지만 유저의 얼굴이 주인공의 얼굴 면적을 교묘하게 덮어 합성한 결과물이라 그럴듯하게 보였다. 안면 윤곽을 고스란히 드러내 피부톤과 알맞게 합성하는 형태라 나름대로 조화롭고 자연스러운 편이었다. 이후 일부 지인들도 영화 속 명장면에 자신들의 얼굴을 합성해 SNS에 띄우는 일들이 종종 있었다. 

셀카를 찍으면 액세서리나 가발, 모자 등을 붙여 재미있게 만들어주는 편집 애플리케이션이 있기도 했고 ‘초등학생’으로 돌아간 듯 자신을 어려 보이게 만들어주는 기능도 있었는데 이제는 아예 영화 CG처럼 ‘합성’이 되는 시대가 되었다. 

얼마 전에 가수 아이유의 모습과 닮은꼴의 중국 여성이 화제가 된 적이 있다. 이 사진을 바라본 일부 네티즌들은 실제 아이유로 착각하기도 했단다. 나 역시 그러했다. ‘차이유’라 불리는 중국 뷰티 크리에이터의 실제 모습은 아이유의 외모와 전혀 다른 모습이었다. 딥페이크(Deepfake)라 불리는 기술이 이 여성의 외모를 뒤바꾼 것이었다.  

영화 속 주인공 로버트 드니로가 딥페이크를 만났을 때. 출처 : medium.com

딥페이크란 무엇인가? 

딥페이크는 기본적으로 인공지능 기술을 기반으로 한다. 심층 학습이라는 인공지능 키워드 ‘딥러닝(Deep Learning)’의 ‘Deep’이라는 단어와 가짜라는 의미의 ‘Fake’를 합친 합성어다. 특정 인물의 얼굴은 물론이고 목소리나 신체 부위 등을 사진과 영상으로 교묘하게 합성한 편집 결과물이 바로 딥페이크다. 

위 사진에서도 볼 수 있듯, 로버트 드니로의 모습이 딥페이크를 만나면 마치 전성기 시절로 돌아간 듯한 착각을 일으키게 한다. 뷰티 업계에서는 노화 방지라는 의미로 안티에이징(Anti-Aging)이라는 키워드를 쓰는데 영화 속에서 나이를 젊어 보이게 만들어주는 것을 두고 ‘디에이징’이라고도 한다. 

영화 속에서 컴퓨터 그래픽(CG)을 포함한 특수 제작 기술(SFX)이 장면을 살아 숨 쉬는 듯한 현실로 만들어주는 경우들이 있는데, 딥페이크 역시 CG 처리하듯 합성한 결과물을 자연스럽게 표현한다. 다소 조악하지만 딥페이크가 탑재한 인공지능의 학습 과정을 통해 더욱 정교해졌다고 봐야겠다. 

얼굴이 카메라를 응시하듯 노출되면 이를 프레임 단위로 쪼갠 세부 단위마다 다른 사람의 얼굴을 합성 시켜 품질을 향상하는 방식이다. 그만큼 자연스럽게 합성이 될 테니 얼굴의 움직임에 따라 어색함이 없이 따라붙는다는 것. 더욱 고도화된 딥페이크라면 영화나 드라마 제작에 매우 큰 도움이 될 수 있을 법한 기술이다. 전성기 시절과 달리 이미 나이가 들어 주름진 얼굴을 보이는 아놀드 슈워제네거가 건장한 터미네이터 역할을 한다면 CG 없이 과거의 모습을 되살릴 순 없다. 인간의 주름은 나무의 나이테와 같다. 이는 자연의 섭리라 그 누구도 거스를 수 없다. 그러나 딥페이크 기술이 발달하면 우린 매우 자연스러운 20대 시절의 아놀드를 만날 수도 있다는 것이다. 실제로 아놀드 슈워제네거가 등장하지 않았던 <터미네이터 : 미래 전쟁의 시작>에서도 CG 기술로 그의 모습을 드러내기도 했지만 개인적으론 어색하다고 느꼈다.  

영화 <분노의 질주 : 더 세븐> 엔딩신에 등장한 폴 워커. 출처 : slashfilm.com

마치 늙지 않는 ‘불로초’라도 먹은 듯 젊음을 선사해주는 기술과 달리 고인이 되어버린 명배우들을 딥페이크 기술로 온전하게 되살릴 수도 있겠다. 

<분노의 질주>에서 놀라운 액션 연기를 펼친 폴 워커는 실제 자동차 사고로 세상을 떠났고 그 뒤로 볼 수 없었다. <분노의 질주 : 더 세븐> 엔딩 시퀀스에 그의 마지막 모습이 등장하는데 실제로 폴 워커와 닮은꼴의 형제가 차량에 탑승했고 몰라볼 정도의 CG를 씌워 자연스럽게 표현하기도 했다. 닮은꼴의 사람이 등장함으로써 보는 이의 눈을 속이는 경우들이 있기는 하지만 <광해>처럼 (대놓고) 1인 2역도 아니고 실제로 쌍둥이라 하더라도 조금의 CG를 입히지 않으면 어느 정도 드러날 수밖에 없다. 액션 영화에서도 실제 주인공과 아주 흡사한 대역 배우들이 액션을 펼칠 때가 있는데 이는 현란한 촬영 기술과 전문적인 편집 능력이 적절하게 믹스되었기 때문이다. 딥페이크 기술이 영화를 포함한 콘텐츠 제작에 있어 미약한 부분을 보완해줄 수 있다는 잠재력만 보면 분명히 긍정적인 면도 있었던 셈이다. 

딥페이크는 2017년 소셜 뉴스 웹사이트인 ‘레딧(Reddit)’에서 처음 쓰인 키워드라고 한다. 지금처럼 자연스러웠던 것은 아니었을 테니 조악한 영상들이 나뒹굴었을 것이다. 더구나 유명인의 얼굴이나 몸을 뒤바꾸는 케이스들이 빈번했는데 심지어 포르노 배우 몸에 유명인의 얼굴을 합성하는 악용 사례까지 번지기도 했다. 

Genuine vs Fake 출처 : guardsquare.com

기술의 발전이 이룩한 딥페이크,

무엇이 진실이고 무엇이 가짜인지 모호한 경계선 

기술의 발전으로 인해 무엇이 진실이고 가짜인지 판별하기 어려울 정도가 되었다. 어떤 곳에서는 진짜 같은 가짜 뉴스가 생산되고 SNS라는 급물살을 타 널리 널리 퍼지는 시대가 되어버렸다. 누군가의 민낯이 누군가의 화려한 외모로 바뀌어 영상과 사진들에 ‘좋아요’를 누르는 시대가 아닌가. 더구나 그것이 거짓 음란물로 만들어지는 순간 테크놀로지의 본질은 파괴되고 괴물이 되어버린다. 이러한 악용 사례는 테크놀로지가 만들어버린 디지털 범죄이자 사회적으로 심각하게 바라봐야 할 부작용이겠다. 매우 당연하지만 한창 박스오피스에 새 영화를 들고 나온 배우들의 얼굴이 한 번도 보지 못한 누군가의 나체 위로 합성이 된다면 기분이 어떨까? 이 때문에 피해를 호소하는 연예인, 인플루언서 등 셀러브리티들, 그리고 정치인들까지 피해는 국내외로 급증하는 추세다. 위에서도 짧게 언급했듯, 딥페이크라는 테크놀로지가 현시대의 강력한 유통 플랫폼인 SNS를 타고 흐르면 막아내기가 쉽지 않다. 

한동안 문제가 되었던 알페스 역시 동일 선상에 있다. 

딥페이크와 더불어 논란이 되었던 키워드 중 하나가 바로 알페스(RPS)다. ‘Real Person Slash’라는 키워드의 줄임말로 실존하는 인물들의 애정 관계 특히 동성애를 포함한 성관계를 소재로 삼는 경우들이 있었다. 당연히 현실과 완벽하게 다른 허구로 된 텍스트이지만 지나친 성행위 표현, 묘사 등이 논란이 된 적이 있다. 이 역시 딥페이크를 통한 음란물 생산과 크게 다르지 않다.  

이 시대의 소셜 미디어 출처 : econsultancy.com

어느 해외 미디어에서는 ‘테크놀로지의 눈부신 발전에도 이를 우회하는 잠재적 범죄자가 늘 존재할 것’이라고 했다. 딱히 틀린 말도 아니다. 인공지능 기술은 딥페이크에도 분명히 존재하고 있지만 인공지능을 포함한 신기술은 누군가가 어떻게 어떤 목적으로 활용하느냐에 따라 인류의 삶을 윤택하게 만들어줄 장치가 되기도 하고, 어렵게 쌓아 올린 노력과 정성 나아가 사회적 체계 자체를 무너뜨릴 수도 있다.

혹자는 비판적으로 생각하는 자세에 대해 이야기한다. 허위 정보, 가짜 뉴스가 뿌리 뽑히지 않고 꾸준하게 등장한다면 결국 이를 흡수하게 될 우리가 지혜를 가져야 한다는 것이다. 21세기 정보화 시대, 진짜든 가짜든 데이터가 넘치는 이 시대에 양질의 정보만 존재할 순 없다. 급속도로 발전하는 테크놀로지의 변화에 제대로 대처하려면 법적으로 그리고 제도적으로도 일정한 규제가 있어야 할 것이다. 다만 그것이 테크놀로지의 발전을 저해하는 악법이 되진 말아야 하겠다.

일전에 논란이 되었던 인공지능 이루다의 문제나 딥페이크 기술 등 테크놀로지가 편법으로 악용되는 사례를 감지할 수 있도록 또 다른 기술들이 개발되거나, 사전 방지할 수 있는 장치도 연구 중이라고 한다. 실제로 페이스북, 마이크로소프트, 구글 등은 딥페이크와 같은 위험 요인을 차단하기 위한 개발이 진행 중이고 텍사스주를 포함한 미국의 일부 지역에서는 딥페이크를 금지하는 법안까지 마련되고 있다. 그러나 잠재적인 위협은 테크놀로지의 발전과 늘 공존하게 될 것이다. 우주의 진리를 밝게 보는 눈, 사물을 꿰뚫어 볼 수 있는 안목과 식견, 이를 두고 ‘혜안’이라고 하는데 테크놀로지를 수용하는 우리 역시 폭넓은 인사이트를 가져야 하겠다.  

---

※ 아래 사이트를 참고하여 작성했습니다. 미국에서는 지난해 이미 논란이 되었던 부분이고 딥페이크와 관련된 수많은 미디어의 기사가 존재했습니다. 딥페이크에 대한 이슈는 현재 진행형입니다. 

※ 사실과 다르거나 수정이 필요한 부분이 있다면 댓글로 남겨주세요.   

<What is Deepfake? (And Should You Be Worried?)>(2019.10.7)

<Three threats posed by deepfakes that technology won’t solve>(2020. 10.2)

해당 콘텐츠는 Pen잡은 루이스님과 모비인사이드의 파트너쉽으로 제공되는 기사입니다.