인공지능 기술이 이렇게 악용될 줄이야
바람직하게 쓴다면 분명히 좋은 기술이 될 텐데 말이죠
테일러 스위프트는 딥페이크 성 착취물 피해자 중 하나입니다. 일이 벌어졌을 당시에는 난 리도, 그런 난리가 없었다죠. 테일러 스위프트라고 하면 2024년 미국 MTV VMA 역사를 갈아치운 미국 팝 음악의 대표 아이콘인데 갑자기 난데없는 포르노 이미지가 등장했으니 그럴 만도 했겠죠.(사실 딥페이크 사건은 시기상으로 MTV VMA 7관왕 수상 이전이기는 합니다.) 이 때문에 미국 사회 전반에서 인공지능 테크놀로지에 대한 사이버 보안 중요성과 딥페이크에 관한 규제 법안 등 목소리가 나오기도 했습니다. AI 기술이 점점 더 정교해지는 와중, SNS나 메신저를 통해서 쥐도 새도 모르게 아주 무서울 정도로 빠르게 전파되고 있어 '이미지 생성 기술 자체'를 향한 우려 섞인 목소리도 함께 나왔습니다. 기술 자체는 누구든 지 유용하게 또 바람직하고 유의미하게 쓰이기를 바라지만 이면에는 이를 절대 악용하는 유저들도 있다는 사실. '이 기술 하나로 지구를 지배하고 말겠다'면서 테크놀로지를 연구하고 개발하는 비현실적 악당보다 '삶의 질을 높일 수 있는 기술'을 고민하는 사람들이 분명히 더 많지 않을까 합니다만 궁극적으로 유용하게 쓰이게 될 기술을 극단적으로 악용하는 사람들은 실존하고 있습니다. 그렇다고 기술 자체를 규제하고 틀어막는다면 그게 과연 최선의 방법이 될까요?
테일러 스위프트 같은 글로벌 셀럽들의 포르노 이미지가 SNS 플랫폼을 통해 번지기 시작하면 그 여파는 분명 상당할 것입니다. 사회적으로, 문화적으로 또 어쩌면 정치적으로도. 트위터(지금의 X)에 올라갔던 테일러 스위프트의 이미지는 무려 4천500만 뷰, 2만 4천여 건의 리포스트(re-post), 좋아요(Like)만 수십만 건이었다고 했습니다. 물론 지금은 삭제가 된 상태죠. 테일러 스위프트가 유명하지 않은 평범한 가수였다면 표적이 되지 않을 수 있었을까요? 사실 딥페이크의 대상은 셀럽이든 일반인이든 가리지 않습니다. 과거에는 명품 패딩 입은 교황의 모습이나 체포되어 끌려가는 트럼프의 딥페이크 사진도 있긴 했었죠. 허위 정보를 유포한다던가, 여론에 매우 큰 영향을 미칠 수 있는 특정 결과물을 만들어내는 일, 여기에 죄 없는 사람들에게서 사기를 치고 이득을 취하려는 일까지 딥페이크라는 기술의 이면에 숨어 득실대고 있죠.
하루에 무려 7천만 명 이상이 사용한다는 Reddit이라는 서비스를 아시나요? DAU가 7천만 명이라니 꽤 놀라운 숫자가 아닐 수 없는데요. 2017년에 사람의 이미지를 합성해 얼굴을 바꿔치기하는 영상을 레딧에 올린 이후 딥페이크라는 말이 생겼다고 합니다. 심지어 그 사람의 계정이 'deepfakes'였다고 하는군요.
그렇다면 여기서 말하는 딥페이크란 대체 무엇일까요? 이젠 굳이 설명하지 않아도 되겠지만, 간단히 남겨봅니다. 딥페이크는 인공지능이 학습하는 방식을 말하는 딥러닝(Deep Learning)과 가짜라는 의미의 'Fake'라는 영단어가 섞여서 만들어진 합성어입니다. 어떤 이미지를 합성해 결과물을 만들어내는데 딥러닝 기술이 사용되는 것이죠. 경우에 따라 어색한 모습이 비칠 수도 있지만 대다수 진짜와 가짜를 구분하기 어려운 수준이었습니다. 이제는 인공지능 기술 자체가 꽤 정교해졌고 진짜 사람인 듯, 진짜 사진인 듯 만들어주기까지 하잖아요? 인공지능을 활용해서 실제와 같이 보일 수 있도록 이미지나 비디오 파일(혹은 영화)로 연출되기도 합니다. 영상을 제작하는데 딥페이크 기술이 꽤 유의미한 도움을 줄 수도 있으나 이게 어떤 허위 사실을 조작하는 등 악용하는 사례가 점점 많아지고 있습니다. 특히 정치적 목적으로 딥페이크가 이뤄지게 되면 그 자체만으로도 범죄 행위가 될 텐데요. 이미 유포된 결과물이 가짜라 하더라도 특정 후보에게 굉장히 좋지 않은 이미지가 씌워질 수도 있겠죠. 결국은 ‘저게 가짜’라고 해명해야 하는 것도, ‘내가 진짜’라는 걸 굳이 나서서 해명하는 것 자체도 피곤한 일이겠죠. 앞서 언급했듯 유명인들을 대상으로 한 딥페이크 결과물은 엄청나게 많습니다만 이제는 일반인들 역시 결코 안전하지 못하답니다. 텔레그램을 통해 번져나간 'N번방'도 그러하지만 얼마 전 논란이 되었던 '능욕방'이라는 것 역시 명백한 디지털 성범죄입니다.
"AI가 꾸준하게 발전하고 있기 때문에 (어떠한 방법으로든) 이를 규제하지 않으면 계속해서 일어날 수 있는 일입니다"
맞는 말입니다. AI라는 기술은 꾸준하게 발전을 거듭합니다. 때문에 어떠한 방법으로든 이를 규제하지 않으면 계속해서 일어날 수 있는 일입니다. 인공지능을 포함한 테크놀로지란 하루가 다르게 고도화를 이루고 있습니다. 딥페이크라는 기술로 디지털 성범죄에 적용되는 어떤 결과물을 만 들어 유포했는데 그게 텔레그램이라고 하는 메신저 앱을 통해 이뤄졌다면 우리는 무엇을 규제해야 하나요? 딥페이크라는 기술 그 자체를 틀어막으면 될까요? 아니면 결과물이 유포되었다던 메신저 앱 ‘텔레그램’? 텔레그램이라는 메신저 앱 자체를 우주 밖으로 깨끗하게 날려버린다고 해도 텔레그램이 아닌 우회로가 생겨날지도 모를 일입니다. 이제는 AI 연구진과 플랫폼을 가진 빅테크 그리고 정부기관까지 국내외를 막론하고 머리를 맞댈 필요가 있겠습니다. 말 그대로 '공조'가 필요한 시기입니다.
※ 이 글은 명대신문 1133호에 실린 글입니다.
https://news.mju.ac.kr/news/articleView.html?idxno=12865
