딥 페이크와 선거 안보
민주주의 선거와 딥페이크: 국가와 글로벌 IT기업 간 갈등을 중심으로
요약
2024년 11월에 있을 미국 대통령 선거와 2024년 4월에 예정된 한국 국회의원 선거를 앞두고 선거운동과 관련한 최대 화두는 가짜뉴스(fake news)이다. 2024년 다보스 포럼에서 전문가들이 손꼽은 인류 최대의 위협이 딥 페이크로 인한 혼란이다. 이미 2016년 미국 대통령 선거에서 가짜뉴스는 세계적으로 주목을 받았다. IT기술, 특히 인공지능(AI)기술이 발전하고, 이러한 기술이 선거과정에도 영향을 끼치면서 선거 시큐리티(election security)가 중요한 정치적 이슈로 등장하였다.
선거 시큐리티는 기본적으로 물리적인 사이버 공격으로 이해할 수 있으나, 최근에는 유권자의 투표행태에 영 향을 미치는 요인들이 증가하고 있다. 이 중 최근 크게 주목받고 있는 것이 딥 페이크(가짜 동영상)이다. 딥 페이크라는 영상 조작을 통해 가짜 뉴스는 보다 정교하게 제작되어 유권자들의 올바르고 공정한 선택을 위한 판단 근거와 사고를 왜곡시키는 결과를 낳고 있다.
이러한 위협에도 현재 각국 정부들은 선 거 과정에 있어 딥 페이크로 인한 위협에 적극적으로 대응하지 못하고 있으며, 기술적인 해결 부분을 주요 글로벌 IT 기업들에 책임을 전가하고 있다. 반면, 글로벌 IT 기업들은 기술 적 제약과 막대한 자원 투입을 이유로 실질적인 문제 해결을 하지 못하고 소극적인 대응을 보이고 있다. 선거 국면의 딥 페이크 문제에 대한 정부와 기업 간 갈등이 해결되지 않는 상황 속에서 유권자들의 선택은 여전히 왜곡당하고 있다. 이러한 갈등 속에서, 한국은 선거 시큐리티 증진을 위해 딥 페이크 규제 법제화와 선관위의 역할 강화 등이 필요하다.
서론
2016년 미국 대통령 선거에서 가짜뉴스는 세계적으로 주목을 받았다. 가짜뉴스가 SNS라는 새로운 미디어 환경을 통한 선거운동(campaign) 전략으로 활용되 었으며, 선거결과에도 큰 영향을 미쳤다. IT기술, 특히 인공지능(AI)기술이 발전하고, 이러한 기술이 선거과정에도 영향을 끼치면서 선거 시큐리티(election security)가 중요한 정치적 이슈로 등장하였다.
특히, SNS가 선거 운동에서 차지하는 비중이 높아지게 되면서 여론조작문제가 국내정치뿐만 아니라 국제정치의 갈등요인으로 등장하기도 한다. 대표적인 사례가 미국 대통령선거에서 러시아의 선거개 입문제이다. 외국의 정치세력이 선거과정에 개입하는 방법은 이메일, 가짜뉴스, 가짜 동영상 (deep fake) 등 온라인 공간에서 주로 이루어진다. 선거 개입의 영향력도 SNS를 통해서 확산된다는 점에서 파급력이 크다고 볼 수밖에 없다. 선거 시큐리티는 먼저 물리적인 사이버 공격으로 이해할 수 있다.
2009년 미국에서는 군인 및 재외유권자 권리강화법에 따라 많은 주에서 온라인 유권자 등록시스템을 채택하고 있다. 2011년 12월, 한국의 재보궐선거에서 디도스(DDos)공격으로 중앙선거관리위원회 홈페 이지가 마비되는 사건이 발생하였다. 2015년 일본 지방선거에서는 68만 명에 해당하는 사카이시(境市) 유권자명부가 해킹당하는 사고가 발생하였다.
이 각기 다른 3건의 사건은 온라인을 통한 유권자 등록과 선거 인프라 관리, DDos 공격으로 인한 선거 관련 홈페이지 마비, 유권자 명부의 해킹 등 사이버 공격을 받을 가능성이 높아졌음을 의미한다. 그러나 최근에는 선거관리기관에 대한 공격, 선거관리 자체에 대한 방해 또는 선거자체의 무력화를 넘어서 유권자의 투표행태에 영향을 미치는 요인들이 증가하고 있다. 특히, 2018 년 미국 중간선거, 2019년 EU의회를 거치면서 가짜뉴스의 정치적 영향력이 증대되고 있다. 최근에는 가짜뉴스가 진화한 가짜 동영상인 딥 페이크(deep fake)가 등장하면서 거짓 정보에 의해 공정한 유권자 후보 선택이 위협받고 있다.
따라서 선거 시큐리티는 단순히 물리적인 사이버 공격에 그치는 것이 아니라, 공정한 선거를 방해하는 가짜 정보를 딥 페이크 등 다양한 방식으로 전하여 유권자 선택을 왜곡하는 현상까지 포괄해서 고려할 필요가 있다. 딥 페이크라는 영상 조작을 통해 가짜 뉴스는 보다 정교하게 제작되어 유권자들의 올바르 고 공정한 선택을 위한 판단 근거와 사고를 왜곡시키는 결과를 낳고 있다. 이러한 위협에도 현재 각국 정부들은 선거 과정에 있어 딥 페이크로 인한 위협에 적극적으로 대응하지 못하고 있으며, 기술적인 해결 부분을 주요 글로벌 IT 기업들(Google, Facebook, Microsoft 등)에 책임을 전가하고 있는 상황이다.
반면, 글로벌 IT 기업들은 기술적 제약과 막대한 자원 투입을 이유로 실질적인 문제 해결을 하지 못하고 소극적인 대응을 보이고 있다. 선거 국면의 딥 페이크 문제에 대한 정부와 기업 간 갈등이 해결되지 않는 상황 속에서 유권자들의 선택은 여전히 왜곡당하고 있다. 이러한 상황을 통해, 민주주의의 최소한의 조건인 선거를 위협하는 요인들이 많아지고 있음을 알 수 있다. 민주주의의 꽃인 선거에서 유권자의 선택이 잘못된 정보로 인해 왜곡되지 않도록 적극적인 제도적 노력이 필요한 상황이다.
이번 글을 통해서는 최근 선거과정과 유권자의 투표행태에도 영향을 주고 있는 딥 페이크와 디지털 게리맨더링현상에 대해서 살펴본다. 그리 고 각국 정부와 기업의 대응을 둘러싼 갈등 양상을 분석하여, 이를 통해 한국사회의 선택적 대안을 제시해보고자 한다.
SNS에 의한 ‘알고리즘 지배현상(Algocracy)'
페이스북은 2010년 미국 연방하원의원중간선거에서 18세 이상 이용자 6,100만 명을 추출하여 SNS가 유권자의 투표참여에 미치는 영향을 검증하는 실험을 진행하였다. 페이스북이 실시한 실험 내용은 다음과 같다. 페이스북은 2010년 연방하원중간선거가 실시되는 11월 2일, 18세 이상 유권자 6,100만 명을 대상으로 세 가지 그룹으로 분류하여 실험을 진행하였다. 페이스북은 선거 당일 이용자의 뉴스피드 최상위에 「오늘은 투표일입니다」라는 메시지를 표시하였다. 그리고 제1그룹에는 투표일 표시, 투표소 링크, 투표 완료 버튼, 이미 투표를 완료한 유권자수, 투표한 친구사진(최대 6명 표시)」를 전부 표시하였다. 제2그룹에는 이용자 중에서 1% 추출하여 투표한 친구의 프로필 사진을 제외하고, 나머지 투표일 표시, 투표소 링크, 투표 완료 버튼, 이미 투표를 완료한 유권자수 등을 표시하였다. 제3그룹에는 "오늘이 투표일" 이라는 메시지를 표시하지 않았다.
실험은 세 그룹으로 나누어진 이용자가 「투표완료」 버튼을 누른 수가 얼마나 다른지를 분석하였다. 실제로 페이스북 이용자에게 선거 당일 「오늘은 투표일입니다」라는 메시지를 제시하여, 이러한 메시지 제시 가 투표율 제고에 어느 정도 효과가 있는지를 검증한 것이다. 페이스북은 2016년 7월에 실시된 일본 참의원선거에서도 동일한 실험을 실시하였다(朝日 新聞, 2016.07.24.). 일본 참의원선거에서는 페이스북에 「투표자 버튼」기능을 도입하였다. 선거당일 뉴스피드 최상위에 「오늘은 투표일입니다」라는 메시지와 「나는 투표합니다」라는 버튼을 설치하였다. 이용자가 「나는 투표합니다」라는 버튼을 클릭하면, 이용자의 타임 라인에 「나는 2016년 참의원선거에 투표합니다」라는 내용의 포스팅이 자동적으로 이루어 지도록 한 것이다.
이상의 실험 결과, 제1그룹의 투표율이 가장 높은 것으로 나타났다. 이러한 결과는 SNS 에 의한 여론조작이며 실제로는 유권자의 투표행태에 대한 영향력 행사라는 비판에 직면하게 되었다. 이러한 여론조작은 마이크로 타깃팅(Micro Targeting)에 정보조작이며, AI 알고리즘이 유권자의 투표의사결정에 영향력을 행사하는 윤리문제가 있다.
딥 페이크의 등장과 디지털 게리맨더링 문제
미국에서 2024년 대통령선거를 앞두고 가짜 동영상(deep fake video)이 주목을 받고 있다. 기존의 가짜뉴스가 텍스트 콘텐츠를 기반으로 하는 형태를 하고 있는 반면, 가짜동영상은 동영상을 합성한 형태를 띠고 있다는 점에서 차별적이다. 딥 페이크(Deep Fake)는 딥러 닝(Deep learning)과 가짜(Fake)의 합성어이다. 딥 페이크는 동영상이 가지는 정보의 다양성, 인공지능(AI)기술의 결합이라는 점에서 가짜뉴스보다 파급효과가 훨씬 크다. 딥 페이크는 2017년 하반기부터 페이크 포르노(Fake Porno)가 『Reddit』사이트에 투고 되기 시작하면서부터 등장하였다. ‘Deep fakes’라는 프로그래머가 누구나가 간단하게 페이크 포르노를 만들 수 있는 앱을 공개하면서 확산되기 시작하였다. 딥 페이크는 AI 기계학습을 이용하여 유명인의 얼굴을 스와핑 하는 방법(Face Swaps)을 주로 활용하고 있다.
딥 페이크가 등장하고 정치적 영향력이 확대되고 있는 배경은 몇 가지로 설명할 수 있다. 첫째, 탈진실(Post-truth)사회의 도래다. 최근 탈진실 현상이 심화되면서 페이크 뉴스는 더 욱 증가하는 추세를 보이고 있다. 탈진실현상은 여론형성 과정에서 객관적인 사실보다는 허위, 가짜일지라도 개인의 감정에 어필하는 것이 더 영향력을 갖는 현상이다. 이제는 사실보 다 개인의 감정에 어필하는 인물의 발언이나 행위가 강한 영향력을 갖는 시대가 되었다. 더 구나 최근에는 인공지능(AI)기술이 일상화되면서 딥 페이크는 더욱 확산된다.
둘째, 초연결사회의 도래다. 현재 SNS 이용자 현황을 살펴보면, Facebook 19억 명, Instagram 10억 명, WhatsApp 15억 명, Twitter 3.3억 명, LinkedIn 5.5억 명, WeChat 10억 명 등이다. SNS 이용자의 증가와 상호 연결은 유권자의 정치적 의사결정에 개입을 용이하게 하기 때문이다.
셋째, AI 기술의 발달이다. 딥 페이크에서 활용되는 기술은 딥러닝 방법 중에서 ‘적대적 생성네트워크(GANs:Generative Adversarial Networks)라는 기술이 활용된다. 적대적 생성네트워크(GANs)기술은 두 개의 인공지능(AI)네트워크시스템을 서로 경쟁시키면서 보다 더 진짜에 가까운 그림이나 물건을 만들어내는 기술이다. 첫 번째 시스템은 창작 AI시스템(Generative Network)이다. 두 번째는 판별시스템(Discriminative Network)이다. 창작 AI시스템은 학습한 데이터를 토대로 실물에 가까운 그림을 그린다. 이에 반하여 판별 AI시스템은 창작 AI시스템이 그린 그림이 인물과 다른 점을 찾아내어 판별하는 작업을 진행한다. 이렇게 하나는 실물에 보다 가까운 그림을 그리려고 노력하고, 반대로 다른 하나는 진짜와 다른 점을 찾아내는 작업을 반복하는 과정에서 정확도는 높아지게 된다. 이렇게 창작과 판별이 반복되는 과정에서 실물과 구별하기 어려운 화상이 만들어지게 되는 것이다.
2018년 4월 『BuzzFeed』와 영화감독 조던 필(Jordan Peele)이 공동으로 제작한 「Obama Deep fake」가 공개되었다. 합성 동영상에서 오바마 전 대통령은 “트럼프대통령은 빌어먹을 놈(President Trump is a complete and total dipshit)“라고 표현하였다. 전직 대통령이 현직 대통령에게 저속한 표현으로 비난하는 동영상이 공개되면서 가짜동영상에 대한 관심이 급증하였다. 이후 트럼프 미국 대통령과 메르켈 독일 총리, 낸시 펠로시 미국 하원의장 등의 딥 페이크 영상이 유포되어 정치권의 긴장감이 높아졌다.
현재 확산되고 있는 딥 페이크 문제는 기존의 소문, 찌라시 정보, 가짜뉴스와도 달리 시각, 청각정보를 통해서 감각적으로 작용한다는 점에서 매우 다르다. 정보의 수용성 측면에 서 리얼리티가 다르다고 볼 수 있다. 더구나 현재는 초연결사회로 인해 가짜동영상이 순식 간에 세계적으로 확산될 가능성이 있다. 가짜동영상문제는 단지 선거과정에서만 활용되는 것이 아니라 국가안보와도 직결될 수 있다.
결국 인공지능(AI)시대로 접어들면서 인공지능 기술을 활용한 선거 전략이 확대되고 있다. 각종 SNS에서 알고리즘을 활용한 여론조작 및 투표결정에 영향을 미치는 다양한 시도 들이 진행되고 있다. 그리고 인공지능(AI)기술이 더해지면서 유권자들은 거짓정보 또는 편 향된 정보환경에서 민주주의 정책결정과정에 참여하고 있다고 볼 수 있다.
딥 페이크와 선거 시큐리티 : 각국 정부 vs 기업 간 갈등
1) 미국 정부 vs 글로벌 IT 기업
미국에서 트럼프 대통령의 지속적인 의회에 대한 공격으로 의회에 대한 신뢰는 20%까지 하락하였다. 그리고 가짜뉴스와 기존 미디어에 대한 불신으로 지역의 미디어 가 도산하는 "뉴스의 사막화“가 초래되고 있다. 이는 미디어가 주민에게 정확한 정보를 전달하고 가짜뉴스 체크기능을 상실해 가고 있음을 의미한다. 미국인 80%가 가짜뉴스는 "민주주의에 위협“이라고 인식하고 있다. 그러나 공화당지지자는 46%, 트럼프지지자 51%가 위협적이라고 인식하는데 반해, 민주당지지자 26%, 클린턴지지자 29%이다.
이러한 인식의 차이는 유효한 대책을 만들어가는 과정에서도 문제점을 노정시키고 있다. 트럼프 대통령과 같은 지도자의 등장은 민주주의 기본원리인 “법의 지배”를 부정하는 현 상으로 나타나고 있다. 가짜뉴스의 등장으로 주류 미디어가 약체화되고 있으며 기존 미디어 는 가짜뉴스에 대해 뉴스로서 가치를 부여하는 역할에 종사하는 아이러니를 보여주고 있다. 한 발 더 나아가 2016년 미국 대선 시기 러시아 사이버 공격 이후, 2019년 9월에 선거 시큐리티에 대한 법안을 통과시켰고, 법안 주 내용은 정확하고 안전한 선거를 위해 투표용 지 및 투표 시스템 관리와 외부 해킹 예방에 대한 부분을 담고 있다.
아울러 미 연방 차원에서도 딥 페이크 방지를 위한 법제화 노력이 이어지고 있다. 2019년 9월, 미국 상원에서는 딥페이크 보고법(S.2065 - Deepfake Report Act of 2019)을 통과한 바 있다. 법안 내용은 국토안보부 장관이 딥 페이크 기술 사용 및 기타 목적들에 대한 연례 보고서를 게시하도록 요구하는 내용이며, 디지털 컨텐츠 위조 기술, 특히 국가 안보에 위해를 가하는 사이버 공격과 디지털 콘텐츠 위조에 대해 입법 후 1년 이내에 그리고 그 이후 매년 5년마다 과학기술부 차관을 통해 보고서를 발표하도록 규정하고 있다.
이에 앞서 2018년에는 상원에서 악의적인 딥 페이크 금지법(S.3805 - Malicious Deep Fake Prohibition Act of 2018)을 통과하여, 딥 페이크 영상을 통해 선거 관리와 대외관계 수행 등 행정, 입법, 사법 절차 수행에 영향을 끼치는 행위를 하였을 시, 딥 페이크 영상 생성, 복제 또는 배포를 하여 합리적으로 예상될 수 있는 경우, 최대 10년 이하의 징역형을 받을 수 있다.
이러한 입법 노력을 통해 미국에서는 딥 페이크로 인한 선거 보안을 막을 최소한의 발판을 마련했다. 더구나 최근에는 가짜동영상이 등장하면서 2019년 6월 13일, 미국하원에 방지 법안이 제 출되었다. 방안의 주요 내용을 살펴보면, 다음과 같다.
첫째, 가짜동영상을 만들 수 있는 툴을 개발한 기업, 연구자는 날조, 위조한 창작물에 자동으로 워터마크 부착을 의무화한다. 둘째, 가짜동영상 검색기능을 플랫폼에 장착하도록 소셜 미디어 기업에 의무화한다. 셋째, 가 짜동영상을 작성하여 개인의 명예를 손상, 손해를 입힌 경우나 국가의 안전을 위협하는 경우에는 벌금, 징역형을 부과한다. 미국에서는 선거시스템에 관련 IT인프라를 국가 기반인프라로 지정하였다.
그러나 미국에 서는 인프라차원의 보호수준에 그치고 있다. 이용자의 개인정보 유출 문제로 2018년 4월, 페이스북의 마크 저커버그(Mark Zuckerberg) 최고경영책임자가 프라이버시침해 이유로 미국 의회에서 사죄하였다. 미국 의회는 이러한 프라이버시침해에 대한 근본적인 대안을 요구 하고 있지만 구체적인 대안은 기업에 위임되어 있는 형태이다. ‘표현의 자유’를 중시하는 미 국적 상황은 낸시 펠로시(Nancy Pelosi) 하원의장 가짜 동영상, 마크 저커버그 최고경영책 임자의 가짜 동영상이 페이스북에서 삭제되지 않는 상황을 통해서도 알 수 있다.
글로벌 IT기업들을 중심으로 한 대응책도 등장하고 있다. 미국에서는 페이스북 등 글로벌 기업들을 중심으로 가짜 계정에 대해 실시간으로 감시하여 가짜 뉴스를 줄이고자 하는 노력을 기울이고 있으며, 페이스북은 2018년 10월부터 2019년 3월까지 6개월 동안 34억개의 허위 계정을 제거했다. 아울러 미얀마 로링야 학살에 페이스북을 통한 소수 민족 혐오 발언이 원인이 되었다는 논쟁 이후, 페이스북은 세계 각국 언어로 실시간 게시되는 타임라인 글에 대한 모니터링을 전담하는 팀을 강화하고 있다.
마이크로소프트의 경우에도 피싱이나 디도스(DDos), 가짜뉴스 등을 통한 민주주의 원칙의 훼손을 방지하기 위한 노력을 기울이고 있다(Microsoft 2019). 더 나아가 2019년 9월부터 미국에서는 페이스북과 마이크로소프트, MIT, UC버클리 대학교 등 AI 학계와 산업계가 머리를 맞대고 딥 페이크 탐지 문제를 해결하기 위한 협력을 시작했고, 이를 위해 페이스북이 1,000만 미국 달러를 기탁하고, 페이스북 게시글 및 영상 데이터셋을 딥러닝 기반 딥 페이크 탐지 연구 목적으로 제공하고 있다.
구글의 경우에도 2018년 AI 사용에 대한 구글의 원칙(AI at Google: our principles)를 발표하며, 딥 페이크 등 가짜 정보로 인한 폐해를 막기 위한 원칙을 천명한 바 있다. 주된 내용은 사회적 효용과 보안, 개인정보 보호 협력, 학술적 협력, 편견 비조장 등의 원칙을 담고 있으며, AI 기술이 안전하고 공정하게 사용 될 수 있도록 기여하 겠다는 포부를 밝히고 있다. 이러한 원칙을 실현시키기 위해, 구글은 고성능 가짜 오디오 검출기를 개발하여 학계 및 산업계에 연구 목적으로 데이터를 제공하고 있으며, 수천 개의 딥 페이크 샘플 영상을 만들어 학계에서 무료로 합성 비디오 감지 방법 개발에 활용할 수 있게끔 지원하고 있다.
Microsoft는 「Defending Democracy Program」의 일환으로 브라우저 「Edge」의 모바일버전에서는 거짓정보를 구별하는 「News Guard」를 탑재하고 있다. 그리고 2019년 5 월에는 선거의 안전성을 확보하기 위하여 「Election Guard」 프로그램과 「Microsoft 365 for Campaigns」을 제공하고 있다. 이러한 프로그램은 정치 분야에서 정당, 후보자를 상대로 제공한다. 2019년 6월부터 미국정부기관에 제공하여 서비스가 운영되고 있다. 이제는 오프라인, 인터넷, SNS, AI로부터 민주주의가 공격받는 시대가 도래 하고 있다.
가짜뉴스를 방지하기 위하여 페이스북은 알고리즘을 변경하였다. 2018년 1월 19일, 페이 스북 CEO 마크 저커버거는 가짜뉴스 대책의 일환으로 알고리즘 변경을 발표하였다. 알고리즘 변경은 크게 두 가지 나누어진다. 하나는 페이스북 뉴스피드에서 로컬 뉴스를 우선한다는 것이다. 이러한 알고리즘 변경은 일반유저의 페이지보다 로컬네트워크를 우선하는 방법으로 민감하고 쟁점이 되는 기사를 줄이기 위한 고육지책으로 추진하는 것이다. 결국 가짜뉴스를 줄이고 정치적 양극화를 조장한다는 비판으로부터 자유로워지려는 의도에서 이루어졌다. 2018년 12월에도 페이스북은 미국의 400개 지방도시에서 로컬뉴스허브 구축을 계획을 발표하였다. 다른 하나는 친구나 가족의 투고를 우선한다는 것이다. 이것은 댓글이 보다 더 활발하게 이루어지게 하려는 의도라고 볼 수 있다. 그리고 이것은 지인들의 댓글을 우선함으로써 가 짜뉴스를 예방하려는 의도가 숨어있다.
동시에 가짜뉴스를 예방하기 위한 직접적인 방안으로 팩트 체크 플랫폼과 연계도 추진하게 되었다. 가짜동영상문제에 대한 미국정부의 입장은 글로벌 IT기업에게 대책을 위임하고 있는 상황이다. 그러나 글로벌 IT기업입장에서는 막대한 예산이 소요되는 것은 물론 비즈니스 모델의 변경과도 직결된 문제이므로 적극적으로 대안을 마련하고 있지 못한 상황이다. 페이스북, 구글, 마이크로소프트 등 글로벌 IT기업들이 나름의 대안을 제시하고 있지만 여전히 2020년 미국대통령선거가 선거 시큐리티를 확보한 상황에서 치러질지는 여전히 미지수이다.
2) 유럽 국가들의 대응과 정부-기업 갈등
가짜뉴스와 딥 페이크에 의해 유권자의 투표권이 침해받는 상황에 대해 EU 차원의 대응이 있었다. EU위원회에서는 가짜뉴스나 허위정보의 유포는 표현의 자유를 침해하는 것으로 인식한다. 또한 SNS의 개인정보가 여론조작이나 선거에 영향을 주는데 악용되는 것을 방지 하기 위하여 가짜뉴스 규제를 시도하였다. EU위원회에서 시큐리티 정책을 담당하고 있는 쥴리안 킹(Julian King)위원은 2018년 6월 21일 행한 연설에서 선거 시스템 절차에 대한 보안과 가짜 뉴스로 인한 유권자의 투표 결정을 교란하는 행위에 대한 선거 시큐리티 보장 을 요구하였다. 특히, SNS상에서 허위정보나 가짜뉴스, 편향된 정보를 특정 유권자에게 제 공하는 기술에 대한 규제의 필요성을 역설하였다. 여기에는 SNS상에서 대규모로 유포되는 허위정보는 대량살상무기와 동일하다는 인식이 깔려있다.
2004년부터 유럽연합 사이버보안기구(European Union Agency for Cybersecurity, ENISA)를 통해 사이버보안을 총괄하고 있으며, 선거 보안 관련해서도 EU 사이 버보안법(EU Cybersecurity Act)를 통해 유럽연합 사이버보안기구에 역할을 부여했다. 하지만, EU 차원에서 현재 선거에서도 사이버 시큐리티 개념을 적용해야 한다는 논의는 있으나, 구체적인 법안으로까지 이어진 상태는 아니며, 개별 국가들의 대응만 이어 지는 상황이다.
영국과 프랑스의 경우에도 법률로서 규정된 내용은 아직 없는 상황이고, 앞 서 언급한 것 처럼 영국 국립 사이버 보안 센터와 프랑스 국가정보시스템청과 같은 사이버 보안 기관이 선거 시기에 정당과 후보자에 대한 지원을 해주고 있다. EU의 경우 일반 데이터 보호 규칙(GDPR)을 통해 2018년 5월부터 잊혀질 권리 등 강력 한 수준의 개인정보 보호를 시작한 바 있다.
아울러 2019년에는 잘못된 정보에 대한 행동 규범 보고서를 발표하여, 선거 국면에서 허위 계정과 봇(bot)을 활용한 허위 컨 텐츠에 의한 위협을 막기 위해, EU ENISA를 통해 선거 기간 중 사이버 위협에 대한 대비 가 중요하며, 유럽연합 기관 등 주요 소셜 미디어 계정을 보호하는 등 선거 보안을 위해 GDPR의 선거 기간 중 확대 적용을 위한 가이드라인을 EU 차원에서 발표하고, 사이버 공 격 모의 훈련과 정치적 투명성을 높이기 위한 정보 공개 등을 규정하였다. 방지대책과 관련하여 쟁점이 되고 있는 것은 ‘개인정보보호문제(프라이버시)’와 ‘표현의 자유’원칙 간의 충돌이다.
유럽국가에서는 ‘개인정보보호문제(프라이버시)’에 방점을 두고 있 다. EU의회에서는 물론 프랑스, 영국 등에서는 디지털 게리맨더링을 방지하는 다양한 대책 이 정부 차원에서 마련되고 있다. 선거정보시스템에 대한 시큐리티만이 아니라 개별 정당, 후보자의 선거운동과정에서도 완전성(Integrity)을 확보하려는 조치들이 진행되고 있다. EU위원회에서는 가짜뉴스나 SNS상에서 대규모로 유포되는 허위정보에 대한 규제는 법, 제도적인 측면과 동시에 민간기업의 자율규제를 동시에 추진하고 있다는 점이 특징이다.
EU 집행위원회는 2019년 유럽 선거에서 가짜 뉴스로 인한 공정 선거의 훼손을 우려하며, Facebook과 YouTube 등 온라인 플랫폼 역시 투명성과 추적성, 책임있는 운영으로 거대 소셜미디어 플랫폼에서 잘못된 정보를 퍼뜨리는 가짜 계정을 식별하고 삭제하는 노력을 확대할 것을 촉구했다. 이를 위해 EU위원회는 2019년 5월 EU 선거 이전에 온라인 플랫폼과 주요 소셜네트워크, 광고 산업의 협력을 통해 온라인 정보 침해와 가짜 뉴스 방지를 위한 행동 강령을 확립하는 노력을 촉구한 바 있다.
구체적으로 페이스북과 구글, 트위터가 참여하여 온라인 플랫폼에서 허위 계정의 확산을 방지하고, 컨텐츠 정보를 검증하는 독립적인 노력을 담고 있다. 특히, 허위 계정에는 EU GDPR에 규정 된 권리를 인정받을 수 없으며, FactCheckEU 프로젝트를 통해 팩트체크와 정보 검증에 대한 유럽 내 13개국, 11개 언어 협력을 진행하였다. 유럽 지역 내 개별 국가들의 노력도 이어지고 있다.
우선 영국은 National Cyber Security Centre(NCSC)가 주축이 되어 Parliamentary Parties Panel(PPP)를 통해서 각 정당, 후보자를 지원하기 시작하였고, 의회에서 2석 이상 의석을 가진 정당들로 구성된다. 정당의 선거관련 시스템의 시큐리티를 정부기관이 직접적으로 지원하는 형식으로 대응하 고 있다. NCSC는 정당과 후보자가 사이버 공격을 받았을 경우 무료로 즉각적인 기술 조언 및 지원을 제공하며, 정당과 지역의 선거위원회에 조언과 지침을 제공하며, 광범한 개인 데이터를 보호하고 있다.
2019년 11월, 영국 총선을 앞두고 영국의 싱크 탱크인 Future Advocacy에서 보리스 존 슨 총리와 제레미 코빈 노동당 대표의 딥 페이크 영상을 공개하였고, 이는 선거에서 딥 페이크가 민주주의와 사회에 미칠 악영향에 대한 경고성 메시지였다. 아울러 11월 11일 총선을 앞두고 노동당은 두 차례의 사이버 공격을 받았다.
프랑스의 경우, 국가정보시스템청(ANSSI)은 정당의 선거관련 시스템에 관여하지 않는다. 정당은 현대정치에서 필수불가결한 단체이지만 국가기관은 아니기 때문이다. 그 대신 프랑스에서는 대통령선거운동관리위원회(CNCCEP)가 대통령선거과정에서 ANSSI가 관여할 것 인가 말 것인가를 결정한다. 프랑스에서는 정치적 중립과 정당의 자율적인 정치활동을 위하여 정당이 요청하는 경우에 한하여 ANSSI가 각 정당, 후보자를 지원하고 있다. 프랑스에서는 정보조작대처법을 통해 2018년부터 선거 직전과 선거 운동 기간 중 디지털 플랫폼에 대한 투명성 의무를 부가하여 게시 컨텐츠의 작성자 이름과 지불한 금액을 게시하 여 모든 후원 컨텐츠를 신고하도록 규정하고 있으며, 가짜 뉴스의 유통을 신속하게 중단시킬 법적 금지 명령을 만들어, 가짜 뉴스가 명백히 나타나고, 의도적으로 전파되어, 선거 결과에 영향을 끼칠 수 있을 경우 1881년 언론의 자유에 관한 법률에 정의된 대로 사법부의 판단으로 중단 시킬 수 있다.
프랑스 방송위원회(French Broadcasting Authority)를 통해 선거 기간 중 가짜뉴스를 제거하는 조치에 대한 플랫폼 간 협력의 의무를 설정하여, 이러한 준수 여부를 국가 기관(프랑스 방송위원회)에서 감시하도록 규정하였고, 외국에서 이러한 가짜 뉴스가 TV를 통해 방송될 경우 이를 방지 또는 일시 중단, 중단 할 수 있다. 언론 윤리에 대한 포괄적인 규정과 더불어 가짜 컨텐츠에 대한 규제를 설정한 법률적 근거를 마련했다는 점에서 의미가 있다 할 수 있다.
결론 : 딥 페이크 문제 시사점과 한국의 선택
딥 페이크 뉴스와 선거 보안(election security)와 관련하여 많은 논의들이 있다. 미국과 유럽을 중심으로 선거 국면에서 진실을 왜곡한 잘못된 정보로 유권자들의 선택을 잘못된 방향으로 이끌어 민주주의를 위협하는 문제에 대한 논의들이 시작되고 있다.
위에서 언급한 해외 사례들을 정리해보면, 현재 데이터와 보안 관련해서는 해외 각 국이 데이터 이용과 관련된 규제와 사이버 보안(해킹) 위주로 법제화가 진행 중이며, 기존 사이 버보안 기관을 통해 선거 국면에서의 보안 문제도 확장해서 검토하는 단계로 볼 수 있다. 하지만, 동시에 일부 선진국들을 중심으로 가짜뉴스 방지를 위한 처벌 및 차단 규정에 대한 법제화를 하는 노력들도 생겨나고 있다. 그러나 딥 페이크 탐지 알고리즘이 앞으로도 기술적으로 충분치 않으며, 앞으로 긴 싸움 이 될 것이라는 한계가 남아있다.
과학기술 전문 언론사인 The Verge에서 는 여러 전문가들에 대한 인터뷰를 통해, AI 기술 기반의 딥 페이크 탐지가 정확도가 90% 대에 달하더라도, 앞으로 딥 페이크 기술이 발전함에 따라, 현재 영상 이미지의 픽셀과 프 레임 단위 분석을 통해 이상 움직임을 탐지하거나, 유명인의 발언을 분석하여 발언 내용의 정확도를 측정하는 현재의 탐지 방식으로는 딥 페이크 탐지에 한계가 존재하며, 완벽한 해 결이 어려운 문제라는 점을 지적하고 있다. 따라서 이 문제를 기술적 노력으로만 해결할 수 는 없으며, 제도 보완과 더불어 일반 시민사회에서의 인식 전환이 매우 중요하다.
딥 페이크 논쟁은 이제 시작이다. 페이스북은 딥 페이크에 대해 금지하였고, 딥페이크 이용 시 탈퇴 조항을 만들고, 허위 동영상 콘텐츠를 모니터링 하여 사실 확인 후 삭제하도록 하였다. 하지만 어디까지를 가짜 뉴스로 판단하고, 어디 까지를 패러디와 코미디로 생각할지에 대한 기준이 모호하다. 공정성 유지와 표현의 자유 사이의 큰 논쟁점이 생겨 난 것이다. 또한 팩트 체크의 경우에도 한정된 자원 내에서 한계가 있는 상황이다.
앞서 살펴본 바와 같이, 선거 시큐리티 확보를 위한 딥 페이크 문제를 다루는 정부와 기 업의 입장 차와 갈등으로 인해, 유권자의 선택에 위험에 처해있다. 정부는 딥 페이크 관련 제도와 법안을 수립하는 단계이고, 기업에게 책임 전가를 하고 있다. 반면, 기업은 허위 계 정과 글, 영상을 탐지하여 삭제하는 노력을 기울이고 있으나, 기술 제약과 비용 등을 이유 로 제한적이고 소극적인 자세를 취하고 있다.
이러한 상황 속에서 딥 페이크로 인한 공정한 선거의 훼손은 더욱 심해져가고 있다. 결국, 문제 해결을 위해 제도적 보안과 더불어 딥 페이크 문제에 대한 적극적인 대응이 필요하며, 시민 사회의 관심 제고로 정부와 기업이 적극 나설 수 있도록 해야 한다.
그렇다면 한국은 어떠한가? 한국의 경우에도 2019년에 사이버안보전략이나 AI국가전략이 나왔지만, 선거 보안과 관련된 논의는 전무한 상태이고, 이번에 데이터3법도 개인정보 비식 별화를 통한 데이터 분석 및 이용 활성화가 주요 변경 내용으로, 현재 본 논문에서 강조하는 선거 보안과 딥 페이크 뉴스에 대한 대응은 현재 한국 정부차원에서 부족한 상황이다.
앞서 미국의 경우에서 살펴보았듯이, 국가와 기업의 노력이 함께 이루어지고 있지만, 딥 페이크 뉴스와 같이 영상조작에 대한 완벽한 탐지 및 삭제를 가능하게 할 기술적·제도적 대 안이 부재한 상태이다. 현재 2020년 미국 대선을 앞두고, 연방정부와 페이스북, 구글, 마이 크로소프트가 만나서 선거보안에 대한 대원칙에 대해 합의한 수준에 그치고 있다.
아울러 2019년 9월 페이스북과 마이크로소프트에서 딥 페이크 비디오를 탐지하는 기술을 개발하기 위한 파트너십을 맺었고, 향후 투자 계획 발표에 그쳤다. 사이버 보안에서 더 나아가 디지털 게리맨더링을 막기 위해 개표 공격과 SNS 상의 허위 정보를 방지하는 선거 보안과 딥 페이크 문제에 대한 사회적 공론화와 인식이 중요한 시점이다.
이는 민주주의 핵심적인 기초인 공정한 선거 제도를 보호하기 위해, 사회 내 특정 행위자만 참여할 문제가 아니라, 산업계와 학계, 시민 사회, 정부의 공동 노력이 필요한 중요한 문제이다. 미국과 유럽에서는 2010년대 중반 이후 이러한 이슈가 사회적으로 공론화 되어 제도적, 기술적 노력을 기울이는 것에 반해, 한국은 2020년 현재 총선을 앞둔 상황에서도 딥 페이크와 선거 보안에 대한 논의가 부족한 상황이다.
선거관리위원회는 선거정보시스템과 정당 및 후보자 홈페이지, 선거 개표 시스템에 대한 사이버 보안 강화에 대한 노력과 더불어 유권자들이 후보자 선택을 위한 근거가 되는 기초 정보에 대해 투명하고 공정하게 제공될 수 있도록 딥 페이크 등 가짜 정보를 막기 위한 제도적 노력이 필요한 시점이다. 결론적으로 현재 미국과 EU 등 개별 국가의 사례에서 살펴보았듯, 선거 인프라는 국가의 핵심 인프라 중 하나로 국가 차원의 관리가 중요하며, 한국도 국가적 차원에서 선거보안에 대한 입법화 노력이 필요하며, 이를 관리할 기관과 역할에 대한 부분도 고려해야 한다.
* 본 글은 저자가 참여한 아래 논문에서 발췌하여 작성하였다. 아래 링크를 통해 원문을 볼 수 있다.
고선규, 이재훈. (2020). "딥 페이크와 선거 시큐리티: 국가와 글로벌 플랫폼 기업 간 갈등을 중심으로." 분쟁해결연구. 18(1). 99-127.
