AI 가짜뉴스, 선거에의 영향과 대응
원본 스크랩: Misinformation may get worse in 2024 election as safeguards erode | AP News
작가주 : 전반부는 AP뉴스 기사내용을 중심으로 작성하였고, 한국 부분은 따로 정보를 수집하여 작성하였습니다.
선거불복으로 인한 미국 의회 내 폭력사태가 있은지 3년이 지났다. 트럼프 대통령의 입에서 나온 부정선거 음모론은 잘못된 폭력사태를 일으켰고 이는 많은 미국인들의 민주주의 자부심에 상처를 줬다.
전문가들은 올해 있을 미국 대통령 선거에 있어서 이러한 음모론으로 인한 폭력사태 등이 더 심각해질 것으로 우려하고 있다. 그동안 음모론, 가짜뉴스를 방어하던 제도와 시스템 등은 기술의 발전으로 인해 점차 쓸모가 없어지고 있다.
트럼프 전 대통령이 제기하고 있는 부정선거론은 여전히 미국 내 많은 국민들로부터 호응을 받고 있다. 공화당원 거의 대부분(57%)이 현직 바이든 대통령을 불법적으로 선출된 대통령으로 믿고 있다.
최근까지는 이러한 현상이 SNS, 언론에 의해 퍼져가는 것이 일반적이었다. 물론 그것만으로도 강력하고 되돌리기 어려운 상황을 야기했는데, 이제는 생성형 AI라는 가격은 저렴하지만 폭발적으로 선거에 영향을 줄 수 있는 수단이 등장하여 모두를 긴장하게 만들고 있다.
워싱턴 대학교 Oren Etzioni 교수는 이에 대해 다음과 같이 우려한다.
"잘못된 정보의 쓰나미가 예상된다. (현 시점에서) 나는 그것을 증명할 수 없지만 그것이 틀리기만 바랄 뿐이다. 하지만 AI는 이미 우리에게 와있고 나는 매우 공포스럽다."
AI 딥페이크는 이미 주류가 되어가고 있다. 선거를 둘러싼 조작된 이미지와 비디오는 더 이상 새로운 것이 아니다. 아마 2024년 미국 대선은 더 정교한 AI 툴이 작동하는 첫 선거가 될 것이다.
"당신은 바이든이 (치매 때문에) 병원을 향해 뛰어들어 가는 영상을 볼 수도 있다. 그가 실제로 그렇게 하지 않았어도 말이다. 딥페이크는 당신이 말하지 않은 것도 말하는 것처럼 영상으로 만들고 일어나지 않은 사건도 일어난 것처럼 보이게 영상으로 만들어낸다." Etzioni 교수의 이야기다.
이는 상상 속 이야기가 아니다. 이미 하이테크 기술로 만들어진 가짜 영상이 선거에 영향을 주고 있다.
최근 있었던 슬로바키아 선거에서는, AI가 만들어낸 가짜 오디오가 선거에 영향을 주기도 했다. 해당 가짜 오디오에는 진보 후보 목소리를 흉내낸 가짜 목소리가 맥주가격을 올리고 선거부정을 꾀하는 내용이 담겨있었다. 팩트 체크를 통해 해당 내용이 사실이 아님이 빠르게 판명되었지만 그것보다 더 빨리 SNS를 통해 전파되었다. 유권자로서는 믿을 수밖에 없는 가짜 정보가 규제(제도)보다 더 빨리 퍼져나간 것이다.
이러한 하이테크 기술들은 특정 커뮤니티에 투표와 관련한 잘못된 메시지를 만드는데 쓰이기도 한다. 그러한 가짜 메시지는 매우 그럴듯한 내용으로 포장되어 공식 정부 홈페이지로 위장된 가짜 사이트를 통해 공유되기도 한다. 그리고 그러한 공유는 AI로 인해 놀라운 속도로 이루어지게 된다.
실제처럼 보이는 그러한 가짜뉴스들은 오히려 실제 현실보다 더 리얼하여 사람들이 믿을 수밖에 없게끔 만들기도 한다. 이에 미의회 공화당과 민주당은 이러한 하이테크 기술을 규제할 방안에 대해 논의해 보았지만 뚜렷한 결론을 내지 못하였다.
한국을 포함한 많은 나라에서 AI 딥페이크를 의무표시하거나 금지하는 법안을 통과시키기도 하였다. 유튜브, 메타(페이스북, 인스타그램)과 같은 SNS 회사들은 AI 표시정책을 도입하기도 하였다.
한국 공직선거법에 따르면 누구든지 선거일 전 90일부터 선거일까지 선거운동을 위해 딥페이크영상 등을 제작·편집·유포·상영 또는 게시할 수 없다.
이때 제한되는 딥페이크영상은 ‘실제와 구분하기 어려운’ 가상의 음향, 이미지, 영상 등이다. 다만, 특정 정치인의 모습을 한 이모티콘, 캐리커처 같이 실제와 충분히 구분히 가능한 콘텐츠의 경우에는 금지대상이 아니다.
아울러, 특정 후보에 대한 지지 내용이 없는 (선거운동 목적이 아닌) 딥페이크영상은 법상 제한대상이 아니다.
대한민국 중앙선거관리위원회는 AI 딥페이크 관련 선제적으로 대응하기 위해 허위사실공표·비방특별대응팀을 확대 편성·운영하고 있으며, AI감별반을 조기 편성·운영하고 시·도선거관리위원회는 AI모니터링 전담요원을 2~3명씩 확대해 운영하고 있다. 아울러 국내외 포털사, SNS 회사 등과 협력하여 위법게시물을 신속 삭제할 수 있는 체계도 구축하고 있는 중이다.
경영학자 Seth Godin 은 우리가 x1000 (ten times)의 시대에 살고 있다고 했다. AI는 방사선 전문의보다 1000배는 더 빠르게 x-ray를 읽고 1000배는 더 저렴하게 판독할 수 있다고 한다. (결과도 더 정확할 거라 예측한다) 이에 비추어 볼 때 AI를 통한 가짜뉴스는 1000배 빠르게 만들어지고 1000배 더 저렴하게 만들어져서 million(백만)과 billion(10억)을 넘어가는 배수로 선거에 영향을 줄 수도 있을 것이다.
그에 대응하기 위해 정부기관이 다각도로 노력하고 있지만 기술 발전 속도를 감안할 때 벅찰 수밖에 없는 상황이다. 이럴 때 역시나 중요한 것은 사람의 힘일 것이다. 거짓에 흔들리지 않고 비판적으로 바라볼 수 있는 힘을 기르는 것, 어쩌면 21세기 AI 시대에서 더 유력한 사회적 자본의 덕목을 차지할 것으로 보이는 Digital Literacy를 기르는 것이 이 모든 어려움을 극복하고 민주주의 보루인 선거를 지키는 길이 아닐까 감히 생각한다.
