가짜 뉴스와 민주주의

김신곤 명예교수

1.1 들어가며 …

선거를 코 앞에 두고 가짜뉴스와 딥페이크가 유튜브 등 소셜미디어 플랫폼을 통해 급속도로 퍼지면서 그 폐해가 심각하다. 가짜뉴스는 일반화된 정의는 없지만, 모든 종류의 거짓 정보를 폭 넓게 가르키는 말이다. 딥페이크(deepfake)란 생성형 AI를 활용하여 만들어진 가짜 이미지나 영상물을 의미한다. 이 기술은 급속히 발전하면서 가장 대표적인 악용 사례인 '가짜 뉴스'도 동시에 빠르게 증가하고 있다.

특정 세력들이 조직적이고 악의적으로 제작, 배포하는 가짜뉴스는 편가르기와 거짓 선동으로 견해가 다른 사람들에 대한 증오심을 불러일으키는 등 사회적 갈등과 분열을 일으킨다. 가짜 뉴스가 야기하는 가장 심각한 문제는 국민이 사실과 다른 정보를 바탕으로 잘못된 판단을 내리도록 선동함으로써 이용자의 정치적 의사형성 과정과 사회적 질서에 악영향을 미쳐 궁극적으로 민주주의의 근간인 선거를 오작동시키고 훼손할 위험성이 매우 높다는 것이다.

1.2 가짜뉴스의 역사

가짜뉴스는 역사적으로 항상 유포되어 왔다. 학계에서는 기원전 44년 로마 공화정에서 카이사르 사후 옥타비아누스가 라이벌인 안토니우스를 음해하기 위해 흑색선전을 퍼뜨린 것을 그 시초로 본다. 안토니우스가 클레오파트라에 빠져 로마의 전통적 가치를 무시하고 늘 술에 취해 있다는 내용의 짧은 선전 문구를 동전에 새겨 퍼뜨림으로써 여론을 자기편으로 끌어들인 옥타비아누스의 전술은 오늘날의 가짜뉴스 전파 사례와 크게 다르지 않다.

프랑스혁명 때 루이 16세의 왕비 마리 앙트와네트가 "빵이 없으면 케이크(프랑스어 '브리오슈')를 먹으면 되잖아" 했다는 가짜 뉴스는 원래 프랑스혁명 20여년 전에 루소가 쓴 고백록에 나오는 표현이다. 왕비의 발언인 것처럼 가짜뉴스가 퍼지면서 민중의 증오심에 불을 질렀고 왕비는 정치적 목적으로 날조된 가짜뉴스의 희생양이 되어 결국 단두대로 끌려갔다. 230여년이 지난 지금도 이 가짜뉴스로 인하여 마리 앙트와네트에 대한 세간의 인식은 비정하고 철없는 사치의 화신이다.

‘런승만’이란 멸칭을 낳은 이승만의 라디오 연설 또한 날조된 가짜뉴스이다. CIA 소속 해외방송정보국(FBIS)이 감청한 라디오 음성 원본에 ‘서울 시민 여러분, 안심하고 서울을 지키시오’란 말은 연설문 어디에도 없다. 맥스 데스포 AP 통신 기자는 1950년 12월 4일, 겨울에 폭격으로 부서진 대동강 철교 사진을 찍었고 이 사진으로 1951년 퓰리처 상을 받았다. 이 사진은 아직도 많은 사람들에게 한 여름인 6·25 때 이승만 대통령이 폭파한 한강 다리의 사진으로 알려져 있다. 이 역시 가짜 뉴스의 산물이다.

2024.1월 말 세계 최고 인기 팝가수인 테일러 스위프트의 얼굴과 음란물을 합성한 딥페이크가 소셜 미디어에 퍼지며 전 세계에 파문을 일으킨 사건도 있었다.

1.3 AI기술 발전과 가짜 뉴스

2천년 넘는 역사를 이어온 가짜뉴스가 최근 들어 심각한 사회적 위협으로 비화한 것은 가짜뉴스의 생산기술과 이를 전달하는 매체의 비약적인 발전 때문이다. 생성형 AI의 등장으로 딥페이크 앱에 사람들의 사진을 입력하면 불과 수초만에 가짜 동영상을 무료로 만들고 유포할 수 있다. 더구나 물리 법칙까지 학습한 오픈AI의 ‘소라’가 만든 영상과 15초 분량의 음성 표본만으로 ‘보이스 엔진’이 만든 모방 음성은 실제와 구분하기는 커녕 의심조차 하기 어려울 정도로 진짜 같다.

15세기 중반 구텐베르크의 금속활자 발명으로 대중 속으로 빠르고 광범위하게 스며들 수 있게 된 가짜뉴스는 21세기 소셜미디어의 보급과 AI 기술 발전으로 날개를 달았다. 최근의 펜타곤 폭발 사진 사건은 AI가 만든 가짜뉴스를 소셜미디어가 실어 나르고 진짜 언론사와 언론사를 사칭한 계정까지 힘을 보탬으로써 짧은 시간에 온라인과 오프라인 세상까지 요동치게 만든 현대 가짜뉴스의 확산 메커니즘을 잘 보여준다.

최근에는 인공지능이 실시간으로 댓글을 가짜로 만들어주는 앱까지 등장했다. 인터넷 스트리밍 방송을 하면서 시청자들과 실시간 상호작용하는 듯하지만, 시청자 수도, 댓글 내용도 모두 AI가 만들어낸 가짜인 것이다. AI 생성 기술이 만들어 낸 가짜 정보와 사진, 영상은 그래도 최소한의 확인과 검증할 시간이 있지만 이렇게 AI가 실시간으로 대규모 이용자와 댓글을 조작해 내는 현실 속에서는 가짜 권위를 만들어내고 의사 결정을 왜곡시킬 가능성이 훨씬 높다. 이것이 가짜 뉴스는 항상 유포되어 왔지만 최근에 와서 세계적인 이슈로 떠오른 이유이다.

1.4 가짜 뉴스와 선거 조작

2024년은 세계 76개국에서 선거가 치러지는 ‘슈퍼 선거의 해’다. 민주주의 사회는 공개적이고 자유로운 정보 공유에 의존하고 있기 때문에 가짜 뉴스, 허위 정보, 선동, 선전에 특히 취약할 수 밖에 없다. 2016년과 2020년이 ‘소셜미디어 선거’였던 것처럼, 2024년 미국 대선은 딥페이크가 본격 동원되는 사상 최초의 ‘인공지능 선거’가 될 가능성이 크다. 2023.10월30일 바이든 미국 대통령은 인공지능 개발을 규제하는 행정명령에 서명했다. 그 배경에는 미국 대선을 앞두고 딥페이크를 통한 선거 조작에 대한 우려와 함께 바이든 대통령이 서점에서 치매 관련 책을 고르는 것처럼 조작된 딥페이크 영상도 한 몫을 한 것으로 알려져 있다. 그 밖에 실제로 2024.1월에는 미국 뉴햄프셔주에서 유권자들이 AI로 만든 조 바이든 대통령의 목소리로 예비선거에서 투표하지 말라는 전화를 받기도 했다.

AI가 선거 조작에 영향을 미치는 경우는 미국 뿐만 아니라 세계적으로도 흔히 볼 수 있는 일이다. 2023. 5월 튀르키예 대선에서는 딥페이크 영상이, 2023. 9월 슬로바키아 총선에서는 가짜 음성파일이 공개되었고 이것이 선거 승리에 큰 영향을 미친 것으로 알려졌다. 혐오를 부추기는 네거티브 선동과 허위정보가 딥페이크라는 AI 첨단 기술과 만나 사실상 선거 결과를 조작한 것이다.

1.5 가짜뉴스가 활개칠 수 있는 이유

우리나라에서 가짜뉴스가 활개칠 수 있는 이유는 가짜 뉴스가 공유되는 플랫폼이 법 사각지대에 있고 작성자에 대한 처벌도 어렵기 때문이다. 예컨대, 유튜브는 방송통신심의위원회 심의 대상에서 빠져 있고 가짜 뉴스임이 분명한 영상을 내리거나 비공개 처리 하는 데도 소극적이다. 가짜뉴스가 국내외 장벽을 넘나든다는 점 역시 처벌이 어려운 이유 중 하나다. 유튜브와 같은 외국계 기업은 서버를 해외에 두고 있으며 개인정보 등을 이유로 수사기관에 협조적이지도 않다.

그동안 광우병 사태나 천안함 폭침, 세월호 침몰이나 사드 배치 등등 그렇게 많은 가짜 뉴스와 선거 공작에 속았는데도 이런 일이 계속 반복되는 이유는 가짜 뉴스로 판명이 나도, 생산자나 유포자에게 무거운 법적 책임을 지게 하지도 않고, 재산상 손해를 입게 하지도 않아 정치·경제적으로 ‘남는 장사’가 되기 때문이다. 선거때의 선동적 정치가들과 유튜버들은 가짜 뉴스로 정치적 이득과 두둑한 수입을 챙기는 세상이다.

1.6 가짜뉴스의 위협으로부터 민주주의를 지켜내려면 …

가짜뉴스와 딥페이크는 인터넷 사용률이 높아지고 AI 기술이 발전하면서 생긴 ICT 기술의 역기능 중 하나이다. 우리나라의 인터넷 사용률과 유무선 통신 속도는 전 세계에서 가장 높고 빠른 편이다. 무선 통신 속도만을 단순 비교해 보면 5G 사회는 4G 사회보다 정보와 지식 뿐만 아니라 가짜 뉴스의 전파 및 공유 속도도 20배 더 빠르다고 볼 수 있다. 대부분의 가짜뉴스가 사회관계망서비스(SNS)를 통해 불특정 다수에게 퍼지는 만큼 우리나라 국민들이 타국 대비 가짜뉴스를 접할 기회가 훨씬 많을 뿐만 아니라 그 피해 또한 크다는 뜻이다. 가짜뉴스와 딥페이크가 우리 사회가 해결해야 할 가장 큰 문제가 된 까닭이기도 하다.

우리나라도 선거가 코앞이다. 정치적, 경제적 목적을 위해 특정 집단이 가짜 뉴스를 생산하고 있으며. 이를 통해 여론을 특정 방향으로 조장 왜곡하고 있다. 가짜 뉴스가 진짜 뉴스보다 영향력이 커지고 있는 것이다. 가짜 음식이 마트에서 버젓이 팔리고 있는 것을 상상해 보라. 가짜 식품이 건강을 해치는 것과 마찬가지로 가짜 뉴스는 사회 구성원들의 생각과 신뢰, 인식, 합의된 사고체계들을 망가뜨릴 가능성이 농후하다. 그래서 버젓이 유통되는 것만큼은 반드시 막아내야 한다.

가짜뉴스와 AI 기술의 악용 위협으로부터 민주주의를 지켜내기 위하여 미디어 이용자는 가짜뉴스에 현혹되지 않도록 정보 품질 평가 및 분별 능력을 함양하여야 하고 정부는 AI 업체 뿐 아니라 가짜뉴스 유통과 확산의 통로가 되는 소셜미디어도 규제 대상에 포함시켜 철저한 관리 감독과 처음부터 일벌백계의 강한 처벌을 하여야 한다. AI 활용 사실을 의무적으로 고지하고 AI 기술의 신뢰성과 안전성을 확보하는 등의 AI 윤리 규범 마련도 시급하다.

사회 무질서에 관한 이론으로 ‘깨진 유리창 이론(Broken Windows Theory)’이 있다. 초기에 깨진 유리창 하나를 방치해 두면 현 상황을 아무도 관리하고 있지 않다는 신호를 범죄자에게 줌으로써 그 지점을 중심으로 범죄가 확산되기 시작하여 나중엔 지역 전체로 확산될 가능성이 높다는 의미를 담고 있다. 지금 우리는 방치된 깨진 유리창이 매일 넘쳐나고 있고 선동적인 정치인들이 유리창을 더 깨는 것에 대해 아무런 부담을 느끼지 않고 있는 현실을 마주하고 있다.