2. 민주주의의 위기
AI 시대, 대통령을 뽑는 건 누구일까?
2024년 1월, 미국의 뉴햄프셔 민주당 유권자들에게
“이번 화요일 금요일에는 투표하지 말고
11월 본성에 표를 아끼라” 고 말하는
‘조 바이든’의 음성이 발송됐습니다.
그런데 알고보니
AI로 만들어 낸
딥페이크 음성이었습니다.
우리나라에도
똑같은 일이 생기면
어떻게 될까요?
실제로 비슷한 사례들이
속속들이 일어나고 있습니다.
많은 유튜브 영상 중에는
진실이 아닌 거짓이
딥페이크 기술을 통해서
다양한 사람들에게 퍼뜨려지고
있지 않습니까?
그리고 2026년 6월에
우리나라에서도 중요한
지방선거가 치러질 예정입니다.
갑자기 유력 후보가
재벌에게 뇌물을 받는 영상이 SNS에
유출된다면 어떤 일이 벌어질까요?
영상 속 얼굴이 너무나 선명하고,
목소리도 99% 일치한다면,
얼마나 많은 사람들이 딥 페이크를
‘오리지널’ 영상으로 믿어버릴까요?
딥 페이크에 이용된
후보의 지지율은
하루 아침에 곤두박질치고,
미미하던 상대측 후보가
지지를 얻고 결국 당선됩니다.
만약에 당신이 선택한 그 후보가
딥페이크의 피해자가 된다면
얼마나 억울할까요?
그리고 그런 일이 벌어지는 나라는
공정하다고 말할 수 있을까요?
1. 유발 하라리의 ‘해킹당한 인간’
세계적인 역사학이자 철학가인
‘유발 하라리’는
<사피엔스>, <호모 데우스>,
<21세기를 위한 21가지 제안> 등의
책으로 한국에도 잘 알려진 인물입니다.
그는 AI가 민주주의의 작동 원리를 위협할 수 있다고 경고했습니다.
“민주주의는 인간의 감정이 어떤
‘자유 의지’를 대변한다고 가정한다.
그러나 AI가 이 감정을 해킹하고 조작할 수 있게 되면,
민주주의 정치는 감정적인 꼭두각시 쇼가 될 것이다.”
유발 하라리가 말하는 ‘해킹’이란 무엇일까요?
이것은 컴퓨터를 해킹하는 것처럼,
AI가 인간의 심리의 약점을 파고들어
생각과 행동을 조종하는 것을 의미합니다.
민주주의는 “공유된 사실(Shared Facts)” 위에서 작동하는 원리입니다.
사람들이 같은 현실을 보고,
그것을 바탕으로
서로 다른 의견을 토론하고,
투표를 통해 합의에 이르는 것이
근본원리이죠.
예를 들어 ‘세금이 20%다’
라는 사실을 두고,
진보와 보수가 똑같이 인식하되,
각자의 가치와 세계관에 맞게 해석하여
다른 해결책을 제시할 수 있습니다.
보수 진영은 세금을 낮추자고 주장하고,
진보 진영은 세금을 높이거나,
혜택을 사회적 약자들에게 늘리자고 할 수 있겠죠.
그런데 AI 와 딥 페이크는
이 공유된 사실 자체를 망가뜨립니다.
딥 페이크는 실제 사람의 얼굴과 목소리를 학습해서
그 사람이 하지 않은 말과 행동을
실제로 한 것처럼
영상으로 만들어버립니다.
즉, ‘공유된 사실’이 아닌,
‘편중된 거짓’을 만들어 낼 위험이 있습니다.
마치 배우가 분장하고 연기하듯이,
AI가 디지털로 완벽한 변장을 시키는 작업인거죠.
2. 가짜 뉴스의 침공
이보다 더 무서운 것은 ‘맞춤형 가짜 뉴스’입니다.
AI는 당신의 정치 성향, 두려움, 분노 포인트를
정확이 알고 공략합니다.
그래서 진보 성향에게는 보수 후보를 악마화하고,
보수 성향에게는 진보 후보를 조롱하는 뉴스를
각각 다르게 보여주게 됩니다.
이를 ‘확증 편향(Confirmation Bias)‘ 강화
라고 부릅니다.
대표적인 시스템이
유튜브 같은 영상 플랫폼의 알고리즘이죠.
확증 편향의 위험은
자신이 믿고 싶은 것만 믿고,
그에 맞는 정보만 취사선택하게
만든다는 것입니다.
예를 들어 A 라는 후보를 싫어하는 사람은
그 후보에 대한 부정적인 뉴스만 보고,
쉽게 믿어 버리고,
긍정적인 뉴스는 무시합니다.
결과적으로 같은 나라에 사는 사람들이
서로 다른 현실을 살게 됩니다.
진보는 “A 후보가 부패했다“ 라고 확신하고,
보수는 “B후보가 탁월하다”고 믿어 버리게 됩니다.
둘 다 자신이 본 ’증거 영상’이 있다고 주장하지만,
실제로는 둘 다 조작된 정보일 가능성이도 있습니다.
3. 진실의 피로
여기까지 읽으신 분들은,
"진실을 찾기 위해서 각자 노력하면 되는 거 아니야?"
라고 생각하실 수도 있습니다.
네, 저도 인류 전체가
그렇게 노력하며 살기를 바랍니다.
하지만 쉽지 않습니다.
유발 하라리는
또 다른 강연에서 이렇게 말했습니다.
20세기는 독재자가 정보를 통제했다.
21세기는 정보가 너무 많아서 사람들이
무엇이 진실인지 알 수 없게 만드는 것이 새로운 권력의 형태다.
이것을 ‘진실의 피로(Truth Fatigue)’ 라고 부릅니다.
너무 많은 정보,
너무 많은 가짜,
너무 많은 논쟁이 난무하면
사람들은
’뭐가 진짜인지 모르겠어,
그냥 내가 믿고 싶은 것만 믿을래‘
라고 포기해 버립니다.
이것을 ‘진실의 피로(Truth Fatigue)’ 라고 부릅니다.
너무 많은 정보,
너무 많은 가짜,
너무 많은 논쟁이 난무하면
사람들은
’뭐가 진짜인지 모르겠어,
그냥 내가 믿고 싶은 것만 믿을래‘
라고 포기해 버립니다.
왜냐하면 가짜 뉴스는
자극적이고,
분노를 유발하고,
공유하고 싶게 만들기 때문입니다.
반면 지루한 팩트 기사는
대부분 관심이 없습니다.
결국 서로 다른 현실을 사는 사람들끼리는
대화가 불가능해지며,
이것은 곧 민주주의의 작동 불능을 가져 옵니다.
민주주의는 다양한 사람들의 의견이 공존하는 것이지,
사실이 다양하다고 전제하지는 않기 때문이죠.
1+1=2 라는 공식이
모두에게 진리로 여겨져야 하는데,
어느 쪽은 2라고 말하고,
어느 쪽은 3이라고 말하니,
대화가 안 될 수 밖에 없습니다.
나아가며: 멈춰서 검증하는 시민
기술이 고도화될 수록,
민주사회의 시민의 역량도 발전시켜야 합니다.
19세기에는 읽고 쓸 줄 알면 부족함이 없었습니다.
20세기에는 비판적으로 사고할 줄 알아야 했습니다.
21세기에는 디지털 리터러시(Digital Literacy)’ 가
중요해졌습니다.
즉, 진짜와 가짜를 구별하는 능력이
필수 조건이 됐습니다.
자극적인 정보를 접했을 때,
공유 버튼을 즉시 누리지 않고,
출처를 반드시 확인하고,
팩트 체크 사이트를 검색하고,
‘근데 이게 정말 사실일까?’ 라고
의심하는 인내심이 필요합니다.
혹시 여러분도
'이게 정말 사실일까?' 라고
의문이 드는 내용이 있으시다면,
아래의 질문들을 던져 보세요.
이 영상/뉴스의 출처는 어디인가?
다른 언론사도 같은 내용을 보도했는가?
이 정보가 내 감정(분노, 두려움, 희열)을 자극한다면, 왜 그럴까?
2026년 선거에서 우리의 투표권은 손이 아니라,
진실을 가려내는 눈에 달려 있습니다.
느리지만 신중하게,
불편하지만 정확하게,
검증해야 합니다.
그렇게 우리는 AI가 지배하는
꼭두각시 민주주의가 아닌,
인간이 주인인 진정한 민주주의를
만들어 갈 수 있을 거라 기대합니다.