보이는 것만 믿던 시대의 종말
진짜 같은 가짜 : 우리는 무엇을 어떻게 신뢰할 것인가?
며칠 전, 2019년 영국 BBC에서 방영된 드라마인 '더 캡처(The Capture)'를 우연히 보게 되었다. 드라마는 주인공 숀 에머리가 무죄를 입증할 결정적인 CCTV 증거 덕분에 풀려나지만, 그날 밤 또 다른 CCTV에 폭행 장면이 찍히며 다시 체포되면서 시작된다. 문제는 그가 그런 행동을 한 적이 없다는 사실이다. 현실의 그는 해나 로버츠(피해자)를 버스에 태워 보내주고 있었지만, CCTV 화면 속의 그는 그녀를 가격하고 있었다.
방영 당시 이 드라마는 고도로 발달한 CCTV를 통한 감시 사회와 기술 조작에 대한 디스토피아적 상상력이었다. 딥페이크를 통해 실시간으로 영상을 조작해 없는 죄를 만들어내는 기술과 런던의 방대한 CCTV 관제센터를 통해 모두를 감시하는 현대 사회의 어두운 이면을 집중 조명했다. 그중 딥페이크를 통해 이루어지는 영상 조작은 마치 먼 미래의 이야기 같았지만 불과 몇 년이 지난 지금, 드라마 속 허구는 현실이 되고 있다. AI 산업이 급속도로 성장하면서 엄청난 효율성과 생산성을 가져오고 있지만 다른 한편에는 직접 눈으로 보고, 들은 것을 의심해야만 하는 데이터 조작과 보안 위협을 걱정해야 하는 시대를 살고 있다.
점차 늘어나는 거짓 정보
인스타그램 피드를 내리다 보면 AI로 생성된 이미지와 영상 쏟아지고, 실체가 명확하게 존재하지 않는 거짓 정보와 광고가 넘쳐난다. 어디까지가 AI로 생성한 콘텐츠이고, 어디까지가 실체인지 구분하는 것은 쉽지 않아 졌다. 결국 기술의 진화는 유희의 영역을 넘어서 이제 사회의 신뢰를 무너뜨리고 있다.
최근 강원도 여행을 다녀온 지인이 인스타그램에서 강릉 크리스마스 축제를 한다는 소식을 접하고, 강릉에 가보았지만 축제의 흔적은 찾아볼 수 없었다고 한다. 실제 인스타그램을 통해 확인해 본 결과, '이해를 돕기 위한 AI 사진입니다'라는 문구가 게시글 마지막에 한 줄 적혀있고, 댓글에는 강릉 크리스마스 축제에 와서 허탕 친 사람들의 하소연을 확인해 볼 수도 있었다. 과연 어디까지가 진실이고 어디까지가 거짓일까?
점차 늘어나는 범죄
딥페이크(Deepfake)와 딥보이스(Deepvoice) 기술의 대중화는 범죄의 문턱도 낮췄다. 과거에는 숙련된 기술자가 며칠 밤을 새워야 가능했던 영상 합성이 이제는 스마트폰 앱 하나로 몇 초 만에 완성되고, 점차 피해 사례가 뉴스 기사를 통해 흘러나오기 시작했다.
유명인의 얼굴을 합성한 가짜 투자 영상에 속아 평생 모은 자산을 잃는가 하면, 자녀의 목소리를 완벽하게 복제한 보이스피싱범에게 부모들은 의심 없이 송금 버튼을 누른다. 실제로 홍콩의 한 다국적 기업 직원은 화상 회의에 참석한 최고재무책임자(CFO)와 동료들이 모두 딥페이크였다는 사실을 모른 채 340억 원을 송금하는 사기를 당하기도 했다.
이것은 단순한 사기가 아니다. 인간관계의 근간인 '신뢰'를 무너뜨리는 범죄다.
신뢰를 지키기 위한 사회적 비용
이 혼란이 야기하는 비용은 단순히 금전적 피해액에 그치지 않는다. 더 심각한 것은 사회 전체가 치러야 할 '신뢰 비용'의 급격한 상승이다. 진짜와 가짜가 구분되지 않을 때, 사회는 검증을 위해 막대한 자원을 낭비해야 한다. 은행은 본인 인증 절차를 더 복잡하게 만들어야 하고, 기업은 보안 시스템 구축에 천문학적인 돈을 쏟아붓는다. 이는 고스란히 서비스 이용료 상승이나 세금 부담으로 우리에게 되돌아온다.
출처 : 조선일보위의 블랙박스 사례처럼 구청은 디지털 포렌식을 거치지 않은 자료를 인정하지 않았는데 몇십만 원짜리 과태료를 위해 몇백만 원짜리 디지털포렌식을 하는 것은 배보다 배꼽이 더 큰 경우이다. 법적 증거물로써도 이것은 마찬가지다. 이것은 '거짓말쟁이의 배당금(Liar’s Dividend)'이라 불리는 현상이다. 진짜 증거가 나와도 "그거 딥페이크 아니야?"라고 우기면 진실을 무력화할 수 있는 세상이 되었다. 비리 영상이 공개되어도 조작설을 제기하며 빠져나갈 수 있고, 명백한 사실조차 음모론의 영역으로 격하시킨다. 결국, 진실 확인을 위해 도입되었던 CCTV나 블랙박스와 같은 것들이 인정받지 못하기 시작했다.
신뢰를 회복하기 위한 기술
기술이 만든 혼란을 잠재울 수 있는 것은 역설적이게도 다시 기술이다. 그 해답은 블록체인 기술에 있다. 많은 사람들은 블록체인을 투기의 대상으로만 생각하지만, 사실 이 기술의 본질은 데이터의 무결성을 지키는 '디지털 증명'에 있다. 영상이나 음성이 생성된 최초의 시점, 그리고 그것이 수정되고 배포되는 모든 경로를 위변조 불가능한 분산 원장에 기록하여 누군가의 개입 없이, 수학적 알고리즘으로 진실을 증명하는 방식이다.
블록체인의 기술적 특성을 활용한다면 현재 발생하는 사회적 문제를 해결하기 위한 솔루션이 될 수 있다. 콘텐츠가 생성되는 순간 고유값(Hash)을 추출하여 블록체인에 기록하고, 이를 통해 대중이 '원본'과 '조작된 정보'를 손쉽게 구분할 수 있도록 돕는 것이다. 물론 기술 하나가 세상의 모든 거짓을 걸러낼 수는 없겠지만 창이 날카로워지면 방패도 더욱 단단해져야 하듯, 딥페이크와 딥보이스가 더 날카로워질수록 블록체인 기술은 더욱 필요해질 것이다.
<더 캡처> 속 주인공이 억울하게 당할 수밖에 없었던 이유는, 자신의 결백을 증명해 줄 시스템이 부재했기 때문이다. 적어도 그 최소한의 시스템을 만드는 일이 지금 시점에 무엇보다 필요하다.
진실을 증명할 수 있는 시스템이 없는 지금, 당신의 판단은 어디까지 유효한가.
