딥페이크 범죄, 텔레그램이 문제가 아니다

생성형 AI가 만든 결과물을 추적할 수 있는 '블록체인' 기술 활용해야

2024년 8월, 한국 사회는 텔레그램을 통한 딥페이크 범죄의 확산으로 큰 충격에 빠졌다. 'N번방 사건’ 이후 또다시 텔레그램을 이용한 성범죄가 대규모로 발생하면서 국민들의 불안감이 고조되고 있다. 특히 이번 사건은 중·고등학생이 더 많은 비중으로 가담한 것으로 알려지며, 사회적 충격은 더욱 컸다. 피해자들의 얼굴과 개인 정보가 무단으로 합성된 음란물이 유포되었고, 이로 인해 사회적 논란이 확산되고 있다.

이러한 상황에서 텔레그램의 폐쇄와 여러 법적 대응이 논의되고 있지만, 과연 이러한 조치들이 딥페이크 범죄를 근본적으로 해결할 수 있을지 의문이다. 텔레그램은 결국 여러 가지 음란물 유통망 중 하나에 불과하기 때문이다.

텔레그램, 시민과 '범죄자' 모두에게 안전한 메신저

▲ 썸네일 이미지. 오픈소스 생성형 AI인 Flux-dev를 활용해 생성. ⓒ 김재경

우선, N번방 사건부터 이번 딥페이크 범죄까지 왜 ‘텔레그램’이 화두에 오르게 됐는지 알아보자. 텔레그램은 강력한 보안성으로 유명한 메신저다. 특히 자체 개발한 MTProto 암호화 프로토콜을 통해 메시지 전송의 효율성과 보안을 동시에 제공한다. 이 프로토콜은 마치 특별한 암호를 사용하는 것과 같아서, 텔레그램 사용자들이 주고받는 메시지를 다른 사람들이 읽을 수 없게 만든다. 쉽게 말해, 비밀 편지를 주고받는 것처럼 안전하게 대화할 수 있게 해준다.

또한 텔레그램의 '비밀 채팅' 기능은 엔드투엔드 암호화 기술을 적용한다. 이는 메시지가 보내는 사람의 휴대폰에서 받는 사람의 휴대폰으로 직접 전달되는 것과 같다. 중간에 있는 텔레그램 서버(큰 컴퓨터)조차도 그 내용을 볼 수 없게 만드는 기술이다. 마치 봉인된 편지를 전달하는 우체부가 편지 내용을 볼 수 없는 것과 비슷하다.

이러한 보안 조치는 사용자의 개인정보를 보호하는 데 큰 역할을 한다. 하지만 동시에 범죄자들이 법의 감시를 피하는 데에도 악용될 수 있다. 텔레그램 창업자 파벨 두로프의 말대로, 범죄자에게는 안전하면서 정부에게는 개방적일 수는 없는 것이다. 최근 발생한 딥페이크 범죄에서도 텔레그램의 이러한 특성이 악용되어, 범죄자들이 쉽게 법적 제재를 회피하고 피해를 빠르게 확산시킬 수 있었다.

텔레그램 폐쇄, 딥페이크 범죄를 근본적으로 해결할 수 없어

텔레그램은 그동안 사용자 프라이버시 보호를 이유로 수사에 협조하지 않는다는 입장을 고수해왔다. 창업자 파벨 두로프는 여러 차례 정부의 요청에 맞서 사용자 데이터를 보호하겠다는 의지를 강력히 표명해 왔다. 이는 텔레그램이 다른 메신저와 차별화되는 중요한 요소이지만, 동시에 심각한 범죄가 발생했을 때 법적 대응을 어렵게 만드는 요인이 되고 있다.

텔레그램 폐쇄는 일시적으로 범죄를 억제하는 데 효과가 있을 수 있다. 하지만 텔레그램을 폐쇄한다고 해서 불법 음란물을 보려는 욕구와 만드려는 욕구가 없어지지는 않는다. 즉, 텔레그램을 폐쇄하면 범죄자들은 다른 암호화 메신저나 다크웹과 같은 대체 플랫폼으로 이동할 가능성이 크다. 이는 오히려 범죄 수사에 더 큰 어려움을 초래할 수도 있으며, 텔레그램 폐쇄가 근본적인 해결책이 아님을 시사한다. 만약 텔레그램을 삭제하는 방향으로 이번 딥페이크 사태를 해결하려고 한다면, 인터넷 검열이 강화되며 국가 권력이 개인의 자유를 더 크게 침해할 것이다.

또한, 텔레그램 폐쇄는 수많은 정당한 사용자들에게도 불편을 초래할 수 있다. 많은 사용자들이 텔레그램의 강력한 보안성과 편의성, 그리고 다양한 기능을 이유로 선택했으며, 이들 대부분은 범죄와 무관하게 서비스를 이용하고 있다. 따라서 텔레그램을 폐쇄하면 프라이버시 보호와 자유로운 의사소통이라는 텔레그램 사용자의 권리를 훼손할 위험이 있다.

블록체인 기술: 딥페이크 범죄 방지의 새로운 전략

▲ 오픈소스 생성형 AI인 Flux-dev를 활용해 생성. ⓒ 김재경

정리하자면, 딥페이크 범죄를 근본적으로 해결하기 위해서는 단순히 텔레그램을 폐쇄하거나 범죄자들을 처벌하는 것만으로는 충분하지 않다. 지속적으로 발생할 딥페이크 음란물 범죄자들을 처벌하기 위해, 딥페이크 음란물의 생산부터 유통까지의 과정을 원천적으로 추적할 수 있는 기술적 해법이 필요하다. 그 중 하나가 블록체인 기술을 활용하는 것이다.

블록체인은 정보를 중앙에서 관리하지 않고 여러 사람의 컴퓨터에 나누어 저장하는 기술이다. 이는 마치 학급 일기를 한 명이 가지고 있는 것이 아니라, 반 친구들 모두가 똑같은 내용의 일기를 가지고 있는 것과 비슷하다. 모든 참여자가 같은 정보를 공유하기 때문에, 누군가가 그 정보를 몰래 바꾸거나 지우는 것이 거의 불가능하다.

이런 블록체인 기술을 활용하면, 콘텐츠가 생성될 때마다 그 기록이 저장되어 누가, 언제, 어떤 콘텐츠를 만들었는지 투명하게 알 수 있다. 이는 마치 SNS에 단 댓글이 사용자 계정과 작성 시간, 내용이 남는 것과 비슷하다. 하지만 블록체인은 이러한 기록을 중앙 서버가 아닌 네트워크에 참여하는 모든 사람들이 공유한다는 점에서 더더욱 생성부터 유통까지 추적이 용이하다.

블록체인 기술은 AI(인공지능)가 생성한 콘텐츠에도 적용할 수 있다. 예를 들어, AI로 만든 딥페이크 영상이 있다면, 그 영상을 누가 언제 어떻게 만들었는지, 누가 해당 영상을 가지고 있고 누구에게 보냈는지 모두 기록이 남는다. 이렇게 되면 AI가 생성한 딥페이크 영상이나 허위 정보의 유포를 정부나 기업이 사전에 막을 수 있고, 음란물을 퍼뜨린 사람도 쉽게 찾아낼 수 있다. 범죄가 일어나더라도 빠르게 범인을 잡고, 가짜 영상을 지울 수 있게 된다.

사회적 문제 해결, 제도를 뒷받침하는 기술과 함께해야

결론적으로, 블록체인 기술의 도입은 딥페이크 범죄 문제를 해결하는 데 중요한 역할을 할 수 있다. 이 기술을 통해 콘텐츠의 생성, 유통, 소비 과정을 투명하게 관리하고, AI가 생성한 결과물에 대한 책임 소재를 명확히 할 수 있다. 블록체인은 디지털 콘텐츠의 진위를 확인하고 조작을 방지하는 데 효과적인 도구가 될 수 있으며, 이는 딥페이크 범죄를 예방하고 대응하는 데 큰 도움이 될 것이다.

텔레그램 폐쇄나 딥페이크 기술 자체에 대한 비판만으로는 해결되지 않는 문제들을 직시하고, 지속 가능한 해결책을 모색해야 한다. 한국 사회는 블록체인과 같은 혁신적인 기술을 적극적으로 도입하고, 이를 뒷받침할 수 있는 법적 제도를 마련함으로써, 더 안전하고 신뢰할 수 있는 디지털 환경을 구축할 수 있을 것이다.

이러한 노력을 통해 딥페이크로 인한 피해자가 더 이상 발생하지 않고, 동시에 첨단 기술의 혜택을 모두가 누릴 수 있는 건강한 디지털 사회를 만들어 나가길 기대한다. 우리의 미래 세대가 기술의 발전을 두려워하지 않고, 그 이점을 충분히 누리며 살아갈 수 있는 한국 사회를 위해 지금 우리의 현명한 선택과 노력이 필요한 때이다.

*이 기사는 필자의 아이디어를 통해 여러 생성형AI를 활용해(ChatGPT,Claude,Perplexity AI) 작성한 후, 필자가 직접 퇴고하여 완성하였습니다.