기술의 혁신과 기만 사이, 우리는 어디에 서 있는가

며칠 전, SNS에 나로 보이는 사진 두 장을 올리고 AI 작업물인지, 실제 내 사진인 것 같은지 사람들에게 물었다. 정답부터 말하자면, 그 두 장의 사진은 AI가 만든 작업물이다. AI는 원래 나의 사진 세 장과 함께 2,400원을 요구했고, 십여분 만에 열 장의 사진을 내놨다. 그중 두 장은 내가 평소 하는 머리 스타일과 즐겨 입는 옷차림까지 재현해 냈다. 나조차 분간하기 힘들 정도로 정교한 결과물이었다.

SNS에 댓글을 단 분들 중 대부분은 나의 실물을 알고 있거나, 방송과 인터뷰를 통해 내 얼굴을 익히 아는 이들이었음에도 댓글의 절반 이상이 AI가 ‘아닐 것’이라는 의견이었다. 평소 딥페이크 범죄의 위험성을 강조해 온 나의 메시지 때문에 내가 AI를 쓰지 않았을 것이라 생각하신 분들도 있었다.

“실제 사진이어도 어차피 보정은 들어가지 않느냐”는 댓글도 있었다. 하지만 보정과 AI 생성은 명백히 구분해야 한다. 보정이 실제 촬영된 피사체의 특징을 다듬는 기존 창작물을 변주한 거라면, AI 프로필은 나의 데이터를 재료 삼아 존재하지 않는 순간을 만들어낸 새로운 창작물이기 때문이다.

보정은 그 자리에 내가 있었다는 사실에 기반하지만, AI는 내가 입은 적 없는 옷을 입고, 가본 적 없는 배경 앞에서, 지어본 적 없는 표정을 짓게 만든다. 즉, 보정은 나의 상태를 수정하는 것이고, AI는 나라는 데이터를 가지고 가상의 나를 복제하는 행위다. 이 차이를 간과하는 순간, 우리는 무엇이 실체이고 무엇이 계산된 결괏값인지 구분할 수 없는 혼란에 빠지게 된다.

제대로 된 프로필 사진을 한 번 찍으려면 메이크업과 헤어 비용, 촬영 장소와 작가에 따라 비용이 천차만별이다. 합치면 못해도 최소 십만 원은 드는 일이다. 앞서 언급한 그 압도적인 가성비는 분명 기술의 혁신이다. 설을 맞아 많은 정치인들이 한복을 입은 사진을 AI로 합성해 올리기도 했다. 육안으로 구분하기 힘들 만큼 정교하니, 직접 찍고 보정하는 것보다 시간과 비용 측면에서 훨씬 나은 선택지일 수 있다.

이렇듯 개인이 단순히 편의를 위해 사용하고, AI 작업물임을 투명하게 밝힌다면 상관없다. 하지만 문제는 온라인에 범람하는 타인의 정보를 이용해 무엇이든 만들어낼 수 있는 기술적 환경이다. 이것이 바로 딥페이크 범죄의 토대가 된다. 수많은 사람이 구분하지 못할 정도의 정교함이라면, 조금 더 높은 비용과 기술을 들여 훨씬 치명적인 가짜를 만드는 것은 식은 죽 먹기다.

이 지점에서 우리는 간과할 수 없는 문제를 마주한다. 타인의 얼굴 데이터를 학습의 재료로 삼는 과정에서 당사자의 동의는 생략된다. 이는 단순한 합성을 넘어 개인의 초상권과 데이터 주권이 기술의 편의 아래 침해되고 있다는 신호이기도 하다. 또한 AI가 사람들의 판단력을 무력화하고, 나아가 수많은 이들의 일자리를 침범하고 있다. 내가 누리는 2,400원의 편리함 뒤에는 오랜 시간 숙련된 기술을 연마해 온 사진가와 아티스트들의 일자리가 위협받고 있다.

나 역시 챗GPT와 제미나이 등 생성형 AI를 빈번하게 활용하지만, 기술에 지나치게 의존하게 될까 봐 하는 두려움, 내가 제공하는 정보가 어떻게 악용될지 모른다는 불안을 가지고 있다. 무엇보다 무서운 것은 가짜를 진짜로 믿는 것을 넘어, 진짜를 보고도 가짜라고 의심하며 서로를 믿지 못하는 ‘신뢰의 붕괴’가 시작된다는 점이다. 진실이 힘을 잃는 사회를 맞이하게 될까 두렵다.

이러한 개인적 불안을 해소하고 사회적 안전망을 구축하기 위한 제도적 장치가 시급하다. AI 기본법에는 AI 생성물에 의무적으로 표식을 남기도록 하는 내용이 담겨 있지만, 현실적인 한계는 여전하다. 우리가 일상적으로 사용하는 AI 애플리케이션 중 상당수가 해외 서비스이기 때문이다. 국내법의 영향력이 미치지 않는 규제의 사각지대에서 진실과 거짓은 더욱 교묘하게 뒤섞일 것이다. 따라서 법적 강제를 넘어 플랫폼 사업자가 AI 생성물을 자동으로 감지하고 필터링하는 기술적 안전장치를 의무화해야 한다. 또한 딥페이크 범죄에 대해서는 강력한 사법적 징벌이 뒤따라야 한다.

결국 법망을 피하는 글로벌 서비스들 사이에서 우리를 지키는 가장 강력한 방어막은 시민 스스로 정보를 비판적으로 검토하는 디지털 리터러시와 투명하게 정보를 공개하는 책임감이다. 'AI 작업물은 AI임을 밝히는 것'이 당연하게 여겨지는 건강한 AI 에티켓과 문화가 지금 바로 정착되어야 한다. 그러나 한편으로 이것을 그저 개인의 ‘에티켓’에만 의존해도 되는지에 대해서는 더 치열한 사회적 토론이 필요하다. 기술은 속도를 경쟁하지만, 정치는 그 기술이 인간을 향하도록 방향을 고민해야 한다. 그것이 변화하는 시대에 우리가 나아가야 할 길이다.

SNS에 올렸던 두 장의 사진이다.