생성형 AI와 윤리의 붕괴
요즘 가장 소름 끼치는 장면은 AI가 그림을 잘 그리는 것도 아니고 영상을 그럴듯하게 만드는 것도 아니다.
진짜 소름 끼치는 장면은 누군가가 다른 사람의 얼굴을 너무 쉽게 ‘가져다 쓴다’는 사실이다.
이제 얼굴은 클릭률을 올리는 소재가 됐다.
존중의 대상이 아니라 전환율을 높이는 썸네일이 됐다.
동의 없는 얼굴, 허락 없는 목소리, 확인되지 않은 합성.
그런데도 사람들은 묻는다. “이걸로 돈이 되나요?”
이 질문이 무서운 이유는 양심을 비용으로 계산하는 태도가 이미 너무 자연스러워졌기 때문이다.
사람들은 늘 변명한다.
“어차피 다들 한다.”
“진짜가 아니잖아.”
“홍보용이니까 괜찮다.”
“걸리지만 않으면 된다.”
여기서 놓치고 있는 것이 있다. 딥페이크나 얼굴 도용의 본질은 단순한 편집이 아니다. 그것은 타인의 신뢰를 훔치는 일이다.
얼굴은 단순한 이미지가 아니다. 그 사람의 시간이고, 관계이고, 사회적 평판이며, 살아온 삶의 이력이다.
그걸 허락 없이 떼어다가 자기 수익의 재료로 쓰는 순간 그건 착취다.
한국 사회도 이미 이 문제를 가볍게 보지 않는다.
경찰은 2025년 4월 발표에서 약 7개월간 딥페이크 범죄 집중단속으로 963명을 검거하고 59명을 구속했다고 밝혔고, 2025년 11월에는 사이버성폭력 발생 건수가 3,270건에서 4,413건으로 35% 증가했으며 그중 허위영상물 범죄 비중이 35.2%라고 설명했다.
법적으로도 성폭력처벌법 제14조의2는 동의 없이 얼굴·신체·음성을 편집·합성·가공한 허위영상물의 제작·반포·영리 목적 유통, 심지어 소지·저장·시청까지 처벌 대상으로 두고 있다.
사회가 이미 범죄와 중대한 권리침해로 본다는 뜻이다.
더 흥미로운 건 문제의 중심이 더 이상 음지에만 있지 않다는 점이다.
한국 정부는 2025년 12월, 딥페이크 유명인과 조작된 전문가를 내세운 기만적 광고가 급증하자 AI 생성 광고 표시 의무와 단속 강화 방침을 내놨다.
한국의 AI 기본법도 2026년 1월 시행되며 고위험 AI와 AI 생성물의 워터마크 같은 신뢰장치를 강조했다. 즉 지금은 기술을 쓰는 사람에게 책임을 묻는 단계로 이미 넘어가고 있다.
플랫폼도 같은 경고를 하고 있다.
네이버는 딥페이크·생성형 AI로 만든 글, 이미지, 동영상, 음성의 게시와 유통이 타인의 인격과 권리를 침해할 수 있다고 안내하고 관련 신고 채널까지 별도로 운영한다. 이 문장은 중요하다.
문제는 권리 침해를 알면서도 유통하는 인간의 선택이라는 뜻이기 때문이다. 기술은 중립일 수 있어도 배포와 수익화는 결코 중립이 아니다.
더 본질적인 질문을 던지고 싶다.
왜 사람들은 이렇게까지 쉽게 윤리를 버릴까?
답은 의외로 단순하다. 돈이 되기 때문이다.
너무 적은 비용으로 너무 빠른 관심을 얻을 수 있기 때문이다.
생성형 AI는 생산비를 낮췄고 플랫폼은 확산비를 낮췄다.
그런데 우리는 그 사이에서 단 하나의 비용만 삭제했다. 바로 양심의 비용이다.
예전에는 남의 얼굴을 도용해 무언가를 만들려면 시간도 들고 기술도 필요했다. 지금은 몇 번의 입력이면 된다. 기술이 민주화된 것이 아니라 어떤 경우에는 무책임도 민주화된 것이다.
UNESCO는 딥페이크를 두고 단순한 탐지의 문제가 아니라 “앎의 위기(crisis of knowing)”라고 짚었다.
보고 듣는 것만으로는 더 이상 진실을 보장할 수 없다는 것이다. UNICEF도 “Deepfake abuse is abuse”라고 못 박았다. 과장이 아니다.
피해자의 얼굴이 쓰이는 순간 그 피해는 현실이 된다. 타인의 정체성을 복제해 돈으로 바꾸는 행위는 정보 문제이기 전에 인간 문제다.
기준을 아주 단순하게 다시 세워야 한다고 생각한다.
동의 없는 얼굴은 쓰지 말 것.
합성했다면 숨기지 말 것.
수익이 난다면 책임도 함께 질 것.
이 세 가지가 빠진 AI 활용은 혁신이 아니다.
그건 창의성이 아니라 편의이고 편의가 아니라 탐욕이다.
AI는 앞으로 더 정교해질 것이다.
남의 얼굴을 가져오는 사람도 더 많아질 것이다.
문제는 기술의 속도가 아니다.
문제는 우리가 그 속도 앞에서 인간의 기준까지 함께 내려놓고 있다는 사실이다.
얼굴은 데이터가 아니다.
얼굴은 인격이다.
인격을 도구처럼 쓰는 사회는 윤리를 싸구려 취급한 대가로 무너진다.
앞으로 진짜 경쟁력은 어디까지는 절대 하지 않느냐에서 갈릴 것이다.
기술의 시대일수록 금지선이 있는 사람이 오래 간다.
돈보다 먼저 얼굴을 사람으로 보는 사람만이 사람의 신뢰를 얻게 된다.
어떻게 생각하는가.
이제 우리의 얼굴은 여전히 우리 자신의 것인가 누군가의 조회수와 수익률을 위한 원자재가 되어버린 것인가.
#딥페이크 #생성형AI #AI윤리 #초상권 #얼굴도용 #허위광고 #디지털성범죄 #AI시대 #기술윤리 #콘텐츠윤리 #플랫폼책임 #인격권