AI 뉴스가 있는 저녁-19(AI 딥페이크, 피해급증)

초개인화 AI, 풀무원의 데이터기반 AI

Aug 28. 2025

안녕하세요 겨울방주입니다.

오늘 저녁도 AI뉴스가 있는 저녁시간입니다.

아래의 기사를 공유하며 논평을 해보려 합니다.

요약한 AI 기사

1. 딥페이크 성범죄 피해자 1년 새 2배↑…1020 여성 90% -한겨레-

“한국여성인권진흥원은 ㄱ씨를 포함해 지난 1년 동안(2024년 8월 26일~2025년 8월 25일) 중앙디성센터를 통해 딥페이크 성범죄 피해자 1807명을 지원했다고 28일 밝혔다. 피해자 1807명은 성별로는 여성이 1754명으로 전체 피해자의 97.1%를 차지했으며, 남성은 53명(2.9%)이었다. 연령대별로는 10대 이하가 839명(46.4%)으로 가장 많았고, 이어 20대(829명, 45.9%)를 차지했다. 전체 피해자 가운데 1020 여성이 90.1%(1628명)에 달했다.”

“생성형 AI의 높은 ‘편의성’과 ‘접근성’으로 인해 누구나 순식간에 딥페이크 성범죄 피해자가 될 수 있는 환경이 조성됨에 따라 지난 1년 동안의 피해지원 사례를 분석한 결과 특히 폐쇄형 SNS가 범죄 도구로 활용되면서 피해가 ‘대량화’되고 ‘장기화’되는 특성이 확인됐다. 중앙디성센터는 기존 수작업(육안 모니터링 및 삭제요청) 중심의 삭제지원 절차를 자동화하고 디지털 성범죄 원스톱 통합 홈페이지를 구축하는 내용 등을 담은 ‘삭제지원 통합대응 솔루션’을 올해 안에 구축할 계획이다.”

2. 플리토, '초개인화'로 AI 데이터 시장에 출사표…"단순 번역 시대는 끝났다" -ZDNET KOREA-

“AI 패권 경쟁이 '데이터의 질'로 옮겨 붙은 가운데 플리토가 개인의 언어 습관까지 학습하는 '초개인화' 기술로 시장의 판을 바꾸겠다는 출사표를 던졌다. 사용자가 솔루션을 쓰면 쓸수록 개인의 고유한 발화 스타일, 문체, 어휘 선택 등을 AI가 학습해 실시간으로 번역과 교정 결과에 반영하는 것이다.”

“이는 단순히 정확한 번역문을 제공하는 수준을 넘어 사용자의 '말투'까지 흉내 내는 맞춤형 AI를 구현하겠다는 것이다.”

3. 풀무원푸드앤컬처, AI·데이터 기반 서비스 혁신 강화 -THE FACT-

“풀무원푸드앤컬처는 AI·데이터 기반의 고객 서비스 혁신 전략으로 급식과 휴게소, 컨세션 시장에서 경쟁력을 강화하고 있다고 했다. 이 시스템으로 CCM인증 7 연속 획득했다.”

“도입한 AI 서비스는 고객이 매장 내 QR코드로 의견을 남기면 즉시 관리자가 알림 받고 피드백을 주는 모바일 고객 소통 채널 '하루보이스', 하루보이스와 VOC, 만족도 조사 데이터를 통합해 고객 여정을 17단계로 세분화하고 이슈를 시각화하는 AI 기반 리뷰 분석 시스템 'AIRS(AI Review Analysis System)', 시기·상황별 고객 행동 패턴을 분석하여 응대법을 제공하는 선제 대응형 'VOC 예보제' 3종이다.”

겨울방주의 논평

네 그렇습니다. 해당기사를 보니 작년에 제가 AI툴을 이용하여 합성물(사진을 동영상과 합성하여 사진이 동영상대로 움직이도록 하는 것) 만드는 방법을 배운 뒤 복습차원에서 합성물을 만들어 봤습니다. 써보고 느낀 점은 기술을 악용하면, 최악의 윤리문제가 발생할 수 있다는 점이죠. 정말 경악할 수밖에 없었습니다. 딥페이크... 정말 심각합니다. 이전에는 인간이 직접 합성하기도 했지만 지금은 AI로 딥페이크를 합니다. 이로 인해 피해를 입은 사람들이 늘어나고 있는데요, 해당기사만 봐도 딥페이크 피해자들은 여성이 압도적으로 많습니다. 그리고 연령대로는 1020이 많습니다. 이런 딥페이크는 피해자들에게 씻을 수 없는 상처를 남기는 범죄입니다. 영구적인 상처를 안고 살아야 한다는 말입니다. 이걸 X(구 트위터)나 라인, 텔레그램 등에 유통을 합니다. N번방이 다시 떠오릅니다. 딥페이크... 일어나서는 안될 범죄입니다.

개인의 어투나 말버릇, 글 쓰는 습관까지 학습하는 초개인화를 골자로 한 AI는 더 경이로우면서도 무섭다는 느낌을 강하게 받습니다. 왜냐고요? AI에게 상대방의 글을 학습시켜서 이를 토대로 위조한 문서를 만들 수 있다는 점이죠. 물론 초개인화 AI는 개인맞춤으로 하기 때문에 글을 쓴 뒤 탈고작업이나 강의, 통번역, 음성메시지를 보내는 데는 상당히 유용하다고 봅니다. 하지만 이를 악용한다면, 이 또한 치명적인 문제점이 생깁니다. 사기범죄, 사칭등 기망범죄가 횡행할 것입니다. 이에 대한 대책이 있어야 합니다.

매장마다 고객의 QR코드의견을 관리자가 실시간으로 받아 피드백을 하는 풀무원의 시스템으로 인해 소비자의 만족도가 높아지고, CCM을 7 연속받아냈습니다. 이를 보았을 때 풀무원이 소비자 만족도에서 앞장서고 있다는 느낌을 받습니다. 또한 주목해야 할 점은 바로 시기·상황별 고객 행동 패턴을 분석하여 응대법을 제공하는 선제 대응형 'VOC 예보제' 3종입니다. 패턴을 분석하고 예측하여 응대법을 제공하려면, 엄청난 데이터를 요구합니다. 그런데 그 시스템을 도입한 것으로 미뤄보면, 풀무원은 고객의 클레임이나 행동 패턴 등을 시기나 상황별로 받아보고 데이터로 남겼나 봅니다. 다양한 사례를 남기고 이를 활용하는 풀무원이 괜히 CCM을 7 연속받은 것이 아니란 생각을 합니다.