가짜뉴스, 탈진실 시대, 먼저 거짓말하지 마라!(1)

혼돈의 시대에 브랜드가 살아남는 유일한 길

"아이 살을 빼주고 싶다면 절대 식단, 운동부터 시작하지 마세요. 순서가 완전히 잘못된 것입니다."

S대 출신 소아비만 치료 전문의 최 OO교수의 영상에 등장하는 조언입니다.

"아이들 고생 그만" 의사의 조언, 알고 보니… 딥페이크 주의보 / JTBC 뉴스룸

하지만 이 조언은 AI가 만들어낸 가짜였습니다. 마치 진짜처럼 보이지만, 사실은 AI가 생성한 이미지와 목소리입니다. 최근 유튜브와 소셜 미디어에서는 생성형 AI로 만들어진 '가짜 의사'들이 의약품이나 건강기능식품을 광고하는 사례가 급증하고 있습니다. 이들은 명문대 전문의를 사칭하며, 실제 의사가 하는 말처럼 제품의 효과를 과장하거나 허위 정보를 전달합니다. 소비자는 물론이고, 의료계에서도 이런 불법 광고에 대한 우려가 커지면서 정부와 의료계가 강경 대응에 나섰습니다.

이런 가짜 의사 광고는 소비자들이 올바른 정보 대신 허위 정보에 현혹되기 쉽다는 점에서 매우 심각합니다. 브랜드가 당장의 이익을 위해 AI 기술을 이용해 교묘하게 소비자를 속인다면, 이는 장기적으로 돌이킬 수 없는 신뢰 하락으로 이어질 수밖에 없습니다.

지난 칼럼, 제7화 '탈진실 시대, 브랜드 어떻게 살아남을까?'에서 우리는 탈진실 시대 브랜드 매니페스토, 5가지 핵심 원칙을 살펴보았습니다. 그중 마지막 다섯 번째 원칙을 기억하시나요? '먼저 거짓을 말하지 마라 (Don't Lie First)'였습니다.

07화 탈진실 시대, 브랜드 어떻게 살아남을까?

이 마지막 원칙을 긴급하게 먼저 설명하게 된 이유는 생각보다 빠르게 우려했던 상황들이 등장하고 있기 때문입니다. 특히, 생성형 AI 기술이 발전하고 브랜드들이 이를 활용하기 시작하면서 부작용들이 속속 드러나고 있기에 '가짜뉴스, 탈진실 시대, 먼저 거짓말하지 마라!'라는 주제를 나누어 이야기해 보려 합니다 먼저 브랜드가 AI를 활용해 먼저 거짓말을 한 사례들을 몇 가지 더 살펴보겠습니다.

샤인머스캣 직접 재배했다던 어르신

"저 ○○○이 직접 합니다!" 이런 문구와 함께 온라인 쇼핑몰에서 샤인머스켓을 든 어르신 사진을 보신 적 있으신가? 이 이미지는 품질 좋은 과일을 숙련된 농부가 직접 길렀다는 신뢰를 주며 수많은 구매로 이어졌습니다.

한 통신판매업체는 네이버 '스마트스토어'와 카카오톡 '쇼핑하기' 등에서 샤인머스캣, 사과, 감귤 등을 판매하며, 마치 실제 농장주가 직접 재배한 것처럼 농부의 실명과 얼굴 사진까지 내세웠습니다. 더욱이 샤인머스켓이 '김천 샤인머스캣 품평회'에서 대상을 받았다고 강조하며 상장까지 내걸었습니다.

하지만, 이후 이 농부의 모습은 AI가 만든 이미지였다는 사실이 드러나 큰 논란이 되었습니다. 자세히 보면 손가락이 뾰족하거나 손톱 등이 부자연스러운, AI 생성 이미지의 전형적인 특징을 가지고 있었죠. 게다가 '김천 샤인머스캣 품평회'에서 받았다는 대상 상장도 경북 김천시에 문의한 결과 이런 품평회는 존재하지 않는 허위 정보였습니다. 결국 해당 업체의 판매는 소비자 민원이 제기되면서 중단될 수밖에 없었죠.

AI 기술을 활용한 기만행위는 전문적인 영역을 넘어, 소비자가 신뢰하는 '원산지'와 '진정성'이라는 가치까지 도용하고 있습니다.