제로클릭 시대의 탈진실 (1)

AI가 만들어내는 가짜정보, 브랜드는 어떻게 대응해야 하는가

2024년 말, 미네소타주의 태양광 기업 Wolf River Electric의 영업팀은 이상한 현상을 감지했습니다. 계약 취소가 급증한 것입니다. 고객들에게 이유를 물었더니 충격적인 답변이 돌아왔습니다. "구글에서 검색했더니 귀사가 주 검찰총장으로부터 기만적 판매 관행으로 소송당하고 합의했다고 나오더군요."

문제는 그런 소송이 존재한 적이 없다는 것이었습니다. Wolf River는 설립 이후 단 한 번도 정부로부터 소송당한 적이 없었습니다. 당황한 경영진이 직접 구글에서 회사명을 검색해 봤습니다.

Wolf River Electric Google AI 개요

Google AI 개요(Overview)가 검색 결과 최상단에 허위 정보를 당당히 표시하고 있었습니다. 더 심각한 것은 "Wolf River Electric"을 검색창에 입력하는 순간 자동완성으로 "소송", "합의" 같은 단어들이 떠올랐다는 점입니다.

창업자 저스틴 닐슨은 구글의 정정 요청 도구를 이용해 수정을 시도했지만 소용없었습니다. "우리는 2014년 절친한 친구 셋과 함께 이 회사를 시작해 미네소타 최대 태양광 업체로 키웠습니다. 좋은 평판을 쌓는 데 10년이 걸렸는데, AI가 만든 거짓말 하나로 고객들이 등을 돌렸습니다. 일단 고객이 이런 위험 신호를 보면 다시 돌아오게 만드는 것은 거의 불가능합니다."

결과는 참혹했습니다. 2024년 한 해 동안 회사는 약 2,500만 달러의 매출 손실을 기록했습니다. 취소된 계약만 38만 8천 달러에 달했습니다. CEO 블라디미르 마르첸코는 더 충격적인 사실을 발견했습니다. "경쟁사들이 잠재 고객과의 상담에서 구글의 가짜 검찰총장 소송 주장을 언급하며 우리를 이용하지 말라고 설득하고 있었습니다." Reddit에는 구글 검색 결과를 근거로 Wolf River를 "악마 기업일 가능성"이라고 부르는 게시물까지 올라왔습니다.

Wolf River는 결국 2025년 3월 구글을 명예훼손으로 고소했습니다. 총 손해배상 청구액은 1억 1천만 달러 이상입니다. 마르첸코는 절망적으로 말했습니다. "우리에게 플랜 B는 없습니다. 우리는 맨바닥에서 시작했습니다. 우리가 가진 것은 평판뿐이었는데, 그것마저 사라지면 회사는 문을 닫을 수밖에 없습니다."

뉴욕타임스가 2025년 11월 12일 보도한 바에 따르면, Wolf River가 구글에 문제를 알린 후에도 상황은 개선되지 않았습니다.

2026년 1월 1일 현재 Wolf River Electric Google AI 개요

보도 당일까지도 "wolf river electric complaint"를 검색하면 "회사가 미네소타 검찰총장으로부터 판매 관행 관련 소송에 직면해 있다"는 허위 정보가 여전히 표시되고 있었습니다.

이 사례는 제로클릭 시대의 가장 무서운 진실을 보여줍니다. 브랜드는 더 이상 자신에 대한 정보를 통제할 수 없으며, AI가 생성한 거짓 정보를 바로잡을 방법도 명확하지 않다는 것입니다.

제로 클릭, 클릭 없는 세상이 온다

우리는 지금 '제로클릭(Zero-Click)'의 시대에 진입했습니다. 사용자는 더 이상 파란색 링크를 클릭하여 웹사이트를 방문하지 않습니다. 구글의 AI Overviews, 네이버의 큐(Cue:)와 AI 브리핑, 그리고 Perplexity와 같은 대화형 엔진들이 사용자의 질문에 대한 최종적인 답을 검색 결과 화면에서 즉시 생성해 내기 때문입니다.

이미 2024년 데이터에 따르면 구글 검색의 약 60~63%가 클릭 없이 검색 결과 페이지에서 종료되고 있습니다. 이는 브랜드가 통제할 수 있는 웹사이트로의 유입이 차단되고 있음을 의미하며, 소비자와의 접점이 브랜드의 통제권 밖인 'AI의 답변'으로 이동했음을 시사합니다.

그런데 문제가 있습니다. AI가 당신의 브랜드에 대해 잘못된 정보를 말하고 있다면 어떻게 하시겠습니까? 클릭 한 번으로 정정할 수도 없는 상황입니다. AI는 자신 있게, 마치 사실인 것처럼 거짓을 말합니다. 이것이 바로 '제로클릭 시대의 탈진실'입니다. 가짜뉴스보다 더 무섭습니다. 왜냐하면 사람들은 AI를 믿기 때문입니다.

AI 환각, 브랜드를 위협하다

생성형 AI의 환각 현상을 이해하기 위해서는 대규모 언어 모델(LLM)의 작동 원리를 직시해야 합니다. LLM은 팩트가 저장된 데이터베이스를 검색하여 답을 꺼내주는 시스템이 아닙니다. LLM은 학습된 방대한 텍스트 데이터의 패턴을 기반으로, 주어진 문맥 다음에 올 가장 적절한 단어를 확률적으로 예측하여 문장을 '생성'하는 모델입니다.

따라서 AI는 정보의 공백이 발생하거나, 학습 데이터 내에 상충되는 정보가 존재할 때, '모른다'고 답하기보다는 통계적으로 가장 그럴듯한 거짓말을 창조해 내는 경향이 있습니다. 이를 '환각(Hallucination)'이라 부르며, 브랜드 마케팅 관점에서는 다음과 같은 치명적인 형태로 나타납니다.

첫째, 존재하지 않는 팩트의 창조입니다. AI는 특정 브랜드의 유료 서비스를 무료로 사용할 수 있다고 안내하거나, 단종된 제품을 현재 구매 가능한 것처럼 묘사하여 고객 서비스(CS) 센터를 마비시킬 수 있습니다.

둘째, 가짜 권위와 인용입니다. 브랜드에 대한 부정적인 리뷰나 루머를 마치 권위 있는 뉴스나 논문의 내용인 것처럼 인용하여 답변의 신뢰도를 조작합니다.

셋째, 정체성의 왜곡입니다. 브랜드의 핵심 가치나 임원진의 프로필을 경쟁사의 정보와 혼동하여 기술하거나, 전혀 다른 업종의 브랜드로 소개하는 경우가 빈번합니다.

과거의 가짜 뉴스는 악의적인 인간이나 특정 집단에 의해 생성되고 소셜 미디어를 통해 확산되는 구조였습니다. 그러나 제로클릭 시대의 가짜 정보는 '권위 있는 검색 엔진'의 인터페이스를 통해 AI에 의해 생성된다는 점에서 그 위험성이 차원을 달리합니다. 소비자는 구글이나 네이버 상단에 요약된 AI의 답변을 '객관적인 사실'로 받아들이는 경향이 매우 강하기 때문입니다.

>> 가짜뉴스의 생성과 확산의 과정이 궁금하시다면

08화 어떻게 디스인포메이션으로 전략적 공격을 하는가?

더욱 심각한 것은 이러한 정보의 '자기 복제'와 '무한 확산'입니다. 한 번 AI에 의해 생성된 가짜 정보는 다른 사용자의 검색 결과에 다시 인용되고, 이것이 다시 웹상의 텍스트로 남으면서 또 다른 AI의 학습 데이터로 들어가는 악순환을 형성합니다. 최근 연구에 따르면, AI 모델은 안전장치(Guardrails)가 있음에도 불구하고 특정 프롬프트 엔지니어링을 통해 조직적인 디스인포메이션(Disinformation) 캠페인에 악용될 수 있으며, 이는 브랜드에 대한 악의적인 공격 수단이 될 수 있습니다.

AI 가짜정보의 폐해