AI시대 범람하는 콘텐츠 세상에 신뢰가 경쟁력이다
콘텐츠는 폭발했고, 정보는 희귀해졌다
인터넷이 처음 등장했을 때 사람들은 정보의 민주화를 이야기했다.
누구나 글을 쓰고, 누구나 콘텐츠를 만들고, 누구나 자신의 생각을 세상과 나눌 수 있는 시대가 열렸다고 말했다. 그 말은 틀리지 않았다.하지만 지금 우리는 그 다음 단계에 와 있다.
이제는 누구나 콘텐츠를 만드는 시대를 넘어 누구나 대량의 콘텐츠를 생산하는 시대가 되었다.
생성형 AI 때문이다.
AI는 이제 기사도 쓰고, 영상도 만들고, 그림도 그리고, 심지어 논문 형태의 글도 작성한다.
예전에는 팀이 몇 달 걸려 만들던 콘텐츠를 이제는 한 사람이 하루 만에 만들어낼 수 있다.
문제는 여기서 시작된다.
콘텐츠 생산의 장벽이 사라지면서 정보의 양은 폭발적으로 늘어났다.
하지만 그와 동시에 신뢰할 수 있는 정보는 오히려 더 희귀해졌다.
최근 미디어 분석 회사 뉴스가드(Newsguard)와 AI 탐지 기업 판그램 랩스(Pangram Labs)가 발표한 데이터는 이 현실을 상징적으로 보여준다.
그들이 탐지한 ‘AI 콘텐츠 팜’ 사이트는 이미 3,000개 이상이다.
그리고 매달 300~500개의 신규 사이트가 계속 만들어지고 있다.
AI 콘텐츠 팜은 무엇일까. 간단히 말하면 AI가 자동으로 기사를 생산하는 웹사이트다.
대부분의 콘텐츠는 AI가 만들고, 사이트는 이를 공개하지 않으며, 마치 인간 기자가 작성한 것처럼 꾸며진다.
이들 사이트의 목적은 대체로 두 가지다.
하나는 광고 수익이고 다른 하나는 선전과 여론 조작이다.
문제는 이 콘텐츠가 종종 완전히 틀린 정보라는 점이다.
AI가 만들어낸 가짜 뉴스 산업
AI 콘텐츠 팜에서 만들어지는 기사들은 종종 매우 그럴듯하다.
레이아웃은 실제 언론사처럼 보이고, 기사 형식도 뉴스와 거의 동일하다.
사이트 이름도 마찬가지다.
“Times Business News”, “Business Post”, “Citizen Watch Report”
어딘가 실제 언론사 같지만 사실은 AI가 운영하는 콘텐츠 공장인 경우가 많다.
이 사이트들은 하루에도 수십 개의 기사를 쏟아낸다.
그리고 그 중 상당수는 완전히 허위 정보다.
예를 들어 2025년 한 AI 콘텐츠 팜은 이런 기사를 내보냈다.
“래퍼 배드 버니가 슈퍼볼 하프타임 공연을 하면 코카콜라가 후원을 철회하겠다고 위협했다.”
문제는 간단했다.
코카콜라는 슈퍼볼 후원사가 아니었다.
하지만 이 가짜 뉴스는 실제 기사처럼 퍼졌고 사이트에는 익스피디아, AT&T, 유튜브, 호텔스닷컴 같은
유명 브랜드 광고가 붙어 있었다.
또 다른 사이트는 미국 상원의원 두 명이 우크라이나 호텔에서 81만 달러를 썼다는 허위 보도를 퍼뜨렸다.
이 이야기는 곧 러시아 국영 매체에 의해 인용되었고 미국 내부에서도 확산되었다.
AI가 만든 콘텐츠가 지정학적 선전 도구로까지 사용된 것이다.
이것이 바로 AI 콘텐츠 팜이 단순한 인터넷 문제가 아니라 정보 전쟁의 도구가 되고 있는 이유다.
광고 시스템이 만드는 구조적 문제
더 흥미로운 사실은 이 콘텐츠 팜의 상당수가 광고 수익 구조 위에서 돌아간다는 점이다.
인터넷 광고는 대부분 프로그래매틱 광고 시스템을 통해 자동으로 배치된다.
광고주는 특정 사이트를 직접 선택하지 않는다.
대신 알고리즘이 자동으로 광고를 배치한다.
이 구조는 효율적이지만 문제도 만든다.
AI 콘텐츠 팜은 이 시스템을 이용한다. 저품질 콘텐츠를 대량 생산하고 검색 트래픽을 모은 뒤 광고 수익을 가져간다. 뉴스가드 조사에 따르면 141개의 유명 브랜드 광고가 이러한 사이트에 노출된 사례가 확인됐다.
즉 브랜드들은 자신도 모르는 사이 가짜 뉴스 산업에 돈을 공급하고 있는 셈이다.
그리고 이 문제는 또 다른 플랫폼과 연결된다.
바로 검색 엔진이다.
AI 콘텐츠 팜은 종종 구글 뉴스나 구글 디스커버 같은 서비스에 등장한다.
알고리즘은 콘텐츠의 신뢰성보다 클릭 가능성과 트래픽을 먼저 본다.
결과적으로 AI 콘텐츠 팜은 검색 시스템과 광고 시스템 사이에서 하나의 산업으로 자리 잡고 있다.
정보가 넘칠수록 신뢰는 희귀해진다
AI 시대가 되면서 정보의 생산 비용은 거의 0에 가까워졌다.
이제는 누구나
뉴스 사이트를 만들 수 있고
앱을 만들 수 있으며
콘텐츠 플랫폼을 운영할 수 있다.
예전에는 앱 하나를 만들려면 개발자 팀이 필요했다.
지금은 한 사람이 AI를 이용해 하루 만에 만들 수도 있다.
이 변화는 엄청난 혁신이기도 하다.
하지만 동시에 정보 환경을 완전히 바꿔버렸다.
콘텐츠는 넘쳐나지만 그중 무엇이 사실인지 판단하기는 점점 어려워진다.
그래서 흥미로운 현상이 나타난다.
사람들은 이제 정보를 찾기 위해 다시 AI를 사용한다.
AI가 만들어낸 정보 속에서 또 다른 AI가 진짜 정보를 찾아주는 구조다.
하지만 여기에도 한계가 있다.
결국 마지막에 남는 질문은 항상 하나다.
“이 정보를 믿을 수 있는가.”
딥페이크 사기 건수는 2022~2023년 사이 북미에서 1,740%, 아시아태평양에서 1,530% 급증했으며, 핀테크·크립토 분야가 가장 큰 타격을 받았다.결국 브랜드가 필터가 된다
AI 시대에는 정보의 양이 아니라 신뢰의 밀도가 중요해진다.
그래서 앞으로 더 중요한 것은 콘텐츠의 양이 아니라 콘텐츠를 만드는 주체의 신뢰다.
사람들은 점점 다음과 같은 기준으로 정보를 선택하게 될 것이다.
이 정보는 누가 만들었는가. 이 사람은 지금까지 무엇을 해왔는가.
이 기업은 얼마나 오래 신뢰를 쌓아왔는가.
결국 정보의 시대에서 브랜드는 신뢰의 필터가 된다.
개인은 개인 브랜드로, 기업은 기업 브랜드로 신뢰를 축적해야 한다.
AI 시대에는 기술보다 중요한 것이 하나 더 생긴다.
바로 신뢰 자본(Trust Capital)이다.
AI 시대의 새로운 경쟁력
지금 우리는 콘텐츠가 부족한 시대가 아니라 콘텐츠가 과잉인 시대에 살고 있다.
이 환경에서 살아남는 방법은 더 많은 콘텐츠를 만드는 것이 아니다.
더 믿을 수 있는 콘텐츠를 만드는 것이다.
AI는 앞으로 더 많은 콘텐츠를 만들어낼 것이다.
앱도 늘어나고, 웹사이트도 늘어나고, 뉴스도 늘어나고, 영상도 늘어날 것이다.
하지만 그 모든 것 속에서 사람들이 마지막에 찾는 것은 항상 같은 것이다.
“믿을 수 있는 정보.” 그래서 나는 이렇게 생각한다.
AI 시대의 진짜 경쟁력은 기술이 아니라 신뢰다.
신뢰를 쌓은 개인과 기업은 콘텐츠가 넘쳐나는 세상에서도 사람들의 선택을 받는다.
반대로 신뢰가 없는 콘텐츠는 아무리 많아도 결국 사라진다.
결국 AI 시대는 누가 더 많은 콘텐츠를 만드는가의 경쟁이 아니라 누가 더 많은 신뢰를 얻는가의 경쟁이 된다.
그리고 그 경쟁에서 마지막까지 살아남는 것은 언제나 같은 것이다. 신뢰다.