'레거시 미디어'에서 유통되는 AI 가짜뉴스
김홍열의 디지털 콘서트
인터넷에서 유통되는 대부분의 가짜뉴스에는 최초 생성자의 DNA가 있다. 거짓 정보의 유통을 통해 이익을 얻으려는 창작자의 의도가 분명하게 보인다. 자신이 만든, 또는 자신에게 우호적인 플랫폼들을 통해 확산되는 가짜뉴스는 추종자들을 계속 양산하며 어느 순간이 되면 사실과 대척점에 설 정도로 확고해진다. 레거시 미디어에서 팩트체크를 하고 가짜뉴스라 규정해도 추종자들의 믿음은 사그라지지 않는다. 오히려 레거시 미디어가 거짓을 말하고 있다고 반박하며, 자신들의 주장을 뒷받침한다는 이런저런 증거들을 계속 열거하며 유통시킨다. 역설적으로 이런 광신도들 때문에 가짜뉴스는 비교적 구별하기 쉽다.
이미지 출처=Pixabay.com
그러나 최초 생성자의 DNA를 발견하기 힘든 가짜뉴스가 있다. 이 생성자는 가짜뉴스를 조용히 만들어 퍼뜨린다. 특별히 지지자들도 보이지 않는다. 따라서 그 의도 또한 쉽게 알 수 없다. 어느 순간, 처음 생성된 뉴스가 가짜뉴스라고 입증되어도 이를 반박하는 추가 자료를 제출하지 않는다. 오직 팩트만을 전하고 있는 것처럼 보이는 이 가짜뉴스의 플랫폼은 유튜브, 페이스북과 같은 개인 미디어가 아니다. CNN과 뉴욕타임스 같은 권위 있는 레거시 미디어다. 그리고 이 미디어에 가짜뉴스를 만들어 퍼뜨린 것은 애플이 최근 출시한 AI 기반 뉴스 요약 서비스 '애플 인텔리전스'다.
애플은 주요 언론사들과 계약을 맺고 AI를 활용해 뉴스를 요약해서 제공하는 서비스를 운영했는데 이 AI가 너무 자연스럽게 가짜뉴스를 만들어 왔다는 것이 밝혀졌다. AI가 기사의 내용과 관련이 없는 뉴스 헤드라인를 만들어 언론사에 공급한 것이다. 애플과 언론사는 지금까지 발전해 온 AI 실력으로는 뉴스 내용을 이해하고 요약한 다음 제목을 만드는 것은 어렵지 않은 일이라고 판단했다. 실제 테스트 과정에서는 꽤 괜찮은 결과를 보여주었는데 막상 본격적 서비스가 개시되면서 AI의 심각한 환각(AI hallucinations) 현상이 여러 차례 드러난 것이다.
애플 로고 [연합뉴스 자료사진]
몇 가지 예를 들어 보자. AI는 유나이티드헬스케어 CEO의 사망 사건과 관련하여 살인 혐의를 받고 있는 루이지 만지오네가 자살했다는 거짓 헤드라인을 만들어 CNN에 보냈다. 뉴욕타임스에는 이스라엘 총리 베냐민 네타냐후가 체포되었다는 잘못 요약된 가짜뉴스를 보냈다. 또 워싱턴포스트 기사를 잘못 이해하여 트럼프 정부의 국방부 장관으로 지명된 40대의 피트 헤그세스가 지명 철회되었다고 헤드라인을 뽑았고, "트럼프 관세가 인플레이션에 영향을 미친다”라는 제목을 만들기도 했다. 모두 CNN과 뉴욕타임스, 워싱턴포스트 원래 기사에 없는 내용이다.
계속 문제가 발생하자 애플은 일단 서비스를 중단했고 보완하기로 했다. 업데이트될 내용 중에는 요약된 뉴스는 AI가 만들었다는 사실을 더욱 명확하게 강조하고, 때로는 부정확한 결과가 나올 수 있다는 것에 대해 사용자가 반드시 동의해야 하는 내용도 포함되어 있다. 그러나 이런 애플의 보완 정책이 언론사들의 불안을 잠재우지 못하고 있다. 우선 국경없는기자회(Reporters Without Borders)는 AI 요약이 신뢰할 수 있는 시사 정보를 얻을 수 있는 대중의 권리에 대한 위협이라고 반대 의사를 분명하게 밝혔고, 전 세계에서 가장 큰 전국 언론인 연합(the National Union of Journalists)도 AI 기반 요약을 제거할 것을 요구했다.
뉴욕타임스, 워싱턴포스트 / CNN 간판 [AP 연합뉴스 자료사진]
처음 AI 요약 서비스를 채택한 언론사들의 의도는 어느 정도 이해할 수 있다. 요약된 기사에 대한 시장의 수요는 분명히 있지만, 요약을 위해서는 추가 인력이나 시간이 필요하고 결국 비용이 상승하게 된다. 이때 적절한 가격에 요약을 해주는 서비스가 등장한 것이다. 언론사 입장에서는 환영할 만한 일이다. 테스트 기간에는 적절히 작동되기도 했다. 문제는 본격적으로 운영되면서 AI가 환각에 빠져 가짜뉴스를 생성하는 경우가 많아지고 가짜뉴스라는 것이 확인될 때는 이미 디지털 네트워크를 통해 글로벌 차원으로 유통되었다는 사실이다.
이렇게 잘못된 제목은 별다른 의심 없이 유통되고 확산된다. 기사 한구석에 AI가 생성했다고 문구가 적혀 있어도 사람들은 기본적으로 CNN, 뉴욕타임스, 워싱턴포스트에서 최종 검증한 기사라고 판단한다. AI가 만든 가짜뉴스가 레거시 미디어를 통해 계속 유통되면 레거시 미디어조차 신뢰받지 못하게 된다. SNS와 같은 개인 미디어에서 유통되는 가짜뉴스보다 이 경우가 더 위험하다. 재발 방지를 위해서는 최소한의 제어장치가 있어야 한다. 특히 레거시 미디어에서는 이 제어장치가 꼭 필요하다. 종합적이고 비판적 사고를 지닌 데스크의 게이트 키핑이 필요한 이유다. 종종 환각에 빠지는 AI를 교정할 수 있는 것은 사람밖에 없다.
++
