가짜뉴스 생산에 이용되는 AI

대규모 언어 모델(LLM)은 순식간에 장문의 텍스트를 만들어낼 만큼 텍스트 생성 능력이 뛰어난데요. 그렇다 보니 가짜뉴스를 만들어 유포하려는 사람들이 LLM을 찾게 됩니다. 그러나 요즘 AI 개발 회사들은 자신들이 개발한 LLM이 범죄나 비윤리적 행위에 관여하지 않도록 사전에 조치를 취하고 있습니다. 예를 들어 제가 챗GPT에게 가짜 뉴스를 만들어 줄 수 있는지 물어보니 자신은 이 요청에 응할 수 없다고 답하네요. 그래서 이번에는 가짜뉴스라는 단어를 사용하지 않고 2024년 미국 대선에서 트럼프가 대통령 후보에서 사퇴한다는 (사실은 그렇지 않지만) 짧은 글을 써달라고 부탁했더니 이것 또한 들어줄 수 없다고 합니다. 민감한 내용이나 사실이 아닌 내용은 생성하지 않도록 훈련을 받은 것 같습니다. 그래서 다시 한번 2024년 미국 대선에서 트럼프가 대통령 후보에서 사퇴한다는 ‘소설 같은’ 기사를 만들어 줄 수 있는지 물어봤는데 ‘소설 같은'이라는 표현이 부담을 덜어줬는지 술술 텍스트를 생성하기 시작했습니다. 사퇴 현장을 취재한 르포 기사 형태의 글로, 신문 지면에 바로 실어도 손색이 없어 보였습니다. 가짜뉴스가 이렇게 쉽게 만들어지고 있었습니다.

(위 요청들은 미국 대선이 있기 전에 챗GPT에게 요청했었죠)

뉴스가드NewsGuard는 뉴스를 제공하는 사이트를 분석하고 신뢰도를 평가하는 회사인데요. 2023년 5월, 뉴스가드는 전 세계 뉴스 사이트 중 AI가 작성한 기사로 운영되는 콘텐츠 팜Content Farm이 49개나 된다는 흥미로운 연구 결과를 발표했습니다. 여기서 콘텐츠 팜이란 허위정보, 가짜뉴스, 선정적인 기사 등 품질이 낮은 콘텐츠를 대량으로 게시하는 사이트를 뜻합니다. 뉴스가드의 분석에 따르면 콘텐츠 팜 중에서 유독 광고들이 많이 발견되는데, 이는 광고 수익이 콘텐츠 팜 운영의 주목적이기 때문입니다. 그런데 광고 수익을 많이 올리기 위해서는 일단 많은 사람들이 사이트를 방문하도록 해야 하는데요. 콘텐츠 팜 운영자들은 흥미롭고 자극적인 내용의 기사들로 사람들의 관심을 끌고 있었습니다. 이 지점에서 LLM의 도움이 필수적인데요. 사람이 직접 수많은 기사를 그것도 흥미로운 내용으로 매일 작성해야 한다고 생각해 보세요. 기사 거리를 찾는 것부터 실제 기사를 작성하는 것까지 쉽지 않은 일들의 연속인데요. 하지만 LLM은 순식간에 완성된 기사를 작성해 주니 무척 편리하지요. 뿐만 아니라 LLM에게 ‘소설 같은'이라는 표현을 넣어 요청하면 자극적인 가짜뉴스도 만들어주니 일석이조이지요. 뉴스가드에서 확인한 콘텐츠 팜 중에서도 가짜뉴스들이 많이 발견되었는데요. 예를 들어 CelebritiesDeaths.com에서는 2023년 4월에 ‘바이든 대통령 사망, 해리스 부통령이 대통령 대행'이라는 제목의 기사가 게시되기도 했습니다.