AI 뉴스 캐스터, 진정성에 대해 묻다
Humanizing Tech Investments
지난 8월 초, 하와이의 일간지 중 하나인 The Garden Island는 해당 지역 뉴스 전달을 전격적으로 AI 뉴스 캐스터 제임스(아시아 남성 캐릭터)와 로즈(백인 여성 캐릭터)에게 맡겼다. 이는 이스라엘 스타트업 칼레도의 기술력에 의존한 결정이며 서면 뉴스 기사를 디지털 방송 뉴스로 전환하는 것을 목표로 하는 결정이다. 해당 방송 콘텐츠는 현재 유튜브와 인스타그램 계정에서 40에서 200회 정도의 조회수와 부정적인 댓글을 확인케 할 뿐이나 이에 대해 지역 뉴스 노조는 반대 성명을 발표했다. 노조는 AI 아바타가 지역 뉴스를 전달하는 것은 그들이 오랫동안 생활해 온 섬의 공동체와 문화를 이해하지 못하는 본토 기업 소유주의 이익을 위한 착취와 같다 주장한다. 또한 AI를 도구로 사용하는 과정을 건너뛰고, 직원을 대체하는 목적으로 사용하는 데에 불안을 느낀다 밝혔다.
흥미로운 건 기술 기업인 칼레도는 방송 뉴스 제작의 전 과정을 생성 AI가 처리할 수 있다는 점을 가장 큰 장점으로 제시하는 반면 노조는 젊은 독자들에 의해 주로 소비되는 현 미디어 환경에서 진정성을 갈망하는 데이터를 통한 연결은 인간만이 잘할 수 있다 주장한다는 점이다. 감정, 경험, 맥락을 자연스럽게 전달하는 데서 오는 신뢰감과 연결되는 진정성은 인간의 복잡한 사고와 사회적 감각에서 비롯된다고 여겨지기에 이들의 주장은 타당해 보인다.
하지만 AI 기술이 진화하면서 이 인간이 제공하던 진정성에 대해 기술적 성취가 위협하는 구조로 받아들여지는 현상이 확인되는 점에 더 관심을 가질 필요가 있다. 이는 기술을 둘러싼 제품팀과 사용자 사이에서의 ‘사용자 오류’ 이데올로기와 연결된다. 즉 사용자가 기계를 이해하고 제어할 만큼 지능적이지 않다는 가정을 전제로 한다. 그로 인해 정보의 비대칭이 발생하고, 이는 결과적으로 사용자 주도적인 설계 및 사용 경험을 저해한다. 과거와는 달리 이 같은 접근과 관점은 현재의 AI 시대에서는 큰 실수라 할 수 있다. 다시 말해, AI 리포터가 제공하지 못한다 여겨지는 진정성은 그 뒤에 숨어있는 인간의 활동 및 뉴스 생성에 미친 영향력에 대한 인정이 드러나지 않음에 기인한다.
밀라노 대학교 사회학 조교수 마시모 아이롤디는 그의 논문 ‘기계적 습관: 알고리즘 사회로의 여정’에서 이러한 관계를 재고할 수 있는 유용한 틀을 제공한다. 그가 정의하는 사용자와 기계의 관계를 결정하는 지배적 요소는 크게 두 가지, 사용자와 알고리즘이 서로 얼마나 알고 있는가를 드러내는 ‘정보 비대칭 수준’과 알고리즘에 내재된 가치와 문화가 실제 사용자의 가치와 얼마나 일치하는가를 드러내는 '문화적 정렬 수준’이다.
예를 들어 Spotify, Apple music이 제공하는 Daily mix 맞춤형 플레이리스트는 기존 사용자 행동을 강화해 사용자의 취향에 맞추다 보니 초반에는 높은 만족을 제공할 확률이 높다. 하지만, 시간이 지나 반복적인 내용으로 인해 지루함을 느끼게 되는 이러한 상호작용 방식은 두 주체 간 정보의 비대칭과 문화적 정렬이 너무 높기 때문에 발생하는 현상이라 할 수 있다. 또한 Weekly Discover 기능을 통해 사용자의 취향 범위를 넘어서는 새로운 음악을 제안하는 경우는 기존 행동 패턴을 벗어나는 데 도움을 줄 수 있지만, 사용자 경험을 해칠 수 있다는 점에서 정보 비대칭은 높으나 문화적 정렬이 낮은 사례라 할 수 있다.
이를 활용해 AI 뉴스 캐스터 사례를 바라보면, 정보 비대칭이 높고, 문화적 정렬이 낮은 경우가 많이 나타남을 확인할 수 있다. 즉 시청자들이 AI의 작동 방식을 충분히 이해하지 못한 채, 인간이 개입한 과정과 내용이 노출되지 않은 상황에서 AI가 제공하는 뉴스를 시청하기에 이를 지역 문화나 가치와 어긋난다 받아들이는 상황으로 해석할 수 있다. 그러므로 AI와 인간(시청자, 기자, 지역 공동체)의 관계를 더 명확히 이해할 수 있도록 돕기 위해서는 정보 비대칭이 낮고 높은 문화적 정렬의 상황으로 변화를 시도할 필요가 확인된다.
예를 들어 사용자가 AI 뉴스캐스터의 콘텐츠와 스타일을 조정하거나 뉴스 주제를 선택할 수 있는 인터페이스를 제공한다면, 이는 곧 협력적 상호작용에 해당하게 된다. 또한 시청자가 AI가 다룰 뉴스 주제나 지역 사회의 관심사를 직접 설정할 수 있거나 제작 과정에서 리서치 된 뉴스를 텍스트로 입력하는 인간 제작자의 이름을 노출한다면 이는 결과적으로 인간이 AI와 협력하여 콘텐츠를 만들어 나가는 방식임을 분명하게 전달해 사회 문화적 충돌과 부담감을 효과적으로 줄일 수 있게 된다.
국내에도 이미 수년 전부터 AI 뉴스 캐스터가 실제 방송에 등장해 왔다. 방송국 내부적으로 인간 종사자들의 권리 보호를 보장하며 AI 뉴스캐스터의 사용 사례를 늘려가고 있다. 앞으로 더 정교해지는 AI 기술의 산업 적용 시 정보 비대칭을 줄이고 문화적 정렬을 높이기 위해서는, 제작 과정에의 투명성과 인간 제작자와 AI 간 상호작용성을 강화하고, 지역 사회와의 협력을 통해 AI가 지역 문화를 더 잘 반영할 수 있도록 해야 한다. 이는 AI와 인간 간의 새로운 협력 모델을 만들어 나가는 중요한 발판이 될 것이다.
