AI에 대항하여 작가들이 출판사에 보내는 공개 서한
Against AI: An Open Letter From Writers
* 세계 최대 오디오북 회사 오디블이 오디오북에 AI 나레이터 도입 및 오디오북 대본의 기계 번역 서비스를 발표하고 약 한 달 뒤 발표된 내용
* 원문은 여기
펭귄 랜덤 하우스, 하퍼콜린스, 사이먼 앤 슈스터, 아셰트 출판사, 맥밀란, 그리고 다른 미국의 모든 출판사 여러분에게
우리는 벼랑 끝에 서 있습니다.
아주 간단히 말해 예술가로서 우리가 하는 일은 인간의 경험에 반응하는 것입니다. 하지만 우리가 만드는 예술은 상품이고 우리가 사는 세상은 무언가를 빠르고 값싸게, 그리고 내가 요구하는 즉시 원합니다. 우리는 우리가 쓰는 소설, 자서전, 시, 회고록, 다시 말해 인간의 경험에 관한 우리의 기록이 인공지능 모델에 의해 ‘쓰이는’ 미래를 향해 빠르게 나아가고 있지만 인공지능은 당연히 인간으로 존재하는 것이 어떤 건지 알 수 없습니다by definition, cannot know what it is to be human. 피 흘리고, 굶주리고, 사랑하는 게 무엇인지 알 수 없습니다.
AI가 우리의 인간성을 이해하는 것처럼 보일지 몰라도, 오직 인간만이 다른 인간과 이야기하며 그를 이해할 수 있습니다AI may give the appearance of understanding our humanity, but the truth is, only a human being can speak to and understand another human being. 프롬프트가 AI에 입력될 때, AI가 대답하면서 사용하는 언어는 부분적으로는 우리 작가들이 커리어 내내 고안한 예술을 종합해가며 만들어졌습니다. 우리의 동의도 받지 않고, 대가를 치르지도 않으며 심지어는 감사를 표시하지도 않고서는 우리의 예술을 취했습니다.
우리는 작품 속에서 우리가 사는 삶을 지나쳤습니다. 부모님의 죽음, 자녀의 탄생, 우리가 경험했거나 상상했던 모든 사랑까지. 인간의 영웅적인 모습과 타락을 다룬 이야기도 있었습니다. 우리는 이런 이야기를 도둑맞았고, 그 이야기는 만약 한 치 앞밖에 보지 못하는 자본주의의 탐욕이 승리한다면 우리의 서점을 채울 책들을 생성하게 될 기계를 훈련하는 데에 사용되었습니다. 우리를 완전히 배제하여 오직 자본주의 구조의 꼭대기에 위치한 자들만이 지금보다 더 우리의 노동력을 착취해 이윤을 창출할 수 있게 만드는 것to fully remove us from the equation so that those at the very top of the capitalist structure can profit even further off our labor than they already do, 이것이 자본주의의 최종 목표인 걸까요? 그렇다면 작품이 벌어들이는 돈의 일부가 작가에게 가는 대신, 다른 누군가가 대가를 받지 못한 우리의 노동 위에 만들어진 기술의 대가로 돈을 벌게 될 것입니다.
AI가 생산하는 글은 저속하게 느껴지고 실제로도 저속합니다. 생산 방법이 단순하기에 단순하게 느껴집니다. 이게 중요합니다. 밝히건대 AI는 사회적으로 유용하게 쓰일 가능성이 충분한 아주 강력한 도구이지만, 그 유용한 이득에 예술과 예술가를 대체하는 건 포함되지 않습니다. AI를 퍼뜨리는 이들은 우리뿐만 아니라 출판사로부터도 우리의 작품을 빼앗았습니다. 우리가 쓴 책을 아껴주고 발전해주고 출간해준 성실한 편집자와 교열 담당자, 홍보 인력과 출판인들, 이들의 일자리도 위기에 빠졌으며 이는 매 단계마다 사람의 손길이 닿으면서 키워지는 집합적 예술의 한 형태로서의a collaborative art form, nurtured at every stage by the personal touch of a human being 출판 또한 위기에 처해 있다는 뜻과 같습니다. 우리 이야기에 숨결을 불어넣어주던 오디오북 나레이터들은 이미 더 값싸고 단순한 AI 아류에 의해 뒤로 밀려나고 있습니다. 설상가상으로 AI 사용은 어마어마한 양의 에너지와 용수를 소모하기에 환경에 치명적인 악영향을 끼칩니다. 그 다음에는 또 무슨 일이 벌어질까요?
우리는 출판사들이 우리와 함께하길 원합니다. 기계가 창작해낸 책을 절대 펴내지 않겠다고 약속해주기를, 직원을 AI 도구로 대체하거나 그저 AI를 감독하는 수준으로 그들의 자리를 격하시키지 않겠다고 약속해주기를 바랍니다.
우리는 출판사들이 다음과 같은 사항을 약속하길 촉구합니다.
- 작가를 훔쳐 만들어진 AI 도구를 이용해 쓰인 책을 비밀리에, 혹은 공개적으로든 출판하지 않을 것
- AI가 생성한 책을 홍보하기 위해 ‘작가’를 날조해내거나, 작가로부터 훔친 작품들에 기반하여 만들어진 AI가 생성한 책을 인간 작가가 가명을 사용해서 출판하게 허락하지 않을 것
- 출판하는 책의 어떤 부분을 디자인하는 데에 있어서 예술가들의 작품을 훔쳐 만들어진 AI를 사용하지 않을 것
- 직원 일부, 혹은 전부를 AI로 대체하지 않을 것
- 예술가들의 작품을 훔쳐 만들어진 AI로 생성된 글이나 작업물 생산을 감독하기 위한 일자리를 만들지 않을 것
- 예술가들의 작품을 훔쳐 만들어진 AI를 감독하기 위한 자리를 새로 집어넣으려고 현재 직원들의 직무 기술서를 재작성하지 않을 것. 예를 들어 교열자는 AI의 교열 ‘작업’을 교정하거나 감시하는 게 아니라, 작품을 계속 교열해야 함.
어떤 상황이든 목소리를 훔쳐 만들어진 AI가 생성한 나레이터가 아닌 인간 오디오북 나레이터만을 고용할 것
작가로서 우리가 출판사와 맺는 향후 계약은 위와 같은 신념을 최대한 반영할 것입니다.
우리는 출판사들이 작가들을 위해, 우리의 예술을 훔치고 그로부터 이윤을 챙기려는 저품질 AI 작업물에 대항하여 공개적인 입장을 표명하길 요청합니다. 이는 그저 책을 펴내는 작가들에 관련된 일이 아닙니다. 우리가 계속 책을 펴낼 수 있는지와 관계없이, 우리는 언젠가 자신의 작품을 펼치기를 바라면서 솜씨를 연마하고 있는 새로운 작가들을 위한 공간을 더 만들고 그들이 공정하게 보상을 받도록 하는 게 우리의 의무라고 생각합니다. 언제나 예술가들의 목소리가 필요했듯이 우리는 그들의 목소리가 필요합니다. 여러분이 우리 작품의 미래와, 이후 세대 작품의 미래를 지켜주기를 바랍니다.
그럼 답장을 기다리겠습니다.
아래의 서명인 일동 드림
Samira Ahmed
Becky Albertalli
Tom Angleberger
David Arnold
Victoria Aveyard
Leigh Bardugo
Cece Bell
Chloe Benjamin
James Bird
Holly Black
Alexandra Bracken
Brittany Cavallaro
Cassandra Clare
Susan Dennard
Benjamin Dreyer
Aja Gabel
Stephanie Garber
Lamar Giles
Chloe Gong
Lauren Groff
Lev Grossman
Jasmine Guillory
Ali Hazelwood
Emily Henry
Joanna Ho
Colleen Hoover
Silas House
Vanessa Hua
Tiffany D. Jackson
Abby Jimenez
R.F. Kuang
Yulin Kuang
R.O. Kwon
Christina Lauren
Mackenzi Lee
Dennis Lehane
Ann Liang
E. Lockhart
Gregory Maguire
Adriana Mather
Jennifer Niven
Matt de la Peña
Stephanie Perkins
Jacques J. Rancourt
justin a. reynolds
Randy Ribay
Rioghnach Robinson
Rebecca Ross
Veronica Roth
Rainbow Rowell
Karen Russell
Kennedy Ryan
Aisha Saeed
Dana Schwartz
Adam Silvera
Julie Soto
Nic Stone
Emma Straub
Courtney Summers
Jesse Q. Sutanto
Emily Temple
Amy Tintera
Corey Van Landingham
Jasmine Warga
Brynne Weaver
Chuck Wendig
Julia Whelan
Kiersten White
Tia Williams
Jeff Zentner
