'AI는 끔찍해?' 미국 작가, 배우 파업으로부터
콘텐츠 카트 04
해당 글은 뉴스레터 '콘텐츠 카트' 로 발행한 글입니다.
누구보다 빠르게 읽으시려면, 여기서 구독 가능해요
아마 ‘올해의 단어’ 로 꼽히지 않을까요? AI(인공지능) 말입니다. 저는 해당 분야의 전문가가 아닌만큼 이를 둘러싼 원리나 구조, 사업이나 정책적인 이해관계 등에 대해서는 다루지는 못합니다. 그저 인간적인 호기심과 미래에 대한 고민을 하며 관심을 두고 지켜보고 있는 분야란 것은 확실해요. 여기서는 제가 조금은 알고 있는 콘텐츠 분야의 AI를 둘러싼 최근의 이슈들(할리우드 배우, 작가 파업)에 대해 블랙미러 시리즈의 <존은 끔찍해> 사례를 통해 살펴보려고 합니다.
멀지 않은 미래에 AI에 의해 대체된다면? 앞으로 어떻게 먹고 살아야하는지에 대한 업계의 고민에서 나온 이야기를 해볼까해요. 주로 저작권 이슈가 되겠네요.
존은 끔찍해
최근 넷플릭스 블랙미러 시리즈 중 가장 화제가 된 에피소드는 <존은 끔찍해> 였을 거예요. 주인공 존은 어느 날 자기의 삶이 그대로 재현된 ‘스트림베리’ 시리즈를 발견하죠. 자신이 회사에서 동료에게 해고 통보 했던 것이나, 약혼자 몰래 전 남자 친구에게 연락했던 일들이 현실보다 더 자극적으로 그려져요. 이 때문에 존의 주변 사람들은 그녀를 하나둘씩 떠나가고요. 그런데 변호사에게 찾아가 따져도 벗어날 수 있는 방법이 없어요. 예전에 자신의 초상권을 통째로 세계적인 스트리밍 서비스 ‘스트림베리’에게 양도했거든요. 스트림베리는 그간 확보한 데이터로 사람들이 좋아할 요소를 콘텐츠 화하는 AI기술을 개발했고, 존은 ‘테스트 격’ 인물이었던 겁니다. 게다가, 존 ‘역’은 배우 셀마 헤이엑(여기서도 슈퍼스타로 나와요!)이 연기하는데요. 사실상 직접 연기하는 건 아니고, 그녀 또한 자신의 초상권을 ‘스트림베리’에게 양도한 거예요.
즉, ‘존은 끔찍해’는 현실 속 존의 삶+셀마 헤이엑의 인지도+자극적인 이야기적인 조미료를 더해서 만들어낸 만들어낸 이야기인 것이죠.
해당 작품을 두고, AI시대의 트루먼쇼라는 평도 있더라고요. 뭔가 최근에 그리고 여전히 진행되고 있는 미국 배우조합의 파업이 떠오를 수밖에 없는데요. 어쩌면 충분히 가능하다는 생각이 들었습니다. 지금 배우조합의 파업 이유 중 하나도 할리우드 스튜디오가 무명 배우에게 200~300달러를 주고 그들의 외형(얼굴, 체형)을 스캔해서 저장한 뒤 필요할 때 AI와 CG를 통해 사용하려 했다는 사실이거든요. 물론, 넷플릭스와 같은 스트리밍 서비스가 흥행에 따른 대가를 배우들에게 충분히 지불하지 않았다는 큰 이유도 있지만요.
이 시리즈에 등장하는 스트리밍서비스 ‘스트림베리’는 꼭 빨간 로고와 ‘투둠’ 소리까지 넷플릭스 그 자체를 연상시키는데요. 자신들을 풍자하는 이야기에 투자한 게 재밌죠.
사실 그것이야말로 넷플릭스, 혹은 스튜디오 혹은 콘텐츠 투자제작사들의 마인드 그 자체란 생각이 들었어요. 넷플릭스는 사람들이 좋아하는, 즉 구독자수와 재생시간을 늘릴 수 있다면 그게 ‘팀킬’ 하는 작품이래도 상관없을 거예요. 그게 바로 넷플릭스 거든요.
파업을 왜 하는 건데?
팬으로서는 좀 아쉽게 됐어요… 흑. <듄 2>뿐 아니라, 넷플릭스는 올해 콘텐츠 비용이 줄어들 거라고 예상하기로 했고(예산을 줄이는 게 아니라 파업으로 인한 연기) 요. 스튜디오, 스트리밍 서비스 게다가 개봉 예정인 영화들의 홍보에도 보이콧을 선언하는 등 스튜디오 입장에서는 많은 손해를 감수해야 하는 상황이긴 해요. 이들이 배우 조합과 작가 조합이 동시에 파업을 벌이는 건 1960년 이후로 처음이며, 경제적 손실이 5조 원 정도 된다는 이야기도 있지요.
듣기로는 할리우드 파업으로 채워야 하는 ‘슬롯’을 미국 외의 나라의 작품으로 대체한다는 소문도 있어서 한국 제작사들에서는 넷플릭스에 작품을 제안하느라 분주하다고 하더군요.
그런데 한편으로는 세계에서 가장 큰 영화, 드라마 공장인 할리우드에서 AI 문제를 무척 진지하게 받아들이고 있다는 뜻이기도 하니까요. 이번 파업의 결과가 콘텐츠업 종사자들의 미래에 큰 영향을 미칠 가능성이 커 보입니다.
이들이 파업을 하는 이유는 뭘까요.
이미 파업에 대해서는 많은 기사에서 잘 다루고 있으니 간단하게 얘기하면, 처우 개선(임금, 작업 환경 개선)과 수익분배 그리고 AI 이용 반대입니다.
로이터통신은 이 상황을 “수십 년 동안 기계가 세상을 장악하는 공상과학 작품 대본을 집필해 온 할리우드 작가들이 이제 로봇이 자신들의 일자리를 못 빼앗도록 싸우고 있다”라고 평하기도 했죠.
배우 조합의 요청 사항도 유사합니다.
공정한 이윤 분배 및 작업 환경 개선을 요구하고 있습니다. 인공지능(AI)과 컴퓨터가 생성한 얼굴 및 목소리가 배우를 대체해서는 안 된다고 말하고 있지요.
현재 파업을 둘러싸고 다른 의견도 존재하는 것 같은데요.
버라이어티의 기사가 이를 잘 다루고 있습니다. 한번 들여다보겠습니다.
현재 AI의 기술로는 아직은 인간의 창작한 것만큼의 작품을 제작할 수 없으며, 실제 인간을 대체하지는 못한다는 공감대가 형성됨
<아바타>의 제임스 카메론은 인공지능을 이용해 시나리오를 쓸 계획이 없으며 “AI가 관객을 감동시킬 거라고 생각하지 않는다”라고 말했음
WGA(작가협회)는 작가가 AI도구를 사용하는 건 OK나, 이러한 도구를 사용하는 것이 크레딧이나 급여를 결정할 때 불리하게 작용하지 않는다는 보장 요구.
AMPTP(영화·TV 제작자연맹)는 '작가'는 반드시 사람이어야 한다는 점을 명시적으로 명시하겠다고 제안했지만, 이 부분에 대한 추가 논의가 필요한 상황. AMPTP가 SAG에게 제안한 것에 따르면 제작자는 디지털 복제본을 사용할 때마다 배경 배우의 전적인 동의를 얻어야 하며, 디지털 복제본 사용료에 대해 별도로 협상해야 한다는 내용. AMPTP 측 “필요한 것은 금지가 아닌 신중한 사용에 기반한 균형 잡힌 접근 방식"
<어벤저스> 시리즈를 포함한 마블 영화의 공동 감독인 조 루스는 제너레이티브 AI가 2년 안에 장편 영화를 제작할 수 있을 것이며, 이 기술을 통해 시청자가 AI가 만든 영화에 들어갈 수 있을 것이라고 예측함.
SAG 측은 인기 인기 있는 캐릭터에 대해 학습된 AI가 일종의 파생상품을 생성할 수 있다고 주장. 인간이 만든 엔터테인먼트 시장은 시들어가고, 훨씬 적은 비용으로 제작되는 합성물로 대체될 것. 훌륭한 작품은 만들지 못해도, 대량의 콘텐츠는 제작 가능할 것.
그러나 다른 이들은 미래에 맞서 싸우는 대신 AI 기술이 가장 유용한 분야를 파악하고 개별 제작자의 저작권 보호와 출연자의 이름, 이미지, 초상권을 보장하기 위해 노력하는 것이 더 생산적인 전략이라고 주장. “업계가 직면한 진정한 문제는 사람들이 AI에 대한 두려움을 극복하고 그 잠재력을 발휘할 수 있는 방법을 찾는 것.”
지적 재산권, 이름, 이미지, 초상권과 관련된 생성형 AI 문제를 다루는 연방법이 필요하다고 주장도 있음.
핵심은 “AI가 완벽하게 대체할 수는 없겠지만, 그럼에도 ‘적은 비용으로 대량의 콘텐츠’는 생산 가능할 것이므로 보호할 수 있는 방안이 필요하다는 것”인데요. 이를 ‘금지하고 맞서 싸우자’는 주장과 잠재력을 잘 활용하고 저작권을 보장하기 위해 노력하는 주장이 공존하고 있습니다.
AI를 둘러싼 저작권 이슈들
미국 배우, 작가 조합 파업 외에도 최근에는 AI를 만드는 기업들에 대한 요구나 소송 등이 이어지고 있어요.
ChatGPT(오픈 AI, 마이크로소프트), Bard(구글), LLaMA(메타) 등 생성형 AI 모델들은 학습을 통해서 더욱 똑똑해지기 마련인데요.
매개변수(파라미터)가 기하급수적으로 늘어나고, 빅테크들은 경쟁하듯이 우리 파라미터는 몇 십억이다, 몇조다라고 발표를 하고 있지요. 파라미터의 수가 많으면 많을수록 정확성이 향상되고 정교한 학습을 할 수 있다고 하는데요. 그렇게 가오나시처럼 데이터를 먹어치우면서, 점점 몸집을 키워나간 AI는 단순 계산이나 코딩이나 정보제공은 물론이거니와 인간 고유 영역으로 여겨지던 창작의 영역까지 ‘어느 정도는’ 대체할 수 있다는 가능성도 언급되고 있고요.
마음대로 쓰지 마
언론사들은 허가 없이 콘텐츠를 학습 데이터로 사용하는 행위를 저작권 침해라고 보고 대응방안을 강구하고 있습니다.
뉴욕타임스(NYT)는 오픈 AI에 대한 법적 조치를 고려하고 있습니다. 양사는 챗GPT가 학습한 기사에 대해 저작권 비용을 협상 중이었는데 불발되었다고 하네요. 뉴욕 타임스는 기사를 학습한 챗GPT가 추후 직접적인 경쟁자가 될 수 있다고 우려한다고 해요. 예를 들어 우리가 온라인에서 챗GPT로 뉴욕타임스의 기사를 요약해서 볼 수 있다면 굳이 사이트를 방문할 필요가 없어지니까요.
AP통신은 챗 GPT를 만든 오픈 AI와 AP의 자료를 훈련 목적으로 사용할 수 있도록 계약을 체결했고요. 그에 반해, 인공지능(AI)을 이용한 기사 콘텐츠 작성, 사진이나 비디오 등 영상 제작 등을 금지했죠.
최근 미국 작가 수천 명은 주요 AI 업체에 보내는 공개서한에서 AI 학습에 그들의 작품을 사용할 경우 작가들의 허가를 받고 사용료를 지불하라고 요구했어요. 특히 AI 모델을 학습할 때의 데이터로 책이 상당 부분 차지하는 것으로 보이지만, 실제 사용된 목록은 공개되지 않는다고 하는데요. 작가들은 저작권 있는 책들을 불법 소장한 '그림자 도서관'을 통해 AI를 학습시키고 있다고 주장합니다.
이외에도 게티 이미지는 1천200만 장 이상의 이미지를 승인 없이 AI 모델을 훈련시킨 혐의로 스테이블 디퓨전을 서비스하는 스테빌리티 AI를 고소하기도 했고요.
온라인 커뮤니티 레딧은 AI 기업들이 커뮤니티 내 일부 자료들을 사용할 때 비용을 지불하도록 했고, 소셜미디어 X(트위터)는 게시물 읽기 분량을 제한했습니다.
공정이용의 원리
위의 이슈들에서 핵심은 “미국 저작권법상 공정 이용의 원리(doctrine of fair use)”가 적용될 수 있느냐 없느냐라고 볼 수 있는데요. 공정 이용은 저작권자의 허락 없이 저작물을 이용할 수 있는 특수한 경우를 뜻하며, 학문이나 연구 등이 포함됩니다. 2015년에는구글이 수백만 권의 책을 디지털 스캔한 것은 저작권 침해가 아니고 법적으로 허용되는 '공정사용'에 해당한다고 판정한 사례가 있다고 해요.
“독자들이 텍스트를 볼 수 있는 부분이 제한적일 뿐 아니라 구글 북스가 기존 시장을 대체할 정도로 심각한 위협이 되지 않는다” 는 것, 즉 원본 저작물과 경쟁하지 않는다는 것이 판결의 근거로 작용했다 합니다.
이번에도 빅테크 기업들은 이 ‘공정 이용’을 바탕으로 권리를 주장할 가능성이 크다고 하는데요. 혹여 창작자들의 손을 들어줄 경우 데이터 접근에 대한 추가적인 비용이나 규제를 야기해 AI 산업의 방향성을 뒤흔들 수도 있으므로, 그 결과를 주목해 봐야겠습니다.
AI가 만든 창작물은 저작권이 없다?
앞으로 AI를 이용해 만든 창작물들이 많아진다면, 인간이 얼마나 개입했는지에 따라 저작권 여부가 결정될 수 있을지 궁금해지는데요.
벌써 AI로 만든 창작물을 통해 수익화하려는 시도도 나타나고 있어요.
그럼에도? 콘텐츠 공급자들의 속내
구글은 뉴스 기사를 작성할 수 있는 AI 도구를 실험하고 있는데요. 뉴욕 타임스(NYT)와 워싱턴포스트(WP), 월스트리트저널(WSJ)을 포함한 언론사 관계자들에게 기사를 생산하는 AI 기술을 시연했다고 해요. '제네시스'(Genesis)라는 임시 이름이 붙은 구글의 이 도구는 구체적인 시사 정보를 수집하고, 뉴스 콘텐츠를 생산할 수 있다고 합니다. 물론 이 도구를 사용하냐 마느냐는 논란이 있는 것 같습니다.
최근 제 유튜브 알고리즘에는 유명 아티스트의 목소리를 학습한 AI를 바탕으로 실제로 노래를 부른 것처럼 만들어진 영상들이 많이 뜨는데요. 브루노 마스 내한쯤에 화제가 되었던 ‘브루노 마스가 부르는 하입보이’ 영상이 화제가 된 후로부터 점점 늘어나는 것 같아요.
AI의 학습과 이를 활용한 저작물의 생산은 ‘공정 이용’이 인정될 경우에만 제한적으로 허용이 되므로, 현재 유튜브에서 유통되는 딥페이크 노래는 상업적 이용이 제한된다고 해요.
그럼에도, 이 먹거리를 놓친 구글이 아니죠.
구글은 생성형 AI ‘뮤직 LM’을 공개한 이후, AI를 활용해 만들어진 음악으로 수익 창출을 가능케 할 방안을 마련하기 위해 음악 유통사 유니버설 뮤직, 워너뮤직 논의를 시작했습니다. 양사의 목표는 AI를 활용해 만든 음원으로 수익을 얻을 경우, AI 학습에 사용된 원작자에게도 일정 비용을 지불하게 만드는 도구를 만드는 것이라고 하고요. 최근 메타도 간단하게 원하는 음악의 분위기를 입력하면 자동으로 짧은 음악을 생성해 주는 ‘뮤직젠’이라는 서비스를 출시했어요.
몇 년 전에 방송된 “세기의 대결 AI vs 인간”이라는 다큐멘터리는 김광석의 목소리를 AI로 재현해 큰 감동을 줬던 적이 있었는데요. 해당 목소리를 만들어낸 수퍼톤이라는 기업을 하이브가 450억에 지분을 인수했다는 소식이 있었죠. 음악을 넘어 종합 엔터기업을 꿈꾸는 하이브는 어떤 목적으로 가지고 수퍼톤을 인수한 것일까요?
소속 아티스트들은 시간이나 자원이 한정된 ‘살아 있는 사람’ 이니까요. 이들의 목소리를 활용해서 전방위적으로, 다양하게 부가 콘텐츠를 만들겠다는 의지가 보이네요.
할 수 있는 일을 하기
지난주 네이버는 비장의 무기 하이퍼클로버 X를 공개했습니다. 오픈 AI의 GPT-3.5와 비교해 한국어를 6500배 더 학습했다고 하는데요. AI는 이제 절대 외면할 수 없는 이슈가 되어가고 있어요.
AI는 인간을 대체할 수 있을까요? 나의, 우리의 직업은 과연 언제까지 유효할까요? 미래는요?
매번 하는 질문이지만, 답하기 참 어려운 것 같습니다.
위의 언급한 AI가 만들어낸 노래 영상들이 추천에 떴을 때, 저는 처음에는 신기해서 몇 번 클릭해 보다가, 뭔가 이질감이랄까 이상하게 불쾌한 골짜기에 닿은 느낌이라 그 뒤로는 재생하지 않게 되더라고요…
아직은 ‘진짜’를 대체할만한 기술은 만들어지지 않았다고 생각해요. 물론 언젠가는 완벽하게 알파고가 이세돌을 이겼을 때처럼, AI가 만든 작품과 인간이 만든 작품, AI가 딥페이크 기술로 만든 배우들에게 위화감을 느끼지 않을 날이 올 수도 있겠죠.
그럼에도, 그때가 되더라도 소수는 상관없을 겁니다. 제임스 카메론, 봉준호, 김은숙 정도의 크리에이터라면 “오히려 좋아”인 상황이 될지도요. (어디까지나 예시입니다. 그런 날이 오려면… 아직 멀었기 때문에 저분들이 살아계실지는…) AI가 대체할 수 없는 놀라운 창의성, 그 차이를 만들어낼 창작자는 분명 존재할 테니까요.
지난 뉴스레터에서 말했듯이 소수의 탑 크리에이터, 배우들은 오히려 미래에도 더 많은 인정을 받을 가능성이 크다고 봅니다. 다만 소수를 제외한 수많은 무명 배우, 작가들이 AI에 의해 대체될 가능성이 크겠죠.
지금 미국에서 일어나고 있는 배우, 작가들의 파업을 비단 예술, 창작의 영역에 한정 지을 필요는 없다고 생각해요. 결국 나(혹은 내가 만들어 낸 결과물)의 가치, 일에서의 인정 그리고 이를 확보하기 위한 ‘권리 투쟁’이라는 생각이 들거든요. 어디선가 파업을 ‘AI와의 밥그릇 싸움’이라는 표현을 쓰던데, 저는 그 이상의 의미가 있다는 생각이 들어요. 일이란 게 꼭 ‘밥그릇’ ‘대가’에만 해당되는 건 아니니까요.
올해 초 <AI 2041>이라는 책을 읽었는데요. SF 작가와 AI전문가가 쓴 이 책은 SF소설 10편과 각 소설별 기술분석이 더해진 흥미로운 작품입니다. 이 중에서 ‘구원자 이야기’라는 작품을 가장 인상적으로 봤는데요.
인공지능이 수많은 직업을 대체된 사회에서 (사실상 인간의 노동력이 필요 없음에도) 인간의 성취감을 고양시키기 위한 가짜직업이 등장하지요. 사실상 ‘일을 위한 일’ 이랄까요. 그럼에도 인간은 그 직업이 ‘인공지능이 만든 가짜’라는 사실을 깨닫지 못해요.
로봇이 인간을 대체하면서 생산성이 향상되고, 기본소득이 지급되며, 사회가 더 풍요로워지는 것과 별개로 '일'은 단순한 소득 수단 이상의 가치가 있으니까요. 쓸모가 있다는 것. 이게 아주 중요한 문제라고 생각합니다.
저는 대니 샤피로의 <계속 쓰기>란 책의 구절을 되새기면서 오늘을 살아가려고 합니다.
“작업은 죽음을 해독하지 않고, 죽음에 대한 거부도 아니다. 죽음은 작업하게 하는 강력한 자극제다. 할 수 있는 일을 해라. 오직 그뿐이다. 아침에 일어날 때마다 이 말을 떠올리면 좋겠다. 할 수 있는 일을 해라. 그러면 남은 하루는 횡재나 마찬가지다."
콘텐츠 카트 04
