딥페이크, AI 학습 인권 그리고 저작권 소송
타임즈가 선정한 AI 100
1/ 지난 9월 5일, 미국의 시사 주간지 타임(TIME)이 '인공지능(AI) 분야에서 가장 영향력 있는 100인'을 발표했습니다. 이 목록에는 구글, 마이크로소프트와 같은 대형 기술 회사뿐만 아니라 OpenAI, Claude와 같이 우리에게 익숙해진 회사들의 인물들도 다수 포함되어 있습니다. 특히 제 관심을 끈 이들은 딥페이크의 악용을 반대하고 AI 데이터 학습의 인권을 보호하며, 저작권 소송을 이끄는 변호사들이었습니다.
2/ 프란체스카 마니는 뉴저지에 사는 15세 여고생으로, 딥페이크 피해를 직접 경험한 후 이를 근절하기 위한 활동가로 나섰습니다. 그녀는 학교와 온라인에서 급증하는 외설적인 딥페이크 이미지와 영상을 막기 위해 정책 마련과 법 개정을 강력히 요구하고 있습니다. 마니는 상원에서 관련 법안 지지 연설을 하며, 여성과 아동을 보호하기 위한 AI 관련 학교 정책의 중요성을 강조하고 있습니다. 또한, 전국적인 딥페이크 피해 방지 캠페인에 참여하며 활발한 활동을 이어가고 있습니다.
3/ 한편, 댄 닐리는 2018년 AI 딥페이크 기술이 연예인 이미지 생성으로 활용되는 것을 알아차리고, 2021년 Vermillio를 설립해 이를 보호하는 서비스를 시작했습니다. Vermillio는 연예인의 콘텐츠를 분석해 '초상 모델'을 만들고, 주요 플랫폼에서 유사한 콘텐츠를 탐지해 보호합니다. 고객은 팬아트는 허용하고 딥페이크 포르노는 금지하는 등 초상 사용을 관리할 수 있으며, 상업적 이용 시 라이선스 요금 부과도 가능합니다. Vermillio는 추후 이를 오픈소스로 공개해 누구나 자신의 초상을 보호할 수 있도록 하는 것이 목표라고 합니다.
4/ 딥페이크를 사업화한 사례도 있습니다. Synthesia는 AI 기술을 이용해 문서나 웹페이지를 실감 나는 AI 아바타가 설명하는 동영상으로 변환하는 서비스를 제공합니다. 고객은 자신이나 배우의 모습을 본뜬 아바타를 사용할 수 있으며, 표정과 몸짓, 억양까지 텍스트에 맞춰 조정할 수 있습니다. 또한, 사용자가 자신의 아바타를 간편하게 만들 수 있는 기능도 제공합니다. Synthesia는 정치적 딥페이크와 성적 괴롭힘 문제를 인식하고, 비동의 딥페이크 제작과 유포를 금지하는 법안 통과를 위해 영국 정부와 협력하고 있습니다.
5/ 눈길을 끄는 또 다른 이는 AI 데이터 학습 과정에서 인권을 강조하는 케냐의 모팟 오키니입니다. 그는 케냐에서 AI 콘텐츠 감시자로 일하며 ChatGPT의 성공에 기여했지만, 그 과정에서 심각한 정신적 고통을 겪고 가족과의 관계도 파탄에 이르렀습니다. 이후 근무 환경을 고발하고, 아프리카 AI 데이터 노동자의 권리를 보호하기 위한 첫 노조인 콘텐츠 감시자 연합(Content Moderations Union)을 설립해 400명 이상의 회원을 확보했습니다. 또한, Techworker Community Africa라는 NGO를 통해 AI 노동자들에게 권리 교육을 제공하고, 불안정한 계약을 피하도록 돕고 있습니다.
6/ 카우나 말그위는 나이지리아 북부에서 보코하람의 테러를 피해 도주한 후, 케냐에서 학업을 마치고 콘텐츠 감시자로 일하며 전쟁과 폭력 영상을 검토하는 힘든 일을 맡았습니다. 그녀는 저임금과 열악한 노동 환경을 고발한 뒤, 아프리카에서 AI 데이터 노동자의 권리를 보호하는 주요 인물로 떠올랐습니다. 현재 나이지리아 콘텐츠 감시자 연합을 이끌며 젊은 노동자들이 자신의 권리를 알고 부당한 대우에 맞설 수 있도록 돕고 있습니다. 말그위는 유럽 의회에서 증언하며 콘텐츠 감시자들의 정신적 고통을 알렸고, 이를 통해 EU에서 플랫폼 노동자의 권리를 보호하는 법안 통과에 기여했습니다. 그녀는 이러한 변화가 전 세계적으로 긍정적인 영향을 미칠 것이라고 기대하고 있습니다.
7/ AI 사용에 있어 저작권은 항상 뜨거운 감자입니다. 메레디스 스팀은 에미상 수상 경력이 있는 작가이자 프로듀서로, 최근에는 할리우드 작가들을 AI 저작권 침해로부터 보호하는 데 중점을 두고 활동하고 있습니다. 그녀는 작가조합(WGA) 회장으로서, 제작사가 AI를 원천 자료로 사용하거나 작가에게 AI 소프트웨어 사용을 강제하는 것을 금지하는 계약 조항을 성공적으로 도입했습니다. 스팀은 또한 AI가 작가의 작업을 무단으로 사용하는 것을 표절 및 지적 재산권 침해로 규정하며, 이에 대한 규제를 강화하는 법안을 지지하고 있습니다.
8/ AI의 창작품 절도를 막는 지능적인 방법도 존재합니다. 벤 자오 시카고 대학교 교수가 개발한 '나이트쉐이드'는 AI가 개를 고양이로 잘못 인식하도록 하는 도구로, 작품의 픽셀을 사람의 눈으로는 알아차릴 수 없게 변경합니다. 2024년 1월 출시 후 단 5일 만에 25만 번 이상 다운로드되며, 현재까지 거의 백만 번 다운로드될 정도로 인기를 얻고 있습니다. 자오 교수는 기술의 과도한 확장을 막기 위해 스마트 스피커의 도청을 방지하는 팔찌와 안면 인식을 속이는 도구를 개발한 바 있습니다. 그는 이미지 생성 AI로 인한 예술가들의 불만과 좌절을 지적하며, 나이트쉐이드의 인기가 예술가 동의 없이 작품을 사용하는 개발자들을 경계하게 할 것이라고 말합니다. 자오 교수는 또한 인간의 독창적 예술 없이는 AI 시스템이 정체되어 계속 같은 내용을 반복하게 될 것이라고 우려를 표합니다.
9/ 마지막으로 Open AI의 저작권 침해 소송에 앞장서고 있는 매트 토픽 변호사입니다. 그는 The Intercept, Raw Story, AlterNet 등 뉴스룸을 대표하여 OpenAI에 대한 소송을 제기했습니다. 이 소송은 디지털 시대의 저작권 보호 문제에 초점을 맞추고 있으며, 뉴욕 타임스의 저작권 소송과는 다른 접근 방식을 사용합니다. 뉴욕 타임스는 물리적 신문 사본을 저작권 사무소에 제출하고 월별로 일괄 등록하는 방식을 택했지만, 토픽 변호사는 디지털 밀레니엄 저작권법을 활용하여 온라인 콘텐츠의 저작권을 보호하려 합니다. 이 법은 저작물에서 저자의 이름이나 제목 같은 식별 정보가 제거된 경우를 규제하고 있습니다.
