딥페이크보다 무서운 '작가의 유혹'
ep8. 생성형 AI의 시대에 새로운 리스크
그렇다면 생성형 AI의 시대에 새로운 리스크는 무엇일까?
필사의 시대에서 인쇄기의 시대를 거쳐, 복사기의 시대가 왔다.
그리고 종이에 국한된 복사에서 디지털 카피가 이뤄진 후, IT기술의 발전은 복제용이성을 도모했다.
소리바다, 프루나와 같은 P2P 서비스부터 토렌트의 시대로.
지금은 불편한 다운로드도 필요없이 CDN을 사용한 불법 스트리밍 사이트만 접속해서 시청할 수 있는 시대가 되었다.
사용편의성의 증대는 아이러니하게도 늘 침해용이성과 정비례해왔다고 할 수 있다.
이제는 CD/DVD를 복제하는 CD R/W 가 필요하지도 않다.
누구나 핸드폰 하나만 있으면 텍스트의 복제는 물론 동영상녹화부터 전송까지 가능하니 말이다.
이 시점에 우리가 두려워해야 할 리스크는 무엇일까?
유발 하라리는 일본의 R&B가수 우타다 히카루와의 인터뷰에서 이렇게 말한다.
5-10년 이후 제가 계속 책을 쓰고 있을 지 모르겠습니다.
왜냐면 어쩌면 2030년이 되면 AI가 <사이피엔스>나 <넥서스> 같은 책을 저보다 훨씬 더 잘 쓰게 될 것이고, 그럼 인간이 책을 쓰는 일을 한다는 게 의미가 없을 수 있으니깐요.
유발 하라리 (日NewsPicks 인터뷰 중)
우리가 두려워 해야하는 것은 월등하게 뛰어난 AI의 창작력에 압도 당해, 인간이 창작을 포기하는 미래일까?
결과물만 본다면 그런 미래는 분명 올 수 있다.
하지만 그건 인간이 창작을 포기했을 때에야 마주하게 될 미래이다.
모든 인류가 생성형AI에게 의존적이 되었을 때 마주할 미래.
이미 딥페이크는 우리의 현실 속에 들어왔다.
미국의 대통령이 한 기업의 CEO의 발에 뽀뽀를 하는 영상을 만들고 해킹을 통해 이런 영상을 나오게 한다거나, 유명인사들이 하지 않은 말을 하고 있는 영상들도 허다하다.
물론 이런 딥페이크 이미지나 영상을 구분하는 방법에 대한 연구(링크)도 진행되고 있다.
https://arxiv.org/abs/2406.08651
위 연구 요약본Reality Defender 나 Sensity AI와 같이 딥페이크를 탐지하는 서비스/솔루션을 제공하는 업체도 있다.
생성형텍스트들 역시 언어학적 패턴을 분석해서 탐지하는 시스템이 있지만 외국인이 작성한 글을 인공지능이 작성한 글로 오인하는 등 그 시스템의 유효성은 아직 미지수이다.
딥페이크도 문제지만, 하지만 지금 이 자리에서 가장 말하고 싶은 건 다른 리스크 이다.
그건 진정성, 진실이 없는 ‘생성형 작가’의 도래이다.
예전에는 가수나 교수 등 특수직종에서만 ‘가짜 저작권자’ 행세를 할 수 있었다.
하지만 생성형AI의 시대에는 다르다. 누구나 생성형AI를 활용해 ‘가짜 작가’가 될 수 있고, ‘가짜 프로듀서’, ‘가짜 아티스트’가 될 수 있다.
창작의 문턱이 낮아졌다고 하는 건 어폐가 있는 것 같다.
개인의 ‘창작력’을 활용한 곳이라고는 약간의 ‘프롬프트 작성’ 외에 전혀 없더라도 ‘창작의 고통’을 겪은 진정한 창작가들의 결과물로 ‘오인’받을 수 있는 생성물의 주인행세를 할 수 있기 때문이다.
그렇게 글을 쓰지 않고 작가가 되고
작곡을 하지 않고 작곡가가 될 수 있는 세상.
글을 쓰고 싶은 마음보다 '작가가 되고 싶은 마음'이 앞선 사람들이 있다면?
그런 창작욕구보다 '창작자의 지위'를 갖고 싶은 사람에게는 '도덕의 문'을 마주할 것이다.
'약간의 거짓을 받아들이면 작가가 되는 꿈을 이룰 수 있어'
이런 정의부터 모순된 이야기로 스스로를 납득시키고
'생성형 작가'가 되려는 사람도 있을지 모르겠다.
그 후는?
우선은 가짜 저작권자가 넘치는 세상 속에서 어쩌면 생성물에 익숙해진 대중이 생길 지도 모르겠다.
그리고 천천히 진짜 저작권자들의 작품을 감상하는 눈을 잃게 되는 미래가 온다면?
어쩌면 그 때는
진정한 작가가 사라진 시대를 마주해야할 우려가 있을 지 모르겠다.
하지만 브런치에서 만날 수 있는 '글을 쓰지 않고는 살아갈 수 없는 사람들'이 '펜을 놓지 않는 한',
그런 미래는 오지 않을 거라 믿는다.
P.S= 건강상의 사유로 데드라인 사수보다 회복을 우선으로 지내고 있습니다.
연재일을 지키지 못한 점 양해부탁드립니다.
