AI가 책을 쓰는 시대
'생성형 인공지능에 의하여 생성되었다'의 정의와 범위는 무엇?
오늘 신문에서 충격적인 기사를 접했다. 어떤 한 출판사는 1년에 책을 9천 권 낸단다. 이게 어떻게 가능한가. 책을 AI가 쓰기 때문이다. 그리고 대부분 전자책으로 출판한다. AI는 짧은 시간에 방대한 데이터를 읽은 뒤 책을 한 권 집필할 수 있다. 출판을 종이책이 아니라 전자출판으로 한다면 출판 역시 시간이 별로 걸리지 않는다. 그러니 하루에 스무 권 이상 책을 만들어낼 수 있다. 그런데 이렇게 만들어진 책의 수준이 상당하단다. 꽤나 유용하다는 것이다. 헌법으로 출판의 자유가 보장된 나라에서 이런 식의 출판을 막을 방법이 없다. 어떻게 보면 권장함직하기까지 하다. 이러니 한마디로 혼란스럽다.
인공지능의 창궐로 여러 문제가 대두되니 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법이 지난 1월 21일 제정되었다. 시행은 2026년 1월 22일부터 된다. 두 달 남짓 후부터다. 이 법을 읽어 보았다. 해당 조항은 다음과 같았다.
제31조(인공지능 투명성 확보 의무) ① 인공지능사업자는 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 한다.
② 인공지능사업자는 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하여야 한다.
③ 인공지능사업자는 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우 해당 결과물이 인공지능시스템에 의하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하여야 한다. 이 경우 해당 결과물이 예술적ㆍ창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 아니하는 방식으로 고지 또는 표시할 수 있다.
④ 그 밖에 제1항에 따른 사전고지, 제2항에 따른 표시, 제3항에 따른 고지 또는 표시의 방법 및 그 예외 등에 관하여 필요한 사항은 대통령령으로 정한다.
제31조 제2항에 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하여야 한다고 규정하고 있다. 이것만으로 어떻게 표시해야 한다는 것인지 분명치 않아 해당 법률 조문을 보충하는 대통령령이 입법예고되어 있다. 입법예고된 시행령 조문을 찾아서 읽어 보았다. 다음과 같았다.
그런데 시행령 조문을 읽고 조금은 허탈하다. 인공지능에 의해 생성되었다는 사실을 고지 또는 표시할 때는 사람이 인식할 수 있는 방법 또는 기계가 판독할 수 있는 방법으로 해야 된다고 규정했다. 왜 허탈한가. 너무 당연하기 때문이다. 사람이 인식할 수 있는 방법 또는 기계가 판독할 수 있는 방법으로 고지 또는 표시해야지 다른 방법이 있는가. 있으나마나한 시행령 아닌가.
정작 필요한 것은 따로 있다. '생성형 인공지능에 의하여 생성되었다'의 정의와 범위가 무엇이냐는 것이다. 모든 저자는 생성형 인공지능의 도움을 받을 수 있다. 글을 쓰면서 인공지능에 이것저것 물어볼 수 있다. 그런 것까지 인공지능에 의하여 생성되었다고 볼 수는 물론 없을 것이다. 그러나 만일 책의 앞의 반은 사람이 쓰고 뒤의 반은 인공지능이 만들어냈을 경우는 어떡하나. 고지 또는 표시해야 하나. 어려운 문제가 아닐 수 없다. 그리고 만일 생성형 인공지능에 의해 저술된 것을 인간이 상당 부분 수정, 가필해서 책을 냈다면 그 책은 생성형 인공지능에 의해 생성된 것인가? 애매한 경우가 참 많을 것이다. 시행령은 이런 경우에 대해 규정해야 하는 것 아닐까. 비록 쉽지 않겠지만 말이다.
생성형 인공지능에 의하여 집필된 책들을 자세히 살펴보진 못했다. 그러나 그렇게 만들어졌다는 한 책의 서지사항을 보니 저작자 표시에 책임 프로듀서 김00라고 되어 있었다. 저자는 인공지능이 아니고 사람이었다. 실제로 책의 내용을 인공지능이 만들어냈음에도 불구하고 인간의 이름이 저작자로 올라 있었다. 그 사람이 책을 만드는 데 어떤 기여를 했는지는 알 수 없다. 저작자가 사람이 아니라 인공지능이 될 수도 있는 걸까. 저작은 인공지능이 했지만 저작자로 사람 이름을 올리는 것은 법적으로 문제가 없는 걸까. 의문이 꼬리를 문다.
