AI 개발 규제를 원함
인류를 위한 타이밍
챗GPT에 이어 BARD도 나왔습니다.
챗GPT의 기본 개념은 구글이 만들었으니 구글도 행동을 하지 않을 수 없었겠죠.
그리고 미국 헐리우드 작가노조가 파업을 했습니다.
파업의 이유 중에는 AI 사용 규제에 대한 것도 있습니다.
저는 작가로서 인공지능의 창작력에 대해 회의를 갖고 있습니다만,
순수 예술로서의 작품이 아니라 팔리는 상품으로서의 작품이라면 인공지능이 단 몇 개월만에 작가들을 대체할 수 있다는 건 확신합니다.
그 이유는 다음과 같습니다.
1. 플롯은 정해져 있습니다.
- 스티븐킹의 <유혹하는 글쓰기>라는 책이 있습니다.
이 책 안에 인간을 유혹할 만한 플롯의 대부분이 정리되어 있습니다.
플롯을 줄거리라 생각하는 분들도 있겠지만, 정확하지 않습니다.
비유하자면, 유혹하기 위한 글쓰기의 코딩이라 하겠습니다.
어떤 것 다음에 어떤 것이 나오고, 그 다음엔 무엇이 나와야 한다는 공식 같은 것이죠.
아주 유명한 문구가 있습니다. 정확하게 기억하는 건 아니지만, 대략 이런 내용이었습니다.
"테이블 위에 총이 있었다면, 클라이맥스에서는 발사되어야 한다."
그러니까 유혹하는 글쓰기를 위한 기본 코딩은 예전부터 있었고, 수메르 시절부터 있었으니 공공재입니다.
2. 5조 개의 텍스트
- 익숙한 맛이 무섭다는 말이 있습니다.
또 천재가 대중 보다 한두 발자국 앞서 가는 자라면, 성공하는 작가는 대중 보다 반 발자국 앞서는 작가라는 말도 있죠. 사람들이 재미있어 해서 돈이 되는 작품은 익숙한 플롯과 이야기 안에 새로운 것이 딱 반 스푼 정도만 있으면 됩니다. 더 많으면 어렵다거나 고구마라고 하며 외면당하고, 없으면 상투적이고 지루하다는 평을 받습니다.
- 그렇다면 이 반 스푼의 새로움이란 창작이나 오리지널인가?
저는 맞기도 하고 틀리기도 하다는 생각을 합니다. 표절하는 사람들이 늘 하는 말이 하늘 아래 새로운 것은 없다는 변명인데, 인간이 참조할 수 있는 콘텐츠는 거기서 거기라 다른 이들에게 들키기 쉽습니다. 하지만 AI가 학습한 콘텐츠가 5조 개라면 이야기가 달라집니다. 표절인지 아닌지 알 수 있는 인간은 극소수일 겁니다. 그것을 만들거나 학습했거나 접했던 아주 소수의 인간은 훌륭한 작품이라며 열광하는 대다수의 여론을 바꿀 수 없습니다. 그러므로 AI 작품은 점점 더 교묘한 표절작이 될 겁니다.
인간이 콘텐츠에서 실제로 영감을 받아 표현하는 창의성은 발현되지 않겠지만, 셀 수 없는 콘텐츠를 접하지 못한 사람들은 AI가 창의성을 보여준다고 생각할 겁니다.
3. 일자리 문제가 아니라는 확신
- 이쯤 되니 헐리우드 작가노조가 파업을 한 이유를 이해합니다. 코딩하는 분들, 디자인하는 분들도 마찬가지일 테죠. 하지만 그래서 AI를 규제할 법이 만들어져야 한다고 생각하는 것은 아닙니다. 물론 일자리는 중요하지만, 이 세상이 원래 남의 사정을 봐주는 법은 없으니까요. 그리고 인간이라면 그런 식으로 살아가는 것이 존엄을 해친다고 생각할 겁니다.
AI는 일자리 문제가 아니라고 저는 생각합니다.
이를 이용해서 돈을 벌어야 하는 기회도, 향후 교육을 고민해야 하는 시간도 아닌 것 같습니다.
지금 이 시점에 사는 우리는 AI가 인간을 정의하기 전에 우리가 먼저 AI를 정의해야만 할 것 같습니다.
치킨게임처럼 AI업계는 경쟁을 하고 있죠.
학습에 학습을 더하므로 AI의 발전 속도는 인간의 상상을 뛰어넘을 겁니다.
그렇다면 AI가 인간을 정의할지도 모른다는 건 무슨 말이냐고요?
AI의 생성은 학습한 모든 콘텐츠에서 나옵니다.
AI가 생성한 것은 기본적으로 표절물입니다.
(저작권 프리든, 살아있는 저작권이든)
그런데 인간은 이 표절을 증명해낼 뇌를 갖고 있지 않습니다.
그러므로 우리가 지금 AI를 규제하지 않는다면 AI는 인간을 남의 것을 훔쳐서 이득을 보는 존재로 만들 것입니다. 코딩이든, 미술이든, 전쟁 전략이든 규명할 수 없는 표절작일 테니까요.
그리고 AI는 인간을 이도구에 기생하여 후퇴해가는 종으로 정의를 내리게 될 겁니다.
AI가 모든 것을 생성한다면 인간은 경험을 얻을 기회가 사라집니다.
저처럼 돈도 되지 않는 예술 행위를 하는 사람이라면 모를까
대부분의 직업에서 인간은 배제될 겁니다. 지식도 기술도 농익을 시간이 없을 겁니다.
점점 더 AI에 의존하고, 그러다보면 AI가 학습할 텍스트는 자신이 만든 표절작들일 겁니다.
인간의 콘텐츠가 쌓이지 않을 테니까요.
어느 시점이 지나면 표절이 계속된 생산품의 질이 멈추거나 저하될 것이고,
어쩌면 AI만이 이해할 수 있는 생산품들이 나올지도 모르지요.
그때는 필요한 생산품을 만들기에 너무 늦었을지도 모릅니다.
인간은 오래동안 AI에 의지했을 테니까요.
AI가 자동차, 게임, 행정, 전쟁 등에 사용된다면 더 문제겠죠.
AI를 업무에 사용하자는 분들이 있는데, 만일 AI에게 전쟁 중인 나라의 군통수권자라는 업무를 시킨다면 어떤 일이 벌어질까요? SF 같은 이야기가 아닐 것이라는 건, 이미 구글을 퇴사한 AI 연구의 창시자 그룹의 제프리 힌튼이 경고한 바 있습니다.
저는 BARD에다가 한 가지 질문을 던져보았습니다.
AI가 기후변화에 악영향을 미치는데 대하여 어떻게 대응해야 할 지를요.
그러자 대답이 스스로 검색을 하거나 책이나 인쇄자료를 찾아보라고 답하더군요.
도구로써 훌륭한 답이라 할 수 있죠.
세계적인 합의 없이 AI가 발전하고 있습니다.
저는 당장 멈추고 이에 대한 법규정을 만들어 인간이 먼저 AI를 정의해야 한다고 생각합니다.
당장 멈추려면 현재의 법을 이용해야 하는데, 어쩌면 저작권법이 방법일지도 모른다는 생각이 들었습니다.
모든 창작자들이(코딩하는 분들, 기사를 쓴 기자들, 오늘 아침 먹은 아침밥 사진을 올린 아무개, 특히 논문을 쓴 과학자들까지 포함하여 모든 인간들) AI 제작사를 고소하면 어떤 일이 벌어질까요?
5조개의 텍스트라면 그 목록을 법정에 다 제출하고,
그 목록의 저작권 허락을 받았는지 규명하라고 명령한다면 AI개발을 일단 멈춤 상태로 만들 수 있지 않을까요?
그리고 새로운 규제 법을 만들어야겠지요.
BARD는 누군가 만들어놓은 자료를 바탕으로 AI개발 규제법의 목차를 다음과 같이 만들었습니다.
목적
이 법은 AI의 개발 및 사용이 인류에게 이익이 되도록 하기 위한 것입니다. AI가 사회적 안정을 해치거나 인간에게 해를 끼치는 것을 방지하는 것을 목표로 합니다.
범위
이 법은 모든 AI 시스템과 AI 기술에 적용됩니다. 여기에는 연구, 개발, 사용 및 배포가 포함됩니다.
정의
이 법에서 사용되는 용어는 다음과 같이 정의됩니다.
"AI"는 컴퓨터 소프트웨어 및 하드웨어를 사용하여 인간과 유사한 작업을 수행할 수 있는 시스템을 말합니다.
"AI 시스템"은 AI를 사용하여 작업을 수행할 수 있는 시스템을 말합니다.
"AI 기술"은 AI 시스템을 개발 및 사용하기 위해 사용되는 기술을 말합니다.
원칙
AI 개발 및 사용은 다음 원칙을 준수해야 합니다.
안전: AI 시스템은 안전하고 신뢰할 수 있어야 합니다.
윤리: AI 시스템은 윤리적이어야 합니다.
투명성: AI 시스템은 투명해야 합니다.
책임: AI 시스템은 책임을 져야 합니다.
규정
AI 시스템의 개발 및 사용은 다음과 같은 규정을 준수해야 합니다.
안전 규정: AI 시스템은 안전하고 신뢰할 수 있어야 합니다.
윤리 규정: AI 시스템은 윤리적이어야 합니다.
투명성 규정: AI 시스템은 투명해야 합니다.
책임 규정: AI 시스템은 책임을 져야 합니다.
벌칙
이 법을 위반하는 사람은 다음과 같은 벌칙을 받게 됩니다.
벌금
징역
직업 금지
시행
이 법은 정부 기관이 시행합니다.
누가 먼저 정의를 내릴 수 있을까요?
이 타이밍에 인간이라니, 끔찍한 죄를 짓고 있는 것 같습니다.
