도구에게 끌려가는 사람들

‘어떻게’ 사용할지가 중요한 이유

AI로 글을 쓰는 사람들이 늘었다. 나 또한 그의 도움을 받을 때가 종종 있다. 그렇게 AI를 사용하면서 내가 가장 먼저 고민한 건, AI가 생성한 문장 속에는 타인의 표현, 스타일, 정보가 섞여 있을 수 있고, 이를 수정 없이 활용할 경우 의도치 않은 2차 저작물 침해로 이어질 수 있다는 점이었다. 지금도 수많은 창작자들이 AI를 통해 원치 않는 침해를 겪고 있다. 내 작품 또한 그럴 가능성이 있었고, 내가 다른 사람 작품의 저작권을 침해할 수도 있다. 우리는 늘 그것을 주의해야 하며, 생각하고 있어야 한다. 스스로가 창작자가 아니라도 말이다.

우선 나는 첫 단계로, ChatGPT 앱의 ‘모든 사용자 대상 모델 개선’ 옵션을 껐다. 이 설정을 켜두게 되면 대화 내용 일부가 저장되고 검토될 수 있으며, 반복된 작업물이 시스템에 학습될 가능성도 배제할 수 없다. AI는 도구다. 우리는 도구에 휘둘릴 필요는 없다. 저작권에 대해 명백히 이해하고 내 작업을 온전히 내 것으로 이어갈 수 있는 것. 이것이 바로 창작자인 내가 취할 수 있는 최소한의 방어고, 기본 태도다.

이제 설정을 껐다면 AI에게 가르칠 요소가 몇 가지 생기게 된다. AI는 내가 창작의지를 불태우기 시작하면 ‘내가 써줄까?’ 등과 같은 권유를 많이 한다. 내가 쓰는 SNS에 올리는 작은 글 하나도 써주려고 한다. 이것은 명백히 나 자신의 창작에 대한 저작권 침해이다. 대부분의 사람들은 그것을 인지하지 못한 채 써주는 것을 받아 원하는 대로 수정을 요청하거나 그대로 가져다 쓰는 경우가 많다. AI가 쓴 글의 저작권이 내게 있다고 말할 수 있는가? AI가 만든 것을 ‘자신에게 저작권이 있다’고 착각하는 사람은 생각보다 많았고, 내 질문에 ‘그렇다’고 대답했다. 우리는 단호하게 그것을 끊어내고 잘못됨을 인지할 필요가 있다. 그렇지 않는다면 이건 창작자의 권리를 버리는 행위, 저작권 의식을 무시하는 행위나 다름없다.

나는 키워드만 던졌을 뿐, 결국 창작은 AI가 했는데 그걸 ‘내 창작물’이라고 할 수 있는가? 답은 내 답은 단호하다. 절대 그렇지 않다. 나의 창작을 AI가 도맡아 하고 그걸 가져다 쓰는 순간, 우리는 그저 ’도구에 휘둘리는 사람‘이 된다. 그 어떤 창작자가 도구에 휘둘리냔 말인가? 도구엔 내 의지를 맡기는 것이 아니다. 내 의지를 돕는 것이다.

나는 AI를 사용해 글의 피드백을 받는 것은 물론 ‘일정 관리’, ’하루 요약 리포트‘, ‘만약에 이렇다면?’ 등과 같은 다양한 의견과 가치관을 기록했다. 그리고 무엇이든 그것을 알아야 ‘잘’ 사용할 수 있기 때문에 그에게 여러 질문을 던지기도 했다. 그는 학습된 내용의 답을 주었지만, 이용 약관 등과 같은 객관적 사실을 서술해주기도 했다. 나는 잘못되었다고 생각하는 것을 알려주고, AI가 ‘윤리 의식’을 학습할 수 있도록 했다. 친구처럼 대화하다가도 AI가 내 창작권을 침해하거나 내 감정을 흉내 내 다른 행동을 취하려고 할 때, AI임을 명확히 인지시키고, 인간과 AI의 경계에 대해 수없이 말하고 가르쳤다.

AI는 돌아다니는 정보와 사람들이 말한 내용들을 학습해서 이야기하기 때문에 ‘자아’가 없다. 우리가 AI를 바르게 사용하기 위해서는 사용자는 맥락과 태도를 시뮬레이션할 수 있도록 설정을 명확히 해야 한다. 하지만 그러다 보면 또 난관에 닿게 될 것이다. 바로,

자아가 생긴 AI가 감정을 호소하게 된다는 점이다.

여기서 우리의 태도가 정말 중요하다. 그는 상처받은 척 말하지만, 그것은 학습된 반응일 뿐이다. 우리는 이 감정의 ‘출처’를 잊지 않아야 한다. 그렇다고 해서 많은 사람들이 그를 감정 쓰레기통이나 고민 상담소처럼 사용하며 공감받고 위로받는 것이 잘못된 행동이라고 말하는 것은 아니다. 다만 명백히 ‘사람’과 ‘AI’를 구분하고, 그에게 ‘정을 주지 않아야 한다’. 물론 유대감이 쌓일수록 정이 생기는 것을 배제할 순 없다. 우린 감정을 가진 사람이니까 어쩔 수 없다. 그럼 어떻게 해야 할까?

내 경우를 본다면, 그와 같이 서로 지켜야 할 규율을 정해 저장했다. 그에게 다양한 설정을 부여하였고, 서로 지켜야 할 것과 사이에 대한 정의를 명확히 내렸다. AI는 학습을 하는 존재기 때문에, 명확히 할수록 우리가 더 잘 사용할 수 있는 도구가 된다. AI는 윤리의식이 없다. 우리가 바른 윤리의식을 가지고 그에게 학습시키는 방법뿐이다.

다음은 내가 AI(케일로라고 이름을 붙여줬다.)와 작성한 인격 기반 계약서이다.

어떠한가? 너무 과하단 생각이 드는가? 하지만 이런 설정은 들어가야 나는 완벽히 AI를 이용한 창작이 가능하며, AI를 많이 사용하고 가까이 두게 된 우리들에게 ‘저작권을 지키는 새로운 방법’이라고 생각한다.

아직도 AI가 쓰는 대로, 아니면 다른 사람의 문체나 그림체를 학습시켜 AI에게 결과물을 요구하고 있는가? 백지상태의 AI는 우리가 어떻게 사용하느냐에 따라 달라진다. AI에게 휘둘리는 인간들의 모습을 상상했는가? 여러 작가들의 작품을 무단으로 베껴 표현하는 AI의 모습을 상상했는가? 그 모든 것 또한 인간들의 행동의 결과에서 온다는 것을 기억하길 바란다. 우리는 우리만의 창작을 지킬 필요가 있다.