AI 시대의 '진정성'(feat. AI 워터마킹)
AI는 결국 양질의 창작물이 없으면 발전하지 못한다.
2007년, 스티브 잡스가 첫 아이폰을 공개했다. 사람들은 열광하며 그를 높이 평가했다. 여기서 흥미로운 점이 있다. 그는 아이폰을 직접 만들지 않았음에도 불구하고 그에게 열광했다는 점이다. 왜 그럴까? 혹자가 말하는 ‘진정성’ 때문일까? 필자도 이 의견에 동의한다. 세상을 바꾸겠다는 철학에서 나온 제품. 이 ‘철학’에서 진정성을 느꼈을 것이다. 이에 더해 그에게 특히나 열광하는 이유는 ‘철학’을 기반으로 한 ‘지휘’ 능력 때문이라 생각한다.
인적 자원이든, 생성형 AI라는 자원이든 자원을 지휘하지 않고 무언가 하는 것은 거의 불가능하다. 이러한 점에서 시대에 관계없이 ‘지휘’ 능력이 가장 중요하다 생각하고, 다수가 뛰어난 ‘지휘’ 능력에서 진정성을 느끼는 것 같다.
이러한 맥락에서 오늘날 생성형 AI를 활용하는 창작자를 바라볼 필요가 있다.
AI 활용에 대한 생각
ChatGPT 앱 로고요즘 생성형 AI를 활용한 양산형 콘텐츠가 성행한다. 이점에서 생성형 AI 활용 콘텐츠는 진정성이 없다는 이유로 무조건 불신하는 경우가 존재하는 것으로 알고 있다.
생성형 AI 콘텐츠의 진정성 문제를 해결하기 위한 기술적 접근으로 AI의 도움을 어느 정도 받았는지 워터마킹 하는 방법이 존재한다. 그러나 결제를 하지 않으면 결과물에 워터마크를 부여하는 서비스의 사용자였다면 단박에 유추할 수 있는 문제점이 있다. 바로 워터마크는 쉽게 제거하거나 우회될 수 있다는 것이다.
이러한 한계점 속에서 더 근본적인 질문을 할 수 있었다. 과연 ‘생성형 AI’라는 도구의 사용이 창작물의 진정성을 훼손하는가? 역사적으로 볼 때, 모든 예술과 창작은 당대의 도구들을 활용해 왔다.
이러한 맥락에서 생성형 AI를 바람직한 철학으로 활용해 만든 콘텐츠를 평가절하하는 ‘진정성’에 대한 인식을 제고할 필요가 있다. 인간의 본질은 불확정성에 있다. 인간은 고정된 존재가 아니라 끊임없이 변화하고 성장하는 존재이다. AI는 이러한 인간의 잠재력을 확장하는 도구로 이해되어야 한다. 마치 카메라가 시각적 표현을 확장했듯이 말이다. 이런 관점에서 AI는 창작자의 상상력과 표현력을 증폭시키는 도구가 될 것이다.
이를 미뤄 보면 결국 진정성의 핵심은 자원의 사용 여부가 아닌, 그것을 통해 구현하고자 하는 창작자의 비전과 의도에 있다. 지휘자가 오케스트라로 자신의 음악적 해석을 표현하듯, 생성형 AI 지휘자도 AI를 통해 자신의 창의적 비전을 실현하고 있다. 이것이야말로 AI시대에 주목해야 할 모습이라 생각한다.
생성형 AI 계의 악덕업주
AI 시대에 주목해야 할 모습을 인지하고 있는 필자는 사실 생성형 AI 콘텐츠에 관한 부정적 선입견이 있다.
생성형 AI는 인공적으로 만들어낸 지능을 지닌 툴이다. 사람과의 차이는 분명 존재하지만 생성형 AI도 ‘자원’, 사람도 인적 '자원’이다. 두 자원을 활용하는 데에 무슨 차이가 있기에 전자를 지휘한 결과는 선입견으로 평가절하하고, 스티브 잡스의 아이폰처럼 후자를 지휘한 결과는 열광할까?
아마 생성형 AI를 바람직하게 사용하지 않는 경우 때문일 것이다. 우리가 흔히 말하는 ‘악덕업주’처럼 사회적으로 바람직하지 않은 철학을 지니고 사용하는 경우를 말한다. 일례로 아무 생각과 노력 없이 하나부터 열까지 인공지능에게 의존하여 과제를 하는 경우가 있다.
생성형 AI 계의 악덕업주를 막는 데에 있어서 워터마킹이 특효약이라 생각한다. 그리고 인공지능이 학습하는 데이터의 질적 측면을 관리하는 측면에서도 꼭 필요하다. 그러나 워터마킹으로 인해 바람직하게 사용되고 있는 창작 활동에 부정적 영향을 줄 수 있다는 점이 걸린다. 그럼 어떻게 해야 할까?
교육을 강화하면 악덕업주의 비율을 줄일 수 있지 않을까 싶다. 교육 현장에서 생성형 AI 사용을 제한하는 사례가 다수 존재하는 것으로 알고 있는데, 이 점을 고려하여 AI의 사용을 부정하거나 제한하려 하기보다는, 학생(거짓 정보 판별 능력이 있는 학생)이 AI라는 새롭고 불가피한 도구를 바람직하고 효과적으로 활용하는 방법을 오히려 훈련시키는 것이 미래지향적인 접근이 될 것이다.
이러한 AI 활용 교육을 문제 해결과 비판적 사고력 향상에 초점을 맞춘다면 과정과 결과의 ‘상향 평준화’를 가져올 수 있을 것이다. 마치 일부 국가의 고학년 수학 수업에 계산기를 도입하여 수학 교육이 단순 계산에서 문제 해결 전략으로 진화한 것처럼 말이다.
제언
출처: MacWorld 2007본 글에서 AI 시대의 진정성 문제를 스티브 잡스의 지휘 능력에 빗대어 살펴보았다. 마치 잡스가 수많은 엔지니어와 디자이너들의 재능을 조화롭게 이끌어 혁신을 이뤄냈듯이, 현재의 창작자들은 AI라는 새로운 도구를 지휘하며 자신만의 생각을 실현할 것이다.
워터마킹은 더욱 정제된 인공지능 학습 데이터 수집과 생성형 AI의 저작권 침해를 미연에 방지하기 위해 분명 실행해야 한다. 그러나 생성형 AI의 선입견이 아직 존재하는 이상, 워터마킹은 창작 활동의 저해로 이어질 것이다. 창작의 저해는 곧 새로운 학습 데이터가 있어야 성장하는 인공지능의 발전에도 부정적 영향을 미칠 수 있기에 악순환이 이어질 것이다. 그만큼 이 문제는 중요하다. 이런 의미에서 진정성의 본질은 도구의 종류가 아니라 그 도구를 통해 구현하고자 하는 인간의 의도와 비전에 있다는 점을 인지하고 하루빨리 선입견 없는 사회적 분위기를 만들어 가야 할 것이다.
