지브리 AI를 바라보는 기획자의 단상
조금 진지한 얘기
나는 지브리를 좋아한다.
지브리 만화 영화도 좋아하고 그 제작 이야기들도 좋아해서 이런 글도 남겨두었다.
https://brunch.co.kr/@b5c587877bef4c6/175
작품 하나를 만들기 위해 그 뒤에서 어떤 일이 벌어지는지 스토리에 울고 웃고, 창작자들의 고뇌와 번민, 수고로움 등을 간접적으로나마 느끼고 있다.
그런데 최근 유행하는 지브리풍으로 그림 그려주는 AI 열풍을 보고 아이러니하게도 저작권 문제보다 더 먼저 드는 생각이 있었다.
바로, 개인정보 문제였다.
사람들이 사진을 업로드하면서 “이 그림 지브리풍으로 바꿔줘”라고 요청을 하면 AI가 지브리 스타일로 그림을 변환해 준다.
그런데 이 업로드한 사진은? 업로드했으니 임무 완수! 하고 삭제를 할까?
그렇지 않다.
오픈 AI의 privacy policy를 보면 사용자가 업로드한 파일, 이미지, 오디오 등을 수집하고 이용하겠다는 내용이 있다.
특히 “신규 제품 기능 개발 등 서비스 개선/개발 및 연구 수행”을 할 때 이용하겠다는 내용이 있는데,
사실 이게 구체적으로 뭘 하겠다는 건지는 모르겠지만… 오히려 구체적으로 뭘 하겠다는 건지 모르기 때문에 무엇이든 할 수 있고, 그 과정에서 사용자들이 업로드한 이미지가 어떻게든 활용될 것이라는 점을 짐작해 볼 수 있다.
이용자들 대다수는 아마도 이런 사실을 잘 모르고 있을 가능성이 높다.
이런 사실이 알려졌을 때 대중들이 어떻게 받아들일까?
‘아니! 내 사진을 기술 개발에 쓴다고? 절대 안 돼!’ 하는 사람도 있을 것이고,
‘그래도 사진 올리면 귀엽게 바꿔주잖아. 재밌으니까 그 정도는 감당할래’ 하는 사람도 있을 것이다.
이런 대중들의 의견이 모이고 모여 AI 기술 개발과 개인정보에 대한 방향성이 결정되지 않을까 싶다.
법과 규제는 그 시대의 문화와 감수성을 반영한다.
과거에는 담배를 의사가 권하는 경우도 있었고, 여성의 참정권이 없었던 때가 있었고, 아동이 노동을 하는 게 당연하던 시절이 있었다. 그러나 사람들의 인식이 달라지면 법이 바뀐다.
AI를 대하는 법, 사람들의 인식, 사회적 분위기는 어떻게 변할까. 관심 있게 지켜보고 있다.
대중들이 열광하는 트렌드일수록 나는 어째서인지 더 가슴이 차가워지고 진중해진다.
기술에 서비스를 적용하고, 트렌드를 읽어내고, 어떤 것에 사람들이 열광하는지 메커니즘을 이해하는 것.. 기획자에게 너무 중요하지만,
기술의 윤리적 딜레마, 사회적 변화에도 관심을 가질 필요가 있다고 생각한다.
기술은 사회적 책임을 동반하기도 한다.
우리가 SNS를 만들 때에는 사람들과 멀리 있어도 소통하고, 연결하고 이어주는 것 만을 생각했다.
그런데 현실에서는 SNS를 이용해 불법적인 거래, 성매매, 인신매매, 가짜뉴스로 사회적 갈등을 만드는 데 사용하는 사람들이 있다.
AI도 마찬가지로 효율과 생산성 향상, 창의성을 돕기 위해 만들고 있다.
그러나 현실에서는 딥페이크로 성적인 영상, 명예훼손, 사생활 침해, 보이스피싱 같은 일에 사용되기도 하는 것이다.
나는 기술이 사람들의 삶을 더 나아지게 만든다고 생각한다.
기술은, 세상을 더 좋은 방향으로 만들도록 쓰여야만 한다.
그러나 기술은 중립적이지만, 이를 사용하는 사람들은 중립적이지 않다.
그렇기에 기획자가 어떤 인식을 갖고 있는지가 중요하다.
공급자로서 기술의 양면을 바라봐야 한다.
IT 업계 종사자로서 업계의 이런 비밀(?)을 밝혀도 될까 고민을 하다가,
AI 기획자라면 알아둬야 할 사실일 것 같아 짧게나마 정리를 해보았다.
사실은 나도 아직까지 고민이 많은 분야이기도 하다.
