디자이너를 위한 생성 AI 활용의 윤리
생성 AI 시대에 디자이너는 어떤 윤리 의식을 갖춰야 하는가
생성 AI의 기술의 발달은 디자이너들이 다양한 콘텐츠와 결과물을 생산해 내는데 혁신적인 도움을 주고 있다. 하지만 이런 편리함 뒤에는 혁신적인 기술 활용과 관련된 윤리적인 문제가 따르고 있다. 디자이너들이 윤리적인 이슈를 잘 이해하고 지켜 나갈 때 보도 건강한 생성 AI 활용과 생태계를 만들어 갈 수 있을 것이다. 이번 장에서는 디자이너들이 생성 AI를 활용할 때 고려해야 하는 윤리적인 부분들에 대해서 알아보도록 하겠다.
생성 AI 데이터 학습과 관련된 윤리 문제
생성 AI를 활용함에 있어서 우선적으로 고려해야 하는 것은 데이터를 학습시킬 때 저작권이 확보된 데이터를 활용해야 한다는 점이다. 스테이블 디퓨전과 같은 오픈소스 생성 AI를 활용하면 디자이너들도 개인적으로 데이터를 학습시켜서 자기만의 AI 엔진을 만들 수 있기 때문에 이 문제는 단지 생성 AI 개발사에만 국한된 윤리 문제가 아니다. 몇 가지 관련된 사건들을 예로 들어보도록 하겠다.
세계 최대 규모의 사진 아카이브 회사인 게티이미지는 이미지 생성 AI 스테이블 디퓨전을 개발한 스태빌리티AI가 자사의 이미지 1천200만 장 이상을 라이선스 구매 없이 사용했다며 소송을 제기했다. 게티이미지 CEO 크레이그 피터스는 스태빌리티 AI의 이미지 사용이 '공정 사용'에 해당되지 않는다고 주장했다. 그는 이 저작권 문제를 과거 디지털 음악 서비스 냅스터의 불법 음원 제공과 비교하며, 생성 AI의 지적 재산권 문제에 대한 법적인 가이드가 필요하다고 언급하였다. 실제 스테이블 디퓨전에서 생성한 이미지들 중에는 게티이미지의 워터마크가 함께 표시된 결과물들이 있었다.
게티이미지 워터 마크가 들어간 스테이블 디퓨전 생성 이미지
게티이미지 워터 마크가 들어간 스테이블 디퓨전 생성 이미지3명의 예술가가 스태빌리티 AI, 미드저니, 그리고 AI 예술 생성기 '드림업'을 제작한 디비언트아트를 상대로 소송을 제기한 사례도 있다. 예술가 사라 앤더슨, 켈리 맥커넌, 칼라 오티즈는 이들 기업이 원작 예술가의 허락 없이 웹에서 50억 개의 이미지를 수집해 AI 훈련에 사용함으로써 많은 예술가들의 권리를 침해했다고 주장했다.
사라 앤더슨, 켈리 맥커넌, 칼라 오티즈미드저니의 창업자 데이비드 홀츠는 AI 아트와 관련한 이미지 출처의 혼란에 대해 다음과 같이 언급했다. "1억 장의 이미지를 모아도 그것의 출처를 파악하는 것은 실제로 어려운 일입니다. 이미지에 저작권 정보나 메타데이터가 포함되어 있으면 좋겠지만, 인터넷에서 수많은 이미지의 소유자를 자동으로 찾아 인증하는 방법은 없습니다" 즉, 그는 이 많은 이미지를 출처를 확인하지 않고 사용했다는 것이다.
실제 모든 이미지 생성 AI 모델은 대부분 웹에서 수집된 수십억 개의 이미지를 기반으로 훈련되며, 이를 통해 특정 아티스트의 스타일을 모방하는 작품이 생성될 수 있다. AI 예술 도구의 제작자들은 이러한 훈련 방식이 저작권법의 '공정 사용' 원칙에 따라 보호된다고 주장하고 있지만 이와 다른 예술가들의 입장 사이에서 아직 법적인 분쟁이 진행 중에 있다.
딥페이크 뉴스 생성을 통한 사회적 문제 야기
생성 AI 기술을 활용하면 다양한 가짜 콘텐츠 제작을 쉽게 할 수 있다. 디자이너들을 특히 이런 부분에 전문성이 있기 때문에 누구보다 정교하고 일반인들이 구분하기 어려운 이미지나 영상도 제작이 가능하다.
딥페이크는 이미지나 영상을 합성해 진짜 같은 가짜 콘텐츠를 만들어내는 기술로, 2024년 미 대선에서 큰 쟁점으로 부상하고 있다. 미 연방선거관리위원회(FEC)는 AI를 활용한 딥페이크 뉴스 규제를 검토 중이며, 선거 광고에서 딥페이크 영상의 사용 금지를 청원한 시민 단체의 요구를 검토하기로 결정했다. 이는 선거와 관련한 미 연방 정부의 처음으로 AI 규제 절차 착수다. 실제로 트럼프 전 대통령이 체포되고 형을 선고받는 과정, 그리고 교도소에서 탈옥하여 맥도널드에서 햄버거를 사 먹는 장면 등이 생생하게 표현되어 있어 큰 반응을 얻었다.
트럼프 대통령에 대한 딥페이크 이미지들최근의 딥페이크 콘텐츠는 실제 사건에 가짜 맥락을 더해 상대를 공격하는 방식으로 허위 판별이 어려워지고 있다. 미국은 현재 딥페이크에 대한 연방 차원의 규제가 없으며, 규제가 도입되더라도 의회 입법이 이루어지지 않으면 효과가 미미할 것이라는 지적이 있다. 또한, 표현의 자유를 중시하는 미국 사회에서 정부의 이미지 통제에 대한 반발도 예상된다.
이 외에도 미국의 언론사 CNN은 트위터에 퍼진 펜타곤 근처에서의 대규모 폭발 사진에 대해 보도한 적이 있다. 이 사진은 검은 연기가 치솟는 펜타곤 건물을 보여줬으나, 사실 생성 AI로 합성한 가짜 이미지였다. 이 가짜 이미지를 실제로 인식한 블룸버그는 공식 뉴스를 내보냈고 잘못된 보도는 SNS를 통해서 빠르게 퍼져나갔다.
펜타곤 화재로 보이는 페이크 이미지결과적으로 미 국방부와 버지니아주 알링턴의 소방서는 사진이 조작된 것이라고 밝혔다. 하지만해당 사건으로 주식시장도 급락 후 다시 회복하는 모습을 보였다. 캘리포니아 버클리 대학의 교수는 이 이미지가 인공지능에 의한 합성된 특징을 가지고 있으며, 기존 사진에 연기를 추가한 것으로 분석했다. 이 사건으로 미국에서는 디지털 시대의 페이크 뉴스의 전파와 그로 인한 영향에 대한 문제를 다시금 논의하게 만들고 있다.
이러한 문제의 대처 방안 중 하나로 구글 딥마인드는 AI로 만들어진 이미지를 식별할 수 있는 워터마크 도구 '신스ID'를 발표했다. 이 도구는 AI를 통해 생성된 콘텐츠와 실제 콘텐츠를 구분해 저작권 보호 및 딥페이크 이미지를 분별하려는 목적으로 개발되었다. 현재는 구글의 이미지 생성 AI '이매젠'에서 이용 가능하도록 하였다. 이매젠 사용자들은 AI로 이미지를 생성할 때 워터마크를 포함시킬지 결정할 수 있다. 하지만 현재 모든 이미지 생성 AI에 이 기능이 공통적으로 적용되지 못했고, 생성된 이미지를 변환해서 식별할 수 없도록 할 수 있기 때문에 실용성에 대해서는 아직 논의 중이다.
생성 AI 기술을 악용한 범죄
생성 AI 기술은 다양한 범죄에 활용이 되고 있어 역시 사회적으로 큰 문제를 가져오고 있다. 대표적인 예는 보이스피싱에 AI로 합성한 목소리를 사용하는 경우이다. 실제 2021년 아랍에미리트(UAE)에서 한 은행은 대기업 임원으로부터 전화를 받아 약 420억 원에 해당하는 3,500만 달러를 송금했다. 그러나 이 전화는 실제 임원이 아닌 '딥보이스' AI 기술로 목소리를 모방한 사기꾼들의 작품이었다. 은행 직원은 잘 알던 임원의 목소리로 생각해 의심 없이 큰 금액을 이체했다.
딥보이스 관련 이미지글로벌 리서치 기관인 가트너는 올해 금융 사기범죄의 20%가 이러한 딥페이크 기술에 의해 발생할 것으로 예상했다. 딥보이스를 활용한 AI 범죄가 글로벌하게 늘고 있으며, 수십억 원의 피해가 발생하는 사례가 늘어나고 있다. 이에 대응하여, 검찰청은 2027년까지 AI를 활용한 가짜 음성 탐지 기술을 개발하기로 계획했다. 범죄가 첨단기술을 활용하는 시대에서 AI로 그에 맞서겠다는 것이다.
2019년 네덜란드의 사이버 보안 연구기관 '딥트레이스'의 보고서에 따르면, 'AI를 활용한 가짜 동영상'에서 전 세계 피해자의 25%는 한국의 여성 연예인이었다. 보도 기관 엘파이스는 “미국, 영국, 한국 등이 이 문제와 직면하고 있다”라고 언급했다. 전 세계에서 AI 기술을 활용한 범죄가 증가함에 따라, 오픈AI의 DALL-E와 같은 AI 프로그램들은 부적절한 이미지 생성 기능을 제한하겠다고 발표했다. 그러나 인터넷에는 AI로 제작된 다양한 이미지가 유포되고 있다. 최근에는 SNS에서 AI로 제작된 유명 여성 연예인 엠마 왓슨의 부적절한 광고가 이슈가 되기도 했다.
엠마 왓슨을 대상으로 만든 딥페이크 영상 중 일부생성 AI와 윤리의 미래
생성 AI 기술의 발전은 우리에게 더 많은 창의성과 생산성, 효율성을 주고 있지만, 동시에 중대한 윤리적 고려사항도 수반하고 있다. 생성 AI와 관련된 윤리적 문제는 이제 시작이고 단순히 기술적인 문제로 해결될 수 없을 것이다. 디자이너는 기본적인 AI 활용 윤리에 대해서 인식하는 것이 필요하고, 정부 기관과 학계에서는 관련된 가이드라인 연구와 교육 활동을 이어가야 할 것이다.
결론적으로, 생성 AI의 미래는 무한한 가능성을 지니고 있지만, 그만큼의 윤리적 책임도 수반한다. 기술의 발전 속도에 맞춰 윤리적, 사회적 고려사항을 지속적으로 검토하고 반영해 나가야 하겠다.
#윤리 #AI #인공지능 #생성AI #생성형AI #딥페이크 #범죄
https://blog.naver.com/yu2hs/221795773699
https://www.youtube.com/@aidesigntv
https://open.kakao.com/o/gu8o45gf
