AI 분야의 젠더 격차
더 많은 여성의 목소리가 필요하다
오픈AI가 새로운 비디오 생성 AI 모델 Sora를 발표했습니다. 프롬프트만으로 자연스럽고 선명한 고화질 영상이 만들어져 화제가 되었죠. 데모 영상 속 길을 걷는 여성의 걸음걸이와 클로즈 업 된 피부, 선글라스 반사까지 놀랍도록 자연스럽습니다. 가트너는 2030년에는 블록버스터 영화 제작의 90%에 생성 AI가 활용될 것으로 예측했는데요. 아마 그 시기가 더 빨라질 수 있겠습니다.
비디오 생성 AI 모델 Sora 데모 영상 갈무리 출처: 오픈AI생성 AI와 성착취물
저는 생성 AI 영상 속 여성의 자연스러운 걸음걸이에 감탄하면서도, 동시에 이 기술이 앞으로 얼마나 많은 여성 착취물 생성에 기여할지 걱정되기 시작했습니다. 최근 이미지 생성 AI의 활용이 확대되면서 실존 인물, 특히 여성을 대상으로 한 가짜 성착취물 문제도 많아졌기 때문입니다. 지난달에는 테일러 스위프트를 묘사해 AI로 생성한 성착취 이미지가 온라인에 널리 퍼졌습니다. 이 게시물은 삭제되는 데 걸린 17시간 동안 4,500만 회 이상 조회되며 당사자가 원하지 않는 주목을 받았습니다.
대부분의 이미지 생성 AI 서비스는 유명인 혹은 실존 인물의 이미지 생성을 제한합니다. 그러나 이러한 제한조차 허술한 서비스들이 많습니다. 오히려 특정 인물의 가짜 포르노 이미지를 생성하는 AI 모델 개발을 유도하고 수익을 공유하는 플랫폼이 인기입니다. 이 플랫폼은 유명 벤처캐피탈로부터 큰 투자를 받을 정도로 이목을 끌었습니다.
AI 분야의 젠더 격차와 성편향
이렇게 AI 기술이 여성 착취에 이용되기 쉬운 이유 중 하나로 AI 분야의 낮은 여성 비율이 꼽힙니다. 빠르게 발전하는 AI 기술과 다르게 AI 분야의 젠더 격차의 진전은 아주 더딥니다. 전체 AI 분야 인력이 2016년부터 2022년까지 6배 증가한 반면, 여성 비율은 약 4% 증가했습니다. 많은 국가에서 여성은 여전히 교육, 기술, 인프라에 대한 접근성이 낮습니다.
이렇게 AI 분야에 여성의 관점과 경험이 충분히 반영되지 못하는 상황은 기술 자체에 성편향이 내재될 가능성을 높입니다. 유네스코 보고서는 AI 분야 종사자 대다수가 성착취나 성폭력 문제로부터 동떨어져 있는 특권에 기반한 무지(Privileged Ignorance) 때문에 이 문제를 저평가하기 쉬우며 해결책도 단편적으로 될 수 있다고 이야기합니다.
현실보다 심각한 AI의 성편향
AI 분야의 젠더 격차는 AI 기술에 유해한 성편향을 촉발하고, 이는 사회적 성차별을 영속시킬 뿐 아니라 악화시키는 근본적인 원인이 될 수 있습니다. 심지어 이미 AI에 내재된 성편향은 현실보다 더 심각합니다. 블룸버그 분석에 따르면 ‘판사’를 키워드로 스테이블 디퓨전이 생성한 이미지의 3%만이 여성입니다. 그러나 미국여성판사협회와 연방사법센터에 따르면 미국 판사의 34%가 여성이라고 합니다. 이렇게 AI는 인간이 지켜내지 못한 사회의 격차를 그대로 답습할 뿐만 아니라, 수 세기 동안 이뤄온 인류의 노력조차 따라가지 못하고 있다는 것이 문제입니다.
'판사’를 키워드로 생성한 AI 이미지의 피부색/성별 분포 출처: Bloomberg 갈무리사람들은 어떤 집단에서 자신과 비슷한 모습을 발견하지 못한다면 그 집단에 속하지 않는다는 것을 배운다. 그리고 이미지는 이러한 생각을 강화시킨다.
- Black Girls Code, 헤더 하일스 -
더 많은 여성의 목소리를
유네스코 AI 윤리권고 내 ‘젠더’ 정책은 AI 시스템 수명주기 전반에 여성의 인권과 기본적 자유를 보장하고, 성평등 달성에 기여해야 한다는 중요한 내용을 담고 있습니다. 그러나 이 젠더 정책이 유네스코 위원회의 선량한 남성 위원들(Well Behaved Men)에게는 환영받지 못했다고 합니다. 특권에 기반한 무지가 이 정책의 필요성에 대한 의문 제기로 이어졌던 것이죠. 논쟁 끝에 여성 위원장의 지지로 AI 윤리권고에는 젠더 정책이 포함될 수 있었다고 합니다. 이 정책이 AI 분야의 젠더 격차를 줄이는 데 도움을 줄 수 있을까요? AI 분야에 더 많은 여성의 목소리가 적극적으로 들리기를 바라면서 글을 마칩니다.
본 글은 2024년 2월 21일자 AI 윤리레터 에 작성한 글입니다.
AI 윤리레터는 AI 윤리를 고민하는 직장인, 프리랜서, 대학원생이 꾸려가는 소식지입니다.
매주 쟁점이 되는 AI 윤리 소식을 각자의 관점을 담아 전달합니다.
