유네스코가 말하는 여성과 ICT (2)
인공지능에 성별이 필요한가요?
앞서 1편에서는 남녀 간 디지털 역량의 격차가 날로 커지고 있다는 현실을 짚어보았다. 가부장적 사회와 편견으로 인해 남성에 비해 디지털 역량이 뒤쳐지지 않지만 ‘난 할 수 없어’라며 ICT와 점점 멀어져가는 여성들의 이야기는 주변에서도 꽤나 들리는 이야기인지라 더욱 가슴 아프게 읽었다. 아마 1편만 읽어도 이 보고서의 결말을 대충 눈치챌 수도 있을 것 같다. 남녀 간 디지털 역량 격차가 커지고 있으니 ICT 산업 역시 남초 업계가 되고 여성들의 자리는 줄어든다는 그 슬픈 결말. 그런데 유네스코는 거기에서 멈추지 않고, 여성이 배제된 채 발전된 기술은 우리 사회에 여성혐오적 편견을 재생산하거나 새로운 편견을 확산시켜 IT 산업뿐만 아니라 우리 사회 전반에 악영향을 끼칠 수 있다고 주장한다. 그 단면을 가장 확실하고 충격적으로 보여주는 것이 각종 스마트폰 및 스마트 스피커에 탑재되어 나오는 디지털 비서(digital assistant) 기능이다. 음성 기반 서비스, 텍스트 기반의 챗봇 등 다양한 디지털 비서 중에서도 유네스코는 애플의 시리(Siri), 아마존의 알렉사(Alexa) 등과 같이 음성을 기반으로 작동되는 인공지능 서비스에 주목했다.
애플 홈페이지에서 광고 중인 AI 비서 '시리' (c) 애플코리아시리나 알렉사와 같은 AI 비서들은 기본적으로 여성의 목소리를 하고 있다. 이러한 ‘캐릭터’는 어떻게 결정될까? ‘비서’로서 고객에게 친근하고 만족스러운 서비스를 제공하는 캐릭터를 만들기 위해 각 개발사(애플 등)는 영화 작가, 비디오 게임 작가, TV 작가 등으로 이루어진 크레이티브팀을 꾸린다고 한다. 이렇게 다양한 작가들이 한데 모여 인공지능 비서에 상상을 초월할 정도의 디테일을 부여한다. 구글 어시스턴트를 기획한 제임스 지안골라(James Giangola)에 의하면 구글 어시스턴트의 캐릭터를 구상할 때 ‘콜로라도 출신의 젊은 여성이고, 도서관 사서와 물리학 교수 사이에서 태어난 막내딸이며, 노스웨스턴 대학에서 역사학을 전공했고 TV 퀴즈쇼에 나가 10만 달러의 상금을 탄 적이 있는’ 캐릭터 설정을 부여했다고 한다. 미국 사회 내에서 특정 지역, 학문, 가족 형태 등이 가지는 각종 편견에 대한 상상에 상상을 더해 자신들이 원하는 ‘비서’의 모습을 만들어냈다고 볼 수 있다. 즉, AI 비서가 여성인 것은 우연이 아니고, 각 기업에서 믿을 수 없이 치밀하고 계획적으로 내린 결정의 결과물인 것이다. 그 결과, IT 업계 내 4대 AI 비서인 시리, 알렉사, 구글 어시스턴트, 코르타나 뿐만 아니라 전세계 수십개 AI 비서 서비스들 중 2/3가 모두 여성의 목소리를 차용하는 시대가 도래해버렸다.
왜? 도대체 왜 글로벌 IT 기업들은 AI 비서가 여성이어야 한다고 생각했을까? 이 문제는 사실 많은 사람들이 굳이 생각해보지 않은 문제이기도 하다. 리서치 기업 LivePerson에서 진행한 설문조사에 따르면, 응답자의 85%가 AI 비서의 목소리가 여성인 점은 인지하고 있었지만, 그들 중 절반 이상(53%)이 왜 하필이면 여성의 목소리를 가지고 있는지는 굳이 생각해본 적이 없다고 응답했다. (사실 이 보고서를 읽고 이런 연재 글을 쓰게 된 것도 나 자신부터 그런 의문을 가져본 적이 없어 ‘헐 그렇네 왜지?’라는 충격에서 시작한 것이기도 하다.)
AI 비서 성별 인지도 조사 결과 (c) LivePerson 기업들은 ‘연구에 따르면 사람들이 여성 목소리를 남성 목소리보다 선호한다’는 것을 이유로 든다. 아마존 관계자는 ‘여성의 목소리가 나에게 더 공감해주고, 더 친절하게 느껴지기 때문’이라는 인터뷰를 한 적이 있고, 애플은 그 어떤 입장도 내놓은 바 없지만 아랍어, 영국 영어, 프랑스어 등으로 아이폰 설정을 바꾸면 시리는 남성의 목소리로 변한다. 이유가 무엇이든 적어도 특정 언어를 쓸 때 시리는 무조건 여성이어야 한다는 의도가 엿보이는 대목이다. 실제로 전문가 연구에 따르면 남성과 여성 모두 여성의 목소리를 더 ‘도움이 되고 협조적’이라고 느끼는 반면, 남성의 목소리는 ‘권위적’이라고 느낀다고 한다. 이는 여성을 양육자로 보는 등의 사회적 편견이 크게 작용했을 수 있지만, 결과적으로 IT 기업 관계자들 역시 자사의 AI 비서를 설명할 때 ‘도움이 되는,’ ‘겸손한’ 등의 형용사를 쓰는걸 보면 AI 비서가 여성으로 설정된 이유는 단순한 ‘선호’의 문제가 아니라, 사람들이 여성의 목소리를 ‘도움’과 연계해 생각하기 때문임을 알 수 있다.
이에 더해 유네스코는 이런 IT 기업 내 여성 직원의 비율이 현저히 낮은 것 역시 AI 비서가 여성으로 설정된 이유일 수도 있다고 분석한다. 기업 차원에서 보면 애플의 여성 기술직 비율은 23%, 구글은 20%, 마이크로소프트는 17.5%에 머무른다고 한다(2017년 기준). 그 중에서도 AI 관련 연구직 중 여성은 겨우 10-15%선에 그친다고 한다. OECD에 따르면 국가 차원에서 ICT 전문가 중 여성의 비율은 가장 낮은 13%(무려 대한민국이다!)부터 최고 32%(남아프리카공화국)까지로, 전체의 절반에도 크게 못 미치는 수준이다. 이렇다보니 AI 비서를 기획하고 개발하는 팀 역시 압도적으로 남성 위주로 돌아가고, 의식적으로든 무의식적으로든 그 팀원들이 가지고 있는 사회적 편견이 그들의 제품에 그대로 반영되었을 확률이 높다. 기술은 많은 변화를 야기하기도 하지만, 그 기술이 탄생한 사회적 맥락에서는 절대 자유로울 수 없고, 그 기술을 만든 사람의 ‘선택’과 ‘가치’의 산물이기 때문이다.
그러면 IT 기업들의 이러한 의도적인 선택은 그냥 ‘뭐 이런거까지 예민하게 따지고 들어?’ 하고 눈감아 줘도 될까? 유네스코는 절대 그렇지 않다고 완강히 말한다. 우선 최근 AI 비서를 사용하는 인구가 빠르게 증가하고 있어 우리 사회에 아무런 영향을 미치지 않을 수는 없다. 2008년부터 2018년까지 음성에 기반한 인터넷 검색 횟수는 35배 증가해 모바일 인터넷 검색의 1/5에 달하는 수준에 이르렀다고 한다. 한 연구에 의하면 조만간 배우자랑 대화하는 것보다 디지털 비서와 대화하는 시간이 길어지는 사람도 많아질 것이라고 한다! 요즘은 하다 못해 전구에도 디지털 비서 기능을 붙이는 시대이니, 어찌 보면 지금은 기술을 사용하는 패러다임이 텍스트 기반에서 음성 기반으로 옮겨가는 중인 것으로 이해할 수도 있을 것 같다.
음성 기반 검색량의 성장 (c) UNESCO이렇게 많은 사람들이 자주 사용하는 AI 비서가 여성의 목소리를 하고 있다는 것은 우리 사회에 어떤 의미를 가질까? 뭔가 이미 예견된 결론을 향해 달려가는 것 같긴 하지만, 유네스코는 AI 비서가 여성으로 설정된 것이 우리 사회에 미칠 수 있는 다섯 가지 악영향에 대해 이야기 한다. 하나 둘도 아닌 무려 다섯 가지라니, 이번 편에 모두 다 담을 수 없어 다음 편에서 세세히 다뤄보기로 한다. (혹시 보고서의 결말이 궁금한 분들을 위해 아래 보고서 원문의 링크를 걸어둔다 �)
