빅스비(Bixby)의 섹슈얼리티(1)
AI assistant의 Gender와 UX writing
시작은 이 한 장의 캡처였습니다.
아니 이게 뭐여...나의 UX writing team 동료였던 Richard가 페북에 올린 이 한 장의 사진.
그는 이 사진 아래 이런 코멘트를 남겼죠.
Samsung S8. Sexist descriptions. #youneedagooduxwriter
저 회사 레이블에 대해서는 언급을 자제하고 있는데(... 왜냐면... 아.. 아닙니다.) AI assistant(이하 AI)와 섹슈얼리티는 한 번은 이야기해 볼 만한 주제라서 이 캡처를 글의 단초로 삼기로 합니다.
우리가 머물고 있는 이 세계 속 성차별과 여성 혐오의 역사를 설명하는 것에서 이야기를 시작하진 않을 겁니다. 설명할 필요도 없고, 설명할 수도 없어요. 그것은 오늘, 여기에 있으니까요.
AI의 목소리와 젠더
AI의 섹슈얼리티에 대한 논의는 이전부터 있어 왔는데 사실 이 글에 거창한 이론적 배경까지 끌어올 필요는 없을 것 같습니다. (능력도 안되고요.)
그냥 아래 빅뱅 이론의 짧은 클립(1분부터 보세요) 하나면 모든 게 설명됩니다.
저. 사실... 나 이 에피소드 엄청 좋아해요. 갑자기 이렇게 고백하게 되어서 좀 그렇지만.
AI의 젠더는 언제부터 여성이 디폴트였을까요.
비교적 이른 시기부터 여성 젠더가 이 분야의 주된 퍼소나로 자리 잡고 있었다고 하는데 (옛날 옛날 한 옛날에 MIT Artificial Intelligence 랩에 ELIZA가 살았어요.) 특히 여성 음성의 편중 현상에 대해서는 다음과 같은 설이 제기된 바 있습니다.
태아 시절부터 엄마 목소리에 익숙해져서 여성의 목소리에 더 반응을 잘하고 안심한다는 설(너네는 무슨 말만 하면 태아부터 시작이냐...)
2차 세계 대전 중 비행기 내비게이션 목소리를 여성이 맡아서라는 설(남성 조종사들끼리 하는 대화와 구별하기 위해서였다고)
본능적으로 여성의 목소리가 더 따뜻하게 느껴진다는 설 (이봐... 그런 말은 나도 할 수 있어.)
재미있는 사실 하나는 1990년대 BMW 5 시리즈의 내비게이션 목소리가 여성이었는데 독일 남성들이 여자의 명령을 들을 수 없다며 들고 일어나서(;;) BMW가 리콜 압력을 받은 일이 있었다는 것입니다. (그리고 20년이 지나서 그들은 메르켈의 말을 잘 듣고 있다고 한다.)
이를 통해 우리는 이게 뭐 생물학적으로 어쩌고 저쩌고가 아닐 확률이 높다는 걸 알 수 있게 되었죠.
제 짧은 생각으로는 비서 및 안내직, 기초 교육의 직업군이 여성에게 할당된 근대 이후부터 직업군의 성 고정적인 요소가 싹텄고, 이 같은 고정관념이 온라인에 비판 없이 이식된 것이 아닌가 싶습니다. 그러니까 임원의 비서, 백화점 및 대형 쇼핑몰의 안내 데스크, 유치원이나 초등 교육과 같은 정보 전달자의 역할에 여성이 집중적으로 배치된 후, 그 오프라인의 양상이 온라인으로 그대로 옮겨져 온 것이 아닐까 추측해볼 수 있다는 거죠.
온오프 데칼코마니 설에 대한 강력한 근거는 AI & Gender: A Maxus Survey의 2016년 연구 결과입니다.
56% of gendered AI agents are female
100% of Law bots are male
A majority of finance agents are male
'알렉사'를 불러서는 뭘 시키는 것이... 나는 왜 불편하죠?
AI 관련 서비스가 증가함에 따라 여성 퍼소나 편중과 그 대화 방식에 불편함을 느끼는 사람들도 나타났습니다. UX 디자이너인 Johna Paolino의 섬세하고 놀라운 통찰을 같이 살펴보는 게 좋겠어요.
(보킴 님의 훌륭한 번역을 보는 게 더 빠릅니다.)
Johna는 남자 친구가 아마존 에코를 향해 음성 명령어를 말할 때마다 알 수 없는 혼란을 느낍니다.
Alexa, turn off the lights.
Alexa, set my alarm for 8am.
이건 마치 드라마에서 '아줌마, 여기 차 좀 내와요.' '아줌마, 오늘 저녁에 회장님 조기 구워드리게 설에 선물 들어온 조기 좀 냉동실에서 미리 내놔요.' 그런 대사랑 느낌하고 비슷해요.
'나 왜 이렇게 불편하지... 내가 예민한 건가...' 불편함의 원인에 대해 몰라 침묵했던 Johna는 Google Home을 쓰면서 그 이유를 찾아냈습니다.
Ok Google, play NPR news.
Hey Google, set my alarm for 8am.
뭐가 달라졌나요? 여성의 이름이 사라졌습니다.
다국적 서비스이자 중성적인 존재 Google이 사용자와 직접 커뮤니케이션하는 거죠. Google은 그동안도 사용자의 명령어/검색어로 실행되어 왔습니다. Google Home에서는 단지 키보드와 엔터키가 아닌 보이스라는 명령 방식만 달라졌을 뿐이죠.
Google은 남성도 여성도 아닌 그냥 서비스입니다. 이름이 Google이라서 명령 실행 결과를 여성 목소리로 알려줘도 아마존 에코의 알렉사 같은 느낌을 주지 않아요.
그냥 Google에서 나온 직원... 같은 느낌? 어느 날 남성 목소리로 바뀌어도 '아... 조직 변경돼서 담당자가 바뀌었나 보다..'. 별 거부감이 없을 것 같지 않습니까?
또 무엇이 다른가요. Google Home의 음성 명령어는 대화형이라는 점이 다릅니다.
'OK', 'Hey'와 같이 발화 시작 어휘 (Introductory words)를 서두에 붙이면 '명령' 이 아닌 '대화'의 느낌이 발생합니다. 아 뭐 그래 봤자 본질은 명령이지만, 그래도 형태는 대화인 것처럼요.
(이거 한국어로 하면, '인제, 구글' ' 그니까, 구글' '저기요, 구글' '있잖아요, 구글' 뭐 이런 식으로 로컬라이제이션 해야 하는 걸까요.)
Johna는 사용자에 대한 이런 소소한 배려들이 서비스 경험을 발전시킨다고 말합니다. 이 같은 주장과 맥락을 같이하는 다른 디자이너들은 여기에서 더 나아가 대화형 인터페이스에 반드시 젠더가 존재해야 하는지에 대한 의문을 제기하며 Gender-neutral 또는 Genderless를 대안으로 삼을 것을 제안하기도 하죠. 물론 Genderless bot을 음성으로 구현했을 때 사용자들이 거부감을 보였다는 이야기도 있고 (Uncanny valley 같은걸까요?)중성화하는 것이 가장 평등한 것인지에 대해서는 생각해볼 문제이긴 합니다만,
중요한 것은 이같은 성적 차별에 대한 예민한 감각, 진지한 고민들이 긴 여정의 첫 걸음이라는 것입니다. 새로운 디자인이 편견을 공고히 하는 것에 반대하며 평등이라는 지향점을 향해 우다다다 달려가는, 그 길고 긴 여정이요.
여성이 남성에게, 남성이 여성에게, 여성이 여성에게, 남성과 여성이 AI에게. 서로에게 말을 거는 방식을 새롭게 디자인하는 일과 그 디자인이 이 세상에 어떤 영향을 미칠 지에 대해 상상해 봅시다.
인간과 인간(또는 인간인 것 같은 어떤 존재)의 일상적 대화를 평등하게 디자인할 수 있다는 것은 얼마나 매력적인가요. 몇 백 년 동안 굳어진 담화의 방식을 새롭게 재편할 수 있다는 것은 얼마나 굉장한 일인가요. 더 나은 방향으로, 더 나은 세계를 위해서 말입니다.
디자인이 우리 세계의 차별과 혐오, 편견에 대항할 수 있는 큰 힘이 될 수 있다는 점을 잊지 않았으면 좋겠습니다.
우린 생각보다 대단한 일을 하고 있다구요: )
근데 빅스비 이야기는 언제 하죠.
글이 좀 길어지니까 다음 회에. (아니, 사실 뭐 별거 없는데)
암튼. 오늘은 이만.
덧 1: AI가 고도화되어서 높게 평가받게 되면 그 퍼소나가 여성인 게 더 좋지 않니? 그거 여성 상위의 표현 아니니? 세상을 지배하는 엄청 똑똑한 존재가 여성인 게 오히려 자랑스럽지 않니?혹시 이런 반론이 있을까 봐 미리 선수 치는데요, 현재 작동 방식, 즉 대화의 양상이 그렇게 평등하지 않다는 점에 주목해 주세요. 왜 여성 퍼소나가 명령/대화형 AI 에서 압도적인지를 우리, 좀 생각이나 해보자는 거죠.
그리고 그렇게 상위 어쩌고하는 방식으로 평등을 이루고 싶진 않습니다만...?
덧 2: 이와 관련된 아티클이 하나 있습니다. 중립적이지만 여성주의적이지 않은 대다슈의 AI 서비스에 대항 대안으로 글쓴이는 1) 이름을 젠더에 국한지어 짓지 말고 2) 음성의 젠더를 사용자가 변경할 수 있도록 설계할 것을 제안합니다.
일단 빅스비는 이 두 가지 항목에서 합격.
참고로 Google Home은 음성 젠더가 여성으로 고정입니다. Google이 아직 다른 대안을 찾지 못했다고 하네요.
덧 3: 저 이 글을 대화하듯 써봤습니다. 눈치 채셨나요? : ) 다음부터는 장안의 화제인 공무원 풍 개조식으로 써볼까 보다. 히히.
