#3 대량살상 수학무기, 새로운 접근
구글검색의 젠더권력과 알고리즘적 상상
*이 글은 “한국여성의 인권에 대해 알고 싶으면, 구글에서 ‘길거리’를 검색해보라”라는 제목의 논문을 읽고 쓴 글이다. 이전 글에서 살펴본 책 《대량살상 수학무기》와 관련하여, 우리를 위협하는 알고리즘을 이해하는 방식에 관한 새로운 아이디어를 나누고자 한다.
‘길거리’ 문제
구글에 ‘길거리’라는 단어를 입력해서 나오는 검색결과는, 일상에 편재해 있는 여성혐오를 설명하기 위한 사례로 종종 활용된다.
검색해보면 실제 ‘길거리’에 대한 이미지보다는, 길거리에 지나다니는 여성을 불법적으로 촬영한 소위 ‘몰카’ 이미지가 훨씬 많이 제시된다. ‘길거리 몸매녀’, ‘대륙 길거리 패션’ 등의 제목에서 알 수 있듯, 이미지를 타고 들어가면 촬영 대상이 된 여성의 신체를 평가하거나 희롱하는 글들로 연결된다.
여성의 신체를 대상화하고 타자화하는 문화는 온오프라인을 막론하고 발생해 왔지만, 이 사례가 더욱 충격적인 이유는 그러한 검색결과를 도출하는 용어가 ‘길거리’라는 일상적 소재이기 때문이다.
일상적 용어는 여성의 신체를 대상화하는 검색결과로 이어지며, 이는 여성이 살아가는 일상적 공간이 동시에 남성의 ‘관음증적 시선’으로 ‘탐닉’된다는 의미이고, 관음증적 게시물이 검색결과의 대부분을 차지하는 현상은 이런 문화가 상당한 ‘양과 지속성’을 지녔음을 시사한다.
《대량살상 수학무기》의 사례들과 조금은 결이 다르지만, 구글 검색엔진도 우리 사회의 수많은 여성을 위협하는 WMD라고 볼 수 있다. ‘길거리’의 검색결과에는 여성의 일상을 온전히 남성의 시선에서 관음증적으로 희롱하는 은밀한, 아니 공공연한 (인터넷) 문화가 스며들어 있다. 이 논문에서는 구글 검색엔진이라는 (부분적) WMD를 상당히 독창적인 방식으로 해석한다.
WMD 이해하기
논문은 WMD를 분석하는 두 가지 방식을 분류한다. 하나는 구글검색 알고리즘의 ‘대량살상성’을 기술 내부에서 찾는 관점이다. 우리가 이 사례를 바라보는 일반적인 시각으로, 많은 언론이 ‘길거리’ 문제를 알고리즘 내부에서 탐색한다.
‘미디어오늘’에서는 구글 검색엔진의 피드백 시스템을 지적한다.* 중앙통제가 아닌 사용자 피드백을 중심으로 관리하기 때문에, 한국인 사용자가 적은 사이트 특성상 부적절한 컨텐츠에 대한 신고가 적게 이루어졌으리라는 분석이다.
또 네이버와 다음 등 한국의 포탈사이트는 국내법의 규제를 받는 반면, 구글은 국내 기업이 아니므로 필터링 제재에 어려움이 있다고 말한다. “검색 시장에서 점점 영향력을 높여가는 만큼 구글에도 조금은 사용자를 배려한 검색 정책이 필요하지 않을까요?”라는 제언으로 기사를 마친다.
‘한국경제’에서도 비슷한 논조를 사용한다.** “음란물 유통 단속의 사각지대”에 있는 구글 검색엔진을 문제삼는다. 검색어 필터링 기능이 우리나라 기업들만큼 엄격하지 않아 음란물이 버젓이 오고가는 구글 알고리즘 관리의 미비를 비판한다.
언론에서 바라본 문제의 핵심은, 민감한 검색어가 제대로 필터링되지 않는 알고리즘이다. 이처럼 음란물 유통을 막지 못하고 부적절한 검색결과를 내놓는 알고리즘의 내적 오류에 주목하는 해석은 WMD를 바라보는 가장 주된 관점이다.
《대량살상 수학무기》도 마찬가지로, 우리를 위험에 빠트리는 WMD의 결점을 끊임없이 성찰할 것을 요청한다. 알고리즘의 ‘불투명성’과 ‘부정적 피드백 루프’는 잠재적으로 알고리즘의 내적 오류를 일으킬 위험요소이고, 저자는 이 위험요소에 주목해 논의를 전개했다. ‘길거리’ 문제의 경우 불투명한 (그리고 잠재적으로 오류를 지닌) 검색 알고리즘에 문제의 소지가 있다.
하지만 논문에서는 대안적인 시각을 제시한다. WMD가 정말 알고리즘 자체의 문제냐 하는 것이다. ‘길거리’의 사례를 보자. ‘길거리’의 검색결과가 알고리즘의 내재적 문제로 발생한 현상인지, 여성의 신체를 품평하고 희롱한 남성의 인터넷 문화로 인해 발생한 현상인지에는 논의의 여지가 있다. 저자가 주목하는 쪽은 후자의 가능성이다.
‘길거리’를 검색했을 때 부적절한 검색결과로서 ‘귀걸이’와 관련된 컨텐츠가 나타나는 상황과, 같은 검색어에 ‘길거리 여성의 몸매’를 품평하는 컨텐츠가 나타나는 상황이 각각 의미하는 바는 전혀 다르다. 검색어와 무관한 결과를 제시하는 알고리즘의 오류와 한편에는, 알고리즘이 그 검색결과를 ‘추천’하게끔 만드는 사회문화적 맥락이 작용하리라는 사실을 우리 모두 알고 있다.
알고리즘적 상상
여기서 저자는 선행연구***의 용어 ‘알고리즘적 상상(algorythmic imaginaries)’을 빌려온다. ‘알고리즘적 상상’이란 “알고리즘의 작동에 대해 대중들이 경험, 지각, 상상하는 방식”을 일컫는 용어로, 대중이 알고리즘과 상호작용함을 전제로 한다.
포인트는 두 가지다. 하나는 사용자와 알고리즘이 ‘상호작용’한다는 발상이고, 다른 하나는 사용자가 개인이 아니라 ‘대중’으로서 상호작용한다는 분석이다.
‘길거리’ 문제로 돌아가보면, ‘길거리’를 검색한 결과가 그렇게 도출되도록 만든 주체는 다름 아닌 사용자다. 구글 검색엔진이 제공한 불법촬영물은 알고리즘 홀로 ‘길거리’의 의미를 탐색한 결과가 아니라, 수많은 사용자들이 ‘길거리’라는 단어를 활용하는 맥락을 통계적으로 분석한 결과이기 때문이다.
한편 구글 검색엔진은 사용자 개개인의 사고구조를 분석하여 검색결과를 추천하지 않는다. 오히려 여러 가지 기준을 통해 수많은 사용자를 일정한 인구학적 집단으로 분류하고, 각 사용자가 속한 집단에 맞는 검색결과를 제공한다.
이러한 맥락에서, 남성의 시각에 맞추어 재구성된 ‘길거리’의 이미지를 접한 수많은 여성은 자신들의 정체성을 질문하게 된다. ‘왜 알고리즘은 나(필자가 아닌 여성으로서의 나)를 여성으로서 호출하지 않을까?’ 여성이라면 결코 남성의 (심지어 불법적인) 관음증적 시선으로 주조된 여성 신체의 이미지들을 찾지 않을 것이다.
그래서 ‘길거리’의 검색결과로 검색엔진이 제시한 수많은 불법촬영물들은, 구글 알고리즘이 인식하고 호출하는 두 가지 대중 사이의 이질성을 부각시킨다. 바로 남성대중과 여성대중이다.
적어도 ‘길거리’의 경우, 검색엔진은 남성대중만을 적극적으로 호출하고 있다. 저자는 이 지점에서 대립하는 두 대중을 목격하고, 알고리즘적 상상에서 출발하는 새로운 정치학을 주창한다.
구글 검색엔진이 불편한 진짜 이유
알고리즘과 사용자의 적극적인 상호작용을 전제하는 ‘알고리즘적 상상’의 관점에서, 길거리 문제가 내포한 문제는 크게 두 가지로 정리할 수 있다.
첫째는 일상적인 삶을 살아가는 길거리의 여성을 남성의 관음증적 시선으로써 재구성하고, 이를 공유하여 유희로 삼는 남성들의 문화가 존재한다는 사실이다. ‘길거리’ 검색결과는 그런 문화를 공유하는 남성 집단과 구글 검색엔진이 상호작용한 결과다. 구글이 제시하는 검색결과가 지금 상태로 굳어지게 만든 것도, 관음증적 문화를 묵인하고 그에 편승한 남성임은 물론이다.
둘째는 구글이 ‘길거리’의 검색결과로 사용자들에게 길거리 여성의 불법촬영물을 제공할 때, 그 순간 구글이 호출하고 있는 대중은 여성이 아닌 남성이라는 사실이다. 불법촬영물이 오로지 남성의 시선으로만 짜여 있고, 여성은 거기서 배제될 뿐 아니라 남성이 소유하고 희롱하는 대상으로 전락한다는 점에서 그러하다.
논문 저자는 두 가지 문제를 모두 지적하지만, 첫 번째 남성 문화에 초점을 맞추어 나머지 지면의 논의를 전개한다. 거칠게 정리하자면 다음과 같다.
알고리즘은 ‘길거리’의 의미를 묻지 않고 오직 그것이 활용되는 맥락을 통계적으로 분석한다. 그렇게 알고리즘은 사용자(한국 남성)이 '길거리'를 어떤 맥락에서 사용하는지 '기억한다'. 그 기억의 결과가 '길거리'를 검색할 때 나타나는 수많은 불법촬영물이다. 여성이 살아가는 일상적 공간은, 상당수 남성에게는 여성의 신체를 성적 유희의 대상으로 주조하는 이질적 의미를 가지고 있었다.
이러한 맥락에서, ‘길거리’ 문제의 WMD는 사실 ‘Weapons of Math Destruction’이 아니라 ‘Weapons of Men’s Destruction’일지도 모른다. 문제의 싹이 알고리즘의 오류 이전에, 남성들이 즐기는 폭력적 문화에 내재해 있었기 때문이다.
데이터과학이 해야 할 일
남성의 문화를 바꾸는 일이 가장 근본적으로 필요한 변화임은 자명하지만, 그것이 알고리즘을 두고 무언가 해볼 수 있는 부분은 아니다. 알고리즘을 두고 시도할 수 있는 변화는 두 번째에 문제에서 출발할 것 같다. 구글이 남성 대중만을 호출하는 문제. 알고리즘적 상상으로 데이터과학의 과업도 변화한다.
구글은 왜 여성 대중을 호출하지 않을까, 혹은 호출할 때조차 대상으로서 호출할까. 이 문제를 해결하려면, 모든 대중(집단)을 평등하게 호출하는 알고리즘을 만드는 일이 데이터과학자들의 고려 사항이 되어야 한다. 지금 구글은 어떠한 검색 알고리즘을 채용하고 있는지 또한 살펴볼 만한 대목이다. (사피야 우모자 노블의 《구글은 어떻게 여성을 차별하는가》를 참고하면 도움이 되겠다.)
논문의 한 구절을 인용하며 글을 마무리하겠다.
검색엔진은 그것이 파악한 이미지와 태그, 태그와 태그 사이의 연관성들을 보여주면서 사용자를 관음증과 여성혐오, 여성을 성적대상이나 상품으로 삼는 이미지들과 여성이 자기표현을 위해 촬영하고 업로드한 이질적인 이미지들이 묘하게 뒤섞여 있는 남성동성사회의 욕망이 만들어낸 토끼굴(rabbit hole) 속으로 우리를 인도한다. <이상한 나라의 앨리스>에서 토끼굴이 앨리스를 일상의 현실과는 다른, 기묘하고 환상적인 모험의 세계로 인도했다면, 구글 ‘길거리’ 검색의 토끼굴은 ‘나의 일상’이 ‘너의 포르노’가 되어 버린 현실의 기괴한 단면을 체험하게 하면서, 일상 속에서는 은폐되어 있던 성적 적대를 가시화한다.
‘길거리’의 문제는 결코 알고리즘의 오류만으로는 이해할 수 없다. ‘길거리’ 문제는 알고리즘 기술과 사용자들의 문화가 교차하는 지점에 있다. 또 그 두 가지가 교차하는 한 가운데에는, 알고리즘이 어떤 사용자를 호출하는지 하는 문제가 있다. 이 문제를 선명하게 드러낸 것은 알고리즘에 관한 기술적 지식이 아니라, 알고리즘을 인간과 적극적으로 상호작용하는 하나의 사회적 주체로 바라보는 알고리즘적 상상이었다. 사회과학을 공부한다면 알고리즘의 원리보다 많은 것을 보아야 한다.
이지은, ｢한국여성의 인권에 대해 알고 싶으면, 구글에서 ‘길거리’를 검색해보라: 알고리즘을 통해 '대중들' 사이의 적대를 가시화하기｣, 미디어, 젠더 & 문화 35(1), 한국여성커뮤니케이션학회, 2020
*곽보아, “‘길거리’로 검색하면 노출 여성 뜨는 구글, 왜?”, 미디어오늘, 2015.06.29.
http://www.mediatoday.co.kr/news/articleView.html?idxno=123822
**김주완, “길거리 몰카 사진 넘치는데… 눈감은 구글, 방치하는 정부”, 한국경제, 2018.05.28.
https://www.hankyung.com/it/article/2018052824411
***Taina Bucher의 용어다. - 《If...then: Algorithmic Power and Politics》 등 참고
