'페이스북 파일즈' WSJ의 특종 보도
내부 문서가 보여주는 플랫폼기업의 진실
월스트리트저널이 페이스북의 내부 기밀 자료들을 입수해 <페이스북 파일즈>라는 탐사보도 시리즈를 내보내고 있다. 2021년 9월중순부터 현재까지 여섯 편이 나왔다. 내용이 너무 충격적이라 소개한다. 월스트리트저널은 이 기밀 자료들의 최소한 일부는 이미 미국 증권거래위원회와 미 의회에도 제출이 됐고, 문서를 제출한 내부 직원은 미 정부의 내부고발자 보호프로그램에 따른 보호를 받기를 원한다고 밝혔다.
원본 링크는 아래와 같다.
Facebook Employees Flag Drug Cartels and Human Traffickers. The Company’s Response Is Weak, Documents Show.
Facebook Knows Instagram Is Toxic for Teen Girls, Company Documents Show
Facebook Says Its Rules Apply to All. Company Documents Reveal a Secret Elite That’s Exempt.
https://www.wsj.com/articles/facebook-files-xcheck-zuckerberg-elite-rules-11631541353?&
Facebook Tried to Make Its Platform a Healthier Place. It Got Angrier Instead.
https://www.wsj.com/articles/facebook-algorithm-change-zuckerberg-11631654215?&
How Facebook Hobbled Mark Zuckerberg’s Bid to Get America Vaccinated
https://www.wsj.com/articles/facebook-mark-zuckerberg-vaccinated-11631880296?&
Facebook’s Effort to Attract Preteens Goes Beyond Instagram Kids, Documents Show
https://www.wsj.com/articles/facebook-instagram-kids-tweens-attract-11632849667?&
하나씩 보자.
2017년도에 미 질병통제예방센터(CDC)는 15세에서 19세 사이 어린 소녀들의 자살률이 2007년에서 2015년 사이에 두 배가 되었다고 밝힌다. 그리고 원인 중 하나로 소셜미디어를 유력하게 꼽았다.
같은 연령대 소년의 자살률도 최근 증가했다. 소년 자살률은 2007년부터 2015년까지 같은 기간 동안 약 30% 증가했다.
미국 자살예방재단의 연구팀은 2009년부터 2015년 사이 청소년 50만 명을 대상으로 자살과 소셜미디어 사용의 관계를 연구했다. 스마트폰 등 전자기기를 하루 최소 5시간 이상 사용한다는 응답자가 2009년 8%에서 2015년 19%로 2배 이상 늘었다. 장시간 스마트폰을 사용한 집단은 하루 1시간 정도 사용하는 집단에 비해 자살을 생각하거나 행동으로 옮길 확률이 70%가량 높았고, 실제로 자살을 계획하거나 시도한 비율도 2009년 32%에서 2015년에는36%로 늘었다.
여기서도 소셜미디어 영향이 클 것이라고 추정했다. 이런 보고는 다 추정이었다. 실제로 페이스북과 자회사인 인스타그램의 내부 데이터를 구할 수 없었기 때문이다. 그런데 페이스북과 인스타그램 내부에서는 이미 이것을 알고 있었다는 내부 문건이 이번에 나온 것이다.
자료 : 2019년 인스타그램 내부 자료 ‘십대의 정신건강 심층연구’
인스타그램 사용자의 40% 이상이 22살 아래다. 2020년 내부 연구에서는 인스타그램을 쓰는 소녀의 2/3가 자기들이 몸에 자신이 없을 때 인스타그램이 그것을 더 부추긴다고 답했고, 자살충동을 느낀 영국 사용자의 13%, 미국 사용자의 6%가 인스타그램때문이라고 답한 내부 리포트도 있다. 남자아이들도 예외는 아니어서 40%가 인스타그램때문에 자신의 몸에 대해 부정적이라고 느낀다고 답했다.
2019년부터 2021년까지 페이스북이 수만 명에 대한 설문조사를 포함해 여러차례 대규모로 조사한 내부 연구결과에 따르면 어떤 문제는 소셜미디어중에서도 특별히 인스타그램에서 더욱 심각한 것으로 나타났다. 그것은 바로 사회적 비교, 그중에서도 10대 소녀들의 자신의 신체에 대한 이미지 문제였다. 틱톡과 스냅챗과 달리 인스타그램이 특별히 몸과 얼굴 그리고 잘사는 모습에 집중을 하고 있기 때문이다.
자료 : 2019년 인스타그램 내부 리포트 ‘십대의 정신건강 심층연구’
최고의 모습만 공유하고, 완벽해 보여야 한다고 압박하고, 럭셔리하게 생활하는 모습을 보여줘야 한다는 사회적 압력이 섭식 장애와 신체에 대한 열등감과 우울증을 부른다는 것이다. 게다가 인스타그램의 추천 알고리듬이 이런 위험을 더욱 부추길 수 있다고 내부 리포트는 지적한다. 한번 이런 이미지를 보고 나면 끊임없이 비슷한 이미지를 보여주기 때문이다. 이 리포트는 최고위 경영진뿐 아니라 마크 주커버거에게도 제출이 됐다고 내부 문서는 밝히고 있다.
페이스북은 한번도 이런 부정적 영향을 인정한 적이 없다. 페이스북의 CEO인 마크 주커버거는 2021년 의회 청문회에서 어린이와 정신건강에 관해 질문을 받자 “우리가 본 연구에 따르면 소셜 앱을 써서 다른 사람들과 연결이 되는건 정신건강에 긍정적 영향을 미친다”라고 답했다.
페이스북은 13살 이하 어린이를 위한 인스타그램도 계획중이다. 의회청문회에서 의원이 이 계획을 비판하며, “이 앱이 어린애들에게 미칠 영향에 대해 연구해본 적이 있느냐”라고 묻자, 주커버거는 “연구한 적이 있다고 믿는다”라고 답했다.
의회가 페이스북과 인스타그램 플랫폼이 청소년의 정신건강에 미치는 영향에 관한 내부 연구결과를 달라고 요청했을 때도 페이스북은 사실상 거부했다.
미국 담배회사들이 흡연자와의 소송에서 이겼다, 졌다를 반복해왔지만 1994년 이후부터는 지는 비율이 확 올라갔다. 담배회사가 담배의 중독성과 해악성을 연구한 문건이 내부자 고발로 공개되버렸기 때문이다. 그러니까 알고도 저지른 잘못이었다는 것이다. 예를 들어 99년 미국 샌프란시스코 법원과 오리건주 법원은 '징벌적 손해배상'의 의미로 각각 5000여만 달러와 7000여만 달러를 흡연 피해자에게 지급하라고 판결했다. 아마도 미국과 영국, 캐나다에서 자살한 10대 자녀를 가진 부모들의 집단소송이 잇따르지 않을까?
2018년도에 페이스북이 알고리듬을 개편한다. 뉴스를 많이 보는 대신에 친구와 가족간의 상호작용을 더 많이 할 수 있게 하겠다는 것이다. 이것을 페이스북은 MSI(Meaningful Social Interactions)라고 불렀다. 내용을 보면 단순한 좋아요는 1점, 화나요, 웃겨요, 사랑해요 등의 감정 버튼은 5점, 긴 답글이나 메시지, 공유는 30점을 매기는 식의 알고리듬이다. 점수가 높을수록 친구들의 뉴스 피드에 노출될 확률이 더 올라간다. 타임라인에 어떤 피드를 보여줄 것인가는 전적으로 페이스북의 알고리듬이 결정한다. 그 기준을 이렇게 다시 정리한 것이다.
페이스북의 새 기준 예시 : 페이스북 내부 자료
중요한 것은 좋아요, 즉 Like 버튼은 1점이지만 화나요는 5점이라는 것이다. 단순히 Like 버튼만 누르는 것보다는 화나요, 슬퍼요와 같은 버튼이 더 관여가 깊게 된 상태라고 페이스북은 판단한다는 것이다. 공유는 좋아요의 서른 배나 점수가 높다.
이런 변화에 대해 내부 직원들이 ‘애초 의도처럼 상호작용을 더 많이 하게 하는게 아니라 페이스북을 화난 공간으로 만들어버릴 것’이라고 경고했다는게 내부 문서에서 나타난다. 페북의 데이터 사이언티스트들은 ‘이런 변화가 특히 정치와 뉴스 영역에서 심각한 부작용을 부를 것’이라는 것도 발견해서 리포트한다. ‘공유에 특별히 많은 인센티브를 주는 구조에서는 가짜 정보, 폭력물, 유해물들이 장려될 수 밖에 없다’는 것이다.
이번에 입수한 내부 문건에 따르면 이 변화 이후 유럽의 여러 정당들이 페이스북에 우려를 전달했다. 이전에는 게시물의 긍정과 부정 비율을 5대5로 했으나, 알고리듬 개편이후 도달율이 너무 떨어져 할 수 없이 긍정과 부정의 비율을 2대8로 조정하고서야 예전의 트래픽을 회복했다는 것이다. ‘공격적이고 부정적인 게시물을 80%나 실어야 하는데, 이것은 장기적으로 민주주의에 나쁜 영향을 미칠 수 밖에 없다’는 우려를 정당들이 페이스북에 전달했다는 것이다.
유명한 소셜미디어인 버즈피드의 대표 페레티가 페이스북에 이메일을 보낸 것도 이때다. 버즈피드와 주변의 미디어들이 페이스북에서 받는 트래픽을 분석해보니 새 알고리듬이 명백히 극단적인 게시물을 부추겨 양극화를 부르고, MSI, 즉, 페이스북이 애초에 목표로 내세웠던 ‘의미있는 상호작용’에 기여를 하지 못할 뿐 아니라, 결국 버즈피드와 주변 미디어 종사자들로 하여금 나쁜 게시물을 올려야 한다는 압박을 주고 있다는 것이다.
내부 연구자들이 주커버거에게 이런 부작용을 담은 리포트를 전달하고, 이런 식의 공유를 강조하는 알고리듬을 고치자고 건의를 했지만, 주커버거는 ‘MSI, 그러니까 상호작용이 떨어지지 않을 때만 개선책을 시행할 것’이라고 답을 했다고 한다.
페이스북은 왜 이랬을까? 내부 문건에 따르면 2017년 내내 댓글과 좋아요 그리고 공유가 떨어지기 시작했다. 이대로 가면 사용자들이 더 이상 페이스북을 쓰지 않을 수도 있다는 위기감이 감돌았다. 그 결과가 이런 알고리듬의 변화였다. 뭐가 됐든 주커버거로서는 이 경향을 되돌린 알고리듬을 없앨 수가 없었다는 것이다.
인신매매와 마약 카르텔의 활동을 방치했다는 리포트도 있다.
올해1월, 전직 경찰이자 사이버범죄 전문가인 페이스북 직원이 사내 게시판에 전체 공개로 글을 올렸다. 멕시코 마약 카르텔이 페이스북을 살인청부업자를 고용하고 훈련하고 수당을 지급하는 통로로 사용하고 있다는 것이었다.
자료 : 페이스북 내부 리포트
미국에 마약을 밀수하는 가장 큰 카르텔인 멕시코의 ‘카르텔 할리스코 누에바 게네라치온’은 아예 자기 그룹의 머릿글자인 CJNG를 내건 페이스북 페이지 여럿과 인스타그램 계정들을 가지고 노골적으로 갱단을 모집하고, 훈련과정을 보여주고, 살인청부업자에게 돈을 지불했다. 이 페이지들에는 금박을 입힌 권총으로 젊은 청년을 쏴죽이는 장면, 잘린 손이 가득 담긴 부대와 같은 사진들이 올라와 있었다.
이 전직경찰 팀은 이들의 페이스북 페이지와 인스타그램, 그리고 왓츠앱이라는 메신저(이것도 페이스북 소유)를 분석해서 주요 인물과 청부업자들에게 지불한액수 그리고 이들이 어떻게 10대들을 유혹해서 청부살인을 맡게 했는지를 밝혀냈다. 전직경찰팀이 입수한 페이스북 메시지에는 이들이 10대들에게 만약훈련받다가 도망을 치면 엄청나게 두드려 맞거나 죽게 될 것이라고 경고하는 내용도 들어 있었다.
자료 : 페이스북 내부 리포트
이 페이지들은 페이스북의 내부 규정에 따르면 자동삭제돼야 마땅하지만, 내부 직원이 이 페이지를 회사에 알린 뒤에도 최소 다섯달 이상 이 카르텔은 갱단을 모으는 광고를 페북과 인스타그램에 계속 실을 수 있었다.
페이스북은 2020년 내부 컨텐트 필터링에 320만 시간을 썼다. 이중에서 13%만 미국 바깥의 컨텐트를 필터링하는데 할당이 됐다. 실제로는 페이스북트래픽의 90%가 미국과 캐나다 바깥에서 일어나고 있다. 페이스북의 돈줄은 이쪽에 있다. 중동과 아프리카에서는 인신매매범들이 대놓고 인스타그램을 이용해서 여성들을 모집했다. 이런 일들은 모두 명백히 페이스북 내부 규정에 위배됐지만 페이스북은 적절한 조처를 취하지 않았다.
자료 : BBC 화면 캡처
중동에서의 인신매매에 대한 단호한 조처는 BBC와 애플 덕분에 이뤄졌다. BBC는 2019년 10월31일 중동지역에서 광범위한 인신매매가 이뤄지고 있다는 탐사보도를 내보냈다. 인스타그램과 다른 앱들을 통해서 수백명의 여자들이 거래가 되고 있다는 것. 여권과 전화기를 뺏고, 집밖으로 나갈 수도 없으며, 휴가도 외출도 금지된 상태로 집안에서 일만 해야 하는 조건. 심지어 알고리듬이 공유를 쉽게 도와주는 해시태그도 사용하고 있었다. BBC가 이 사건을 보도한 뒤에도 페이스북은 사후조처로 해시태그 하나를 지웠다고만 했다.
“Facebook said it had banned the Arabic hashtag "خادمات للتنازل#" - which translates as "#maidsfortransfer".”
BBC가 확인해보니 그뒤에도 여전히 인스타그램에선 몇백 명의 여자들이 거래가 되고 있었다.
이 일은 결국 애플이 강력한 압력을 행사한 뒤에야 처리가 됐다. BBC보도가 나온 뒤 애플이 이 일에 대해 조처하지 않으면 아이폰에서 페북앱을 지워버릴 것이라고 경고했기 때문이다.
내부 리포트에는 이런 대목도 나온다. “이 일이 BBC가 보도하고, 애플이 경고하기전에 우리가 알고 있었던 일인가? 그렇다.”
유명인과 인플루언스들이 올린 게시물에 대해서는 어떤 제재도 하지 않는 화이트리스트 제도도 갖고 있었다는 문건도 나왔다.
자료 : 페이스북 내부 리포트
마크 주커버거는 공식적으로는 삼십억이 넘는 페이스북 사용자들은 모두 동일한 행동 기준을 적용받는다고 밝혀왔다. 정치가든, 문화쪽 유명인이든, 언론인이든, 가리지 않는다는 것이다. 그런데 실제로는 셀럽들은 특별한 대접을 받아왔다는게 이번 문서 폭로로 밝혀진 것이다. ‘크로스체크’라 부르는 페이스북 내부의 프로그램이 이런 화이트리스트 구실을 해왔다는 것이다. 내부 문서는 “우리는 밖으로 발표한 것과는 달리 행동하고 있다. 신뢰에 대한 배신이다. 이런 셀럽들은 우리 기준을 어겨도 어떤 처벌도 받지 않는다.” 예를 들어 이들 빅마우스를 통해 백신이 해롭다던가 힐러리가 유아성애자집단과 관련이 있다는 등의 가짜 뉴스가 무한정 퍼져나가게 되었다는 것이다.
자료 : 페이스북 내부의 크로스체크프로그램 리뷰 리포트
페이스북이 1천억 원을 넘게 투자해 설립한 오버사이트보드, 그러니까 감시위원회에도 페이스북은 거짓 보고를 했다. ‘이 ‘크로스체크프로그램’이 아주 일부분의 경우에 한해 쓰였는데, 이런 영향력이 있는 사람들의 컨텐트는 더 조심스럽게 체크를 해야 하기 때문이다”라고 페이스북의 대변인은 밝혔다. 페이스북의 화이트리스트 기준도 모호해서, 뉴스가치가 있다외에도 영향력이 있다, 유명하다, 회사의 평판에 영향을 미칠 수 있다 등으로도 리스트에 들어갈 수 있었다. 믿기 어렵겠지만 VIP 사용자들이 잘못된 컨텐트를 올리면 페이스북이 따로 연락을 해서 하룻동안 포스팅을 내릴 기회를 제공했다. 2020년 선거때까지도 이 정책을 유지했는데, 페이스북은 이 정책이 언제 끝났는지를 밝히기를 거부했다. 아주 중요한 인물일 때는 계정을 지우려면 피알쪽 고위 임원 혹은 심지어 주커버그와 운영책임자인 셰릴 샌더버그의 승인을 받아야 했다.
대표적인게 트럼프다. 트럼프의 가짜뉴스 관련 점수는 페이스북 내부 기준으로 100점 기준으로 90점이었다. 일반인이었으면 계정을 즉시 정지당했겠지만, 페이스북은 그러지 않았다. 의사당 습격사건이 있기 전까지 페북은 그를 그대로 내버려뒀다.
자료 : 페이스북 내부 자료 ‘페이스북 컨텐트 정책이 정치에 미치는 영향’
페이스북은 대체 왜 이러는 것일까? 페이스북은 30억명의 등록회원을 갖고 있다. 이들이 페이스북에서 쓰는 시간을 광고주에게 파는 것이 페이스북의 수익모델이다. 수익 대부분이 페이스북의 뉴스피드 타임라인에서 나온다. 페이스북과 인스타그램의 지난해 매출 860억달러의 대부분이 바로 이 뉴스피드에서 나왔다.
우리가 알아야 할 것은 이전에 없던 새로운 플랫폼기업이 나타났다는 것이다. 이들은 인공지능과 알고리듬을 이용해 우리의 시간과 관심을 조작하는 것으로 돈을 번다. 이전과 같은 기업 감시수단으로는 이들을 제대로 견제할 수 없다. 새로운 플랫폼기업에는 새로운 견제가 필요하다. 분명한 것은 견제하지 않으면 이들도 돈을 벌기 위해 당연히 거짓말을 하고, 위법을 한다는 것이다. 사람의 마음을 조작한다는 점에서 플랫폼기업의 위험은 과거 어떤 기업과도 다르다. 사회 전체를 병들게 할 수 있는 위험을 가지고 있다.
