<소셜온난화> 혁신이라더니 어느새 '독', 해법은?
극단주의자 이웃을 환영한다고? 합리적 시민들은 그럴리 없지만 온라인에서는 그런 추천과 환영이 일상적으로 이뤄졌다. 나쁜 건 걸러낼 것이라는 소셜미디어의 약속은 허망했다.
2016년 말 페북은 독일 정치그룹 가운데 3분의 1 이상에서 극단주의 컨텐츠를 확인했다. 더 나쁜 건 극단주의 그룹 가입자 중 3분의 2가 페북 알고리즘에 따라 가입 권유를 받았다는 사실이다. 수십억이 찾는 온라인 세상이 '독'을 추천한다면, 오프라인 세상은 멀쩡할까?
영국 저널리스트 찰스 아서가 쓴 이 책이 고전이 될지 모르겠지만, 최소한 ‘소셜온난화(Social Warming)'라는 제목은 길이 남을 고전 급이다. 온실가스가 지구온난화, 기후재앙으로 이어지듯 소셜미디어는 사회적 분노 온도를 들끓게 만든다. 순식간에 재난 급이다. 사람과 사람, 사람과 정보를 연결하는 혁신이 사회적 가치를 만들 것으로 기대했으나 세상은 불현듯 당황하고 있다. 우리의 낙관은 착각이었다. 폐해는 걷잡을 수 없는 단계다.
좋은 것만 추천하는 줄 알았더니
신나치주의자, 백인우월주의자, 이슬람무장단체, 인종차별주의자 커뮤니티. 페북은 여러 차례 경고를 받았다. 시민사회는 ‘블랙리스트'를 공개했고, 페북도 엄중 단속을 선언했으나 말뿐이었다. 추천 알고리즘은 극단주의자들이 서로 찾아내도록 적극 도왔다. 극단주의자와 테러리스트 콘텐츠 99%를 삭제했다는 페북 발표와 달리 내부고발자는 3분의 1도 못 지웠다고 폭로했다.(100쪽)
TED 영상으로 시작했는데 CNN 영상을 추천하고, 그 다음엔 폭스뉴스로, 그 다음엔 극단주의자 앨릭스 존스의 콘텐츠가 나왔다. “뮤직비디오로 시작해 홀로코스트를 부정하는 동영상”까지 추천했다. (116쪽) 앨릭스 존스? 아, 나는 알렉스 존스라는 이름이 익숙했다. 끔찍한 극우 선동가. 책에도 등장하는 구글 내부고발자 기욤 샤슬로의 트윗이 떠올랐다. 구글은 알렉스 존스 영상을 걸러내기는 커녕 150억 차례 추천했다.
페북이 유능하지 않은 이유는 여럿이다. “나는 미얀마에서 무지개를 갖고 있으면 안된다"? 페북 번역과 달리 실제 문구는 “미얀마에서 눈에 띄는 대로 칼라들을 몰살하라. 한 놈도 살려두면 안된다”는 내용이었다고 한다.(213쪽) 미얀마어를 아는 담당자가 없었다는게 핑계가 될까? 미얀마 사람들은 페북에서 사는데? 저자는 디지털 리터러시가 없던 미얀마가 로힝야 부족 학살을 선동한 컨텐츠에 약했다고 분석한다. 그런데 리터러시만 문제였을까?
페이스북은 머신러닝 시스템으로 엄청나게 많은 가짜 계정을 찾아내서 차단할 수도 있었다. 스팸이나 신용사기 대응만큼 우선순위가 아니었을 뿐이다. 민주주의는 페이스북이나 광고주들 관심사가 아니었다. 알고리즘은 당신에게 진실을 보여주는 데에 맞춰져 있지 않다. (즐거워서든, 역겨워서든, 믿을 수 없어서든) 참여할 콘텐츠를 골라내려 애쓴다.(311쪽) 페북은 광고 타깃팅에 ‘유사과학'이라는 카테고리를 만들었고, 도달할 수 있는 사람이 7800만 명이라고 광고주에게 제시했다. 이쯤되면 뭐가 문제인지 모르는 아이에게 대량살상무기를 쥐어준 느낌이다.
온라인에선 왜 더 분노하지?
비도덕적 행위를 직접 경험한 이가 22%라면, 온라인에선 그 수치가 30%로 늘어난다. 전통 미디어에서 보는 건 10% 미만. 직접 보거나 들은 일보다 온라인에서 본 일에 훨씬 더 강하게 반응한다. 온라인에서는 ‘화내기'가 쉽고 대개 결과에 책임을 지지 않는다. 누군가를 망신주는 건, 온라인에서 감정적 소모가 훨씬 적다. 도덕적 분노를 담은 콘텐츠를 공유할 가능성이 더 높아진다. (132~133쪽)
리트윗이, 좋아요와 공유가 혐오와 분노를 증폭시키는 결정적 장치가 됐다. 한때는, 어쩌면 지금도 불의에 대한 저항, 인류애를 고양시키는 선한 이야기, 예쁜 고양이와 강아지가 주는 즐거움이 그 대상이었겠지만 분노가 가장 쉽게 전염된다. 그리고 모두가 잔인해진다. 왜냐고?
사람들은 그 결과를 예견할 분별력을 잃는다. 매번 별다른 문제가 없었기 때문이다. 사람들은 대면해서는 절대 하지 않을 무례한 말을 쓴다. 그 결과, 아무 일도 일어나지 않는다. 분노는 배가된다....분노에는 별다른 비용이 들지 않는다. 그 일로 법정에 끌려가기 전까지는. (154~155쪽)
혐오와 분노는 사람들을 뭉치게 한다. 부족화다.
헛소리와 망상은 인류와 함께 했다. 그렇다고 그런 목소리에 힘을 실어준 적은 없었다. 토론에서 누군가 말했다. 마땅히 소수로 남아야 하는 이들을 엮는 부작용이 생겼다. 일베가 그렇다. 모이면 안되는 이들이 모였고, 서로 존재를 확인하며 부끄러움이 없어졌다.
’버락 오바마는 아프리카에서 채어난 사회주의자 무슬림, 9.11 테러는 내부자 소행, 사람은 달에 간 적 없다, 지구는 평평하다, 백신은 심각한 질병과 자폐증처럼 치료 불가능한 증세를 일으킨다...’ 이런 것들을 방치하면, 편가르기 진술은 즉시 부족을 생성해서 그들과 어울려 분노의 조건을 만들어낸다. 다른 부족이 여기에 대해 뭐라고 떠드는지 보라! 괘씸하지 않은가! “최대한 분노를 유발하는 쪽으로 적응한 분노의 밈이 퍼져 나가는 건, 고대에는 긴요했던 진화의 법칙을 따르는 일". 소셜네트워크는 그런 진술이 급속히 진화하는 데에 이상적인 환경이다. (144쪽)
진실과 거짓이 뒤집히고 세계관이 바뀐다.
2016년 미국 대선의 가짜뉴스는 알려졌다시피 트래픽으로 광고 수익을 올리는 비즈니스가 됐다. 문제는 가짜뉴스가 진짜보다 힘이 세다는 아이러니. “진실은 1000명 이상 퍼지는 경우가 거의 없지만, 가짜 뉴스가 쏟아질 때에는 보통 1000명에서 10만 명까지도 퍼져 나간다.. 걸리는 시간은 거짓이 진실 대비 6분의 1”이란다. (294쪽) 가짜를 가려내는데 평균 사흘이 지체됐으니(306쪽) 이미 퍼질대로 퍼진 상태. 페북과 트위터 등은 ‘이의 제기' 등의 태그를 붙이기도 했지만 사람들은 별로 신경쓰지 않았다.
가짜뉴스와, 더 정확하게는 골리앗 페북과 싸운 다윗으로서 2021년 노벨평화상을 공동 수상한 필리핀의 언론인 마리아 레사는 선거기간 26개 가짜 페북 계정이 300만명에게 도달한 콘텐츠를 만들어냈다는 사실을 밝혔다. 필리핀은 하루 4시간30분으로 소셜미디어 이용시간 1위 국가. 인구 3분의 2가 페북을 쓴다. 하루 3시간45분의 소셜미디어를 쓴다는 브라질의 경우, 왓츠앱 그룹에서 ‘가장 많이 공유되는 사진 50장 중 어떤 식으로든 거짓이나 조작이 아닌 건 네 장 뿐'이었다는 조사가 나왔다.
”사용자에게 노출되는 콘텐츠를 편협하게 만들고 궁극적으로 사용자의 세계관을 바꿀 수 있다.” 이게 2018년 연구 결과다. 다름아닌 구글의 자회사이자 알파고 만든 딥마인드팀이 추천시스템을 연구했다. 제이넵 투펙치 NCU 부교수(소셜미디어 관심자라면 익숙한 그 분)는 “권력자들이 대중을 조작할 방법이 점점 더 많아진다”고 지적했다. (91쪽) 시민들은 이성적이고 비판적 토론이 아니라 자신의 신념 체제가 타당하다는 걸 확인하려 소셜미디어를 이용한다. 이건 BBC 연구자들 얘기다.(141쪽)
나쁜 정치와 나쁜 미디어에게 더 유리한 세상
정치인들은 혐오가 확산되는데 기여한다. 더 극단적으로 나갈수록 보상이 커진다. 정치적으로 극단적인 입장을 취하는 정치인에게 팔로워가 더 많으며.. 타협을 추구하는 중도 성향의 정치인은 양쪽 모두에게 공격받고 더 극단적 동료의원이 얻는 인기(또는 혹평)를 얻지 못한다. (243쪽)
소셜미디어는 ‘매스미디어가 당신에게 알려주지 않는 사실'이라며 가짜를 제시한다. 매스미디어는 그걸 소셜미디어에서 회자된다고 기사화, 그 이야기에 정당성을 부여한다. 이런 식으로 뉴스 거리에 굶주린 TV 방송 시간을 하루 종일 채웠다. 매스미디어는 소셜미디어를 먹고 산다. 매스미디어는 소셜온난화를 상징하는 분노를 가라앉히기보다는 일부러 증폭시키는 일이 잦다. (366~370쪽) 남아공에서 가짜 뉴스로 두 명의 재무장관이 경질된 뒤, 부패가 더 심해지고 최대 석탄 자산이 스위스 페이퍼컴퍼니에 팔려간 사례는 섬뜩하다.
”그래서 거짓 광고를 내리지 않을 거라는 건가요. 아니면 내릴 거라는 건가요?”
”민주주의 사회에서는, 찬성투표의 대상이든 아니든, 정치인들이 뭐라고 하는지 유권자들 스스로 알 수 있어야 하고 정치인들이 어떤 사람인지 스스로 판단할 수 있어야 한다고 믿습니다.”
”광고 내용이 틀렸다고 표시할 수는 있지만 광고를 내리지는 않을 거라는 거네요"
”상황에 따라 다릅니다만..”
2019년 10월 의회에 출석한 마크 저커버그가 오카시오 코르테스 하원의원에게 한 답변이다. 정치인이 설혹 거짓을 얘기해도 냅두겠다는 얘기다. 정치인 발언은 혐오라도 용인한 페북 입장은 히틀러에게 유대인 정책을 떠들 정치광고를 허용한다는 얘기로 비유됐다. (262~263쪽)
못하는 건 없다, 정책은 바뀐다
트위터 CEO 잭 도시는 2018년 9월 의회에서 “여론을 규제하거나 진실의 심판자가 되라고 트위터에 요구하는 건 위험하다고 저희는 믿고 있습니다"라고 말했다. 사실 페북이나 트위터에게 검열관이 되라는 사회적 압박이 어디까지 합당한지 아직 모호하다. 하지만 2019년 이후 페북과 트위터, 유튜브의 입장은 급선회했다. 코로나19라는 초유의 팬데믹이 이들을 움직였다. 기적의 물약을 먹으라는 베네수엘라 니콜라스 마두로 대통령의 트윗, 말라리아 치료제가 있으니 사회적 거리두기 그만하자는 브라질 브라질 보우소나루 대통령 트윗이 삭제됐다. 불과 몇년전, 2016년 지카바이러스 사태 당시 가짜 게시물은 조회수가 53만에 2만 명이 공유할 때 WHO 공식 영상은 조회수 4만에 공유가 1000회도 안됐다는 점을 감안하면 이들의 정책 변경은 의미가 있다. 비록 미국인 4분의 1 이상이 코로나19가 연구실에서 일부러 개발되었다고 믿는(퓨리서치) 상황에 소셜미디어 기여가 없지 않았겠지만 그래도.
해법은
저자는 다양한 전세계 사례, (유튜브보다 주로) 페북 등의 무능하거나 무책임한 행위가 가져온 나비효과를 자세히 분석한다. 그런데 늘 그렇지만 해법이 문제다.
테크 기업에 제동을 걸어야 한다는 지적은 타당하다. 하지만 저자가 제시한 통신품위법(Communication Decency Act, CDA) 제230조 개정 방안은 이쪽 좀 들여다봤던 이로서 난감하다. 이 조항은 플랫폼에 올라오는 제3자 컨텐츠에 대해 사업자에게 폭넓은 면책을 제공한다. 면책이 안된다면? 일단 애매한건 지우는게 안전하다. 혐오든 뭐든, 명예훼손이든, 비방이든 음란물이든. 저자는 230조가 없었다면, 페북도 트위터도 유튜브도 없었을 거라 한다. 웹은 안전한 학술논문로 채워지고 포르노도 사라졌을 거라고. 그게 우리가 원하는 세상 맞나? 최근 미국 정치인들도 저 조항 개정에 진심인데, 아마 전세계에서 유사한 규제가 강화되는 수순으로 보인다. 가짜뉴스가 심각해지면서 표현의 자유를 제한해야 한다는 쪽으로 무게 중심이 이동하는 것이라 유감이다. 개인적으로는 차별금지법을 통해 혐오, 차별 표현만 규제하는 쪽을 지지한다.
이 책은 #트레바리 #디지털탐구생활 2022년 3월 모임에서 함께 읽었다. 소셜온난화도, 기후온난화도 규제 밖에 답이 없다는 점에서 잘 지은 제목이란 얘기가 나왔다. 정보에 대한 갈망, 더 많은 사람들과 연결되고자 하는 욕망이 더 자주, 더 오래 소셜네트워크에 머물게 했다. 이제는 여기에 아무런 제동이 걸리지 않는다는게 불안한 시대다. 진짜 뉴스 중 중요한 건 강제로 보여주는 방식이 어떻냐는 얘기도 나왔다. 그게 과거 '땡전뉴스'의 논리라, 진짜 중요한 뉴스를 누가 결정할 수 있을까. 정부는 안되고, 언론사? 포털? 소셜미디어? 양쪽 진영에서 관련 위원회를 구성해서 균형을 맞추자고 할까? 인도가 한바탕 난리 끝에 도입했다는 왓츠앱 공유 제한 방안은 인상적이다. 말하자면 컨텐츠나 링크를 5개 카톡방까지만 전달하도록 제한하는 기능이다. 최소한 논의는 해볼 수 있지 않을까? 페북을 쪼개서 네트워크 크기를 제한하자는 방안도 나왔는데, 회사를 분할한다고 플랫폼이 쪼개지는 건지 실효성은 잘 모르겠다. 저자는 '바로 잡으려면. 우리 모두 소셜네트워크를 덜 사용하도록 유념해야 하고, 그들이 분노를 불러일으킨다는 걸 인식해야 하고, 거기에 저항해야 한다'(425쪽)는데 사실 맥빠진다. 어쩌면 알고 있다. 리터러시, 교육 외에는 답이 없다는 걸. 다만 메타, 메타버스가 유행어가 됐듯 온라인 인생이 현실 삶에서 점점 더 비중이 커진다. 소셜미디어를 덜 쓰는 방법은 글쎄, 게임 등 컨텐츠를 더 소비한다면 시간이 부족해서 줄일까? 게임도 컨텐츠도 결국 커뮤니티고 부족화인데 과연? 결국 현실이 더 재미있으려면?
<소셜온난화> 디지털 탐구생활 3월18일 모임 발제
1> 정치적 경제적 이해
진영으로 갈라지는 부족화, 양극화는 불가피한 것일까?
끼리끼리 편안한 커뮤니티가 문제가 될까?
분노와 혐오를 이용하는 것이 정치적, 경제적으로 더 이득이 된다면?
자극적 이야기가 잘 팔리는데 팩트가 이길 수 있을까?
2> 해법에 대한 고민
가짜뉴스를 알고리즘으로 막을 수 있을까?
정부 대신 플랫폼 사업자가 ‘검열관'이 되는 세상은 괜찮은가?
미디어의 독점과 영향력 규제가 빅테크에게도 가능할까?
서로 다른 생각을 주고받는 공론장이란 불가능한 것일까?
소셜미디어의 순기능과 역기능을 분리해 대응할 수 있을까?
