/the social dilemma_
산재한 문제와 가능한 실천들
9월 9일 넷플릭스에는 '소셜 딜레마'라는 이름의 다큐멘터리가 업로드됐습니다. 영상에는 구글, 페이스북, 핀터레스트, 트위터의 주역들이 등장합니다. 그들은 좋아요 버튼이나 무한 스크롤링 같은 현대적 인터페이스의 표준을 만들었습니다. 하지만 역설적이게도 스스로 만든 창조물에 대한 위험성을 경고합니다. 다큐에는 중독과 편향, 양극화 같은 소셜 미디어를 둘러싼 다양한 문제들이 등장합니다. 부끄럽게도 저는 이 글을 쓰기 위해 다큐를 시청하는 동안 5번의 알림을 받았고, 10번 이상 핸드폰을 확인했습니다.
[그림 1] /the social dilemma_/구글은
단순한 검색창일까?_
구글에서 '기후변화'를 검색하면 거주지에 따라 전혀 다른 자동완성 결과를 만나게 됩니다. 어느 도시에서는 ‘기후 변화는 거짓말'이라고 출력됩니다. 다른 곳에서는 '기후 변화는 자연 파괴를 야기한다'라고 출력됩니다. 자동 완성은 세계의 객관적 진실이 아닙니다. 단지 구글링 하는 장소와 구글이 우리에 대해 아는 것과 관련 있습니다. 이것은 우연이 아니라 설계자에 의한 디자인입니다.
[그림 2] 지역에 따라 달라지는 구글 검색의 자동완성 기능(출처:넷플릭스 '소셜 딜레마')/27억 개의
트루먼 쇼_
아주 친한 친구 둘이 있다고 가정해봅시다. 둘은 친구 목록도 비슷합니다. 은연중 페이스북 피드에 같은 것들이 노출될 것이라 생각하기 쉽습니다. 하지만 실상은 전혀 그렇지 않습니다. 둘은 자신들이 좋아요 하고 팔로우한 콘텐츠에 맞게 완전히 다른 피드로 세상을 마주합니다. 소셜 미디어에 가입된 27억 명에게는 각자의 현실이 있고 거기에 맞는 사실이 존재하는 셈입니다. 정치적 견해가 다른 두 사람의 피드는 매우 다른 양상을 가질 수밖에 없겠죠. 며칠간 비슷한 피드를 보다 보면 내 생각과 다른 사람 생각이 같을 거란 착각을 하기 쉽습니다. 이는 우리가 쉽게 선동당할 수 있는 장치가 됩니다.
이러한 사실은 우리가 객관적이고 건설적 개인이 아니라는 것을 시사합니다. 인간의 약함을 견지하는 것부터가 이 논의의 출발점입니다.
[그림 3] 영화 '트루먼 쇼'의 한 장면/포토 태그와
심리적 트리거_
친구가 방금 사진에 나를 태그 했다는 알림은 거부하기 힘든 유혹입니다. 인간 심리의 깊숙한 뇌관인 사회적 승인(Social Approval)을 건드리기 때문입니다. 무한히 피드를 볼 수 있는 무한 스크롤링은 예측 불가능함이 주는 뇌의 보상 시스템을 활성화시킵니다. 이는 슬롯머신 원리와 유사합니다. 유튜브의 자동 영상 추천 또한 비슷한 성격을 가집니다.
전 페이스북 부사장인 '차마스 팔리하피티야'는 초기 페이스북 성장에 큰 기여를 했습니다. 그가 개척한 대표적인 것은 작은 차이의 비교를 통해 제품을 성장시키는 A/B 테스트입니다. 포토 태그 같은 기능 역시 오랜 기간 A/B 테스트를 통해 고도화된 것입니다. 이렇게 고도화된 기능은 사용자 행동을 예측하는 데 사용됩니다.
/데이트 없는
젠지 세대_
영상에는 소셜 미디어가 미국에 퍼진 시기와 10대 자살률이 눈에 띄게 증가하는 시점을 비교합니다. 통계에 따르면 소셜미디어가 없던 2000년~2010년에 비해 2011년부터 현재까지 15세~19세 소녀들의 자살률이 70% 증가했습니다.
1996년 이후 태어난 젠지 세대는 역사상 처음으로 중학생 때 소셜 미디어를 접합니다. 통계에 의하면 젠지의 스마트폰 이용시간은 매우 높은 편입니다. 사회학자들은 이들이 위험을 감수하기 싫어하는 세대적 특성을 가졌다고 봅니다. 데이트처럼 로맨틱한 관계를 가져본 아이들의 수가 점점 줄어듭니다. 운전면허 취득률 역시 전 세대에 비해 낮습니다. 자신의 정체성을 좋아요 개수와 댓글로 형성해갑니다. 타인의 시선에 내 존재가치를 매핑합니다. 한 세대의 인간성이 다운그레이드화 되고 있는 것입니다.
디지털 기술은 아동심리학자가 만든 것이 아닙니다. 소셜 미디어의 심리적 테크닉은 뇌간 깊숙이 파고들어 아이들의 정체성을 장악합니다. 인류는 주변 사람들의 비평에 관심 갖도록 진화했습니다. 원시인류는 사냥 후 대부분의 시간을 동굴에 모여 사회적 관계 유지로 보냈습니다. 하지만 우리 뇌가 1만 명의 비난을 견디게끔 진화한 것은 아닙니다. 악플로 인한 유명 연예인의 자살은 이와 관계있습니다.
[그림 4] 미국 10대 소녀들의 자살률 변화/같이 고민해볼
딜레마들_
The mental health dilemma
2017년 미국 역학 저널에 따르면 소셜미디어 사용량의 증가는 정신적, 신체적 건강 및 삶의 만족도 감소와 관련이 있다고 합니다.
The democracy dilemma
뉴욕 타임스에 따르면 소셜 미디어에서 정치적인 허위 정보 캠페인을 실시한 국가의 수가 지난 2년 동안 두 배로 증가했다고 합니다. 광고주가 소셜미디어를 활용한 마이크로 타겟팅을 정치적 목적에 활용할 수 있는 길은 너무나 많습니다.
The discrimination dilemma
2018년 발표된 페이스북 내부 보고서에 따르면, 극단주의 그룹에 가입한 64% 사람들은 단순히 알고리즘에 이끌려 그렇게 됐다고 답했습니다. 만약 누군가 극단적 그룹에 가입했다면 소셜 미디어는 이와 유사한 게시물을 계속 추천합니다. 이런 환경이 지속되면 자기 편향이 강해집니다. 그리고 그것이 세계의 객관적 진실이라고 믿기 쉬워집니다.
/강화되는
사용자 예측모델_
전 트위터 제품 수석 이사인 제프 세버트(Jeff Seibert)는 다음과 같이 말합니다. "우리가 온라인에서 하는 모든 행동들은 감시되고, 추적되고, 측량됩니다. 무슨 이미지를 얼마나 오래 봤는지도 말이죠"
[그림 5] 소셜 미디어와 예측모델
소셜 미디어에 한 사용자가 있다고 가정해봅시다. 이 사람은 애인과 헤어진 지 얼마 안 됐습니다. 피드 상태가 연애 중에서 솔로로 변경됐습니다. 사용자는 전 애인 사진을 오랜 시간 봅니다. 시스템은 이 사람을 '외롭다'라고 상정합니다. 그리고 비슷한 상황의 사람들에게 유효했던 정보를 피드에 뿌려줍니다. 광고 상품과 함께 말이죠.
시스템은 사용자 평균 사용시간에 맞춰 노출되는 광고량을 줄이거나 키웁니다. 그리고 자주 이탈하는 시점에 맞춰 친구나 가족사진을 더 보여줍니다. 소셜 미디어는 생각보다 우리에 대해 더 많이 알고 있습니다. 우리가 밤에 무얼 하는지, 내성적인지 외향적인지, 어떤 신경증을 갖고 있는지, 성격이 어떤지까지요. 데이터는 지금 이 순간에도 쏟아지고 있습니다. 우리가 유튜브에서 본 영상과 페이스북에서 누른 좋아요는 더 정확한 예측 모델을 만드는 데 쓰입니다.
/저스틴
로젠스타인의 회고_
저스틴 로젠스타인은 페이스북 ‘좋아요' 기능을 만든 장본인입니다.(팀 협업 프로그램인 Asana의 창업가이기도 합니다.) 그는 한 인터뷰에서 선의를 가지고 개발했지만 자신의 창조물이 사람들에게 생각지 못한 부정적 영향을 주는 모습에 깊은 고민을 표했습니다. 그는 페이스북과 스냅챗에 대해 다음과 같이 말합니다.
저스틴 로젠스타인은 이 앱들이 헤로인과 맞먹을 정도로 중독성 있다고 판단했다. 그리고 휴대전화 사용 습관을 바꾸기 위해 부모가 자녀의 휴대전화 사용을 제한할 때 설치하는 기능을 자신의 휴대전화에도 설치했다. <인스타 브레인, 87p>
저스틴 로젠스타인이 남긴 유산은 페이스북의 스마트한 직원들에 의해 계승 중입니다. 실리콘밸리의 백인 디자이너 몇 명은 전 세계 10억 명이 넘는 사용자 경험을 설계합니다. 이처럼 소수가 절대적 다수의 행동 패턴을 조직하는 상황은 과거에 볼 수 없던 특이한 지형입니다. 디자이너가 설계한 화면은 지금 이 순간에도 인류의 시간에 많은 영향을 주고 있습니다.
/미얀마와
페이스북_
미얀마 사람들은 인터넷이라고 하면 즉각 페이스북을 떠올립니다. 스마트폰을 개통하면 대리점에서 페이스북을 설치해주고 계정을 열어줄 정도입니다. 한나라의 주요 미디어 역할을 페이스북이 하는 셈입니다.
2016년 미얀마에는 끔찍한 사건이 발생했습니다. 미얀마 정부군이 이슬람 계열 소수 민족인 로힝야족에 대한 폭력과 대량 학살을 저지른 것입니다. 결과로 65만 명의 난민이 발생했습니다. 집단 성폭행이 있었고, 수천 명의 사상자가 발생했습니다. 이 사건의 중심에는 극우 불교 단체인 바마따(Ma Ba Tha)와 반 로힝야 그룹의 페이스북 가짜 뉴스가 있었습니다. 사람들은 선동됐고 로힝야족을 증오하기 시작했습니다. 소셜 미디어 알고리즘은 비슷한 피드를 연속해서 추천하기 때문에 집단 증오 현상이 가속화되는 경향이 있습니다. 미얀마 사건 때 이를 방치했던 페이스북은 세계적 질타를 받았습니다.
[그림 6] 박해받는 로힝야족 (출처:Pulitzer Center)/실제 뉴스보다
6배 빨리 퍼지는
가짜 뉴스_
MIT의 한 연구에 따르면 트위터에서 가짜 뉴스가 진짜 뉴스보다 6배 빨리 퍼진다고 합니다. 빠른 전파는 광고와 관련 있고 수익으로 연결됩니다. 다큐는 정보의 진위 여부보다 가짜 뉴스라도 빠른 확산을 통해 클릭을 유도하고, 체류시간을 높여 광고비를 취하는 시스템을 비판합니다.
음모론을 좋아하는 한 사용자가 있다고 가정해봅시다. 이 사람은 달 착륙을 믿지 않습니다. 그는 음모론 관련 피드를 좋아요 했습니다. 알고리즘은 달 착륙 거짓설을 믿는 그룹을 추천합니다. 추천 알고리즘은 진실을 판단하는 데 관심이 없습니다. 단지 사용자 취향에 맞는 것을 연속해서 줄 뿐입니다. 이러한 현상은 정보 고립을 만들고, 민주주의의 극단적 대립으로까지 연결됩니다.
다큐에는 한 유명 농구선수가 라디오에서 지구가 평평하다고 말한 뒤 곤욕을 치른 사건이 나옵니다. 그는 유튜브에서 지구가 평평하다는 영상만 보여줘서 속았다고 고백했습니다. 각자의 진실을 가진 세상이라면 우리는 남을 이해할 필요가 없습니다. 그런 형태를 국가라고 부르지 않습니다. 우리에게는 함께 이해할 수 있는 현실이 필요합니다.
/다른 세상을
꿈꾸는 사람들_
영상에는 다양한 해법들이 등장합니다. 예를 들어 데이터 수집과 처리에 세금을 부여하는 것입니다. 수도세가 사용한 물의 양에 따라 책정되는 것과 같은 원리로, 기업이 가진 데이터 양에 따라 세금을 부과하자는 것입니다. 이로 인해 구글 같은 기업은 지구 상의 모든 데이터를 수집하지 말아야 할 재정적 이유가 생깁니다.
‘인간을 위한 기술’이라는 생각은 사실 실리콘 밸리의 출발점과 같습니다. 기술은 물리법칙이 아닌 인간의 선택이기 때문입니다. 실리콘 밸리 주역들은 다음과 같이 말합니다. “우리는 상품을 이윤이 아닌 인간을 위해 디자인하라고 요구할 수 있습니다”, “우리를 채취 가능한 자원으로 취급하지 않기를 요구할 수 있습니다”, “핵전쟁, 기아, 환경같이 산재한 문제들은 결국 인간이 해결하는 것입니다. 기술은 인간의 사유를 빼앗게끔 발전하고 있습니다”, “다운그레이드화 된 인류는 이러한 문제를 해결할 수 없습니다”
구글의 전 디자인 윤리학자 트리스탄 해리스는 앞으로 디지털 기술이 인류의 시간을 뺏는 것이 아니라, 잘 쓰게 하는 것(Time Well Spent)에 집중되어야 한다고 말합니다. 마크 저커버그는 이를 받아들여 2018년 1월 페이스북의 디자인 목표를 ‘Time Well Spent’로 지정했습니다. 2018년 5월 애플과 구글은 ‘Digital Well-being’을 중요한 디자인 의제로 채택했습니다. 변화는 시작되었습니다. 인터페이스를 다루는 디자이너도 시대에 발걸음을 맞출 필요가 있다고 생각합니다.
[그림 7] 구글의 전 디자인 윤리학자 '트리스탄 해리스'/가능한
실천들_
알림 성정을 모두 끈다.
소셜 미디어에서 나와 반대 의견을 가진 사람도 팔로우한다.
나를 지속적으로 다른 관점에 노출시킨다.
모든 전자 기기를 침실에서 제거한다.
무언가를 공유하기 전 팩트를 확인하고 검색을 더 해본다.
유튜브 영상 추천을 받지 않고 선택해서 본다.
추천 목록을 제거하는 크롬 확장 프로그램을 사용한다.
자녀가 고등학생이 될 때까지 소셜미디어를 금지시킨다.
자녀와 스마트폰 사용 시간 예산을 짠다.
자녀에게 하루에 몇 시간이나 소셜미디어를 사용하고 싶어?라고 물어본다.
구글 대신 사용자 검색 기록을 저장하지 않는 '콴트'를 쓴다.
Calm이나 Flipd 같은 집중력 향상에 도움을 주는 앱을 사용해본다.
/the social dilemma_(끝)
[참고자료]
