SNS를 사용하는 인간, SNS가 판매하는 인간
넷플릭스 영화 〈소셜 딜레마〉(2020)
광고주를 위해 상품·데이터가 된 인간
다큐멘터리 영화 〈소셜 딜레마〉는 '빅브라더'에 관한 수많은 논의의 연장선에 있다. 구체적으로는 구글, 페이스북과 같은 글로벌 IT 기업이 어떻게 인간을 자원화·상품화하는지를 다룬다. 영화를 보는 동안, 스마트폰을 대하는 우리의 순진한 태도와 글로벌 IT 기업의 치밀함 사이에서 종종 두려웠다.
핵심은 인간이 상품이 된다는 것이다. 글로벌 IT 기업은 물건을 생산하여 판매하지 않는다. 그들은 인간을 상품으로 만들어 수익을 낸다. 어떻게 해야 사람들이 더 많은 시간을 자신들의 플랫폼에서 보낼지를 고민하고 사람들이 머문 시간을 광고주에게 판매한다. '우리 플랫폼에 이렇게 많은 사람이 이렇게 많은 시간을 보내고 있으니 여기에 광고하세요!'라고 말하는 것이다.
순진한 인간, 치밀한 IT 기업
그렇다면 글로벌 IT 기업은 사용자의 시간을 잠식하기 위해 어떤 일을 할까? 태그, 좋아요 버튼, 상대가 글을 쓰고 있음을 알려주는 말풍선, 자동완성, 알고리즘 등이 그 고민의 결과다. 인간은, 사소하지만 치밀한 설계에 쉽게 넘어간다. 이런 설계들이 쌓이면, 사람들은 스마트폰을 켰을 때 무언가 재밌는 게 있을 거라 기대하기 시작한다. 그래서 시도 때도 없이 스마트폰을 들여다본다. 우리가 스마트폰 '중독'이 되는 것은 의지박약의 문제가 아니다. 이미 수많은 온라인 플랫폼이 그렇게 설계되었기에 우리의 시간을 쏟아부을 수밖에 없는 것이다.
물론 이들의 시도가 항상 성공하는 것은 아니다. 그래서 어떻게 해야 사람들이 더 많은 시간을 자사 플랫폼에 쏟는지 알아보기 위해 수많은 실험을 반복한다. 그러나 사용자들은 자신이 실험용 쥐가 된 지를 모른다. 동의를 구하는 절차가 없기 때문이다. 사람들은 자신이 '선택한' 콘텐츠를 '자유롭게' 즐긴다고 생각하지만, 사실 그들은 글로벌 IT 기업의 데이터가 되어버렸을 뿐이다. 광고주에게 판매하기 위한 데이터 말이다.
요컨대, 인간은 자신이 SNS를 사용한다고 생각하지만 이는 틀린 말이다. SNS는 사용되길 기다리는 수동적인 도구가 아니다. SNS는 자체의 목적이 있고 이를 달성하려 한다. 인간은 오히려 SNS의 수단이다. 목적을 달성하려는 SNS의 자가발전은 매우 강력하다. SNS의 인공지능이 어느 정도 궤도에 오르면, 설계자조차 휘둘리는 지경에 이른다.
알고리즘은 중립적일까?
알고리즘은 어떻게 사회를 망가뜨릴까?
SNS, 온라인 플랫폼의 복잡한 알고리즘이 인간의 시간을 잠식하는 것은 심각한 사회문제를 초래하기도 한다. 첫째, 사람들의 심리가 취약해진다. 인간은 오랫동안 타인의 인정을 통해 자존감과 정체성을 형성해왔다. 하지만 SNS는 타인의 인정에 노출되는 빈도를 위험할 정도로 높였다. 기존에는 수십 명의 주변 사람들에게만 받으면 됐던 인정의 범위가 수천, 수만의 불특정 다수에게 확대되었다. 당연히 인간의 자존감과 정체성이 취약해진다. 영화는 십 대 여학생의 우울증과 자살률의 큰 증가가 SNS의 등장과 맞물려 있음을 보여준다.
SNS, 온라인 플랫폼의 알고리즘은 사회의 분극화를 더 심화시키기도 한다. 구글은 검색 장소와 검색자의 성향에 따라 다른 검색 결과를 제공한다. 사람들은 비슷한 의견이 올라오는 계정만 팔로우한다. 모두가 공유할 수 있는 진실은 사라지고 파편적 사실만이 남는다. 이를 공유하지 못하는/않는 사람은 적이 된다.
무엇보다 알고리즘은 공정하지 않다. 《대량살상 수학무기》의 저자 캐시 오닐은 알고리즘이 공정할 것이라는 기대를 얼마나 처참하게 배반하는지 보여주기 위해 'WMD(weapons of mass destruction, 대량살상 수학무기)'라는 용어를 만들기도 했다. 그에 따르면 알고리즘은 공정하기보다는 오히려 기존의 불평등을 더욱 강화하는 방식으로 작동할 가능성이 크다.
해답, 그리고 남는 질문들
영화의 마지막, 글로벌 IT 기업에서 일했던 사람들은 나름의 대안을 제시한다. 데이터에 세금을 매기는 방법, 윤리적 설계를 강제하는 방법 등등.
영화를 보고 머릿속이 복잡해졌다. 나는 새로운 기술의 부정적 영향보다 이를 긍정적으로 전유하는 방식을 고민하는 것이 더 바람직하다고 생각해왔다. 이를테면, 많은 사람이 데이팅 앱이 사랑·친밀성을 상품화하여 온갖 범죄의 온상이 되었다고 비판한다. 하지만 친밀성·사랑의 대상을 만나는 데 제약을 받아온 성소수자에게 데이팅 앱은 새로운 만남의 가능성을 열어주기도 한다.
영화는 새로운 기술에 대한 인간의 '적응'·'전유'의 가능성을 존중한다. 그러나 '적응'·'전유'를 말하기엔 기술의 발달 속도가 너무 빠르다고 말한다. 인간의 뇌가 도무지 따라갈 수 없는 속도로 기술이 발달하고 있다는 것이다. 영화는 온라인 플랫폼, SNS의 순기능을 인정하기도 한다. 다만, '유토피아이면서 동시에 디스토피아'인 온라인 플랫폼, SNS의 좋은 면만 강조되어서는 안 된다는 점도 경고한다. 우리는 부지불식간에 삶의 너무도 많은 부분을 글로벌 IT 기업에게 빼앗겨왔기 때문이다.
무엇보다 이 영화가 넷플릭스 오리지널 콘텐츠라는 것이 아이러니했다. 넷플릭스도 사용자가 넷플릭스를 더 오래 사용하도록 만들기 위해 취향을 분석하고, 콘텐츠를 추천해준다. 이 영화도 내 넷플릭스 추천영화 리스트에 들어있었다. 알고리즘을 비판하는 영화를 알고리즘에 의해 추천받을 수밖에 없는 상황이야말로 이 영화의 문제의식을 가장 잘 보여준다.
영화를 보고 유튜브 등의 검색기록과 알고리즘 추천을 모두 해제했다. 하지만 답답함에 며칠 만에 원래대로 돌려놓았다. 개별 인간이 대처하기엔 일상의 자율성을 위한 싸움의 영역이 너무나도 넓어졌다. 이제는 사회적·정책적 해결책이 필요한 시점이다.
