brunch

브런치북 세상운영공통안내withCinema 11화

라이킷 14 댓글

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 소셜트래블러 Apr 27. 2021

#알고리즘의 배신 Part2.

소셜 딜레마(2020 / 제프 올롭스키)

‡알고리즘(인공지능)의 폐해‡

디지털 젖꼭지로 이미 한 세대를 점령해버린 SNS. SNS는 끊임없이 사람들에게 클릭을 요구하고, SNS의 세상에 머물러 있도록 유혹한다. 청소년들에게 중독이라는 영향을 끼쳤다면, 성인들에게는 어떤 영향을 끼쳤을까. 영화에서는 NBA 스타인 카이리 어빙*의 일화를 예로 든다. 2017년. 카이리 어빙은 SNS를 통해 지구가 평평하다고 이야기를 해 다시 한번 논란에 중심이 된다. 카이리 어빙은 이후에 라디오 방송에 나와서 대중들을 호도하려고 했던 것이 아니었다며 대중들에게 사과를 했다. 그는 ‘유튜브를 클릭하면 헤어 나올 수 없게 되잖아요’ 라며 유튜브를 비난하기도 하였다. 어빙이 믿었던 지구 평면설을 주장하는 평평한 지구 학회(Flat Earth Society)는 10만 명이 넘는 회원을 보유하고 있으며 ‘평평한 지구 국제 콘퍼런스’를 조직해 2017년부터 매년 국제학회를 개최하고 있다. 이에 대해 텍사스대학교 애쉴리 랜드럼 교수는 평평한 지구 학회 회원 30명을 인터뷰했는데, 그 결과 하나의 공통점을 발견할 수 있었다. 바로 유튜브이다. 영국 가디언 지에 실린 관련 보도에 따르면 그중 29명은 2년 전에는 지구 평면설을 믿지 않았다. 그러다 유튜브에서 제공하는 추천 기능을 통해 지구 평면설 관련 동영상을 보게 되었다고 한다. 인터뷰에 응한 30명 대부분은 9·11 테러, 달 착륙 음모론에 대한 동영상을 시청한 전력이 있으며, 알고리즘의 추천을 통해 지구 평면설 동영상을 시청한 것이다.**

*카이리 앤드루 어빙(Kyrie Andrew Irving), 2012년 NBA 신인왕 수상 및 올스타 6회, 2014년에는 올스터전 MVP를 수상. 2016년에는 NBA 챔피언 등 NBA 유명 스타 중 한 명이다.

**김태봉 기자, ‘인간의 위선과 확증편향’, 개미 신문, 2019.05.07

출처 : 네이버 영화 포토

영화는 평평한 지구 학회 회원을 인터뷰한 결과를 통해 또 하나의 문제점을 발견한다. 유튜브 등의 알고리즘이 올려주는 과연 피드가 사용자에게 좋은 것인지, 우리에게 어떤 영향을 미치는지에 대한 질문에 대해 인공지능은 전혀 답하지 않는다. 즉 인공지능은 사회적 혹은 개인적 윤리 등에 대해 전혀 관심이 없다. 그들의 목표가 피드의 사실 여부와 옳고 그름 여부에 상관없이 그저 사람들을 플랫폼에 머무르도록 하는 것이기 때문이다. 특히 어빙의 이야기처럼 유튜브와 같이 콘텐츠의 클릭수 자체가 유튜버에게 이익이 되는 구조이기 때문에 더욱 폐해가 심각하다. 이익을 위해 유튜버들은 클릭을 유도하기 위한 자극적이고 선정적인 콘텐츠들이 양산하고 있으며, 진실을 알 수 없는 가짜 뉴스들을 만들어 사람들의 말초신경을 자극하기도 한다. 지금 유튜브를 켜고 제목 등 썸네일을 한번 살펴보시라. 선정적이며 자극적인 상당수의 썸네일을 발견할 수 있을 것이다. 클릭을 해 영상을 시청하면 썸네일과 거의 상관없는 내용의 콘텐츠가 비일비재하다. 영화에서는 이러한 가짜 뉴스가 SNS를 통해 6배나 빨리 퍼진다고 이야기한다. 이렇게 퍼진 가짜 뉴스는 사회를 혼란에 빠뜨리거나 잘못된 사회상을 사람들에게 인식시키기도 하는 등 전체적으로 악영향을 끼친다. 조금만 더 생각해보면 SNS의 등장으로 사람들의 성향이 극으로 점점 치닫고 있음을 느낄 수 있다. 특히 SNS가 사람들의 정치성향에 큰 영향을 끼쳤다. 극좌·극우의 성향을 가진 사람들이 많아졌으며, 아예 관심이 없었으면 없었지, 중간층은 거의 찾아보기 힘든 상황에 이르렀다. 예를 들어 자신의 정치색에 대한 영상만 추천하는 알고리즘의 영향으로 인해 상대방의 이야기를 전혀 듣지 않게 되고, 그들과의 공존은 점점 어려워지기 시작한다. 결국 점점 사람들이 분극화되어 상대의 진형을 증오하는 형태로 발전한다. 이와 같은 현상은 사람들과 소통하기 위해 만들어진 SNS가 오히려 소통을 제한하고 방해하는 아이러니로 인해 2020년 현재 전 세계적으로 민주주의가 점점 무너지고 있음을 영화는 지적한다.

이런 환경 조성은 SNS가 가진 정보 유통 능력이 주요 요인으로 작용한다. SNS는 특정 정보 들을 신속히 전달해 거대한 정서교감의 장을 이어나갈 수 있게 하는 온라인 기술 설계를 토대로 대중이 빠르게 정보를 유통하는 방식을 취한다. SNS를 통해 각종 이미지, 정보, 영상 데이터에 의한 대중 왜곡이 범람하고, 그러다 보니 이에 대응해 팩트 체크가 거의 일상인 현실을 우리는 살아가고 있다. 대중은 과잉 정보와 거짓 뉴스의 범람으로 피로감을 호소하게 되고 진실에 대한 판단 자체를 유보*하게 된다. 21세가 대중들이 가진 가장 큰 무기가 바로‘관심’이라고 할 때, 대중들로 하여금 가장 큰 무기의 동력을 조금씩 잃어가게 만드는 원인이기도 하다. 영화에서는 이와 같은 현상을 매우 우려한다. 유튜브 등 SNS는 대중들을 매우 자극적인 설득 도구로서의 기능을 담당하고 있으며, 만약 악당들이 이를 이용한다면 사회의 기능을 쉽게 상실할 수 있게 만들 수 있음을 이야기한다. 실제로 미국에서는 코로나 바이러스에 대한 거짓 뉴스 혹은 정보들이 대중들의 관심을 끌었으며, 거짓 정보를 약 5200만 건 정도 열람을 하기도 했다. 실예로 2016년 미국 대선 당시 클린턴 전 장관이 대선후보이던 시절 페이스북 등의 SNS를 통해 그와 그의 선거대책본부장 존 포데스타가 워싱턴 DC의 한 피자집 지하실에서 소아성애 행위를 즐기고 인신매매를 하고 있다는 거짓 정보가 돌았다.** 2016년 12월 해당 게시물의 댓글과 좋아요, 게시물 공유는 페이스북에서만 51만 건 이상을 기록했다. 전혀 근거가 없는 거짓 뉴스임에도 불구하고 이를 맹신하여 아동 성매매 조직이 활동한다는 장소로 지목된 곳에서 총기를 난사한 사람도 등장했다. 이를 두고 미국 정치권에서는 트럼프의 선거운동 전략이었다는 분석이 쏟아져 나왔다.*** 이러한 가짜 뉴스가 사회에 미치는 영향은 미국만이 아니다.**** 페이스북이 곧 뉴스의 기능인 미얀마에서는 로힝야족에 대한 거짓 정보로 그들을 향한 증오가 확산되어 대량 학살 및 강간 등이 조장되어 수많은 로힝야족이 죽음을 당했다. ***** 이러한 거짓 정보가 어떻게 시작되었을까? 누군가 자신의 이익을 위해 거짓 정보를 퍼뜨린 것이 아닐까? 알 수 없지만 위험한 무기가 이 세상에 드러난 것만은 확실하다.

*이를 탈진실(post-truth)라고 한다. 옥스퍼드 영어사전의 정의에 따르면 탈진실은 여론을 형성할 때 객관적인 사실보다 개인적인 신념과 감정에 호소하는 것이 더 큰 영향력을 발휘하는 현상을 뜻한다.

** 피자 게이트 사건

***4년 후 SNS 틱톡의 등장으로 다시 피자 게이트가 등장했다. 이번에는 가수 저스틴 비버, 빌 게이츠, 오프라 윈프리 등 민주당 지지자들이 대거 포함되어 저격되었다.

****영화에서는 홍콩 시위 등에 대한 이야기가 잠깐 언급되나 논란의 여지가 있어 글에는 기록하지 않았다. 이 외에도 러시아 대선 개입에 대한 이야기도 등장한다.

***** BBC 트렌딩 소셜미디어 심층 분석, ‘소셜미디어:페이스북이 미얀마에 불러온 참극’, BBC 코리아, 2018.09.14

‡SNS의 목적‡

SNS는 자본주의의 정점이다. 한 사람의 데이터를 상품화하여 기업들은 끝없이 자본을 벌어들이고, 상품화된 사람들은 알고리즘으로 인해 스스로의 주체성을 잃어간다. 권력을 유지하고자 하는 이들은 거짓 뉴스로 상대를 공격하고, 사람들을 고용해 댓글을 작성함으로 여론을 조작하기도 한다. 그리고 사람들은 분극화되어 민주주의는 무너져간다. 영화는 이러한 거대한 SNS의 흐름을 우리에게 효과적으로 전달한다. 또한 SNS에 대한 위기감을 전달한 것으로 마무리하지 않고, 인터뷰이들의 목소리로 우리에게 행동할 것을 요청한다. 먼저 모든 기기의 알람 설정을 해제하라는 것이다. 컴퓨터로 SNS를 이용하는 사람들은 추천 기능을 끄는 크롬 확장 프로그램을 활용하는 것을 권한다. 두 번째로 모든 전자 기기를 침실에서 제거하고, 가족들이 하루에 스마트폰을 얼마나 이용할지 함께 규칙을 정한다. 셋째, 유튜브 등 추천 영상을 보지 말고 스스로 영상을 선택해 시청하는 습관을 들이라고 한다. 넷째, 영화는 각 정부에서 기업을 대상으로 ‘규제’가 필요하다고 이야기한다. 해당 기업의 빅데이터를 활용한 매출과 사용량 등에 따라 세금을 부과하는 방법이다. 이렇게 인터뷰이들은 몇 가지 대안을 제시하나, SNS가 주는 거대한 폐해에 비해 그들이 제시하는 대안은 너무나 미약해 보이는 것도 사실이다. 영화는 신문에 기고된 칼럼이나 사회현상에 대한 제언이 아니다. 영화를 감상하는 청자는 영화가 제시한 문제와 과정 그리고 그에 마땅한 결말을 통해 영화로서의 완성을 기대하기 때문이다. 이러한 영화로서의 관점을 보면 소셜 딜레마는 완성도 부분에서 아쉬운 것도 사실이다. 특히 영화 중간중간 가장 중요한 대중들의 역할에 대해 언급하면서도 그것을 결론으로 가져오지 못하는 감독 혹은 제작자의 역량이 매우 아쉽다.

‘알고리즘은 성공의 정의에 최적화되어 있어요.’

‘인공지능은 가짜 뉴스를 해결하지 못해요’

‘거짓 정보가 회사에 더 이익이 되기 때문입니다.’

자본주의에 최적화된 SNS의 목적은 당연하게도 회사의 이익에 우선한다. 이를 전제로 인공지능을 만드는 설계자들은 자신의 관점과 의도가 알고리즘을 이루는 기반이 된다. 즉 알고리즘의 억압을 이해하는 데 가장 중요한 사실은 자동 의사 결정을 실행하는 수학 공식이 인간에 의해 만들어진다는 점이다.* 그렇기에 대중들은 스스로가 채취 가능한 자원으로 취급되는 것을 거부해야 한다. 또한 우리는 회사에게 객관적이고 중립적이며, 윤리적인 가치를 기반으로 시스템을 디자인할 것을, 보다 적극적으로 회사뿐만 아니라 사회 전체에 요구해야 할 것이다. 영화는 아쉽게도 대중들에게 적극적인 사회적 행동을 결론으로 요청하지는 않았지만, 내용 곳곳에 자연스럽게 스며들어 있다. 가장 중요한 것은 우리의 목소리가 나라의 시스템을 정하는 정부에 닿아 정부가 기업들의 데이터를 규제할 수 있도록 촉구해야 한다. 그렇기에 영화를 관람한 대중들이 영화 소셜 딜레마를 통해 SNS의 경각심이 생기고, 사회에 공론화되어 많은 사람들이 한 목소리를 낼 수 있어야 한다. 개인적으로 대중들이 이 다큐멘터리 영화를 시청하기를 희망한다.