알고리즘은 절대 중립적이지 않다
나쁜 콘텐츠일수록 유리하다. | #3
SNS 플랫폼이 대두하면서, 방송국의 편성 권력은 휘어지기 시작했다. 과거에는 소수의 높은 사람이 자기의 취향을 투사해 콘텐츠를 만들고 대중에 선보였지만, 이제 콘텐츠 제작자들은 알고리즘을 통해 객관적으로 판가름 나는 대중의 취향에 봉사하게 되었다. SNS 플랫폼 시대의 또다른 특징은 콘텐츠 퀄리티의 기준이 변했다는 것이다. 방송은 '내보낼만한' 퀄리티라는게 있었고, 방송사는 제작의 시스템화, 외주화로 많은 비용을 들여 퀄리티를 맞추고 있었다. 하지만 지금 개인 제작자들은 스마트폰으로 찍고 플랫폼 필터로 내보낸다. 이제 콘텐츠의 퀄리티는 얼마나 돈을 많이 들였는지가 아니라, 얼마나 많은 사람의 공감과 확산을 얻을 수 있는지로 바뀌었다.
일견 긍정적으로 보이는 지형의 변화지만, 한가지 맹점이 있다. 알고리즘은 중립적이지도 않고, 윤리적이지도 않다. 지금의 SNS 플랫폼, 즉 ‘알고리즘’은 하나의 콘텐츠를 대중에 실어나르기 전 2가지 기준으로 콘텐츠의 가치를 판단한다. (1) 얼마나 빠르게 사람들의 클릭을 유도하는가 (2) 클릭 후 얼마나 많은 사람들이 강렬하게 반응하는가. 이 2가지 기준은 명백하게 수치화될 수 있다는 특성이 있는데, 콘텐츠가 노출된 직후 이 수치가 비교적 높다고 판단되는 콘텐츠에 대해 알고리즘은 높은 가치를 부여하고, 더 많은 사람에게 노출 및 확산될 기회를 부여한다. 알고리즘의 선택을 받는 것이다.
보통은 사람들의 부정 감정을 유발하는 콘텐츠들이 (1)과 (2)에서 더 높은 수치를 기록한다. 일반적으로 사람은 귀여운 강아지 영상에 노출되었을 때 보다, 강아지가 학대 당하는 영상을 보았을 때 더 빠르고 격렬하게 반응한다. 이를 가장 단적으로 드러낸 사례는 2021년 한국을 달구었던 한강 의대생 실종 사건이다. 사망자와 그 가족에 대한 안타까움이나 친구에 대한 의구심, 경찰에 대한 불신 및 회의까지, 각종 부정적인 감정의 덩어리로 둘러싸여있던 이 사건은 알고리즘의 입장에서 보면 그 무엇보다 (1) (2)에서 높은 수치를 획득할 수 있는 주제였다. 일부 유튜버들도 눈덩이처럼 쌓이는 조회수를 보고 달려들었을 것이다.
최근 구독자 200만명을 달성한 사피엔스스튜디오는 교양 장르 채널이다. 하지만 채널 내에서 영상에 달린 댓글의 수를 기준으로 나열하면, 부정적인 키워드가 포함된 콘텐츠들이 포진해있다. ‘교도소 같은 학교에 갇혀버린 아이들’, ‘소시오패스는 100명 중 4명’, ‘일본 극우단체의 충격적인 발언’, ‘대한민국 교육은 죽었다’, ‘*설명 잔인함 주의*’ 등. 자극적이라는 말로 퉁쳐지는 이 주제들을 가만히 뜯어보면, (1) 수많은 다른 영상을 제치고 먼저 클릭하고 싶게 만들며, (2) 클릭한 후에도 댓글을 달고 공유를 하고 싶게 만든다. 조회수가 높다고 해서 댓글이 비례하게 많이 달리지는 않는다. 조용히 보고 가거나, 댓글 대신 영상을 공유하는 사람들도 많다. 하지만 댓글이 많은 영상들은 하나같이 그 시점에 영상의 조회수 뿐 아니라 노출수도 비례하게 뛰었다. 알고리즘의 선택을 받은 것이다.
조회수가 높은 콘텐츠는 대중적이다. 그러나 대중의 공감을 얻고 널리 확산되었다고 해서, 좋은 콘텐츠라는 보장은 없다. 다른 콘텐츠 대비 40배 이상 조회수가 나왔을 때, 그것이 그 콘텐츠의 가치가 40배 이상 높다는 것을 절대 의미하지도 않는다. SNS 플랫폼을 소비하는 우리는 알고리즘의 선택에 의해 부정 감정이 형성된 콘텐츠에 훨씬 더 높은 가능성으로 노출된다. 그리고 영상을 보거나 댓글을 달면서 이 감정의 눈덩이가 커지는 데 기여한다. 우리의 행동을 수치화한 알고리즘은, 영상의 질적인 특성은 배제한 채 수치의 강도와 진폭만을 보고 영상의 확산 가능성을 판단한다. 이렇게 부정 감정을 불러일으키는 콘텐츠가 확률적으로 대중에게 확산될 가능성이 높아진다. 소위 자극적이고 어그로 끄는 콘텐츠는 알고리즘에게는 예뻐할 수밖에 없는 우등생이다.
조회수가 높은 콘텐츠는 대중적이다. 그러나 대중의 취향은 반드시 윤리적이지만은 않다. 최근 AI가 차별과 혐오를 학습하면서 큰 이슈가 되었듯이, 알고리즘도 대중의 취향을 그대로 학습하고 모사한다. 이 과정에서 우리 사회가 가진 편견과 차별은 배제되기는 커녕, 오히려 영상의 확산 가능성을 높이는 데 양념처럼 쓰인다. 예컨대 조선족에 대한 참교육 영상이 있다면, 이 영상은 조선족의 입장에서 사회구조적 차별의 맥락을 짚어주겠는가, 다수 한국인이 조선족에 가진 편견을 교묘히 사이다로 포장하여 높은 조회수와 수익을 만들어 내겠는가? 우리는 알고리즘이 사람이 아니라 기계이기 때문에 객관적이고 중립적일 거라고 생각하지만, 오히려 대중의 취향을 수치화하는 알고리즘은 절대 중립적이지 않다.
최근 2~3년간 미국에서는 콘텐츠 보다는 플랫폼의 알고리즘이 사회적 문제의 본질적 원인이라는 비판이 많아졌다. 특히 수치화된 확산 가능성만을 기준으로 콘텐츠 가치에 우선순위를 부여하는 알고리즘의 작동방식이 과연 윤리적인지 문제 제기를 하는 사람들이 많아졌다. 이에 트위터는 윤리성의 문제를 인식하고 플랫폼의 설계를 변경하는 작업을 실행했다. 사람들이 가짜뉴스를 퍼나를 때, 보통은 기사 본문을 읽지 않고 제목만 보고 공유하는 경우가 많다고 한다. 이를 발견한 트위터는 사용자가 리트윗을 할 때, 링크를 먼저 읽고 하라는 팝업창을 띄웠다. 부정 감정이 눈덩이처럼 확산되기 전에, 그 행동에 제동을 걸어주는 장치를 본인들의 프로덕트 안에 녹여낸 것이다. 당시 내부에서는 프로덕트의 직관성을 해친다는 우려도 있었으나, 그보다는 알고리즘에 최소한의 윤리성을 부여하는 시도에 손을 들어주었다.
알고리즘의 변화 없이 공급자들은 콘텐츠를 바꿀 수 없다. 콘텐츠 공급자들은 소수 높은 사람의 일방적인 선택이 아닌 대중의 객관적인 취향에 봉사할 수 있게 되었지만, 오히려 그래서 알고리즘에 종속되었다. 트위터가 가짜뉴스 확산을 방지하는 팝업창을 띄운 것처럼, SNS 플랫폼들은 프로덕트의 설계 속에 윤리성의 영역을 만들어 두어야 한다. 알고리즘이 바뀌면 콘텐츠 공급자들은 따라갈 수밖에 없다.
콘텐츠 공급자의 플랫폼 중독 고찰
#1 콘텐츠를 플랫폼에 올리는 일을 하는가? https://brunch.co.kr/@mrtolstol/7
#2 제작자도 플랫폼에 중독된다 https://brunch.co.kr/@mrtolstol/24
