14화. 알고리즘의 사육장: 당신의 '취향'은 데이터가

배설한 결과물이다

이번에는 우리의 눈과 귀를 장악한 디지털 신(神), '알고리즘'의 성전을 무너뜨려 보겠습니다.

​1. 오프닝: "당신이 방금 클릭한 그 영상, 당신이 원해서 본 게 아닙니다."

​자, 유튜브나 넷플릭스를 켰을 때 화면 가득 차 있는 '당신을 위한 추천' 목록을 보십시오. 당신은 "와, 내 마음을 어쩌면 이렇게 잘 알지?"라며 감탄하며 홀린 듯 영상을 클릭하겠죠. 그리고 정신을 차려보면 서너 시간이 훌쩍 지나가 있습니다. 당신은 이것을 자신의 취향에 따른 즐거운 탐색이라 믿겠지만, 실상은 거대한 데이터 괴물이 당신의 뇌에 꽂아 넣은 '디지털 마약'을 탐닉한 것에 불과합니다.

​알고리즘은 당신의 취향을 존중하지 않습니다. 다만 당신을 화면 앞에 1초라도 더 묶어두기 위해 당신의 취향을 '사육'할 뿐입니다. 오늘 우리는 당신의 스마트폰 속에 숨겨진 보이지 않는 조종자들을 폭로할 두 권의 충격적인 보고서, 엘리 프레이저의 『생각 조종자들(The Filter Bubble)』과 쇼샤나 주보프의 『감시 자본주의 시대(The Age of Surveillance Capitalism)』를 소환합니다. 당신의 세계가 어떻게 한 뼘짜리 액정 속으로 박제되고 있는지, 그 서늘한 진실을 파헤칩니다.

​2. 당신을 가두는 투명한 감옥 : 『생각 조종자들』

​엘리 프레이저는 『생각 조종자들』에서 우리가 마주하는 인터넷 세상이 결코 객관적이지 않다고 경고합니다. 구글, 페이스북, 유튜브는 당신의 클릭 기록, 검색어, 머문 시간 등을 분석해 당신이 좋아할 만한 정보만을 골라 보여줍니다. 이것이 바로 '필터 버블(Filter Bubble)'입니다.

​당신은 세상의 모든 정보를 접하고 있다고 생각하지만, 사실은 당신의 편견을 강화해주는 정보들로 둘러싸인 투명한 거품 속에 갇혀 있습니다. 알고리즘은 당신을 불편하게 만드는 진실을 가리고, 당신을 기쁘게 하는 거짓을 선사합니다. 그 안에서 당신의 사고는 점차 외골수가 되고, 나와 다른 생각을 가진 사람들을 '이해할 수 없는 괴물'로 보게 됩니다. 필터 버블은 현대 사회의 극단적인 분열을 만들어내는 가장 정교한 세뇌 장치입니다.

인간의 경험을 약탈하는 포식자 : 『감시 자본주의 시대』

​하버드대 교수 쇼샤나 주보프는 『감시 자본주의 시대』에서 이 현상을 더욱 거시적이고 공포스럽게 분석합니다. 그녀는 구글과 페이스북 같은 기업들이 우리의 일상적인 경험을 '무료 원자재'로 추출해, 이를 인공지능으로 가공한 뒤 우리의 미래 행동을 예측하는 상품으로 팔아치우고 있다고 주장합니다. 이것이 바로 '감시 자본주의'입니다.

​과거의 산업 자본주의가 자연을 약탈했다면, 감시 자본주의는 인간의 내면과 본성을 약탈합니다. 그들은 단순히 당신이 무엇을 살지 예측하는 데 그치지 않습니다. 알고리즘을 통해 당신이 특정한 정치적 성향을 갖게 하거나, 특정한 감정을 느끼도록 유도하여 당신의 미래를 '확정'지으려 합니다. 주보프는 이를 '수단적 권력(Instrumentarian Power)'이라고 부릅니다. 우리는 자유롭게 인터넷을 항해한다고 믿지만, 사실은 플랫폼 제국이 설계한 행동 양식대로 움직이는 '행동 데이터 생산직 노동자'로 전락했습니다.

심층 분석: "알고리즘은 왜 당신을 '우울한 중독자'로 만드는가?"

​자, 여기서 우리는 플랫폼 기업들의 비즈니스 모델이 가진 잔인함을 목격해야 합니다. 왜 알고리즘은 우리에게 평화로운 지혜 대신 자극적인 분노와 중독을 권할까요?

​주의력 경제(Attention Economy): 기업의 수익은 당신이 화면에 머무는 시간에 비례합니다. 인간의 뇌는 긍정적인 정보보다 부정적이고 자극적인 정보에 훨씬 더 강하게 반응합니다. 알고리즘은 당신을 붙잡아두기 위해 당신의 분노와 공포, 시기심을 자극하는 콘텐츠를 우선적으로 배치합니다.

​확증 편향의 수익화: 당신의 신념을 강화해주는 영상을 보여줄 때 당신은 가장 큰 안도감을 느끼고 더 오래 머뭅니다. 알고리즘은 당신의 지적 성장이 아니라 당신의 지적 고립을 통해 돈을 법니다.

​예측 가능성의 강제: 자본주의는 불확실성을 싫어합니다. 당신이 돌발적인 행동을 하지 않고 예측 가능한 패턴대로 움직일 때 당신의 데이터 가치는 올라갑니다. 알고리즘은 당신의 취향을 확장하는 게 아니라, 당신을 특정한 카테고리 안에 박제하여 '관리하기 쉬운 소비자'로 다듬어갑니다.

결론: "알고리즘의 밖으로 나가야 인간이 보입니다"

​14화의 결론은 당신의 '추천 영상'을 비웃습니다. 당신의 취향이라고 믿었던 것은 사실 알고리즘이 당신을 사육하기 위해 던져준 먹이들의 결과물일 뿐입니다.

​『생각 조종자들』은 우리가 우물 안 개구리가 되지 않기 위해 의도적으로 불편한 정보에 노출되어야 함을 역설합니다. 그리고 『감시 자본주의 시대』는 우리의 영혼과 경험을 데이터로 팔아치우는 거대 권력에 저항할 것을 촉구하죠. 진짜 정보는 검색 결과 첫 페이지에 있지 않습니다. 그것은 알고리즘이 당신에게 보여주기 싫어하는, 당신의 세계관을 뒤흔들 수 있는 저항적인 텍스트들 속에 숨어 있습니다.

​이제 스마트폰을 내려놓고 우연의 세계로 걸어 들어가십시오. 알고리즘이 추천하지 않은 책을 읽고, 당신과 전혀 다른 생각을 가진 사람과 대화하십시오.

​"당신은 오늘, 알고리즘이 짜놓은 디지털 감옥 속에서 안락하게 사육되는 데이터 공급원이 되시겠습니까? 아니면 필터 버블을 터뜨리고 나와 날 것 그대로의 세상을 마주하는 지적 망명자가 되시겠습니까? 당신의 진짜 자아는 '로그아웃' 버튼을 누른 그 너머에 존재합니다."