기술 봉건제, 새로운 계급의 탄생

제3부: 알고리즘의 제국 - 누가 우리의 생각을 훔치는가

제7장 감응 없는 사회 - 기술 봉건제와 분배의 위기

4절. 기술 봉건제, 새로운 계급의 탄생

이것이 바로 21세기형 신분제 사회, ‘기술 봉건제(Techno-feudalism)’의 시작이다. 중세 시대의 영주가 높은 성벽으로 둘러싸인 광활한 영지를 소유하고, 그 땅에서 태어나고 죽어가는 농노의 노동력을 착취하여 자신의 부와 권력을 유지했다면, 21세기의 새로운 영주들은 인공지능 플랫폼이라는 보이지 않는 디지털 영토를 독점하고, 그 위에서 살아가는 우리 모두의 ‘사고 노동’과 ‘감응 데이터’를 착취한다. 이 새로운 봉건제는 쇠사슬이나 물리적인 성벽 대신, ‘편리함’과 ‘연결’, 그리고 ‘개인화된 맞춤형 추천’이라는 훨씬 더 달콤하고 거부하기 힘든 약속을 통해, 우리 스스로를 기꺼이 복종하는 자발적인 농노로 만든다.

디지털 영토(The Digital Fief): 보이지 않는 성벽과 인클로저 운동

본래 인터넷의 여명기(Web 1.0)는 누구나 평등하게 연결되고 정보를 나누는 ‘자유로운 디지털 공유지’로 출발했다. 하지만 거대 자본이 유입되면서, 과거 영국의 자본가들이 양을 키우기 위해 농민들의 공동 토지에 울타리를 쳤던 ‘인클로저 운동(Enclosure Movement)’처럼, 이 자유로운 디지털 공유지에도 보이지 않는 울타리가 쳐지고 사유화되기 시작했다. 자유로웠던 네티즌들은 어느새 거대 플랫폼이 쳐놓은 영지 안으로 쫓겨 들어가 자발적 농노로 전락하고 있다.

중세 농노의 삶은 영주의 땅, 즉 장원(莊園)을 벗어나서는 상상조차 할 수 없었다. 땅은 식량을 주고, 적으로부터 보호해주며, 삶의 모든 것을 의미했다. 오늘날 우리에게 인공지능 플랫폼이 바로 그러한 땅이다. 우리는 더 이상 구글 없는 세상, 인스타그램(메타) 없는 관계, 쿠팡이나 네이버, 아마존 없는 소비를 상상하기 어렵다. 이 디지털 영토는 국경 없는 자유로운 가상공간처럼 보이지만, 사실은 그 어떤 중세 제국의 영토보다 더 견고하고 교묘하며 벗어나기 힘든 성벽으로 둘러싸여 있다.

우리가 이 굴레에서 쉽게 벗어나지 못하는 이유는 폭력적인 강압 때문이 아니다. 오히려 이 영토가 제공하는 서비스가 경이로울 정도로 매끄럽고 우리의 삶을 진정으로 편리하게 해주기 때문이다. 하지만 바로 그 지점에서 한편으로 비극이 시작된다. 이 영지를 떠나려 할 때 치러야 할 ‘탈출 비용(Exit Cost)’이 우리의 일상과 사회적 생존을 위협할 만큼 막대해지는 것이다.

구글이라는 영토를 생각해보자. 구글이 제공하는 혜택은 실로 축복에 가깝다. 단 몇 번의 클릭으로 인류가 축적한 지식의 정수에 닿을 수 있고, 무료로 제공되는 메일과 문서 도구는 우리의 업무 효율성을 극적으로 끌어올려 주었다. 하지만 이곳은 단순히 정보를 찾아주는 거대한 도서관을 넘어선다. 이는 우리의 모든 기억과 대화를 보관하는 서고이자 모든 움직임을 기록하는 완벽한 지도이며, 안드로이드라는 만능 열쇠까지 독점한 인류 역사상 가장 거대한 왕국이다. 압도적인 편리함에 취해 이 영토에 깊숙이 정착하고 나면, 이곳을 떠나는 것은 나의 디지털 기억과 정체성의 상당 부분을 포기해야 하는 고통스러운 ‘디지털 망명’이 되고 만다. 우리가 무심코 구글 검색창에 단어를 입력하는 행위는 영주의 땅에서 밭을 가는 농노의 쟁기질과 그 본질이 다르지 않다. 우리는 유용한 정보를 ‘얻는다’고 생각하지만, 한편으로 동시에 우리의 궁금증과 불안이라는 비옥한 토양을 경작하여 영주의 창고를 황금 같은 데이터로 채워주고 있는 것이다.

메타(페이스북/인스타그램)라는 영토도 마찬가지다. 이 광장에서 우리는 기쁨과 위안을 얻는다. 멀리 떨어진 오랜 친구의 안부를 묻고, 나와 취향이 같은 사람들과 시공간을 초월해 연대를 맺으며, 아이의 첫걸음마 동영상을 올리며 일상의 소소한 행복을 나눈다. 이것은 분명 기술이 인류에게 선물한 아름다운 마법이다. 하지만 그 눈부신 연결망에 깊이 의존할수록 한편으로, 우리는 덫에 빠진다. 이 영토에서 추방당하는 것, 즉 계정이 삭제되는 것은 사회적 죽음이자 관계의 단절을 의미할 수 있다. 우리는 ‘연결되고 싶다’는 인간의 가장 근본적이고 따뜻한 욕망을 인질로 잡혀, 이 영토의 보이지 않는 규칙에 순응하며 살아간다. 우리가 즐거워하며 올리는 모든 사진, 공감하며 누르는 모든 ‘좋아요’는 우리의 내밀한 ‘감응’이 디지털화된 것이다. 플랫폼은 이 데이터를 분석하여 우리의 정치적 신념과 욕망을 우리 자신보다 더 자세하게 이해하고 해부하며 파악하고, 그 정보를 광고주에게 판매하여 막대한 부를 쌓는다.

네이버 그리고 쿠팡, 해외의 아마존와 테무 같은 영토는 이 모든 것을 떠받치는 가장 근본적인 대지다. 퇴근 후 지친 몸을 이끌고 마트에 가는 대신, 침대에 누워 터치 한 번으로 내일 새벽 문 앞에 신선한 식재료를 배달받는 쿠팡의 ‘로켓배송’은 분명 현대인의 물리적 시간을 아껴주는 구원투수다. 또한 네이버의 생태계는 검색에서 결제까지 우리의 소비를 그 어느 때보다 매끄럽고 합리적으로 만들어 주었다. 하지만 이 압도적인 인프라의 이면에는 서늘한 통제권이 자리 잡고 있다. 이들은 세상의 모든 물건이 모이는 거대한 시장일 뿐만 아니라 다른 수많은 서비스들이 세 들어 사는 클라우드 컴퓨팅(AWS) 인프라 그 자체다.

우리는 이 영토 안에서 가장 저렴하고 편리하게 물건을 산다고 만족해하지만, 사실 우리의 모든 구매 기록과 상품 검색 기록은 영주의 알고리즘을 훈련시킨다. 경제학자 야니스 바루파키스가 갈파했듯, 이것은 곧 ‘시장의 죽음’을 의미한다. 앱을 여는 순간 우리는 수많은 판매자와 구매자가 자유롭게 만나는 '자본주의적 자유 시장'에 입장하는 것이 아니다. 우리는 영주의 알고리즘, 즉 ‘클라우드 자본(Cloud Capital)’이 우리의 지갑을 가장 효율적으로 털기 위해 완벽하게 설계한 세트장에 들어가는 것이다. 편리함이라는 융단이 깔린 그 무대 뒤편에서, 플랫폼은 어떤 상품을 상단에 노출할지 어떤 판매자를 고사시킬지 알고리즘으로 차갑게 결정한다. 그 안에서 중소 상공인들은 플랫폼의 선택을 받기 위해 피 말리는 광고비 경쟁을 벌이며 시장의 규칙을 지배하는 영주에게 복종한다. 우리는 자유 의지로 선택한다고 믿지만, 사실은 압도적인 편리함이 깔아놓은 정교한 레일 위를 달리고 있을 뿐이다.

새로운 영주(The New Lords): 기만적 동의와 객관성이라는 신화

이 거대한 디지털 영토를 다스리는 새로운 영주는 누구인가? 그들은 번쩍이는 왕관을 쓰거나 무거운 갑옷을 입지 않는다. 그들은 실리콘 밸리의 캠퍼스에서 후드 티셔츠와 평범한 청바지를 입고, ‘세상을 더 개방적이고 연결된 곳으로 만든다’고 말하며, 자신들을 낡은 질서를 파괴하는 혁신가이자 인류를 더 나은 미래로 이끄는 선지자로 묘사한다. 이 새로운 귀족 계급은 바로 이 플랫폼들을 소유한 극소수의 창업가, CEO, 그리고 그들에게 막대한 자금을 대는 보이지 않는 손, 즉 벤처 캐피탈리스트들과 거대 투자 펀드들이다.

그들의 권력은 칼이나 군대가 아닌, 데이터와 알고리즘의 독점에서 나온다. 중세 영주가 땅의 소유권을 통해 그 땅에서 생산되는 모든 농작물을 통제했다면, 새로운 영주들은 데이터라는 ‘21세기의 영지’를 독점함으로써 그 위에서 일어나는 모든 인간적 상호작용에 대해 일방적인 ‘지대(Rent)’를 징수한다. 그들의 힘이 이전 시대의 어떤 독재 권력보다 더 교묘하고 무서운 이유는, 그것이 우리의 외부적인 행동뿐만 아니라 우리의 가장 내밀한 내면의 욕망, 생각, 그리고 감정까지 지배하기 때문이다.

영주들이 우리의 내면을 합법적으로 약탈하기 위해 사용하는 교묘한 법적 장치가 바로 ‘자발적 동의’라는 이름의 기만술이다. 우리가 훌륭한 신규 서비스를 이용하기 위해 무심코 누르는 수십 페이지 분량의 ‘서비스 이용 약관 동의(I Agree)’ 버튼을 생각해보자. 이 난해한 법률 용어의 뭉치는 사실상 읽고 동의하라는 문서가 아니다. 그것은 “앞으로 이 혁신적이고 편리한 인프라를 계속 누리고 싶다면 너의 모든 행동을 데이터로 제공하겠다는 노예 계약서에 서명하라”는 강요와 같다. 동의하지 않으면 우리는 점차 사회적 연결망에서 추방되거나 일상적인 소비조차 불가능해지고 있기 때문이다.

이 기만적인 계약을 통해 영주들은 새로운 형태의 주권을 완성한다. 그들은 국가를 직접 통치하지 않는다. 그들은 우리의 ‘행동’을 통치한다. 그들이 일방적으로 정하고 수시로 바꾸는 ‘서비스 이용 약관’은 국경을 초월하여 수십억 명에게 적용되는 새로운 법률이 되고, 그들이 저임금으로 고용한 익명의 ‘콘텐츠 중재자’들은 무엇이 허용되는 발언이고 무엇이 금지되는 발언인지를 결정하는 새로운 사법부가 된다. 그리고 그들이 끊임없이 업데이트하는 ‘추천 알고리즘’은 우리가 무엇을 보고, 무엇을 듣고, 무엇을 믿고, 무엇을 욕망해야 하는지를 결정하는, 아니 은밀하게 유도하고 설계하는(Nudging) 강력한 문화적 권력이 된다.

이 거대한 권력을 휘두르면서도 영주들이 대중의 분노를 피하는 방식은 소름끼치게 무책임하고 교묘하다. 그들은 플랫폼에서 차별이나 불공정 논란이 터질 때마다 “우리가 의도한 것이 아니라 중립적이고 객관적인 인공지능이 계산한 결과”라며 책임을 알고리즘의 장막 뒤로 숨긴다. 수학자 캐시 오닐(Cathy O'Neil)이 경고한 ‘대량 살상 수학 무기(Weapons of Math Destruction)’의 실체가 바로 이것이다. 알고리즘은 결코 객관적인 수학이나 자연법칙이 아니다. 그것은 영주의 편견과 자본적 욕망, 그리고 이윤 극대화라는 지상 과제가 컴퓨터 코드라는 난해한 언어로 암호화된 것에 불과하다. 그들은 이 '기술적 중립성'이라는 신화를 방패 삼아 자신들의 지배 구조를 완벽하게 정당화한다.

이 새로운 영주들은 모두가 반드시 악의를 가지고 우리를 지배하려는 것이 아닐 수도 있다. 어쩌면 그들 중 다수는 진정으로 기술이 인류를 유토피아로 이끌 것이라고 굳게 믿는 순진한 이상주의자일지도 모른다. 하지만 그들의 개인적인 선의와는 무관하게, 그들이 구축한 시스템은 혜택을 주는 대가로 필연적으로 부와 권력을 극소수에게 기하급수적으로 집중시키고, 나머지 모든 사람들을 그 시스템에 종속시키는 방향으로 작동할 수밖에 없다.

디지털 농노(The Digital Serfs): 도파민 착취와 긱 경제의 십장

이 새로운 봉건제 사회에서 땅을 갈아 영주에게 바치는 농노는 누구인가? 바로 우리 모두다. 우리는 그들의 플랫폼 위에서 생각하고, 질문하고, 감정을 표현하고, 관계를 맺고, 소비함으로써, 눈에 보이지 않는 소작료를 쉴 새 없이 내고 있는 셈이다. 그 소작료는 금화나 은화가 아니다. 그것은 우리의 ‘관심(attention)’이고, ‘시간’이며, 궁극적으로는 우리의 가장 인간적인 본질, 즉 ‘감응 데이터(Affective Data)’다. 여기서 감응 데이터란 단순히 우리가 무엇을 클릭했는지를 넘어, 우리의 불안, 분노, 기쁨, 머뭇거림, 심지어 화면을 바라보는 동공의 체류 시간과 같은 비정형적인 내면의 떨림을 알고리즘이 정량화하여 추출해 낸 정보의 총체를 뜻한다.

앞 절의 아기 엄마를 다시 떠올려보자. 그녀가 한밤중에 아이의 뜨거운 열을 걱정하며 느꼈던 사랑과 공포라는 지극히 개인적이고 숭고하기까지 한 ‘감응’은, ‘아테나’의 알고리즘을 훈련시키는 가장 완벽하고 값비싼 데이터가 되었다. 그녀의 감응은 시스템을 더 똑똑하고 유용하게 만들었고, 그 결과 ‘아테나’라는 플랫폼의 기업 가치는 더욱 높아졌다. 그녀의 사랑이, 그녀의 고통이, 기업의 주가를 올린 것이다. 이것이 바로 기술 봉건제의 핵심적인 착취 구조다.

중세 농노는 영주의 땅을 경작하여 가을이 되면 수확물의 일부를 소작료로 바쳤다. 그들은 자신들이 피땀 흘려 생산한 밀과 보리가 수레에 실려 영주의 거대한 창고에 쌓이는 것을 두 눈으로 똑똑히 볼 수 있었다. 하지만 디지털 농노인 우리는 우리가 매 순간 생산하고 있는 ‘감응 데이터’라는 수확물이 어떻게 거두어지고, 어디로 옮겨져, 무엇으로 가공되어 누구에게 팔리는지 결코 볼 수 없다. 모든 것은 ‘클라우드’라는 보이지 않는 성채 안에서, ‘알고리즘’이라는 비밀스러운 연금술을 통해 황금으로 바뀐다.

여기서 누군가는 반문할 수 있다. “우리는 이 거대 기업들의 유용한 서비스를 ‘무료’로 쓰고 있지 않은가? 삶의 질을 극적으로 높여주는 편리함을 얻는 대신 내 데이터를 조금 내어주는 것이라면, 이것은 일종의 합리적이고 공정한 거래가 아닌가?”

분명히 일리있는 주장이다. 하지만 문제는 이것이 대등한 교환이 아니라는 점이다. 그 이유는 이 것이 극단적인 정보 비대칭과 구조적 종속 위에서 이루어지는 불완전한 거래이기 때문이다. 합리적인 거래가 성립하려면 양측이 서로 주고받는 가치를 투명하게 알아야 한다. 하지만 우리는 우리가 쏟아낸 감응 데이터가 어떻게 조합되고, 누구에게 팔리며, 얼마의 가치로 환산되어 기업의 독점적 지대로, 천문학적인 금액이 되어 귀속되는지 전혀 알지 못한다.

이 시스템이 중세 봉건제보다 더 무서운 이유는, 그 착취가 너무나 매끄럽고 재미있기까지 해서 우리가 착취당하고 있다는 사실조차 인지하기 어렵다는 점이다. 과거의 영주들이 농노를 밭에 묶어두기 위해 채찍을 들었다면, 새로운 영주들은 우리의 신경계를 직접 해킹하는 ‘도파민(Dopamine)’을 무기로 쓴다. 끝을 알 수 없는 무한 스크롤, 화면을 당겨서 새로고침하는 행위, 불규칙하게 터지는 ‘좋아요’ 알림은 일견 재미있는 놀이처럼 보이지만, 그 실상은 카지노의 슬롯머신에 쓰이는 ‘변동 보상(Variable Reward)’ 시스템과 정확히 일치한다. 영주들은 우리의 뇌과학적 취약점을 파고들어 데이터 착취의 과정을 거부할 수 없는 ‘오락’으로 만들어버렸다. 우리는 ‘무료’로 서비스를 이용하며 즐거운 여가를 보낸다고 생각하지만, 사실은 가장 본질적이고 양도할 수 없는 자산인 우리의 감응을 실시간으로 지불하는 강요된 노동을 스스로 즐기고 있는 것이다. 우리는 이들의 고귀한 고객이 아니다. 우리는 월급 받지 못하는 노동자이며, 더 강하게 말해, 우리가 바로 그들이 내다 파는 ‘제품’ 그 자체다.

앞서 소개한 하버드 경영대학원의 명예교수 쇼샤나 주보프(Shoshana Zuboff)는 <감시 자본주의>라는 기념비적인 저서에서 이 새로운 착취의 메커니즘을 날카롭게 해부했다. 그녀는 이 시스템이 단순히 우리의 과거 데이터를 훔쳐 맞춤형 광고를 파는 것을 넘어, 우리의 미래 행동을 예측하고, 더 나아가 우리가 특정 방식으로 생각하고 소비하도록 영향을 미치고 설계하는 것을 궁극적인 목표로 한다고 폭로했다. 증강현실 게임 ‘포켓몬 고’가 특정 상점 근처에 희귀한 포켓몬을 출현시켜 사람들의 발걸음을 그곳으로 자연스럽게 유도했듯이, 정보와 인프라를 독점한 영주가 눈이 가려진 농노의 데이터를 헐값에 쓸어 담아 행동의 통제력을 강화하는 이 구조적 불평등이야말로 기술 봉건제가 품고 있는 서늘한 착취의 본질이다.

더 끔찍한 것은 이 달콤한 착취의 구조가 가상공간의 '데이터 노동'에만 머물지 않고, 우리의 물리적 노동 시장 전체를 집어삼키고 있다는 사실이다. 이른바 ‘긱 경제(Gig Economy)’라는 이름으로 포장된 플랫폼 노동의 현실을 보자. 우버 기사, 배달 플랫폼의 라이더, 프리랜서 마켓의 작업자들은 표면적으로는 얽매이지 않는 ‘자유로운 개인 사업자’로 불린다. 하지만 실상은, 일감을 자유롭게 선택하는 혜택을 누리는 듯하지만, 인간 관리자 대신 차가운 알고리즘이 중간 관리자를 대신해 현대판 ‘십장(작업 반장)’이 되어 이들의 동선을 1분 1초 단위로 감시하고, 별점이라는 무자비한 평가 시스템으로 생사여탈권을 쥔다. 극소수의 영주와 절대다수의 농노로 계급이 철저히 양극화되었던 중세 봉건제처럼, 기술 봉건제 역시 전문가와 중간 관리자 계급을 해체하고 오직 플랫폼을 소유한 극소수의 영주와 알고리즘의 지시를 따르는 절대다수의 일용직(농노)만을 남겨둔다는 점은, 이 기술사회의 미래가 밝다고만 말하기 어려운 이유다.

이 위기는 단순히 부의 불평등 문제에 그치지 않는다. 이것은 인간의 자율성과 존엄성에 대한 근본적인 위협이며, 우리가 스스로 생각하고 판단할 권리 자체를 영주의 편리한 알고리즘에 저당 잡히는, 더 깊고 어두운 소외로 이어진다.