내 욕망은 알고리즘이 설계한 것일까
쇼샤나 주보프의 '감시 자본주의'와 길을 잃은 자유의지에 대하여
내 욕망은 알고리즘이 설계한 것일까
쇼샤나 주보프의 '감시 자본주의'와 길을 잃은 자유의지에 대하여
늦은 밤, 잠들기 전 무심코 스마트폰을 열어 동영상 피드를 넘겨봅니다. ‘스크롤링’이라고 했던가요? 내가 평소 좋아하던 음악, 어제 낮에 잠깐 고민했던 물건, 그리고 남몰래 품고 있던 관심사들이 귀신같이 화면 위로 쏟아집니다. 손가락 하나 까딱하지 않아도 내 마음을 나보다 더 잘 알아채는 이 친절하고도 기민한 기계 앞에서, 우리는 마법 같은 편리함을 누립니다.
분명히 이전 시대에는 없던 편리함이니까요. 내 취향을 누군가 세심하게 파악해서, 내가 좋아할만한 콘텐츠를 누리게 해준다니, 최상류층이 아니고서는 누릴 수 없는 호사일겁니다.
하지만 그토록 매끄럽고 다정한 화면을 한참 들여다보다 문득 고개를 들 때면, 등줄기를 타고 흐르는 서늘한 감각을 지울 길이 없습니다. "방금 내가 장바구니에 담은 저 물건은, 정말로 내가 원해서 선택한 것일까? 아니면 보이지 않는 누군가가 정교하게 설계해 놓은 욕망의 미로 속으로 내가 순순히 걸어 들어간 것일까." 우리의 일상을 감싸고 있는 이 투명하고도 지독한 편리함의 정체는 과연 무엇일까요.
데이터라는 이름의 새로운 광산
우리는 한 번도 동의한 적 없지만, 이미 거대한 채굴의 현장 한가운데를 살아가고 있습니다. 하버드 경영대학원의 쇼샤나 주보프(Shoshana Zuboff) 교수는 이 섬뜩하고도 새로운 경제 체제를 '감시 자본주의(Surveillance Capitalism)'라고 명명했습니다.
과거의 자본주의가 자연의 자원을 캐내어 상품을 만들고, 우리의 노동력을 착취해 부를 축적했다면, 이제 거대 IT 기업들은 우리의 '일상적인 경험' 그 자체를 채굴합니다. 우리가 어디를 걷고, 누구와 메시지를 나누며, 어떤 화면에서 시선을 몇 초간 머물렀는지에 대한 그 모든 사소하고 내밀한 흔적들은 '행동 잉여 데이터'라는 이름의 원유가 됩니다.
그들은 이 데이터를 정교한 인공지능 모델에 집어넣어, 우리가 내일 무엇을 원하고 어떤 행동을 할지 예측하는 상품으로 만들어 막대한 부를 챙깁니다. 이 차가운 시스템 안에서 우리는 더 이상 고객이 아닙니다. 우리의 영혼과 일상은 그저 무료로 채굴되는 원료로 전락해 버렸습니다.
길을 잃은 신성한 선물, 자유의지
이 감시 자본주의가 진정으로 두려운 이유는, 그것이 단지 우리의 지갑을 털어가기 때문만은 아닙니다. 그것은 창조주가 인간에게 허락한 가장 무겁고도 영광스러운 선물, 바로 '자유의지'를 조용히 앗아가고 있기 때문입니다.
인간이 기계나 짐승과 구별되는 고귀한 신비는, 때로는 실패하고 상처 입을지라도 스스로의 삶을 선택하고 책임질 수 있는 그 예측 불가능한 자유에 있습니다. 길을 잃고 방황하는 시간, 예기치 않은 우연 속에서 낯선 타자를 만나며 우리는 비로소 깊어지고 성숙해집니다.
하지만 효율성과 최적화라는 이름으로 무장한 알고리즘은 우리 삶에서 모든 '우연'과 '마찰'을 매끄럽게 소거해 버립니다. 실패할 위험이 없는 가장 안전하고 편안한 길만을 끊임없이 추천하며, 우리의 생각을 자신들이 원하는 방향으로 아주 미세하게 유도합니다. 내 욕망마저 기계에 의해 예측되고 조종되는 세계에서, 인간은 더 이상 스스로 삶의 서사를 써 내려가는 주체일 수 없습니다. 그저 통계학적으로 완벽하게 예측 가능한 기계의 부속품으로 바스러질 뿐입니다.
의도적인 방황과 불편함을 선택할 용기
사랑하는 독자 여러분. 이 거대한 인공지능의 그물망에서 완전히 벗어나 산속으로 숨어들 수는 없는 노릇입니다. 그러나 우리의 영혼이 데이터의 파편으로 분해되는 것을 가만히 지켜보고만 있을 수도 없습니다.
오늘 하루쯤은 나를 너무도 잘 아는 저 친절하고 다정한 알고리즘의 추천을 다정하게 거절해 보는 것은 어떨는지요. 평소라면 절대 듣지 않았을 낯선 음악을 일부러 찾아 듣고, 지도 앱이 알려주는 가장 빠른 길 대신 한 번도 가보지 않은 굽이진 골목길로 기꺼이 길을 잃어버리는 무용(無用)한 일탈 말입니다.
그 예측 불가능한 엉뚱함과 덜컹거리는 불편함이야말로, 내 삶의 주인이 차가운 코드가 아니라 펄떡이는 심장을 가진 나 자신임을 선언하는 가장 아름다운 저항이 될 것입니다. 부디, 길을 잃을 수 있는 자유를 포기하지 마십시오.
[다음 글 예고] 인간의 마음과 욕망을 통제하려는 시도를 넘어, 이제 기술은 인간의 유한한 육체마저 초월하려 합니다. 제11화에서는 닉 보스트롬과 트랜스휴머니즘의 담론을 짚어봅니다. "늙지 않는 신체, 뇌에 꽂힌 칩은 인간을 구원할까?" 늙고 병들고 죽어야만 하는 인간의 숙명을 지워버리려는 과학 기술 앞에서, '인간다움'의 경계는 어디인지 질문을 던져 보겠습니다.