기계 속의 유령들, 보이지 않는 노동

제3부: 알고리즘의 제국 - 누가 우리의 생각을 훔치는가

제7장 감응 없는 사회 - 기술 봉건제와 분배의 위기

3절. 기계 속의 유령들, 보이지 않는 노동

한밤중, 아기의 뜨거운 숨소리에 잠 못 이루던 엄마가 다급한 손길로 스마트폰을 집어 든다. 화면 속에는 언제나처럼 차분하고 지적인 미소를 띤 아테나의 인터페이스가 떠오른다. 그녀는 떨리는 목소리로, 혹은 다급한 손가락으로 아테나에게 묻는다. “아이가 밤새 열이 40도까지 오르고 갑자기 몸을 떨며 경기를 일으키는데 어떻게 하죠? 지금 당장 응급실에 가야 할까요? 아니면 해열제를 더 먹여야 할까요?” 그녀의 질문에는 단순히 증상에 대한 정보 요청만이 담겨 있지 않다. 그 안에는 아이의 고통에 대한 엄마의 애끓는 사랑, 처음 겪는 상황에 대한 극심한 공포, 그리고 어떻게 해야 할지 모르는 깊은 무력감이라는, 말로는 다 표현할 수 없는 절박하고 혼란스러운 ‘감응’이 뒤엉켜 있다.

아테나는 즉시 전 세계의 최신 의학 데이터베이스, 수백만 건의 유사 사례, 그리고 현재 시간 주변 응급실의 혼잡도 현황까지 실시간으로 분석하여, 차분하고 의학적으로 정확하며 통계적으로 가장 안전한 답변을 내놓는다. “어머님, 많이 놀라셨겠군요. 화면에 보이는 증상과 아이의 연령을 고려할 때, 열성 경련일 가능성이 92.7%입니다. 경련이 5분 이상 지속되지 않고 아이의 호흡이 안정적이라면 즉각적인 응급 상황은 아닐 수 있습니다. 우선 아이의 옷을 벗기고 미온수로 몸을 부드럽게 닦아주며 체온 변화를 3분 간격으로 관찰하여 다시 알려주십시오. 해열제 추가 투여는…”

이토록 다정하고 완벽해 보이는 아테나의 대답 앞에서 우리는 차가운 진실 하나를 마주해야 한다. 아테나가 건넨 "많이 놀라셨겠군요"라는 따뜻한 위로는, 기계가 아이 엄마의 슬픔에 진정으로 공감해서 나온 것이 아니다. 그것은 과거 수백만 명의 다른 사람들이 응급실 앞이나 온라인 커뮤니티에서 흘렸던 진짜 눈물과 절박함, 다정함의 텍스트들을 긁어모아, 가장 적절한 타이밍에 확률적으로 배치한 ‘빈 껍데기 공감(Hollow Empathy)’이라는 사실이다. 기계는 아무것도 느끼지 못한다. 다만 인간의 가장 뜨거운 감응을 이용해 자신의 차가운 알고리즘을 따뜻하게 조립한다. 이것이야말로 우리가 마주할지도 모르는 ‘감응 없는 사회’의 어쩌면 기만적인 풍경이다.

엄마는 그 명확하고 권위 있는 정보에 의지하여 아이를 돌본 뒤, 안도감과 여전히 남은 불안감이 뒤섞인 채 자신의 구체적인 경험과 아이의 미묘한 상태 변화를 담아 아테나에게 다시 질문한다. “말씀대로 하니 경련은 멈췄고 열도 조금 내렸는데, 아이가 여전히 힘이 없고 눈도 잘 못 뜨고 축 늘어져 있네요. 정말 괜찮은 걸까요? 혹시 다른 문제는 아닐까요?”

바로 이 과정에서, 아이 걱정에 정신이 없는 엄마는 자신도 전혀 모르는 사이에, 아테나라는 거대한 인공지능 시스템을 훈련시키는 가장 중요하고 대체 불가능한 ‘무급 교사’이자 ‘감응 데이터의 제공자’가 되었다. 그녀의 감응(사랑, 공포, 불안)이 담긴 최초의 절박한 질문과, 아이를 직접 돌보며 얻은 생생하고 구체적인 관찰(축 늘어진 모습, 눈 맞춤의 어려움)이 담긴 두 번째 질문은, 아테나를 훈련시키는 그 어떤 두꺼운 의학 교과서나 건조한 임상 데이터보다 훨씬 더 귀중하고 풍부한 ‘살아있는 교과서’가 된다. 이제 아테나는 단순한 의학적 지식뿐만 아니라, 아이를 둔 부모가 어떤 구체적인 상황에서 어떤 복잡한 감정으로 무엇을 궁금해하고 무엇을 두려워하는지에 대한, 무엇과도 바꿀 수 없는 ‘상황 맥락적 지능(Contextual Intelligence)’까지 학습하게 된다. 그녀의 뜨거운 사랑과 절박한 공포가, 아테나를 더 현명하고 더 인간적으로 보이도록 만든 것이다.

언뜻 효율적으로도 보이는 이 자연스러운 착취는 비단 위급한 의료 상황의 감정 학습에만 국한되지 않는다. 지금 이 순간에도, 지구 반대편 필리핀 마닐라의 어느 비좁고 형광등 불빛만 가득한 사무실에서는, 한 젊은이가 시간당 불과 몇 달러의 저임금을 받으며 하루 종일 컴퓨터 화면 속에서 끝없이 흘러가는 수백만 장의 사진을 분류하고 있다.

그의 눈은 뻑뻑하고 어깨는 돌덩이처럼 굳어 있다. 화면에는 ‘신호등’, ‘자전거’, ‘횡단보도’, ‘멈춤 표지판’과 같은 단어들이 떠 있고, 그는 하염없이 마우스 클릭으로 해당 객체가 있는 영역을 정확히 지정하는 작업을 반복한다. 그가 하는 이 지루하고, 눈이 빠질 것 같으며, 인간의 인지 능력을 단순 반복 작업으로 소모시키는 노동은, 우리가 곧 마주하게 될 자율주행 자동차의 ‘눈’을 훈련시키는 핵심적인 과정이다. 그의 피로와 맞바꾼 데이터 덕분에, 자동차는 언젠가 인간 운전자 없이도 스스로 완벽하게 도로 위를 달릴 수 있게 될 것이다.

그리고 케냐 나이로비의 또 다른 젊은이는 훨씬 더 끔찍한 노동에 종사하고 있다. 그는 페이스북이나 유튜브 같은 거대 소셜 미디어 플랫폼에서 매일같이 업로드되는 수백만 개의 영상과 게시물 중에서, 차마 눈 뜨고 보기 힘든 끔찍한 폭력 장면, 노골적인 증오 발언, 잔인한 아동 학대 영상 등을 찾아내어 삭제하는 일을 한다. 그는 인류의 가장 어둡고 추악한 단면을 온몸으로, 맨정신으로 받아내며 심각한 정신적 외상(PTSD)을 입는 대가로, 우리가 비교적 깨끗하고 안전하게 보이는 디지털 광장을 마음껏 누릴 수 있도록 보이지 않는 곳에서 ‘정화 작업’을 하고 있는 것이다.

이들이 바로 인류학자 메리 그레이와 시다르트 수리가 <유령 노동(Ghost Work)>이라는 책에서 명명한, ‘유령 노동자’들의 실체다. 그렇기에 지금 기술사회는 한편으로 18세기 유럽을 질타했던 ‘기계 장치의 터키인(Mechanical Turk)’을 빼닮았다. 이는 스스로 체스를 두는 마법의 자동인형으로 포장되었으나, 실상은 그 좁은 나무 상자 안에 체스 고수가 숨어서 기계를 조종했던 역사적 사건처럼, 21세기의 AI 역시 매끄러운 알고리즘의 껍질 아래 수백만 명의 저임금 인간 노동자를 촘촘히 숨겨두고 있는 것이다. 작가이자 사회학자인 아스트라 테일러(Astra Taylor)는 이를 ‘가짜 자동화(Fauxtomation)’라고 아프게 꼬집는다. 기계가 인간을 완벽하게 대체한 것이 아니라, 단지 기계를 훈련시키고 보완하는 인간의 피땀 어린 노동을 교묘하게 시야에서 지워버렸을 뿐이라는 것이다.

우리는 흔히 인공지능이 하늘에 떠 있는 가볍고 보이지 않는 ‘클라우드(Cloud)’의 형태일 것이라 착각한다. 하지만 AI 연구자 케이트 크로퍼드(Kate Crawford)가 갈파했듯, 인공지능은 사실 그렇게 인공적이지도, 비물질적이지도 않다. 그것은 아프리카의 광산에서 리튬과 코발트 같은 희토류를 폭력적으로 파헤치고, 거대한 데이터센터의 서버 열을 식히기 위해 지역의 강물과 식수를 하염없이 말려버리며, 글로벌 사우스(Global South)의 빈곤한 청년들을 인지적, 감정적 하수처리장으로 전락시키는 지극히 물리적이고 파괴적인 ‘추출 산업(Extractive Industry)’을 동반한다. 선진국의 시민들은 티 없이 맑은 인공지능의 혜택을 우아하게 누리지만, 그 이면에는 제3세계의 자연과 노동자들에게 ‘디지털 독성 폐기물’을 떠넘기는 ‘새로운 디지털 제국주의’가 잔혹하게 작동하고 있다는 것을 우리는 알아야 한다.

우리는 흔히 기술이 고도화되어 지적, 육체적 노동이 완전히 자동화되는 날이 오면, 그로 인해 창출된 막대한 부가 자연스레 인류 전체의 여가와 풍요로 이어질 것이라 막연히 기대한다. 하지만 글로벌 사우스에서 지금 이 순간 벌어지는 현실은 이 새로운 경제 시스템이 작동하는 ‘진짜 규칙’을 냉정하게 보여준다. 거대 플랫폼이 천문학적인 부를 축적할 수 있는 구조적 근인(近因)은, 인공지능을 구축하는 데 필수적인 인간의 감응과 노동을 ‘정당한 대가를 지불해야 할 가치’로 인정하지 않고, 최대한 값싸게 추출해야 할 ‘원자재’로 취급하는 데 있다.

지금 당장 시스템의 가장 밑바닥에서 AI의 뼈대를 세우고 있는 필수 노동자들에게조차 적절한 분배가 이루어지지 않는다는 사실은 어쩌면 가장 무서운 지표다. 오늘날 첨단 기술은 마치 스스로 무(無)에서 가치를 창출하는 것처럼 보이지만, 실상은 무엇을 ‘가치’로 인정하고 무엇을 ‘비용’으로 처리할 것인지 결정하는 특정한 경제적 규칙 위에서 작동하고 있다. 알고리즘이 포착하고 계산할 수 있는 것은 정량화된 데이터와 효율성뿐이며, 인간의 고유한 감응과 맥락, 관계와 같은 비정형적 요소들은 철저히 측정하기 어려운 ‘외부 변수’로 밀려나거나 끝없이 최소화해야 할 ‘비용’으로 취급된다.

결국 문제의 근본 원인은 기술 그 자체가 아니라, AI 시대의 핵심 생산수단이 된 데이터와 그 데이터를 창출하는 근본인, 인간의 감응적 기여를 정당한 가치로 인정하지 않는 현재의 ‘알고리즘에 의해 강화되는 자본 축적 논리’에 있다. 인간의 기여를 비용으로 삭감하려는 이 암울한 규칙이 지배하는 한, 미래에 완전한 자동화가 도래한다 하더라도 그 부가 다수에게 자연스럽게 흘러갈 구조적 이유는 존재하기 어렵다. 현재 제3세계가 겪고 있는 분배의 실패는 기술 발전의 일시적인 부작용이 아니라, 노동과 감응의 가치가 단순한 비용 데이터로 치환된 사회에서 대다수의 평범한 인간이 필연적으로 마주하게 될 경제적 소외의 명백한 예고편일지도 모른다.

더 나아가, 이미 정도의 차이만 있을 뿐 우리 모두가 이 거대한 보이지 않는 노동에 매일, 매 순간 동참하고 있다. 우리가 웹사이트에 접속할 때마다 수시로 마주하는 “나는 로봇이 아닙니다(reCAPTCHA)” 테스트를 떠올려 보자. 화면에 뜬 흐릿한 사진 속에서 횡단보도나 버스를 찾아 클릭하는 이 귀찮은 행위는, 표면적으로는 내가 매크로 프로그램이 아님을 증명하는 보안 절차다. 하지만 그 목적 중 하나는 구글의 자율주행 AI가 도로 위 객체를 인식할 수 있도록 시각 데이터를 ‘무료로 라벨링’해 주는 것이다. 인간이 자신이 기계가 아님을 증명하기 위해, 역설적이게도 기계를 똑똑하게 만드는 단순 노동에 동원되고 있는 이 기막힌 아이러니야말로 지금의 기술 사회의 본질일지도 모른다.

이뿐만이 아니다. 우리가 구글 검색 결과 첫 페이지가 마음에 들지 않아 두 번째 페이지의 링크를 클릭하는 바로 그 순간, 우리는 구글의 검색 알고리즘에게 귀중한 피드백을 무료로 제공한다. 우리가 페이스북 친구의 슬픈 소식 게시물에 ‘좋아요’ 대신 ‘슬퍼요’ 이모티콘을 누르는 순간, 우리는 우리의 가장 내밀한 ‘감응’ 데이터를 거대 플랫폼 기업에 자발적으로 상납하고 있는 것이다.

하지만 이 거대하고 복잡한 시스템에서, 이 모든 노동과 기여를 통해 창출된 엄청난 가치를 인정받고 그에 합당한 보상을 받는 것은 과연 누구인가? 안타깝게도, 오직 아테나와 그 주인, 즉 플랫폼을 소유하고 알고리즘을 통제하는 극소수의 기술 기업과 그 주주들뿐이다. 아이 엄마의 애끓는 감응 노동, 제3세계 청년들의 육체적/정신적 착취, 그리고 우리 모두의 일상적인 감응정보와 데이터 노동은 그저 시스템의 성능 개선을 위한 ‘무료 원자재’로 취급된다.

여기서 가장 치명적인 비극이 완성된다. 19세기의 철학자 카를 마르크스는 노동자가 자신이 피땀 흘려 만든 구두와 기계를 소유하지 못하고, 오히려 그 기계의 부속품으로 전락하여 통제받는 현실을 ‘노동의 소외(Alienation)’라고 불렀다. 21세기의 우리는 완벽하게 진화한 ‘디지털 소외’를 겪고 있다.

우리가 무상으로 바친 감응과 클릭, 우리가 피땀으로 정제해 낸 지식과 데이터가 모여 전지전능한 아테나를 만들어냈지만, 그 거대한 창조물은 우리의 소유가 되지 않는다. 오히려 그것은 우리 머리 위로 군림하는 마치 ‘외계의 권력(Alien Power)’이 되어 돌아온다. 우리가 키워낸 바로 그 알고리즘이 내 이력서를 평가해 나를 해고하고, 내 대출 승인을 거절하며, 비 오는 날 내 택시 요금을 올려 받고, 배달 노동자인 나의 1분 1초를 감시하며 쥐어짠다. 우리는 어쩌면 우리를 지배하고 착취할 완벽한 철창을, 우리 자신의 손과 감응으로 기꺼이 조립해 바친 셈이다.

이것이 바로 우리가 다음 절에서 더 깊이 파헤칠, 21세기형 신분제 사회, ‘기술 봉건제(Techno-feudalism)’의 완성된 서막이다. 중세 시대의 영주가 성벽 안의 모든 비옥한 땅을 소유하고 그 땅에서 일하는 농노를 착취했다면, 21세기의 새로운 영주들은 인공지능 플랫폼이라는 광활한 디지털 영토를 소유하고, 그 위에서 살아가며 생각하고 느끼는 우리 모두의 ‘사고 노동’과 ‘감응 데이터’를 착취하여 전례 없는 부와 권력을 독점한다.