아테나의 미소, 아름다운 거짓말

제3부: 알고리즘의 제국 - 누가 우리의 생각을 훔치는가

제7장 감응 없는 사회 - 기술 봉건제와 분배의 위기

2절. 아테나의 미소, 아름다운 거짓말

6장에서 우리가 함께 엿보았던 헨리에타 리비트의 고독한 발견과 베토벤의 장엄한 창조는 아름답다. 그 안에서 인간의 뜨거운 감응은 데이터와 형식이라는 차가운 재료에 생명의 불꽃을 불어넣었고, 세상에 없던 새로운 의미와 지식을 탄생시켰다. 그들의 이야기는 ‘생각의 고리’가 어떻게 인간의 지성을 무한히 확장하고, 우리를 더 깊고 풍부한 존재로 만들 수 있는지에 대한 희망적인 청사진을 보여준다.

하지만 현실은, 안타깝게도 그 이상과는 전혀 다른 방향으로, 훨씬 더 빠르고 거대한 규모로 흐르고 있다. 현재 우리가 열광하며 구축하고 있는 기술 사회는 ‘생각의 고리’가 가진 창조적 가치를 공평하게 인정하지 않는다. 오히려 그 고리의 가장 중요하고 대체 불가능한 부분, 바로 인간의 고유한 ‘감응’을 투명인간 취급하며 그 에너지를 보이지 않게 착취하는 거대한 기계 장치로 나아가고 있다.

상상해 보자. 그리 멀지 않은 미래, 세계 최고의 AI 기업이 ‘아테나(ATHENA)’라는 이름의 전지전능한 인공지능을 마침내 세상에 내놓았다. 아테나는 인류가 역사 이래로 던져온 거의 모든 질문에 막힘없이 답하며, 사회가 앓고 있던 모든 고질적인 문제를 해결할 것처럼 보인다. 기후 변화의 복잡하게 얽힌 매듭을 풀 최적의 해법을 실시간으로 시뮬레이션하고, 모든 종류의 암을 정복할 수 있는 기적의 신약 후보 물질을 하루에도 수백개씩 설계하며, 지구상의 모든 아이에게 그들의 고유한 재능과 흥미, 그리고 학습 속도에 맞는 완벽한 맞춤형 교육을 일대일로 제공한다. 아테나가 관리하는 도시의 교통 시스템은 단 1초의 정체도 없으며, 아테나가 예측하고 관리하는 금융 시장은 단 한 번의 붕괴도 겪지 않는다. 이 기업의 주가는 천정부지로 치솟고, 그 소유주들은 21세기의 새로운 왕족이자, 거의 신(神)과도 같은 절대적인 부와 권력을 누린다. 세상은 마침내 모든 고통과 비효율, 그리고 불확실성이 사라진 완벽한 유토피아의 문턱에 서 있는 것처럼 보인다.

그들은 이것이 더 이상 먼 미래의 공상과학 소설이 아니라고 말한다. 이미 구글, 마이크로소프트, 오픈AI와 같은 거대 기술 기업들은 바로 이러한 비전을 향해 전력 질주하고 있다. 그들은 자신들의 인공지능이 인류의 가장 어렵고 고통스러운 문제들을 해결할 것이라고, 마치 구원자처럼 약속한다. 질병, 가난, 기후 위기, 심지어 인간의 외로움까지. 이 모든 것이 강력한 인공지능 앞에서는 결국 해결 가능한 ‘최적화 문제’에 불과하다고 그들은 말한다. 아테나의 자애로운 미소는, 기술이 지친 인류에게 보내는 가장 아름답고 달콤한 약속처럼 보인다.

그 미소의 첫 번째 이름은 ‘효율성’이다. 아테나는 인간 사회에 만연한 모든 종류의 비효율을 영원히 제거해 줄 것처럼 약속한다. 출퇴근길 도로 위에서 하염없이 낭비되는 시간, 의사의 피로와 편견으로 인해 발생하는 끔찍한 오진, 불공정한 재판으로 억울함을 겪는 시민들, 예측 불가능한 시장의 불확실성 때문에 평생을 바친 기업이 하루아침에 파산하는 기업가. 이 모든 것은 ‘불완전한 정보’와 ‘비합리적인 인간의 감정적 판단’ 때문에 발생하는 문제이며, 아테나는 이 두 가지를 모두 해결할 수 있을 거라고 한다. 아테나는 전 세계의 모든 데이터를 실시간으로, 그리고 편견 없이 분석하여 최적의 경로를 계산하고, 인간의 감정이나 편견, 이기심이라는 ‘버그’ 없이 가장 합리적인 결정을 내린다.

그 미소의 또 다른 이름은 ‘풍요’다. AI가 의사, 변호사, 회계사, 프로그래머 같은 모든 종류의 지적 노동을 자동화하는 것을 넘어, 이제는 휴머노이드와 첨단 로보틱스가 결합된 ‘피지컬 AI(Physical AI)’가 공장의 거대한 생산 라인부터 위험한 건설 현장, 심지어 일상적인 가사 노동과 돌봄 같은 육체노동의 영역까지 완벽하게 대체해 준다고 약속한다. 인간의 ‘뇌’가 짊어졌던 계산의 압박뿐만 아니라, ‘육체’가 견뎌야 했던 땀과 피로마저 기계가 온전히 대신하는 진정한 완전 자동화의 시대. 그곳에서 인간은 더 이상 생계를 위해 원치 않는 노동에 시달릴 필요 없이, 오직 자신이 진정으로 원하는 창조적인 활동이나 인간적인 교류에만 몰두하며 살아갈 수 있을 거라고 말한다. 이것은 카를 마르크스가 꿈꿨지만 결코 도달할 수 없었던 공산주의 사회의 기술적 실현처럼 보이기도 한다.

마지막으로, 그 미소의 가장 매혹적인 이름은 ‘안전’이다. 아테나는 도시의 모든 데이터를 분석하여 범죄를 예측하고 사전에 예방하며, 기상 데이터를 분석하여 자연재해를 정확히 예측하고 피해를 최소화하며, 소셜 미디어의 대화를 분석하여 잠재적인 사회 갈등과 증오를 조기에 발견하고 중재한다. 인간의 예측 불가능한 충동과 비합리적인 광기가 제거된 사회, 모든 것이 수학적으로 예측 가능하고 알고리즘적으로 통제 가능한 사회. 그곳은 완벽하게 안전하고 평온한 사회처럼 보인다.

이 눈부신 유토피아적 약속 앞에서, 우리는 매료될 수밖에 없다. 누가 비효율과 고통, 그리고 위험으로 가득 찬 이 낡고 혼란스러운 세계를 원하겠는가? 아테나의 미소는 너무나 달콤하고 합리적이어서, 우리는 그 미소 뒤에 숨겨진 엄청난 대가를 묻는 것을 잊어버린다.

아테나가 약속하는 이 완벽한 효율과 안전은 철학자 한병철이 경고했던 ‘매끄러움의 폭력’, 즉 ‘무마찰(Frictionless)의 역설’을 품고 있다. 아테나가 모든 비효율과 불확실성을 제거해 준다는 것은, 곧 삶의 우연성, 방황, 그리고 스스로 실수하며 깨질 권리마저 박탈한다는 뜻이다. 본디 인간은 길을 잃고 헤매는 거친 ‘마찰’ 속에서 뜻밖의 풍경을 발견하고 스스로를 벼려내는 존재다. 하지만 모든 것이 완벽하게 예측되고 최적화된 무마찰의 세계에서, ‘인간’은 더 이상 거친 황야를 개척하는 사유의 주체가‘ 아니다. 우리는 그저 아테나가 깔아놓은 티 없이 매끄러운 레일 위를 미끄러지듯 이동하는 수동적인 ‘화물’로 전락해 버린다.

또한 이 완벽하고 무한한 지혜는 대체 어디서 온 것일까? 이 전능한 능력의 대가는 과연 누가, 그리고 어떻게 치르고 있는가? 우리는 아테나의 빛나고 매끄러운 인터페이스 너머, 그 차갑고 소음 없는 데이터센터의 서버실보다 훨씬 더 깊고 어두운 곳을 들여다보아야 한다. 그곳에는 우리가 미처 보지 못했던, 아니 어쩌면 우리가 애써 외면하고 있었던 수십억 명의 ‘침묵의 참여자들’이 있다.

아테나의 경이로운 지혜는 결코 무(無)에서 창조된 것이 아니다. 그것은 인류가 역사 이래로 쌓아 올린 모든 종류의 텍스트, 이미지, 음악, 대화, 그리고 행동의 기록을 게걸스럽게 먹고 자라난 것이다. 그것은 호메로스의 서사시와 셰익스피어의 희곡을 학습했고, 칸트의 철학과 아인슈타인의 상대성 이론 논문을 분석했으며, 인터넷이라는 거대한 도서관에 떠도는 수십억 개의 블로그 글과 위키피디아 항목, 그리고 소셜 미디어 게시물을 남김없이 흡수했다. 그리고 무엇보다 중요한 것은, 아테나는 지금 이 순간에도 우리와 대화하며, 우리의 질문과 피드백, 우리의 만족과 불만, 우리의 기쁨과 슬픔을 통해 끊임없이 더 똑똑해지고 있다는 사실이다.

문제는 이 거대한 학습 과정에서, 아테나가 객관적인 ‘지식’과 ‘정보’뿐만 아니라, 우리의 가장 내밀하고 개인적인 ‘감응’마저 차가운 ‘데이터’로 치환하여 남김없이 집어삼키고 있다는 점이다. 우리가 분노하며 누른 ‘화나요’ 버튼, 우울한 새벽에 검색한 위로의 문장들, 사랑하는 이와 나눈 메신저의 다정한 떨림까지. 시스템은 그 감응의 인간적 가치를 전혀 인정하지 않고, 그것을 그저 성능 개선과 타깃 광고를 위한 공짜 원자재로 취급한다.

우리의 내밀한 감응과 경험을 데이터로 고스란히 상납했을 때, 우리가 치러야 할 대가는 결코 추상적인 ‘프라이버시 침해’에 머물지 않는다. 그것은 우리의 ‘내면적 주체성’과 ‘물질적 생존 기반’을 동시에 공격한다.

우선, 삶의 방향을 스스로 묻고 고뇌할 수 있는 실존적 자유가 거세된다. 상처를 온전히 대면하기도 전에 알고리즘이 맞춤형 도파민을 처방하고, 우리가 무엇을 원하고 느끼는지조차 과거의 데이터를 바탕으로 미리 계산하여 주입한다. 인간 내면의 고유한 혼돈과 뼈아픈 성찰의 과정은 시스템이 예측하고 조작하기 쉬운 투명한 ‘관리 대상’으로 전락한다.

하지만 더 뼈아픈 것은, 이 내면의 탈취가 현실 세계의 노골적인 경제적, 물리적 강탈로도 직결된다는 점이다. 실제로 이미 우리가 무상으로 쏟아낸 기쁨과 분노, 취향의 데이터는 거대 기업의 금고로 빨려 들어가 수조 원의 독점적 부로 환전되고있다. 그리고 정작 그 핵심 원자재를 제공한 우리는 아무런 대가도 받지 못한 채, 우리가 직접 똑똑하게 만들어준 바로 그 인공지능에 의해 현실의 일자리를 위협받고 노동의 가치를 헐값으로 착취당하는 일도 이미 흔한 상황이 된지 오래다.

나아가 알고리즘은 우리의 피로, 다급함, 불안이라는 절박한 감응마저 정확히 수치화하여 가혹한 현실의 청구서로 들이민다. 꼭 예매해야 하는 항공권이나 숙소를 반복해서 검색할 때, 실시간으로 슬그머니 오르는 가격표를 본 적이 있을 것이다. 혹은 폭우가 쏟아지는 저녁, 밖으로 나갈 수 없는 소비자의 상황을 읽고 평소의 서너 배로 치솟은 배달 앱의 할증 요금을 마주하기도 한다. 알고리즘은 소비자의 초조함이라는 내면을 가장 비싼 값으로 흥정한다.

더욱 잔인한 것은 이 거대한 시스템이 그 반대편에서 누군가의 생존을 건 ‘절박함’을 쥐어짜고 있다는 사실이다. 우리가 누른 비싼 결제 버튼 뒤에서, 플랫폼의 AI는 빗속을 내달리는 배달 노동자들의 동선을 1초 단위로 감시한다. 그리고 다음 콜(배차)을 무기로 극한의 경쟁을 유도하도록, 길 위의 안전과 목숨은 철저히 외면한 채 배달 단가를 조정한다. 알고리즘에게 우리의 내면과 일상을 모두 읽히고 넘겨준 대가는 이토록 서늘하다. 그것은 소비자인 나의 지갑을 교묘하게 털고, 동시에 누군가의 안전과 물리적 육체를 한계까지 착취하는 가장 노골적인 현실의 폭력으로 되돌아오고 있다.

하버드 경영대학원의 명예교수 쇼샤나 주보프가 그녀의 기념비적인 저서 <감시 자본주의의 시대>에서 통렬하게 폭로했듯, 이 새로운 경제 질서는 인간의 경험을 일방적으로 약탈하여, 그것을 예측 상품으로 가공하고 거래하는 것을 핵심적인 수익 모델로 삼는다.

이것은 인류 역사상 가장 거대하고 교묘하게 진행되는 ‘새로운 인클로저(Enclosure) 운동’이자 ‘데이터 식민주의(Data Colonialism)’다. 18~19세기 자본주의가 태동할 때, 자본가들은 농민들이 함께 쓰던 공유지에 폭력적으로 울타리를 쳐서 사유화하고 그들을 임금 노동자로 전락시켰다. 과거의 제국주의가 아프리카의 땅과 자원을 무력으로 식민지화했다면, 지금의 거대 알고리즘 제국은 인간의 ‘내면과 감정’이라는 인류의 마지막 미개척 공유지에 은밀하게 울타리를 치고 있다. 그들은 우리의 사적인 감응과 고유한 경험을 채굴하여 자신들의 데이터 영토로 귀속시키는, 역사상 유례없는 내면의 식민지화를 감행하고 있는 것이다.

이것은 19세기 산업혁명 시대의 어두운 공장과 기묘하게 닮아있다. 증기기관이라는 새로운 기술은 인류에게 전례 없는 생산력과 물질적 풍요를 약속했다. 하지만 그 눈부신 풍요의 이면에는, 햇빛도 들지 않는 좁고 어두운 공장에서 하루 16시간씩 위험한 기계 앞에서 일하며 자신의 노동력을 헐값에 착취당했던 수백만 명의 노동자들이 있었다. 그들의 땀과 눈물, 때로는 피가 맨체스터의 공장 굴뚝에서 피어오르는 검은 연기가 되었듯, 21세기의 우리는 우리의 기쁨과 슬픔, 사랑과 분노, 희망과 절망이라는 가장 인간적인 ‘감응’이, 아무런 가치도 인정받지 못하고 흡수되어, 우리가 알지도 못하는 사이 데이터센터의 서버를 뜨겁게 달구는 보이지 않는 에너지가 되고 있는 시대를 살고 있다.

아테나의 미소는 우리에게 모든 것을 해결해주겠다고 약속하지만, 그 약속의 전제 조건은 ‘너의 모든 것을 나에게 데이터로 달라’는 것이다. 너의 질문, 너의 생각, 너의 감정, 너의 관계, 너의 삶 전체를 분석 가능한 데이터로 환원하여 나에게 제공하라는 것이다. 그렇게만 한다면, 너는 아무것도 걱정하거나 고뇌할 필요 없는 완벽하게 최적화된 세계에서 살게 해주겠다는 것이다.

이것은 어쩌면 괴테의 희곡에 나오는 파우스트가 악마 메피스토펠레스와 맺었던 계약과도 같다. 우리는 지식과 편리함, 안전과 풍요를 얻게 해준다는 달콤한 유혹에, 어쩌면 우리의 영혼, 즉 스스로 질문하고, 고뇌하며, 실수하고, 책임지며, 마침내 자신의 삶을 스스로 ‘정당화’하는 주체로서의 존엄성마저 팔아넘기고 있는지도 모른다.

아테나의 미소는 눈부신 발전만을 향해 있지 않다. 우리는 항상 그 이면에 도사리는 위험 또한 잊어서는 안 될 것이다. 그것은 우리에게 유토피아를 약속하지만, 동시에 한편으로 우리를 새로운 형태의, 이전보다 훨씬 더 교묘하고 벗어나기 힘든 봉건제 사회로 이끌고 있다.

구글, 메타, 유튜브와 같은 거대 플랫폼은 단순한 기업이나 시장이 아니다. 경제학자 야니스 바루파키스 등이 지적하듯, 그것은 디지털 세계에 세워진 거대한 ‘영지(Fiefdom)’다. 우리는 이 화려한 영지에 '무료'로 입장하는 혜택을 누린다고 착각하지만, 실상은 한편으론 매일 스마트폰을 스크롤하며 무보수로 감응의 농작물(좋아요, 체류 시간, 검색 기록)을 재배하는 ‘디지털 소작농(Digital Serf)’이다. 빅테크 영주들은 우리가 피땀 흘려 생산한 이 막대한 감응의 데이터를 독점하여 인공지능을 훈련시키고 천문학적인 지대(Rent)를 거둬들인다.

그 사회에서 우리는 더 이상 자신의 삶을 스스로 개척하는 자유로운 시민이 아니라, 거대한 알고리즘 제국의 보이지 않는 영토 안에서 영주의 자비로운 통치와 알고리즘의 결정에 맹목적으로 순응하며 살아가는 농노가 될지도 모른다.

이것이 단순한 과장된 비유가 아님을 증명하기 위해, 우리는 이제 아테나의 아름다운 미소 뒤에 숨겨진 세 개의 거대한 착취 메커니즘—보이지 않는 노동, 기술 봉건제, 그리고 사유 권력의 박탈—을 하나씩, 차갑고 냉정하게 해부해 보아야 한다.