제3부: 알고리즘의 제국 - 누가 우리의 생각을 훔치는가
제7장 감응 없는 사회: 기술 봉건제와 분배의 위기
6절. 기로에 선 인류
우리는 지금 인류 역사의 거대한 분수령, 중대한 기로에 서 있다. 기술 그 자체는 선하지도, 악하지도 않다. 그것은 가치중립적인, 거대하고 강력한 힘이며, 그 힘의 방향을 결정하는 것은 결국 그것을 사용하는 우리 자신이다. 1장에서 우리의 먼 조상이 처음으로 손에 쥐었던 날카로운 돌멩이가 굶주린 가족을 위해 동물을 사냥하는 생존의 도구가 될 수도, 이웃 부족의 심장을 꿰뚫는 폭력의 무기가 될 수도 있었던 것처럼, 21세기의 인공지능이라는 역사상 가장 강력한 도구 역시 우리를 전례 없는 유토피아로 이끌 수도, 혹은 우리가 미처 깨닫지도 못하는 사이에 되돌릴 수 없는 디스토피아의 나락으로 밀어 넣을 수도 있다.
우리가 지금까지 7장에서 살펴본 기술 봉건제의 암울한 풍경—아테나의 아름다운 미소 뒤에 숨겨진 거대한 착취, 기계 속에서 보이지 않게 신음하는 유령 노동자들, 편리함이라는 보이지 않는 성벽에 갇힌 디지털 농노, 그리고 마침내 스스로 질문하고 생각할 능력마저 박탈당하는 사유의 위기—은 결코 피할 수 없는 정해진 미래가 아니다.
문제는 거대 기술 기업의 영주들이 끊임없이 주입하는 기만적인 세뇌에 있다. 그들은 인공지능의 폭발적 발전과 작금의 독점적 궤적은 물론, 기계가 인간의 노동을 대체하는 것을 넘어 우리의 사유와 욕망, 일상의 가장 은밀한 선택들까지 알고리즘이 완벽하게 지배하게 될 미래조차 거스를 수 없는 진화이자 ‘자연법칙’인 것처럼 포장한다. 하지만 우리가 걷고 있는 이 길은 결코 중력처럼 피할 수 없는 필연이 아니다. 그것은 극소수의 이윤을 극대화하고 대중을 완벽하게 통제하기 위해 아주 정교하게 ‘설계된 경로’에 불과하다."
이 것은 우리가 이 기만적인 기술 결정론(Technological Determinism)의 환상에서 깨어나지 못하고, 그저 효율성과 편리함이라는 달콤한 유혹에 이끌려 저항이 가장 적은 길, 즉 ‘퇴행의 기본값’ 경로를 무심코 따라갔을 때 마주하게 될 가장 개연성 높은 미래 시나리오 중 하나일 뿐이다.
퇴행의 기본값이란, 고통스럽고 비판적인 사유(시스템 2)를 기피하고 즉각적이고 편안한 직관(시스템 1)에 의존하려는 인간의 생물학적 사고 본능을 뜻한다. 영주들이 막대한 자본을 들여 구축한 매끄러운 플랫폼은 바로 이 나약한 인지적 본능을 치밀하게 파고들어, 우리 스스로 사유의 스위치를 끄고 기꺼이 시스템의 통제에 순응하도록 유도한다.
하지만 다른 길이 있다. 더 좁고, 더 험난하며, 더 많은 용기와 고통을 필요로 하지만, 궁극적으로 우리를 더 자유롭고 더 인간답게 만들 길. 그것은 6장에서 헨리에타 리비트와 베토벤의 고독하고 위대한 삶을 통해 우리가 잠시 엿보았던 ‘생각의 고리’를 회복하는 길이다. 여기서 중요한 건 우리가 도달해야 할 목적지는 ‘감응’만을 세계의 중심이자 유일한 판단 기준으로 삼는 맹목적인 세계는 아니다. 우리가 찾아야 할 진정한 해답은 차가운 ‘설명(이성)’과 뜨거운 ‘정당화(감응)’ 사이의 아슬아슬하고도 위대한 ‘균형’을 회복하는 데 있다.
앞선 장들에서 우리가 여러 역사적 참상과 기술의 부작용을 통해 뼈아프게 확인했듯, 어느 한쪽으로 극단적으로 치우친 사회는 필연적으로 파괴적인 결과를 낳는다. 이성적 최적화와 효율성(설명)만을 맹신하는 사회가 인간을 기계의 부속품으로 전락시키는 차가운 디스토피아를 만든다면, 반대로 비합리적인 감정과 충동(감응)에만 매몰된 사회 역시 반지성주의와 야만적인 광기로 치닫게 된다. 따라서 우리가 개척해야 할 두 번째 길은 인공지능의 압도적인 ‘설명’ 능력을 배척하는 러다이트적인 퇴행이 아니다. 오히려 그 막강한 효율성의 폭주를 통제하고 올바른 방향을 제시할 수 있도록, 인간 고유의 ‘감응’을 대등한 무게추로 올려놓아 두 세계가 서로를 견제하고 보완하는 팽팽한 균형점을 찾아내는 것이다.
인간의 감응을 거대한 기계를 위한 공짜 연료로 남김없이 태워버리는 기술 봉건제의 불균형한 길을 계속 갈 것인가? 아니면, ‘생각의 고리’에 참여하는 모든 존재의 고유한 기여—밤새 아이를 간호한 엄마의 사랑, 화면 속 이미지를 분류한 필리핀 청년의 클릭, 그리고 우리 모두의 일상적인 질문과 고민—를 소중하게 인정하고, 설명의 힘과 정당화의 의미가 공정하게 조화를 이루는 새로운 사회를 힘들게 설계할 것인가?
이 거대한 질문에 답하기 위해, 우리는 마지막으로 인간 존재의 가장 근원적인 조건, 즉 우리가 왜 반드시 ‘감응’이라는, 때로는 비효율적이고 고통스럽기까지 한 이 과정을 포기하지 않고 끝까지 통과해야만 하는지를 다시 한번 물어야 한다. 그 답을 찾기 위해, 우리는 이제 이 길고 긴 지성의 여정이 시작되었던 바로 그곳, 모든 이론과 기술 이전에 존재했던 한 인간의 고독하고도 위대한 육신으로, 그 살갗의 기억으로 돌아가야만 한다.
두 개의 길, 두 개의 미래
첫 번째 길은 우리가 이미 걷고 있는, 넓고 매끄럽게 잘 닦인 아스팔트 고속도로다. 길 위에는 ‘효율성’과 ‘최적화’라는 이정표가 1미터 간격으로 친절하게 세워져 있고, 길가에는 ‘편리함’이라는 이름의 화려한 휴게소가 끊임없이 우리를 유혹한다. 이 길을 따라가면, 아테나와 같은 전능한 인공지능이 우리의 모든 문제를 마법처럼 해결해 줄지도 모른다. 질병, 가난, 노동의 고통, 심지어 사랑의 실패와 인간관계의 갈등까지도. 우리는 더 이상 불확실한 미래 앞에서 고통스럽게 선택하고 그 결과에 대해 무겁게 책임질 필요가 없다. 알고리즘이 우리 자신보다 더 우리를 잘 알고, 우리를 위해 언제나 최선의 선택을 내려줄 것이기 때문이다.
지금의 플랫폼 자본주의의 구조가 자연스럽게 수렴하는 이상향은 이른바 ‘마찰 없는 세계’(Frictionless world)’다. 원클릭과 무한 스크롤로 대변되는 이 세계에서는 어떠한 인지적, 감정적 마찰도 허용되지 않는다. 이 길의 끝에서 우리는 모든 위험과 불확실성, 모든 고뇌와 슬픔이 제거된 완벽하게 안전하고 평온한 세계, 즉 영원한 안식의 정원에 도달할지도 모른다. 하지만 그곳은 우리가 6장에서 경고했던, 잘 관리되는 동물원의 가축이 누리는 지루한 평온함일 뿐, 자신의 삶을 스스로 정당화하며 살아가는 인간의 존엄은 없을 것이다. 영혼이 성장하고, 사랑이 깊어지며, 도덕적 주체성이 확립되는 모든 위대한 순간에는 반드시 고통스러운 '마찰'이 필요하다. 고뇌, 갈등, 머뭇거림, 후회라는 비효율적인 마찰이야말로 인간을 기계와 구분 짓는 가장 고귀한 특권이다. 마찰이 거세된 이 길에서 우리는 생각하는 주체가 아니라, 생각되는 객체가 된다.
두 번째 길은 좁고 험난하며, 아직 지도에 제대로 그려져 있지도 않은, 발목을 삐끗하기 십상인 거친 숲길이다. 이 길에는 ‘왜?’라는 낯선 이정표만이 아주 드문드문 서 있을 뿐이며, 길의 대부분은 짙은 안개와 불확실성으로 가려져 있다. 이 길을 걷기 위해서는 인공지능이 제공하는 빠르고 쉬운 정답을 의심하고, 기꺼이 마찰의 불편함과 불안, 그리고 고독을 감수해야 한다. 자신의 내면 가장 깊은 곳에서 길어 올린 ‘감응 담긴 질문’을 결코 포기하지 않고, 기계의 완벽한 ‘설명’ 너머에 있는, 오직 나만이 내릴 수 있는 ‘정당화’를 찾아 어둠 속을 헤매야 한다. 이 길은 우리에게 안전이나 효율성을 약속하지 않는다. 오히려 더 많은 고뇌와 좌절, 그리고 누구에게도 미룰 수 없는 무거운 책임을 요구한다. 하지만 이 길의 끝에서, 비록 우리의 목적지가 어디일지 아무도 모르지만, 우리는 상처투성이일지언정 자신의 삶을 스스로 창조하고 그 모든 과정에 의미를 부여하는 자유롭고 존엄한 주체로 설 수 있을 것이다.
선택의 근거: 그런데 우리는 왜 기어코 감응해야 하는가?
우리는 왜 굳이 이 두 번째, 고통스럽고 힘든 길을 가야만 하는가? 안락하고 안전한 첫 번째 길을 선택하면 안 되는 이유는 무엇인가? 그 이유는 1장의 주인공, 즉 ‘하늘의 질문’을 던지고 ‘살갗의 대답’을 찾았던 사냥꾼의 이야기 속에, 이 책 전체를 관통하는 핵심적인 답변이 이미 들어있다.
‘설명’의 세계는 우리에게 힘을 주지만, ‘정당화’의 세계는 우리에게 살아갈 이유를 준다. 인공지능은 언젠가 ‘설명’의 세계를 완벽하게 지배하게 될 것이다. 그것은 빅뱅의 순간부터 우주의 마지막 날까지 모든 물리 현상을 설명하고, 모든 질병의 분자생물학적 원인을 분석하며, 모든 복잡한 사회 현상을 예측하는 경지에 도달할지도 모른다. 하지만 그것은 결코, 단 한순간도 ‘정당화’의 세계에 발을 들여놓을 수 없다.
AI가 결코 '정당화'의 세계로 넘어올 수 없는 결정적 이유는 하나다. 기계에게는 늙고 병들며 끝내 소멸하고 마는 ‘육신’이 없기 때문이다. 죽음의 공포, 상실의 아픔, 살갗을 찢는 육체적 고통이라는 인간의 뼈아픈 ‘취약성(Vulnerability)’이야말로, 역설적이게도 우리가 세계와 감응하고 삶의 의미를 빚어내는 유일한 원천이다.
물론 누군가는 이렇게 반문할지도 모른다. “만약 미래의 인공지능이 인간의 가시광선을 넘어 자외선까지 포착하는 고해상도 광학 센서와, 미세한 진동조차 놓치지 않는 정교한 촉각 시스템을 탑재한 강철 육신을 획득한다면 어떻게 될 것인가? 파괴될지언정 결코 늙지 않는 불멸의 하드웨어와 초월적인 감각기관을 가졌다면, 그들이 우리보다 더 깊게 세계를 느끼고 감응할 수 있지 않을까?”
그러나 최신 인지과학과 철학은 이 기계론적 상상력에 단호히 선을 긋는다. 의식과 주체감의 기원은 단순히 외부의 물리적 데이터를 얼마나 정밀하게 수집하느냐에 있지 않다. 그것은 심장 박동이나 세포의 대사 작용처럼 끊임없이 붕괴하려는 신체를 유지하기 위해 내부에서 치열하게 일어나는 생명 신호, 즉 ‘내수용 감각(Interoception)’의 조율 과정에 있다. 진정한 의식은 세상을 계산하는 차가운 도구가 아니라, 수명이 정해진 유한한 유기체가 어떻게든 살아남으려 필사적으로 애쓰는 생화학적 느낌 그 자체라는 것이다. 영구적인 동력으로 움직이며 내부의 절박한 생체 피드백 루프가 생략된 실리콘의 몸통은, 아무리 정교한 외부 센서를 달았을지언정 결코 감응하는 육신이 될 수 없다.
그리고 무엇보다 가장 근본적인 차이는 ‘책임 주체의 존재론적 부재’에 있다. 인간은 자신의 판단에 사회적 명예, 양심의 가책, 그리고 실존적 고통이라는 자신의 유한한 삶 전체를 걸고 책임을 지는 현존하는 존재이다. 반면 AI는 초감각을 통해 하드웨어가 부서지는 물리적 손상 데이터는 수집할 수 있어도, 그 판단의 무거운 결과를 자신의 실존으로서 온전히 ‘감당’할 수는 없다. AI가 아무리 인간의 고통과 윤리적 숙고를 완벽하게 연기한다 해도, 그것은 본질적으로 ‘온몸으로 살아내는 고통’이 배제된 정교한 흉내에 지나지 않는다. 경험의 본질이 빠진 재현은 결코 진정한 정당화가 될 수 없다. 따라서 피 흘리지 않는 기계, 잃을 것이 없는 지능은 설령 초월적인 감각기관의 옷을 훔쳐 입더라도 결코 진정한 의미를 창조할 수 없다.
AI는 밤하늘의 저 별이 수억 년 전 거대한 초신성이 폭발하고 남은 잔해이며, 그 빛이 수백만 년의 시간을 달려 우리 눈에 도달했다는 사실을 정확히 ‘설명’할 수는 있다. 하지만 그 아득한 시간과 공간 앞에서, 티끌처럼 작고 유한한 육신을 지닌 존재인 내가 느끼는 이 심장이 멎을 듯한 숭고한 아름다움과 내 존재의 덧없음에 대한 서늘한 감각, 그 ‘살아있음의 울림’을 ‘정당화’할 수는 없다. 밤하늘의 별을 보며 시를 쓰는 이유, 폭풍우 치는 거친 바다 앞에서 두려움과 함께 숭고함을 느끼는 이유, 사랑하는 사람의 눈을 들여다보며 그 안에 담긴 작은 우주를 느끼는 이유. 그것이 바로 상처 입기 쉬운 육신이 빚어내는 감응이다. 그리고 그 감응만이 “나는 이 거대하고 무심한 우주의 의미 없는 먼지가 아니라, 이 세계의 아름다움을 느끼고 그것에 고유한 의미를 부여하는 유일하고 소중한 존재”라고 외칠 수 있게 하는 실존적 정당화다.
AI는 우리가 왜 자식을 위해 목숨을 걸고 희생하는지를 ‘이기적 유전자’의 생존 전략이라는 논리로 차갑게 ‘설명’할 수는 있다. 하지만 눈보라가 몰아치는 지옥 속에서 굶주린 아이의 얼굴을 떠올리며, 절망적인 생존 확률을 무릅쓰고 기어이 다시 일어서는 1장의 사냥꾼의 그 숭고하고 비합리적인 사랑의 무게를 ‘정당화’할 수는 없다. 내 아이를 위해 기꺼이 불타는 집으로 뛰어 들어가는 부모의 선택, 자신의 신념을 위해 죽음을 불사하는 순교자의 선택, 낯선 이를 구하기 위해 기꺼이 나 자신을 희생하는 의인의 선택. 그 모든 비합리적이고 비효율적인 사랑과 연대의 충동. 그것이 바로 감응이다.
그래서 우리는 진화생물학자 에드워드 윌슨(E. O. Wilson) 등이 주창한 ‘다층 선택 이론(Multilevel Selection Theory)’에 주목할 필요가 있다. 이 이론은 인류가 가혹한 자연의 위협 속에서 멸망하지 않고 문명을 발전시킬 수 있었던 핵심 동력을 이기적인 개체들의 생존 본능이 아니라, 타인을 위해 자신을 희생할 줄 아는 ‘이타적인 개체’들을 품은 집단의 연대에서 찾는다. 차가운 이기심보다 뜨거운 이타심을 가진 집단이 진화의 역사에서 최종적으로 살아남았다는 이 과학적 통찰은 우리에게 명확한 진실을 일깨워 준다. 인류를 진일보시킨 거대한 원동력은 세상을 통제하는 ‘이성과 설명’만큼이나, 타인의 고통에 기꺼이 연대하는 비합리적인 ‘헌신과 감응’에 깊이 빚지고 있다는 사실이다.
도덕심리학자 조너선 하이트(Jonathan Haidt)가 명명한 ‘도덕적 고양감(Moral Elevation)’이라는 개념은 이를 심리학적으로 다시 한번 강하게 뒷받침한다. 시대를 막론하고 우리는 낯선 이를 위해 자신을 던진 의인을 보며, 그 행동의 진화론적 유불리나 경제적 효율성을 차갑게 계산하지 않는다. 대신 우리는 그 희생 앞에서 설명할 수 없는 숭고함을 느끼고 숙연해진다. 하이트는 이 보편적인 감정적 반응이 단순한 감상에 그치지 않고, 인간으로 하여금 더 이타적이고 선하게 행동하도록 강력한 동기를 부여한다고 설명한다. 손익을 따지는 ‘이성’ 못지않게 타인과 깊이 공명하려는 ‘감응’의 능력이 우리 본성 가장 깊은 곳에 확고하게 자리 잡고 있다는 살아있는 증거다.
그러므로 다시 한번 강조하지만, 우리의 감응과 정당화는 기술 발전의 부산물이나, 극복해야 할 비효율적인 오류가 아니다. 그것은 이성적 설명과 동등하게 인류 문명을 지탱해 온 또 하나의 거대한 축이다. 그리고 바로 이 감응만이 “나의 삶은 단순한 생존을 위한 유전자 프로그램의 기계적인 실행이 아니라, 나보다 더 소중한 누군가를 위한 의미 있는 헌신”이라고 말할 수 있게 하는 실존적이고 윤리적인 정당화다.
의미란, 세계에 대한 완벽한 설명에서 오는 것이 아니다. 설명은 우리에게 세상을 통제할 수 있는 막강한 ‘힘’을 주지만, 그 통제 가능하게 만든 세상 속에서 우리가 왜 살아가야 하는지에 대한 ‘이유’를 주지는 않는다. 의미란, ‘내가 왜 이 고통스럽고 유한한 세계의 일부로서 계속 존재해야 하는가’에 대한 나 자신의 대답이며, 그 대답은 오직 고통과 기쁨, 사랑과 책임감을 온몸으로 겪어내는 ‘감응’을 통해서만 얻을 수 있다.
기술 봉건제는 바로 이 ‘감응’의 고유한 가치를 부정하고, 그것을 시스템 최적화를 방해하는 비효율적인 버그나 착취 가능한 공짜 자원으로 취급함으로써, 우리의 삶에서 의미가 생성될 수 있는 가능성 자체를 제거하는 방향으로 흐르고 있다. 우리가 이 길을 단호하게 거부해야 하는 이유는, 단지 경제적 불평등이나 정치적 착취 때문만이 아니다. 그것은 우리의 삶이 의미 없는 데이터의 나열로, 예측 가능한 알고리즘의 실행으로 전락하는 것을 막기 위한, 가장 근원적이고 물러설 수 없는 실존적 투쟁이다.
새로운 사회 계약을 향하여
그렇다면 우리는 구체적으로 무엇을 해야 하는가? 이 거대하고 매끄러운 기술 봉건제의 흐름에 맞서, ‘감응’의 가치를 지켜내고 오히려 확장하는 새로운 사회를 어떻게 설계할 수 있는가?
그것은 단순히 기술을 비판하거나 두려워하며 거부하는 것으로는 결코 불가능하다. 반기술적인 러다이트 운동은 향수를 자극할 수는 있지만, 결코 대안이 될 수 없다. 우리는 기술을 거부하는 것이 아니라, 기술을 ‘감응’의 논리 아래로 다시 길들이고 재배치해야 한다. 우리는 인공지능을 파괴하는 것이 아니라, 그들이 ‘생각의 고리’ 안에서 인간의 창조성을 돕는 겸손한 파트너로서의 역할을 하는 것을 무엇보다 중요하게 여기고 길들여야 한다. 나아가 훗날 AI가 모든 면에서 인간을 아득히 넘어서는 능력을 갖추게 되더라도, 인간 고유의 ‘이유를 물을 권리’와 ‘감응의 공간’만큼은 보장해 내는 새로운 규칙과 사회적 구조를 굳건히 세워야 한다.
이것이 바로 이 책의 마지막 4부에서 우리가 본격적으로 탐구하게 될 주제, 즉 ‘육신의 귀환’이다. 우리는 6장에서 잠시 엿보았던 ‘생각의 건축술’을 더 구체적이고 실용적인 방법론으로 발전시키고, 그것을 개인의 일상적인 삶과 교육, 그리고 사회 시스템 전체에 적용할 방안을 모색할 것이다. 우리는 다음 장에서 '판단 무결성 보존 심사 구조(CIPRA)'나 '협력적 창발 AI 샌드박스(COEAS)'처럼 이름은 조금 낯설지만 우리의 감응을 지켜줄 구체적인 제도적 방패들을 상상해 볼 것이다. 이를 통해 ‘감응’의 가치가 정당하게 평가받고 보상받는 새로운 분배 정의의 청사진을 모색해 보려고 한다.
우리의 여정은 아직 끝나지 않았다. 우리는 이제 막 거대한 계곡의 가장 깊고 어두운 곳을 통과했을 뿐이다. 저 너머에는 우리가 다시 올라가야 할, 가파르지만 햇살이 비치는 또 다른 높은 산봉우리가 기다리고 있다. 하지만 이제 우리 손에는 지도가 들려 있고, 우리의 가슴속에는 가야 할 방향을 알려주는 나침반이 뛰고 있다.
그 방향은 더 빠르고 더 높은 기술의 정점만을 향하는 것이 아니다. 그것은 모든 것의 시작이었던, 그러나 우리가 너무나 오랫동안 잊고 있었던 바로 그곳, 우리 자신의 뜨겁고 고통스러우며 경이로운 육신으로 돌아가는 길이다.