기술이 도구라는 대단한 착각
희망과 공포의 긴장
AI, 도구인가 새로운 군주인가
우리는 AI를 그저 '도구'라고 말하길 좋아한다. 하지만 교통수단의 발달이 가족중심 사회의 바운더리를 넓히고 태어난 곳에서 죽는다는 관념에서 우리를 해방시켜 삶의 방식으로 변화시켰듯, 때로는 기술이 주도적으로 인간의 사고패턴을 바꾸기도 한다. 지금 사회는 AI가 우리를 지루한 노동에서 해방시켜 '거창한 다른 일'을 하게 만들 거라고 기대한다. 하지만 실제로는 거창한 무엇마저 AI가 더 잘 하게 되어 인간은 AI에게 할당받은 활동을 하는 존재로 남을지도 모른다. 아이들이 GPT로 숙제를 하는 것을 보며 그 '효율성'에 감탄하고 어느새 자연스럽게 여기고 있고, 심지어 학교마저 디지털 리터러시 강화라는 명분으로 이를 권장하는 시대다.
하지만 이 편리함 뒤편에는 훨씬 더 거대하고 불편한 진실이 숨어있다. "사고의 방식이 바뀌는 충격"이 가져올 변화를 예견하고 대비하는 것은 미처 하지 못한채 무방비상태로 기술의 진보라는 거대한 파도에 떠밀려다니고 있는 것이다. 그리고 이 충격은 단순히 '생각'의 문제에서 그치지 않고 '권력'의 문제로 직결된다.
기술의 방향을 결정하는 힘
대런 아세모글루(Daron Acemoglu)는 기술 자체가 중립적이라는 환상을 깬다. 그는 기술의 발전 방향이 결코 정해진 것이 아니며, 언제나 '선택'의 문제라고 지적한다. 그리고 그 선택은 언제나 권력을 쥔 자들에 의해 이루어진다.
지금 우리가 마주한 AI는 인간의 지능을 '보강'하는 방향(augmenting)보다는 '자동화'하고 '대체'하는 방향(automating)으로 치우쳐 있다. 왜? 그편이 기술을 소유한 소수 엘리트의 부와 권력을 극대화하는 데 유리하기 때문이다.
우리가 '효율성'이라는 이름으로 환호하는 사이, 기술은 인간의 판단력을 빼앗고, 노동의 가치를 떨어뜨리며, 이익은 기술을 소유한 거대 기업에 집중된다. 아세모글루의 논리대로라면, AI는 민주주의적인 도구가 아니라, 소수에게 부와 권력을 몰아주는 가장 강력한 무기가 되어가고 있다.
기술낙관론이 간과하고 있는 현실이 바로 이 지점이다.
데이터 영주와 디지털 농노
이런 권력의 집중은 자본주의의 형태마저 바꾸고 있다는 경고로 이어진다. 바로 '기술 봉건주의(Techno-feudalism)'의 도래다.
과거 자본가들이 공장과 기계를 소유하고 노동자의 노동력을 착취해 이윤을 남겼다면, 새로운 '기술 영주'(Tech Lords)들은 플랫폼과 데이터를 소유한다. 구글, 아마존, 메타, 그리고 AI 모델을 소유한 오픈AI나 마이크로소프트가 바로 그들이다.
우리는 그들의 디지털 영토 안에서 살아가는 '디지털 농노'와 같다. 우리는 노동의 대가로 임금을 받는 것이 아니라, 그들의 플랫폼을 '무료'로 이용하는 대가로 우리의 가장 사적인 것, 즉 '데이터'를 상납한다. 우리가 AI에 질문을 던지고, 숙제를 맡기고, 대화를 나누는 모든 행위는 그들의 성을 더 견고하게 만들고, 그들의 AI를 더 강력하게 훈련시키는 '부역'이 된다.
그들은 우리의 관심을 팔아 광고 수익을 올리고(데이터 착취), 이제는 AI라는 강력한 도구를 통해 우리의 지적 노동마저 통제하려 한다. 이는 이윤 창출을 넘어선 새로운 형태의 '지대(rent)' 착취이며, 봉건 시대의 영주가 농노에게 거두던 소작료와 본질적으로 다르지 않다.
생각하기를 멈춘 아이들
이 거대한 권력 이동의 끝에서 우리가 마주할 가장 섬뜩한 풍경은, 다음과 같은 우려다. "가치가 다한 어른들, 그리고 생각과 의문이 없는 아이들."
기술 봉건주의의 가장 완벽한 농노는 '효율적'이지만 '의문'을 갖지 않는 존재다. 영주가 소유한 AI가 모든 답을 내려주는데, 왜 굳이 고통스럽게 생각하고 질문해야 할까?
아이들이 GPT로 숙제를 하는 것은 단순히 '편리함'의 문제가 아니다. 그것은 '생각하는 주권'을 AI 플랫폼 영주에게 넘겨주는 행위다. 의문을 제기하고, 비판적으로 사고하고, 자신만의 논리를 세우는 능력은 사용하지 않으면 퇴화한다.
결국, AI라는 '도구'는 우리를 '거창한 다른 일'로 이끄는 것이 아니라, 우리 스스로 생각할 능력을 포기하게 만든다. 그리고 생각하기를 멈춘 대중만큼 다루기 쉬운 신민은 없다.
"그 아이들은 앞으로 어떤 사고를 하게 될 것이냐"는 질문은 이미 답을 향해 가고 있다. 그들은 영주가 설계한 알고리즘이 허용하는 범위 안에서만 사고하게 될 것이다. 효율적이지만, 영혼은 없는, 완벽한 디지털 농노로 말이다. 우리가 지금 이 '효율성'의 신화를 의심하고 기술의 '방향'을 되찾기 위해 싸우지 않는다면 말이다.
