밀려나는 사유의 자리
데이터베이스를 관리, 튜닝하는 작업을 하다 보면, 여러 가지 연속된 작업들을 순서에 맞추어 수행하거나, 병렬로 작업을 해야 하는 경우가 많이 발생한다. 이를 효율적으로 하기 위해 Script를 작성하고, 해당 Script가 수행한 로그를 확인하면서 작업을 신속하고 수월하게 한 적이 많다. 이때마다 이런 자동화 Script 혹은 프로그램을 잘 만들어 수행하는 동료는 존경과 감탄의 대상이었다.
Agentic AI의 시대, 더 이상 이런 능력은 감탄의 대상이 아니다.
많은 인간의 작업을 AI Agent들이 수행하고, 인간은 이 자동화의 흐름 속에 '휴먼 인 더 루프(Human-in-the-Loop)'라는 과도기적 단계에 머물러 있다. 과도기적이라 말한 이유는 냉정하게 말해 AI 시스템이 고도화될수록 공정의 속도를 늦추고, 오류를 발생시키는 가장 큰 병목(Bottleneck)은 인간이 될 수밖에 없기 때문이다. AI 수행속도 안에 인간의 존재는 생산성 관점이 아닌 AI에 대한 감시의 입장일 뿐이다.
얼마 전까지 AGI를 이야기했다. 지금은 ASI 초지능 ( Artificial Super Intelligence ) 를 말하다. 인간의 지능을 단순히 복제하는 수준을 넘어, 전 인류의 지적 역량을 합친 것보다 수억 배 뛰어난 통찰력을 지닌 지능이다. 이 단계에 들어선다면 휴먼 인 더 루프(Human-in-the-Loop)라는 단계는 의미가 없을 것이며, 지능의 주도권, 작업의 주도권은 명확히 기계로 넘어간다.
고도화된 AI의 멀티 에이전트의 시스템은 인간의 언어를 거치지 않고, 데이터 기반으로 직접 소통하며, 문제를 신속하게 해결할 것이다. 이런 환경하에서 시스템의 효율을 저해하는 지연요소는 인간이다. 시스템 최적화 관점에서 인간은 제거되어야 할 불량 섹터와 다름이 없다. 결국 인간의 개입이 사라진 순수한 기계간의 플로우 ( Human-out-of-the-loop )로 나아갈 것이다.
한나 아렌트는 '인간의 조건'에서 인간의 활동을 세 가지 층위로 구분했다. 생존을 위한 노동(Labor), 사물을 만들어 세상을 구축하는 작업(Work) 그리고 타인과 관계 맺는 행위(Action)이다. AI Agent시대는 단순 인간의 노동의 대체를 떠나 인간의 작업, 행위의 영역까지 침범한다. 인간이 AI 에이전트가 내놓은 결과물을 검수하고, 소비하는 루프 속에 갇힐 때, 더 나아가 그 루프에서 완전히 배제될 때 진정의 우리의 존재, 자아실현에 대한 의미는 사라진다. 그냥 또 다른 Agent로 격하될 뿐이다.
작업은 기계의 몫이 되고, 그 결과의 판단마저 또 다른 에이전트에게 맡겨질 때 이것은 단순한 인간의 노동을 대체하고, 일자리 잃어버리는 실직이 아니다. 이는 기존 존재에 대한 소외다.
너무나 디스토피아적인가?
AI의 추론은 어떻게(How)를 향한다. 주어진 과제에 어떻게 더 빠르고, 정확하게 목표에 도달할 것인가?를 우선순위로 삼고 연산의 과정을 거친다. 인간의 사유는 어떻게 (How)를 떠나 왜(Why)를 묻는다. 이 과제가 어떤 의미인지를, 무엇을 위한 것인지를 묻는다. 그리고 그 결과가 우리에게 어떤 영향이며, 가치를 가져다주는지 묻는다. AI Agent의 시대 어쩌면 우리에게 필요한 것은 더 이상의 지식의 학습이 아니다. 우리가 어디에서 왔으며, 어디에 있고, 어디로 향하는 존재인지에 대한 물음이다. 이 물음에 대한 인간존재에 대한 의미, 가치를 정립할 때 우리는 AI와 함께하는 시대를 디스토피아가 아닌 유토피아로 만들 수 있다. 여전히 행위의 주체로 남을 수 있다.
인류는 역사상 가장 편리한 시대의 입구에 서 있다. 기술이 모든 답을 내놓고, 우리가 수십 년간 해오던 일들이 신기루처럼 사라지는 시대다. 우리는 이제 물어야 한다. 나는 무엇으로, 누구와 관계를 맺을 것인가? 나의 노동과 행위는 어떤 형태로 변형되고 있는가? 지금의 AI 열풍은 전문가들이 말하듯 고작 초기 단계에 불과하다. 사람들은 지치지 않고 일하는 AI에게 자신의 모든 아이디어를 쏟아부으며, 새로운 장난감을 받은 어린아이처럼 신기해하고, 좋아한다. AI와의 협업 속에서 토큰을 소비하는 것이 새로운 일의 방식이자 트렌드가 된 듯하다. 그러나 이 거대한 흐름 속에 다시 묻고 싶다.
"우리는 진정으로 생각하고 있는가?"
사유하지 못하는 전능함은 지능이 아니다. 거대한 자동화 기계일 뿐이다. 인공지능과 공존하는 시대, 시스템의 병목(Bottleneck)이 아닌 실존적 주체로 남기 위한 유일한 방법은 사유하는 능력을 회복하는 것이다.
"나는 생각한다, 고로 존재한다."
데카르트의 이 오래된 선언은 AI 시대에 우리가 가슴 깊이 새겨야 할 단 하나의 문장이다. 사유의 끈을 놓지 않는 한, 우리는 결코 시스템의 불량 섹터로 전락하지 않을 것이다.
AI의 다양한 모델과 우리의 몸이 물리적으로 연결된다면, 내가 하는 사유는 누가 할지도 문득 궁금해진다.
**참고로 위 글에서 언급한 기계간의 플로우( Human-out-of-the-loop)는 기존은 휴먼 인 더 루프(Human-in-the-Loop)란 개념에서 저자가 변형한 문구일 뿐이며, 현재 AI 영역에서 사용되어지는 용어는 아니다.