<AGI 천사인가 악마인가> by 김대식
365 Proejct (364/365)
생날리뷰2025-002 - AGI 천사인가 악마인가
[서평] 디지털 포디즘과 쉬운 관계의 함정
부제: '모자이크 모멘트'를 넘어, 우리는 어떤 게임을 하려 하는가
1. 프롤로그: 시의적절하나, 너무나 빠른 변화 앞에서
책 『AGI, 천사인가 악마인가』에 대한 총평을 먼저 내리자면, "틀린 말은 없으나, 완전히 새로운 이야기는 아니다"라고 할 수 있다.
이 책의 가장 큰 미덕은 '쉬움'과 '비유'에 있다. 저자는 현재의 AI 혁명을 1993년 웹 브라우저가 처음 등장했던 '모자이크 모멘트'에 빗대어 설명하며, 힌턴 교수의 경고부터 실리콘밸리의 낙관론까지 다양한 층위의 논의를 역사적 사례와 함께 친절하게 풀어낸다. AGI라는 거대한 파도를 처음 마주하는 독자들에게는 더할 나위 없이 훌륭한 가이드북이다.
하지만 아쉬움은 책이라는 물성의 한계에서 온다. 이 바닥(AI)은 '하루가 다르게'가 아니라 '오전과 오후가 다르게' 변하고 있다. 챗GPT의 등장 이후 쏟아지는 최신 기술 트렌드와 논쟁들을 종이책에 담아내기엔, 활자가 마르는 속도보다 기술의 진화 속도가 훨씬 빠르다. 때문에 현업에 있거나 뉴스레터를 챙겨 보는 독자들에게는 다소 철 지난 이야기처럼 느껴질 수 있다. 그럼에도 불구하고 이 책이 던지는 질문의 본질, 즉 기술이 재편할 '노동'과 '관계'에 대한 화두는 여전히 유효하다.
2. 노동의 미래: 1인 유니콘의 꿈과 '책상머리 권력'의 저항
저자는 생산성 혁명을 예고하며, 개발자, 기획자, 디자이너의 경계가 무너지는 융합의 시대를 말한다. 이는 곧 인간 증강(Human Augmentation)을 통한 '1인 유니콘 기업'의 탄생 가능성을 시사한다. 혼자서 기획하고, 코딩하고, 디자인하여 세상을 바꾸는 슈퍼 개인의 등장은 가슴 뛰는 낙관론이다. 기술적 실업의 대안으로 '기본소득' 논의가 힘을 얻는 배경이기도 하다.
하지만 이를 비판적으로 뒤집어보면, 이것은 '비(非)물리적 영역에서의 포디즘(Fordism)'의 시작이다. 자본주의 시스템은 언제나 효율화를 명분으로 노동을 파편화해왔다. 과거 육체 노동자들에게 가해지던 관습들이 이제는 지적 노동의 영역으로 침투한다. 방송작가나 카피라이터들이 겪는 고용 불안과 비정규직화가 보여주듯, AI 시대의 창작과 사고 노동 역시 '건당 처리'되는 부품처럼 취급될 위험이 있다.
더욱 복잡한 문제는 '정치와 권력'이다. 기술적으로는 AI가 판사나 행정가를 대체할 수 있을지 몰라도, 현실에는 법조계나 관료 조직 같은 견고한 '책상머리 권력'이 존재한다. 이들은 법과 규제, 행정 절차라는 진입 장벽을 통해 자신들의 기득권을 방어할 것이다. (마피아적 행태라고도 볼 수 있는) 이러한 정치적 저항 때문에, 기술적 효율성이 사회 전반에 평등하게 적용되기보다는, 힘없는 지적 노동자들의 일자리만 먼저 '효율화' 당하는 불균형이 초래될 수 있다. 우리는 1인 유니콘이라는 화려한 구호 뒤에 숨겨진, 지적 노동의 프레카리아트(Precariat, 불안정한 노동 계급)화를 경계해야 한다.
3. 관계의 미래: '소울류' 게임과 AI라는 이지 모드(Easy Mode)
책은 쇼펜하우어의 딜레마를 인용하며 AI가 외로움을 달래줄 완벽한 파트너가 될 수 있음을 시사한다. 밤새 내 투정을 들어주고 무조건적으로 공감해주는 AI. 이는 분명 심리 상담이나 정서적 케어의 영역에서는 혁명적인 도구가 될 수 있다.
하지만 이것이 인간 대 인간의 '진짜 관계'를 대체할 수 있을까? 나는 여기에 '게임의 역사'를 대입해보고 싶다.
게이머들은 왜 툭하면 죽고, 좌절하고, 처음부터 다시 시작해야 하는 '소울류(Soul-like)'나 '로그라이크(Roguelike)' 게임에 열광할까? 인간은 이기는 게임만 계속하면 자극에 무뎌진다. 도파민은 예측 불가능한 보상과 고통스러운 극복 과정에서 분비된다. '마찰(Friction)'이 없는 승리는 성취감을 주지 못한다.
AI와의 관계는 본질적으로 '이지 모드(Easy Mode)'다. 갈등은 소거되어 있고, 상대방은 나에게 100% 맞춰준다. 이것은 편안하지만, 인간관계의 본질인 '타자성(Otherness, 내 뜻대로 되지 않는 남)'이 결여되어 있다. AI가 더 큰 자극을 주기 위해 가상의 갈등을 연출할 수도 있겠지만, 우리가 그것이 알고리즘임을 아는 한 그것은 진짜 '소울류'가 아니라 흉내 낸 접대성 게임일 뿐이다.
무조건 맞춰주는 AI는 훌륭한 '상담사'나 '애인 대행'은 될 수 있어도, 서로 상처 입히고 봉합하며 성장하는 '반려자'나 '친구'의 자리는 대체하기 어려울 것이다. 우리는 쉬운 게임에 금방 권태를 느끼듯, 나만 바라보는 AI에게서 결국 인간적인 결핍을 느끼고 다시 '불편한 사람'을 찾아 나설지도 모른다.
4. 에필로그: 준비된 자들의 리그
책은 AGI가 가져올 미래를 대비할 '골든 아워'를 말한다. 하지만 그 준비란 단순히 기술을 배우는 것을 넘어선다.
노동 시장에서는 기계적 효율성으로 대체될 수 없는 '결정권'과 '권력'의 역학을 이해해야 하고, 관계의 영역에서는 편안함에 안주하지 않고 기꺼이 '불편함'을 감수할 수 있는 인간성을 지켜야 한다. AGI 시대, 천사와 악마는 기술 그 자체가 아니라, 그 기술을 받아들이는 우리의 태도와 시스템 속에 이미 잉태되어 있다.
