제 2회차 북클럽 노트
<초예측>,<인간적 AI를 위하여>
이번 북클럽의 주제는 AI와 미래 인류 문명에 대한 것으로 논제는 국가와 기업은 인간적 가치를 도구화해야 하는지 만일 그렇지 않다면 인간본연의 가치를 지켜야 하는자에 관한 것이었다. 이에 대해 유발 하라리를 비롯한 여러 학자들이 저술한 <초예측>과 브라이언 크리스천의 <인간적 AI를 위하여>라는 두 권의 책과 중앙일보와 한겨래의 칼럼을 참고했다.
AI의 발전은 더 이상 추상적인 미래 담론이 아니다. 염재호의 칼럼이 지적하듯, 인간은 산업혁명 이후 ‘기능’을 중심으로 삶을 조직해왔고, 전문성을 쌓아 노동을 교환가치로 환산하는 방식에 익숙해졌다. 그러나 AI와 휴머노이드 로봇이 인간의 기능적 노동을 빠르게 대체하는 지금, 이 체계는 근본적인 도전에 직면해 있다. 외과의사, 회계사, 변호사와 같은 고숙련 노동마저 알고리즘의 영역으로 편입되는 상황에서, “취업”이라는 삶의 형식 자체가 더 이상 보편적이지 않을 가능성도 제기된다. 이에 대한 낙관적 전망은 인간이 기능적 노동에서 해방되어 문화·예술·성찰과 같은 인간 본연의 가치로 돌아갈 수 있으리라는 기대다.
그러나 한겨레의 보도가 보여주듯, 현실은 그렇게 단순하지 않다. 미국을 중심으로 나타나는 ‘화이트칼라 긱 이코노미’는 인간의 고유한 사고력과 창의성마저 AI를 훈련시키는 데이터로 전환되고 있음을 보여준다. 전문직 종사자들은 생존을 위해 자신을 대체할 인공지능의 ‘훈련 조교’가 되고, 인간의 경험은 거래 가능한 조각으로 분해된다. 이 지점에서 인간적 가치의 회복이라는 이상은, 역설적으로 인간적 가치의 도구화로 전도된다. 기술은 가치 중립적이지 않으며, AI 인프라를 소유한 소수 기업과 국가로 권력이 집중되는 상황에서 ‘인간다움’은 보호받기보다 활용 대상이 되기 쉽다. 결국 문제는 기술의 속도가 아니라, 이 변화에 대응하는 국가와 기업의 윤리적·정치적 선택이다.
유발 하라리는 『초예측』에서 인공지능 시대에 인류가 직면한 가장 근본적인 과제 중 하나로, 현실과 허구를 구별하는 능력의 회복을 제시한다. 인간은 역사적으로 종교, 이념, 국가, 경제와 같은 ‘공동의 허구’ 속에서 살아왔지만, 시간이 흐르며 그것들이 인간이 만들어낸 것이라는 사실을 망각해왔다. 하라리에 따르면 문제는 허구 그 자체가 아니라, 허구를 허구로 인식하지 못한 채 절대적인 진실로 받아들이는 데 있다. 기술과 데이터가 사회 전반을 지배하게 될수록, 인간이 만든 서사에 스스로 예속될 위험은 더욱 커진다.
하라리는 현실과 허구를 구별하는 기준으로 진리나 신념의 옳고 그름이 아니라, 그것이 인간에게 가져오는 쾌와 불쾌, 즉 기능적·공리적 효과를 제시한다. 어떤 믿음이나 가치도 그 자체로 신성한 것이 아니라, 인간의 삶을 개선하는 데 기여할 때 의미를 갖는다는 것이다. 이러한 관점에서 그는 신념에 대한 맹목적인 집착을 경계하며, 종교적·이념적·기술적 서사가 인간의 고통을 증가시킨다면 과감히 의심되어야 한다고 주장한다. 하라리에게 중요한 것은 믿음의 진정성이 아니라, 그 믿음이 실제로 무엇을 만들어내는가이다.
이러한 문제의식은 그가 말하는 ‘무용 계급(useless class)’의 등장과 기본소득 논의로 이어진다. 인공지능과 자동화로 인해 다수의 인간 노동이 경제적으로 불필요해질 미래에서, 기본소득은 물질적 생존을 보장할 수는 있지만 삶의 의미까지 제공하지는 못한다. 하라리는 미래 사회의 위기가 단순한 실업 문제가 아니라, 인간이 더 이상 사회적으로 ‘쓸모 있는 존재’로 인식되지 않을 때 발생하는 실존적 공백에 있다고 본다. 따라서 그의 주장은 허구를 폐기하자는 것이 아니라, 인간이 스스로 만들어낸 허구를 자각적으로 활용하되 그 지배를 받지 않는 태도를 회복해야 한다는 데에 있다.
유발 하라리의 신념을 도구화하는 마키아벨리즘적인 논리는 외려 인간을 AI에 종속시키기 쉬운 논리이다. 본래 신념, 인간의 본질적인 가치의 실현은 그 목적성에서 오는데, 여기에서 거리를 두고 이를 수단화하면 니체의 가치전도와 같은 방식으로 인간은 대안없이 존재론적 능력을 상실할 것이다.
가령 무용계급의 사회적 대응도 삶의 의미 상실에 대한 대비라고는 하지만 이미 ‘용도 없음’이 상태가 된 인간들에게는 수단도 목적도 결핍되어 있기에 ‘허구’를 상실해버린다. 정작 유발 하라리는 허구에 대해 양가적인 입장을 취했지만 말이다. 미래는 일어날 위기를 막는 것이 아니라 위기 이후, 그리고 위기 가운데의 시대를 이겨내고 새로운 혁신으로 나아가는 데에 있다.
브라이어 크리스천의 <인간적 AI를 위하여>라는 책에 따르면 기계(AI)에 주입할 ‘목적’이 우리가 진정으로 바라는 ‘목적’이어야 한다. 우리가 원하는 것이 정확히 무엇인지know-what을 평가하는 작업이 없이 인류의 창의성know-how만을 찬미하는 것은 위험할 뿐만 아니라 전자는 후자보다 매우 미흡하다.
우리는 우리의 존재론적 목적이 무엇인지를 끊임없이 비판적으로 성찰하여 모두의 ‘허구’ 혹은 ‘서사로서의 역사’를 만들어야 한다. 막연히 AI가 인류를 진보하게 해준다고 생각하면 안된다. 인류가 자신에 대한 허구적 ‘합의’를 상실하면 인간이 원하는 것을 학습해야 하는 인공지능의 머신러닝도 혼란애 빠질 것이다. 이제 생존이 아닌 실존이 인류의 과제가 되었다.
