유발 하라리의 ‘역사의 철칙’과 AI

역사의 몇 안 되는 철칙 가운데 하나는
사치품은 필수품이 되고 새로운 의무를 낳는 경향이 있다는 것이다.
일단 사치에 길들여진 사람들은 이를 당연한 것으로 받아들인다.
그다음에는 의존하기 시작한다.
마침내는 그것 없이는 살 수 없는 지경이 된다.

1.

유발 하라리가 『사피엔스』에서 농업혁명의 역설을 설명하며 도발적으로 던진 말이다. 요약하면 ‘사치품→필수품→새로운 의무’가 역사의 철칙이라는 얘기다. 철칙(鐵則, Iron Law)이란 강철과 같이 ‘변치 않는 엄격한 규칙’이나 ‘피할 수 없는 진리’라는 뜻이다. 자연과학자라고 해도 반증 가능성을 고려하면 ‘철칙’이라는 용어를 쓰기 위해선 대단한 신념과 용기가 필요할 터. 하물며 역사학자가 어떤 주장에 대해 철칙이라는 이름으로 강력한 빗장을 친다는 건 그만큼 학자로서의 명예를 건 확신이 있다는 뜻으로 해석된다.

나는 이 대목을 읽으며 곧바로 면화와 자동차와 핸드폰을 떠올렸다. 이 물건들은 역사 속에서 정확하게 ‘사치품→필수품→새로운 의무’의 단계를 밟았다고 기억되기 때문이다.

2.

유럽에 처음 도입된 고대부터 18세기 중엽까지, 면화는 모직물이나 아마포보다 부드럽고 염색이 잘 되는 값비싼 수입품이었다. 면화 옷은 부유층의 사치품이었으며 지위와 부를 상징했다. 그러다가 18세기 후반 산업혁명과 방적기의 발명으로 면화 생산과 직물 가공 비용이 급격히 낮아졌다. 면직물은 위생적이고 관리하기 쉬워 대중적인 의류 소재로 자리 잡았고, 거의 모든 계층이 면 옷을 입게 되면서 필수품이 되었다.

하지만 면화에 대한 수요가 폭발적으로 증가하면서 생산량을 맞추기 위해 미국 남부의 노예 노동이라는 끔찍한 의무를 낳았다. 또한 공장 노동자들은 이 필수품을 생산하기 위해 장시간 노동이라는 새로운 의무에 묶였다.

19세기 말에서 20세기 초, 자동차는 소수의 부유한 사람들만이 소유할 수 있는 고가품이었다. 처음엔 마차보다 느린 까닭에, 필수적인 이동 수단이라기보다는 부와 기술력을 과시하는 사치품이었다. 그러다가 1910년대 이후 헨리 포드의 대량 생산 방식 도입으로 가격이 하락하며 자동차는 중산층까지 보급되었다. 도시 외곽 거주와 통근, 물류 시스템 등이 자동차에 맞춰 재편되면서, 특히 넓은 국토를 가진 나라에서는 자동차 없이 일상생활을 영위하기 어려운 필수품이 되었다.

하지만 자동차를 소유하는 순간 보험료, 유류세, 수리비, 주차 공간 확보, 교통 법규 준수, 교통 체증 대응 등 끝없는 재정적·사회적 의무가 발생한다. 자동차를 소유하지 않는 것은 때로 직업이나 생활 방식에 제약을 가한다. 이런 점에서 자동차는 새로운 형태의 의무가 되었다.

1990년대 초까지 초창기 휴대폰은 매우 비싸고 무거웠다. 주로 사업가나 고위 경영진 등 특정 계층이 신속한 통신을 위해 사용하던 고가 장비이자 지위를 나타내는 상징이었다. 2000년대 들어 휴대폰 가격이 하락하고 네트워크가 확대되면서 대중화되기 시작했고, 2007년 아이폰 출시 이후 본격적인 스마트폰 시대가 열렸다. 핸드폰은 단순한 통화 도구를 넘어 인터넷 접근, 금융 거래, 정보 검색, 업무 처리, 사회적 소통의 핵심 수단이 되었다. 핸드폰 없이는 현대 사회의 기본 인프라에 접근하기 어려워지며 자연스럽게 필수품으로 자리 잡았다.

하지만 핸드폰이 필수품이 되면서 사람들은 “언제든 연락 가능해야 한다”는 무언의 의무를 갖게 되었다. 직장 상사, 고객, 가족이 부여하는 24시간 응답 가능의 의무, 새로운 기기를 끊임없이 사야 하는 소비의 의무, 그리고 막대한 데이터 요금 지불의 의무가 생겨났다.

3.

요즘 대세인 AI는 어떻게 될까? 현재까지의 흐름을 보면 AI 역시 이 철칙을 따르고 있는 것처럼 보인다.

초기 AI(머신러닝, 딥러닝)는 막대한 컴퓨팅 자원과 고도의 전문 지식을 필요로 했다. 이는 주로 구글, 아마존 같은 대기업이나 전문 연구 기관이 경쟁 우위를 점하기 위해 사용하던 고가의 사치품이었다. 소수의 개발자나 기업만이 독점적으로 접근할 수 있었다.

그러다가 2022년 말 챗 GPT가 출시되고 2023년 대규모 생성형 AI가 대중화되면서 상황이 급변했다. AI는 단순한 도구를 넘어 정보 요약, 기획서 초안 작성, 코딩 보조, 이미지 생성 등 지적 노동의 기본 생산성을 결정하는 요소가 되었다. 현재 많은 직장과 학교에서 AI 활용 능력이 경쟁력의 척도가 되고 있으며, AI를 사용하지 않는 것은 심각한 불이익으로 작용하고 있다. 업무와 학습에 있어 AI는 이미 필수품으로 자리 잡아가고 있다.

AI가 필수품이 되면서 새로운 의무들이 나타나고 있다. AI를 효과적으로 사용하려면 AI가 이해할 수 있는 방식으로 질문하고 명령하는 능력, 즉 ‘프롬프트 엔지니어링’ 능력을 갖춰야 한다. 이 능력이 곧 새로운 ‘지적 자본’이 되고 있다. 또한 더 빠르고 정확한 고급 AI 모델에 접근하기 위해 지속적으로 구독료를 지불해야 하는 재정적 의무가 발생한다. 빠르게 발전하는 AI 기술과 도구에 뒤처지지 않기 위해 끊임없이 학습해야 하는 의무도 짊어지게 된다.

그리고 무엇보다 중요한 것은 AI가 생성한 결과물을 검증해야 하는 의무다. AI는 때때로 그럴듯하지만 틀린 정보(할루시네이션)를 생성하기 때문에, 사용자는 AI의 산출물을 비판적으로 검토하고 사실 확인을 해야 하는 새로운 책임을 지게 되었다. 결국 AI는 ‘더 효율적으로 일할 수 있는 자유’를 주었지만, 동시에 ‘AI를 사용해야만 생존할 수 있는 의무’와 ‘AI의 산출물을 감시해야 하는 의무’라는 새로운 짐을 지우고 있다.

4.

그런데 유발 하라리는 『넥서스』에서 AI에 대해 훨씬 더 심각한 우려를 표명한다. “AI는 강력한 자정 장치가 없을 경우 왜곡된 세계관을 조장하고, 심각한 권력 남용을 가능하게 하며, 무시무시한 마녀사냥을 선동할 수 있다”라고 경고한다. 더 나아가 AI를 잘못 다룰 경우 그것은 지구에서의 인간 지배만 끝내는 게 아니라 의식의 빛 자체를 꺼뜨려 우주를 완전한 암흑으로 만들지도 모른다며, “우리는 이것을 막을 책임이 있다”라고 말한다.

이러한 경고는 AI가 단순히 ‘사치품→필수품→새로운 의무’라는 기존 철칙을 따르는 수준을 넘어선다는 판단에서 나온 것이다. 면화, 자동차, 핸드폰은 모두 인간이 통제할 수 있는 도구였다. 이들이 가져온 의무는 무거웠지만, 인간은 여전히 이 도구들의 주인이었다.

하지만 AI는 본질적으로 다르다. AI는 학습하고 진화하며, 어쩌면 언젠가는 인간의 통제를 벗어날 수도 있는 존재다. 더 큰 문제는 AI가 정보와 지식의 생산자이자 중재자가 되면서, 인간의 인식과 판단 자체를 형성하는 힘을 갖게 되었다는 점이다. 우리가 무엇을 진실로 믿고, 어떤 결정을 내리며, 어떤 세계관을 갖게 될지를 AI가 영향을 미칠 수 있다. 이는 단순한 ‘의무’의 차원이 아니라 인간 자율성과 주체성의 본질적 위협이다.

게다가 AI는 전례 없는 속도로 발전하고 있다. 면화가 필수품이 되는 데는 수백 년, 자동차는 수십 년, 핸드폰은 십여 년이 걸렸다. 하지만 AI는 불과 몇 년 만에 이 단계들을 거치고 있다. 이러한 급속한 변화는 사회가 적응하고 규제를 마련할 시간을 주지 않는다. 하라리가 우려하는 것은 바로 이 지점이다. AI는 역사의 철칙을 따르되, 그 속도와 파급력이 인류가 경험한 그 어떤 기술과도 비교할 수 없을 만큼 강력하다는 것이다.

5.

‘역사의 철칙’이라는 말을 처음 들었을 땐 그 보이지 않는 강제에 조종당해온 인류의 서글픈 삶이 떠올랐다. 우리는 편리함을 추구했지만, 결국 그 편리함의 노예가 되어버렸다. 그런데 이제 『넥서스』에서 유발 하라리의 어두운 경고를 들으니, 그 철칙이 그나마 인류를 지켜주는 울타리일지도 모른다는 생각이 든다.

적어도 기존의 철칙 안에서는 인간이 여전히 주체였다. 의무를 짊어지더라도, 그것은 인간이 만든 도구에 대한 의무였다. 하지만 AI의 시대에는 이 관계가 역전될 수도 있다. 도구가 아니라 도구를 사용하는 인간 자체가 변화하고, 어쩌면 대체될 수도 있다.

하라리의 경고는 분명하다. AI는 역사상 그 어떤 기술과도 다른 차원의 도전이며, 우리는 이를 인식하고 대비해야 한다. 철칙을 넘어서는 미래는 축복일까 재앙일까. 이는 지금 우리가 어떤 선택을 하느냐에 달려 있다.