노벨상 수상 경제학자가 경고한 ‘지식 붕괴’의 메커니즘
우리는 지금 역사상 가장 똑똑한 시대에 살고 있다고 믿고 있습니다. 궁금한 것이 생기면 검색을 하고, 이제는 생성형 AI에게 질문하면 몇 초 만에 전문가 수준의 답을 얻을 수 있기 때문입니다. 과거에는 몇 시간, 혹은 며칠이 걸리던 정보 탐색과 판단 과정이 이제는 거의 즉각적으로 이루어지고 있습니다. 이러한 변화는 자연스럽게 하나의 믿음을 강화시킵니다. 바로 “AI는 인간의 지능을 확장시키고 있다.”는 생각입니다.
그러나 MIT의 경제학자 Daron Acemoglu는 이 직관에 정면으로 반박합니다. 그의 최신 연구는 매우 불편한 질문을 던집니다. “AI가 발전할수록 인간은 정말 더 똑똑해지는가, 아니면 오히려 집단적으로 더 무지해지는가?” 이 논문은 단순히 기술의 효율성을 평가하는 것이 아니라, 인간의 학습 구조와 사회 전체의 지식 축적 시스템이 어떻게 변화하는지를 분석합니다. 그리고 그 결론은 매우 충격적입니다. AI는 단기적으로는 인간의 의사결정을 향상시키지만, 장기적으로는 사회 전체의 지식을 붕괴시킬 수 있다는 것입니다.
이 논문의 출발점은 인간의 지식이 하나의 단일한 덩어리가 아니라는 점입니다. 연구는 인간이 의사결정을 내릴 때 두 가지 종류의 지식을 결합한다고 설명합니다. 첫 번째는 일반 지식입니다. 이는 사회 구성원들이 공유하는 지식으로, 예를 들어 경제 원리, 의학적 기초, 금융 시스템에 대한 이해와 같은 것입니다. 두 번째는 맥락 지식입니다. 이는 개인의 상황에 특화된 정보로, 개인의 위험 성향, 건강 상태, 경험, 선호와 같은 요소를 포함합니다. 중요한 점은 이 두 지식이 서로 대체되는 것이 아니라 반드시 함께 사용되어야 한다는 것입니다. 즉, 일반 지식이 없는 상태에서 개인 맞춤 정보만 있어서는 제대로 된 판단이 불가능하며, 반대로 맥락 정보 없이 일반 지식만으로도 완전한 의사결정은 어렵습니다.
이 구조에서 핵심은 인간의 학습 방식입니다. 인간은 학습을 통해 동시에 두 가지 지식을 생산합니다. 어떤 주제를 공부할 때 우리는 단순히 개인적인 이해를 얻는 것이 아니라, 그 과정에서 생성된 지식이 사회 전체에 축적됩니다. 논문에서는 이를 ‘학습의 외부성’이라고 설명합니다. 개인의 노력은 개인에게만 돌아가지 않고, 공동체 전체의 일반 지식을 증가시키는 역할을 합니다. 예를 들어 한 개발자가 문제를 해결하면서 남긴 기록은 이후 수많은 사람들에게 도움이 되는 지식이 됩니다. 이러한 구조 덕분에 사회는 지속적으로 지식을 축적하고 발전할 수 있습니다.
그러나 생성형 AI, 특히 논문에서 강조하는 ‘에이전틱 AI(agentic AI)’는 이 구조를 근본적으로 변화시킵니다. 에이전틱 AI는 단순한 정보 검색을 넘어 개인의 상황을 이해하고 맞춤형 결정을 제안하는 시스템입니다. 투자 추천, 의료 진단, 글쓰기 보조 등 다양한 영역에서 이미 이러한 기능이 활용되고 있습니다. 이때 중요한 변화는 AI가 제공하는 정보의 성격입니다. AI는 주로 ‘맥락 지식’을 매우 높은 정확도로 제공합니다. 즉, 인간이 직접 고민하고 학습하지 않아도 자신의 상황에 맞는 답을 바로 얻을 수 있게 됩니다.
문제는 여기서 발생합니다. 논문은 일반 지식과 인간의 학습 노력은 서로 보완 관계에 있지만, AI가 제공하는 맥락 정보는 인간의 노력과 대체 관계에 있다고 설명합니다. 이는 매우 중요한 차이입니다. 일반 지식이 많을수록 인간은 더 많은 학습을 하게 되지만, AI가 정확한 답을 제공할수록 인간은 더 이상 학습할 필요를 느끼지 않게 됩니다. 결과적으로 AI는 인간의 학습 인센티브를 약화시키는 방향으로 작용합니다.
이러한 변화는 단기적으로는 긍정적인 효과를 가져옵니다. 인간은 더 적은 노력으로 더 나은 결정을 내릴 수 있습니다. 의사결정의 정확도는 높아지고, 생산성은 증가하며, 정보 접근 비용은 급격히 낮아집니다. 실제로 많은 연구들이 AI가 전문가의 성과를 향상시키고 문제 해결 능력을 강화한다는 사실을 보여주고 있습니다. 논문 역시 이러한 점을 부정하지 않습니다. 오히려 AI는 현재 시점에서 개인의 의사결정 품질을 높이는 매우 강력한 도구라고 평가합니다.
그러나 이 논문의 핵심은 ‘동태적 효과’, 즉 시간이 지남에 따라 발생하는 변화에 있습니다. 인간이 학습을 줄이면, 사회 전체의 일반 지식 축적 속도도 감소합니다. 개인의 학습은 단순히 개인의 능력을 향상시키는 것이 아니라, 사회 전체의 지식 기반을 유지하는 역할을 하기 때문입니다. 그런데 AI가 인간의 노력을 대체하면 이 기반이 약화됩니다. 시간이 흐를수록 새로운 지식은 덜 생성되고, 기존 지식은 점차 소멸하게 됩니다.
이 과정이 일정 수준을 넘어서면, 논문은 사회가 ‘지식 붕괴 상태(knowledge collapse)’로 이동할 수 있다고 설명합니다. 이 상태에서는 일반 지식이 거의 존재하지 않으며, 인간은 더 이상 스스로 학습하지 않습니다. 흥미로운 점은 이러한 상태에서도 개인의 의사결정은 여전히 높은 수준을 유지할 수 있다는 것입니다. 이는 AI가 계속해서 개인 맞춤형 답을 제공하기 때문입니다. 즉, 겉보기에는 문제가 없어 보이지만, 실제로는 사회 전체의 지식 기반이 붕괴된 상태입니다.
더 중요한 문제는 AI 자체의 기반입니다. AI는 인간이 축적한 지식 위에서 작동합니다. 인간의 학습이 줄어들면 새로운 데이터와 지식이 생성되지 않으며, 결국 AI의 성능을 유지하는 기반도 약화됩니다. 이로 인해 장기적으로는 AI 역시 질적으로 저하될 가능성이 존재합니다. 이는 단순히 개인의 문제가 아니라, 사회 전체의 지식 생태계가 붕괴되는 구조적 문제입니다.
특히 이 논문이 강조하는 부분은 AI의 성능이 높을수록 이러한 문제가 심화될 수 있다는 점입니다. AI가 일정 수준 이상으로 정확해지면, 인간은 더 이상 학습할 유인을 느끼지 않게 됩니다. 그 결과 높은 수준의 지식 상태는 유지되지 못하고, 오히려 지식이 거의 없는 상태가 안정적인 균형으로 자리 잡을 수 있습니다. 이는 직관과 정반대의 결과입니다. 우리는 보통 기술이 발전할수록 사회가 더 발전한다고 생각하지만, 이 모델에서는 기술이 지나치게 발전하면 오히려 사회 전체의 지식 수준이 하락할 수 있습니다.
이러한 분석은 중요한 정책적 시사점을 제공합니다. 단순히 AI의 성능을 극대화하는 것이 아니라, 인간의 학습을 유지할 수 있는 구조를 설계해야 한다는 것입니다. 논문에서는 극단적인 예로 AI의 정확도를 일부 제한하는 정책까지 제안합니다. 이는 인간이 계속해서 학습하도록 유도하기 위한 장치입니다. 동시에 사회 전체의 지식 공유 시스템을 강화하는 것이 중요하다고 강조합니다. 집단적 지식 축적이 유지되어야 AI와 인간이 함께 발전할 수 있기 때문입니다.
이 논문이 던지는 메시지는 명확합니다. AI의 핵심 문제는 인간을 대체하는 것이 아니라, 인간의 학습 구조를 변화시키는 데 있습니다. 우리는 더 빠르고 정확한 답을 얻고 있지만, 그 과정에서 스스로 이해하고 축적하는 능력을 잃어가고 있을지도 모릅니다.
지금 우리는 선택의 기로에 서 있습니다. AI를 단순히 효율성을 높이는 도구로 사용할 것인지, 아니면 인간의 학습과 지식 생태계를 함께 고려하는 방향으로 설계할 것인지의 문제입니다. 이 선택에 따라 미래 사회는 전혀 다른 모습으로 전개될 것입니다.