인공지능 시대, 정보의 흐름과 신뢰
우리는 어떤 정보를 믿어야 할까?- 유발 하라리 『넥서스』리뷰
유발 하라리는 그의 신작 『넥서스』에서 인공지능(AI) 시대의 정보 흐름과 그 영향에 대한 그의 통찰을 이야기하고 있습니다. 역사학자의 시각에서 하라리는 정보가 어떻게 생성되고 확산되는지를 분석하며 AI 시대에 우리가 직면할 문제와 가능성을 예측하고 있습니다.
하라리는 기존에는 인간이 정보를 관리했지만 이제는 AI가 정보를 생성하고 알고리즘을 통해 배포하는 방식이 주류가 되었음을 강조합니다. 특히 인간은 AI가 생성한 정보를 의심하지 않으며 이는 허위 정보와 조작된 사실이 무분별하게 퍼질 위험을 내포하고 있음을 지적합니다.
특히 알고리즘의 편향성에 대해 언급하며 알고리즘이 단순히 개발자의 의견이 반영된 결과가 아니라고 설명합니다. 알고리즘은 스스로 학습하며 데이터를 축적하고 새로운 정보를 생성하는 과정에서 편향을 강화한다고 이야기합니다. 이에 알고리즘의 중립성을 보장하려면 개발자의 의도만이 아니라 학습 데이터와 작동 방식을 검토함과 동시에 지속적인 감시와 윤리적 개입이 필수적이라고 강조합니다.
이러한 변화는 인간이 축적해 온 역사적 경험과 경로를 바꿀 수 있으며 우리는 지금 기술에 놀라고 있을 때가 아니라 문제를 예측하고 준비해야 한다고 경고하며 "AI는 인간 수준의 지능을 향해 발전하고 있지 않다. 그것은 완전히 다른 종류의 지능으로 진화하고 있다. " 인류 문명의 운영체제를 해킹한다고 표현했습니다.
또한 국가 간 AI 규제의 차이가 관리의 어려움을 초래한다는 점도 지적하고 있습니다. 특히 AI 연구를 주도하는 미국과 중국이 서로 다른 목적과 방향을 가지고 있어 상호작용이 원활하지 않으며 이는 글로벌 규제 체계의 구축을 어렵게 만든다고 이야기합니다. 하라리는 오늘날 정보 기술이 인류를 하나로 연결하는 것이 아니라 오히려 분열시키고 있으며 기술이 같은 현실을 공유하는 것이 아닌 개별적인 정보 생태계를 형성하고 있다고 설명합니다.
그는 AI 시대의 정보 불균형이 가져올 위험으로 ‘데이터 식민주의’와 ‘데이터 제국주의’를 언급합니다. 다양한 국가에서 수집된 데이터는 알고리즘으로 가공되지만 그로 인해 발생하는 이윤과 권력은 특정 기업과 국가에 집중되고 있습니다. 이는 민주주의의 지속가능성을 위협하며 기술 발전 자체가 아닌 기술을 올바르게 활용하지 못하는 인간의 한계에서 비롯된 문제라고 하라리는 지적합니다.
『넥서스』에서 하라리는 AI가 생성하는 방대한 정보 속에서 진실과 거짓이 혼재된 현실을 극복하기 위해 정보의 자정 작용이 필수적이라고 강조합니다. 정보가 반드시 진실이 되는 것은 아니며 오히려 정보의 질과 신뢰성을 유지할 수 있는 사회적 메커니즘이 필요하다고 이야기합니다.
하라리의 책은 지금 이 순간뿐만 아니라 AI의 시작 전 형성된 소셜미디어 시대부터 그 흐름을 이해하며 함께 고민해봐야 합니다. 이는 AI 시대의 문제를 해결하기 위해 단순히 현재의 기술만 바라볼 것이 아니라 정보의 흐름이 어떻게 변화해 왔고 우리가 어떤 방식으로 신뢰를 형성해 왔는지를 되짚어보며 앞으로 나아갈 방향을 고민해야 한다는 점에서 중요합니다.
이 책을 읽으며 개인의 지적 성장과 의식적 성찰의 필요성을 다시 한번 절감했습니다. AI 시대에는 더 이상 학교나 기관이 올바른 방향을 제시해 주지 않기에 개인이 스스로 정보를 선별하고 해석하는 능력(비판적으로 사고하는 힘)을 길러야 합니다. 이를 갖추지 않는다면 우리는 AI가 만들어낸 거대한 흐름에 휩쓸려버릴지도 모릅니다. 결국 스스로 생각하는 힘을 기르는 것이야말로 AI 시대를 살아가는 우리가 가져야 할 가장 중요한 태도이며 개인과 사회의 미래를 결정짓는 핵심 요소가 될 것입니다.
