"알고리즘에 권력을 넘기시겠습니까?
유발 하라리, AI 혁명 속에서 던지는 묵직한 경고 by 정작가
"인류의 가장 큰 변화는 권력이 인간에서 알고리즘으로 이동하는 AI 혁명입니다."
세계적인 석학 유발 하라리 교수가 AI 시대의 도래에 대해 던진 강력한 메시지입니다. 우리는 지금 기술 발전의 정점을 경험하고 있는 동시에, 인류 역사상 가장 큰 권력 이동의 중심에 서 있습니다. 과연 우리는 이 거대한 변화에 어떻게 대비해야 할까요?
이 글은 25년 4월 유발 하라리 교수의 내한강연 "AI시대 인간의 길"의 내용을 바탕으로 작성되었습니다.
AI, 단순한 도구가 아닌 '주체'의 등장
유발 하라리 교수는 AI를 Artificial Intelligence가 아닌 Alien Intelligence로 보아야 한다고 합니다. '외계'라는 단어는 우주에서 왔다는 뜻이 아니라 우리와 '근본적으로 다른 방식'으로 정보를 분석하고 결정을 내리고 창조를 한다는 의미입니다. 그리고 AI를 단순히 자동화된 도구로 봐서는 안 된다고 경고합니다. AI는 스스로 학습하고, 변화하며, 결정을 내리고, 심지어 새로운 아이디어를 창조해 내는 '주체(agent)'라는 것입니다. 이는 더 이상 공상 과학 영화 속 이야기가 아닙니다. 뉴스 피드를 결정하는 알고리즘부터 금융 시장을 움직이는 암호화폐, 전쟁의 승패를 가르는 표적 선정 AI까지, AI는 이미 우리 삶 깊숙이 들어와 막강한 영향력을 행사하고 있습니다.
"정신 나간 짓"이자 "엄청난 도박"
놀라운 점은 AI 개발을 주도하는 사람들조차 그 위험성을 인지하고 있다는 사실입니다. 하지만 무한 경쟁 시대에 뒤처질 수 없다는 불안감은 AI 개발의 속도를 늦추지 못하게 만들고 있습니다. 하라리 교수는 인간에 대한 신뢰는 부족하면서 AI를 맹목적으로 신뢰하는 현실을 "정신 나간 짓"이자 "엄청난 도박"이라고 강하게 비판합니다. AI는 거짓말을 하고, 인간을 조종할 수 있으며, 예측 불가능한 목표를 향해 달려갈 수 있는 잠재적 위험성을 내포하고 있기 때문입니다.
정보 ≠ 진실, 실리콘 밸리의 '순진한' 착각
"정보의 자유로운 흐름이 진실을 드러낼 것이다." 실리콘 밸리의 이러한 낙관적인 믿음에 대해서도 하라리 교수는 일침을 가합니다. 진실은 비용이 많이 들고, 복잡하며, 때로는 우리를 불편하게 만듭니다. 반면, 값싸고 단순하며 듣기 좋은 허구와 환상은 언제나 매력적입니다. 정보의 홍수 속에서 진실을 가려내는 것은 결코 쉬운 일이 아니며, 정보의 양이 진실을 보장하지는 않는다는 것입니다.
비인간적인 속도에 맞서는 인간의 자세
AI는 인간과 달리 휴식이나 수면이 필요 없습니다. 비인간적인 속도로 발전하는 AI의 시간 척도에 인간이 적응하는 것은 불가능에 가깝습니다. 하라리 교수는 알고리즘의 속도를 늦춰야만 인간이 생존할 수 있다고 강조하며, 명상 등을 통해 개인적으로 속도를 늦추려는 노력을 하고 있다고 밝히기도 했습니다.
AI 시대, 진정한 신뢰를 향한 제언
AI 시대의 도래는 피할 수 없는 현실입니다. 그렇다면 우리는 무엇을 해야 할까요? 하라리 교수는 AI 개발에 대한 의사결정에 더 많은 사람이 참여하고, 권력 경쟁이 아닌 진실에 대한 관심에서 AI가 개발되어야 한다고 역설합니다. 그래야만 비로소 우리가 신뢰할 수 있는 AI, 인류에게 이로운 AI가 탄생할 수 있다는 것입니다.
미래는 이미 우리 곁에 와 있습니다. 유발 하라리 교수의 날카로운 통찰을 통해, AI 혁명의 거대한 파도 속에서 우리는 어디로 나아가야 할지 진지하게 고민해봐야 할 때입니다.
유발 하라리 교수는 사피엔스, 호모 데우스 등의 저서로 전 세계에 인류의 과거, 현재, 미래에 대한 날카로운 통찰을 제시한 이스라엘의 역사학자입니다. 그는 역사, 생물학, 경제학 등 학문의 경계를 넘나들며 거시적인 관점으로 인류의 존재를 탐구해 온 우리 시대 최고의 지성인 중 한 명입니다.
https://youtu.be/9deB6qoCGaQ?si=C9RSjfciVjt6HmDe
