유발 하라리(Yuval Harari) 내한 / 정중규

유발 하라리(Yuval Noha Harari) 내한 토크쇼

AI시대, 인간의 길

2025.3.20. 저녁7시. 연세대학교 대강당

********************************************

유발 하라리 “AI가 인간의 힘 가져가…패권 경쟁은 위험”

‘AI 시대, 인간의 길’ 대담

“알고리즘이 권력 행사…기업이 책임져야”

“AI 패권, 미·중 독점하면 안 돼”

“인공지능(AI)은 핵폭탄, 기차 같은 이전 기술과는 엄청난 차이가 있다. 지금까지 기술은 도구였다. 핵폭탄은 스스로 투하를 결정할 수 없지만 AI는 스스로 결정할 수 있다. 우리는 처음으로 우리의 힘을 가져갈 수 있는 것에 직면했다.”

세계적인 석학 유발 하라리 예루살렘히브리대학교 역사학 교수가 AI의 지배력 확대에 대해 우려의 목소리를 냈다. 미국과 중국을 필두로 한 세계 각국과 기업들이 AI 패권 경쟁을 벌이고, AI에 지나치게 많은 권력을 내어 줄 경우 전 인류가 위험해질 수 있다는 경고다.

하라리는 20일 연세대학교에서 ‘AI 시대, 인간의 길’이란 주제로 열린 대담에서 “미국을 비롯해 전 세계적으로 인간의 힘이 AI, 알고리즘으로 옮겨 가고 있다”며 “중대하고 위험한 이행 과정을 겪고 있다”고 진단했다.

그는 소셜미디어(SNS)와 뉴스에서도 사람이 아닌 알고리즘이 편집하는 변화가 일어나고 있다며 대중의 공론이 어떤 방향으로 갈지 결정하는 권력을 알고리즘이 행사하고 있다고 말했다. 민주주의의 기본인 대화를 형성하는 힘을 알고리즘에 줘 버렸다는 것이다.

이어 알고리즘은 지난 몇 년 동안 인간의 대화 능력을 파괴했으며 가짜뉴스와 음모론, 증오를 퍼뜨렸다고 지적했다. 사람들의 참여를 늘리고 돈을 벌기 위해 감정적인 자극을 유도한다는 설명이다.

AI의 영향력은 금융 부문에도 나타난다. 가상화폐는 인간의 제도권에서 탄생한 전통 화폐에 대한 불신에서 탄생했으며 알고리즘으로 힘이 넘어가고 있다.

하라리는 지난해 9월 ‘넥서스’를 출간한 후 여러 나라를 돌아다니며 기업가, 정치가, 개발자 등과 AI 혁명에 대해 얘기를 나눴다. 그들에게 AI가 왜 이렇게 빨리 가고 있는지 물었더니 ‘우리도 위험이 있다는 걸 알고 있다. 초지능 AI를 개발하면 우리가 제어하지 못하고 인류가 파멸할 수 있다는 것도 안다. 그런데 다른 인간을 믿지 못하기 떄문에 우리가 움직이는 것이다. 우리만 멈추면 질 것이고 경쟁자가 세계를 지배하게 될 것’이라는 답변이 돌아왔다고 한다.

초지능 AI는 믿을 수 있을까란 질문에 ‘신뢰한다’는 답변에 대해선 “미친 생각”이라고 일갈했다. 인간은 수천 년 동안 다른 인간과 살아 오며 심리를 이해하고 연민과 신뢰를 구축했지만 초지능 AI는 이같은 경험을 해본 적이 없으며 거짓말도 하고 예측할 수 없는 목표를 설정할 수도 있어서다. 그는 “수백만 초지능 AI를 풀어놓는다면 엄청난 도박이 되는 것”이라며 “그 도박은 돈이 아니라 인류의 미래와 지구의 생명을 걸고 하는 것”이라고 우려했다.

하라리는 정보의 홍수와 SNS의 부작용에 대해서도 지적했다. 정보를 더 많이 개발하면 진실을 퍼뜨리고 세계가 더 살기 좋아질 것이란 생각은 큰 착오라는 것이다. 그는 “정보는 진실이 아니다. 전 세계 정보 중 진실은 굉장히 작은 부분을 차지하고, 대부분은 허구나 환상, 거짓”이라며 “진실은 비용이 크지만 허구는 간단하게 지어낸다. 모든 정보를 흐르게 하면 진실이 떠오를 것이라 생각하지만 아니다. 진실은 깊은 바닥으로 가라앉는다”고 말했다.

검열 자체를 찬성하진 않지만 페이스북을 통한 음모론이 불을 붙인 로힝야족 학살 같은 부작용을 막기 위해선 알고리즘을 만든 기업이 책임을 져야 한다고 주장했다.

미국과 중국 중 어느 국가가 AI 주도권을 가져가는 게 더 좋을 것 같냐는 질문에는 “둘 다 안 된다”고 답했다. 그는 “미국은 현재 행정부가 굉장히 위험하다. 트럼프 대통령은 더이상 전 세계의 리더가 되고싶지 않고, 미국만 신경쓰겠다고 했다. 제국주의적 시각을 갖고 있다. 강자가 모든 것 하고 약자는 복종해야 된다는 시각을 가진 국가가 AI 기술을 갖게 된다면 정말 위험하다”고 봤다.

이어 “역사를 보면 여러 국가든 한 국가든 어떤 국가가 엄청난 기술적 장점을 갖게 되면 끝이 좋지 못했다”며 “AI를 가진 나라와 갖지 않은 나라의 간극은 증기기관의 차이보다 더 크다. 인류를 생각할 때 몇 개 국가가 AI를 독점하면 안 된다. 그러기 위해 작은 국가들이 협력해야 한다”고 덧붙였다.

AI 시대를 맞이한 청년 세대에는 앞으로 어떤 세계가 될지 모르기 때문에 계속 공부하고 유연성을 기르라고 조언했다. 또 지적 역량, 감성적 역량, 운동 역량을 두루 키울 것을 권했다.

하라리는 “AI의 문제는 너무 빨리 진행하고 있다는 것”이라며 “AI를 개발할 때 권력 투쟁에 기반하면 악마가 되겠지만 진실에 기반하면 더 나은 AI가 될 것”이라고 당부했다.

이날 대담은 ‘2025년 아시아태평양경제협력체(APEC) 정상회의’를 계기로 9월 경주에서 개최하는 ‘국제경주역사문화포럼’의 사전 행사로 마련됐다.

대담에는 김지윤 서강대학교 사회과학연구소 연구원이 진행자로, 강연아 연세대학교 융합인문사회과학부 교수와 전병근 북클럽 오리진 대표가 패널로 참여했다.

헤럴드경제 김현경

*********************************************

[1부: 김지윤 박사와의 북토크]

* 인류의 편집자가 되어버리고 대화를 대체해버리는 알고리즘

* 알고리즘이 플랫폼에 최대한 사람들을 끌어들이기 위해 자극하는 감정: 증오, 분노, 탐욕, 두려움

* 금융에서도 인간의 시대/제도권을 넘어선 화폐의 등장: 이야기에 기반 (실체 없음)

* 우리는 서로에게서 신뢰를 잃어가는 동시에, 이 신뢰가 알고리즘, AI로 옮겨가고 있음

* 잠재력이 있지만 위험성도 큰 AI

* 인간에게 신뢰를 잃었으나 대신 AI는 신뢰할 수 있다고 말하는 사람들.... 그러나 그것이 사실일까? 이는 엄청난 도박! 이 도박의 대상은 인류, 지구의 생명과 미래

* AI는 자동화 이상의 의미, 하나의 기능을 하는 agency. 도구가 아님! agent. 스스로 학습, 변화, 판단, 의사 결정, 창조를 할 수 있음. 때로는 거짓말까지 할 수 있음. (지금까지의 기술과는 결정적인 차이... 지금까지의 기술은 도구였던 것!)

* AI와 함께 살아가기 위해 필요한 것: 이전에 그나마 예측이 가능했던 것과는 달리 앞으로 어떤 세계가 될지 우리는 아무도 모름. 어떤 역량이 필요한지도 아무도 모름. 게다가 앞으로는 AI가 인간과 마찬가지로 의사 결정을 할 수 있는 데다가 수많은 정보를 더 빠르게 처리하기에 결정 속도도 빠름. 그러나 AI의 실수를 우리가 체크하고 있는가? → 1) 우리가 개발해야 할 가장 중요한 역량은 우리가 계속 공부해야 한다는 것. 유연성을 키우기! 기존의 지식에 기댈 수 있는 세계는 더 이상 존재하지 않으며, 모든 것은 빠르게 변할 것. AI로 인한 더욱 큰 교란이 나타날 것. 계속 공부하고 스스로를 개조하는 수밖에 없음. 그렇기에 마음의 유연성이 필요함. 2) 광범위한 역량을 갖추기. 하나만 잘해서는 안 됨. 지적 역량/감성적, 사회적 역량/신체적 역량. 이 세 가지 분야를 다 살펴볼 것! AI가 자동화하기에 가장 쉬운 것은 지적 작업. 지능만 필요하다면 쉽게 AI에 의해 대체될 것.

* 우리가 얼마나 정보에 대해 순진하게 생각하는가? 마녀사냥과 가짜 뉴스, SNS → 다수의 정보는 허구, 환상, 판타지. 진실은 아주 작은 부분. 진실은 1) 근거를 충분히 확보해야 하므로 비용이 많이 들며, 2) 현실이 복잡하기에 진실도 복잡하고 (간단한 이야기로 설명 불가능), 그러나 사람들은 간단한 이야기를 좋아함... 3) 진실은 불편하고 고통을 줄 수 있음. 하지만 허구는 즐겁고 달콤하게 들림.

* 진실을 찾아내는 데에는 엄청난 노력이 들기에, 허구와 환상의 바다가 온 세계를 둘러싸고 있음. 정보를 퍼뜨리는 기술이 나와도 허구가 퍼지고 있음. 진실을 원한다면, 비용이 많이 드는 기전에 투자하고, 진실과 허구를 구분도 해야 함. 믿을 수 있는 정보와 믿을 수 없는 정보를 구분해야 함. 진실은 정보의 바다에 가라앉게 마련.

* 정보를 검열해야 하는 것이라기보다는, 가짜 뉴스, 알고리즘을 조심해야! 참여도를 올리기 위해 혐오, 분노 등이 담긴 컨텐츠를 더 부각시키는 경향이 있는... 그리고 알고리즘을 개발한 주체가 책임을 지는 것이 필요.

* 기술적 우위를 점한 나라, AI를 가진 나라와 그러지 않은 나라의 간극은 더욱 커질 것. AI를 가진 나라가 독점하는 세상이 되는 것이 막아야 함. 국제 질서가 무너지고 관세, 이주 장벽 등의 장벽에 올라가는 세상에서, 국가들 간의 협력이 필요. 연합, 협력의 필요성.

* 신뢰를 잃고 경주를 하려고 든다면, 인간들끼리 싸우게 된다면, AI가 승자가 될 것. 협력을 통해서만 선의의 AI가 개발될 수 있는 것. 아이를 키우는 것과도 비슷함. 갈등 상황에서 AI가 태어난다면 AI의 가치도 욕망이 되고, 이 결과는 인간에게 돌아올 것.

[패널들과의 대담에서 유발 하라리의 답변 내용]

* AI는 유기체가 아닌 무기체이기에, 휴식의 주기 등이 필요 없어서 너무나도 빠르게 변화하고 있다는 게 가장 큰 문제. AI가 세상을 차지하게 된다면 우리에게 시간을 주지 않을 것. 우리가 이러한 AI와 경쟁해야 한다면 이길 수 없음. 뒤처지지 않는 게 문제가 아니라, 우리가 인간의 속도를 어떻게 하면 유지할 수 있을지가 문제. 비인간 알고리즘의 세계에서, 인간의 속도를 유지하고 알고리즘의 속도를 늦추는 것이 관건. 그래야 인간이 생존할 수 있을 것.

* 더 많은 정보가 늘 좋은 것만은 아님. 받아들이면 사유, 명상 등을 통해 소화할 시간이 필요함.

* 인간의 속도를 유지하지 못하면 모든 것이 쓰러지게 마련.

* 사회의 간극, 격차, 양극화를 줄이려면 우리가 어떤 미래를 만들지 우선 결정해야 함. 기술은 세상을 바꾸지만, 결정하지 않음. 여러 가지 시나리오 중 우리가 이를 어떻게 활용할지에 대해 결졍해야 함.

* 강대국들이 이미 기술을 갖고 있는 상황에서 개인은 어떻게 할 수 있는가? → 1) 다양한 이해 관계자들의 연대와 협력, 2) 인간의 신뢰를 망치고 있는 AI와 알고리즘에 대한 법규와 제도 (사용자가 아니라, 증오를 퍼뜨리는 알고리즘을 개발하고 운영하는 주체가 책임을 지게 하는 것), 3) 인간 사이의 신뢰를 회복하고 유지하는 방법에 대한 고민과 연구

* 인간의 기억은 왜곡되고 스스로를 객관적으로 보지 못하게 마련. 반면 AI는 스스로 있는 그대로 기억하고, 모니터링함. '하나님이 너보다 너를 더 잘 안다'는 성경 구절처럼, 나를 나보다 더 잘 아는 존재인 AI를 매일 매일 보면서 살아가게 된다고도 할 수 있음. 그런데 나를 안다는 것은 무엇인가? 가장 중요한 것은 관계. 지능(지적 능력)과 의식(고통, 쾌락, 사랑, 증오 등을 느끼는 능력)의 관계에서, 우리는 둘을 헷갈리는 경우가 많음. AI가 더 발달한다면 의식을 갖게 될 수는 있겠으나, 현재의 AI는 감정을 느끼는 것처럼 모방, 상상하지만 아직은 AI가 무엇을 느끼고 있다는 근거가 없음.

* AI는 언어를 다 파악하고 있어서 우리에게 답을 주고, 언어 안에 세계가 들어 있기에 우리에게 혼란과 딜레마를 줌. 인간이 아닌 것이 우리보다도 더 언어를 잘 구사하고 있기 때문.

* 의식의 문제는 특히 오늘날, AI가 발달해가는 상황에서 더 중요해짐. 마음이 무엇이고 어떤 식으로 생기는지 등 우리의 마음을 이해하는 것, 누군가에게 마음이 있는지 여부를 파악하는 것이 앞으로 가장 중요한 질문이 될 것.

* 의식이 존재하기 위해서는 몸이 필요함. 과거나 미래가 끼어들지 않고 현재의 내 몸과 연결되는 상태. 그렇기에 사이버 공간에 의식이 존재하게 만들려고 한다고 해도, 우리 존재의 근본, 기초인 육체적 감각이 부재한 상태에서는 의미가 없지 않을까.

* 우리 모두가 욕망이 있다는 것이 가장 중요. 나와 세계에 대해 진실을 알고자 하는 욕망. 우리의 신뢰를 해치는 것은 온 세상을 권력으로 보는 것. (모든 인간관계가 권력이라고 보는 것) 그러다 보면 음모론에 휩싸이고, 인간에 대해 가장 중요한 것을 놓치게 마련. 인간은 권력을 원하지만, 권력만 원하지 않음. 사랑, 연민도 원함. 모든 인간에게는 마음 깊은 곳에 자신, 삶과 죽음, 행복에 대한 진실을 알고자 하는 갈망이 있음. 진실을 모르면 행복하지 않기 때문. 진실을 알고자 하는 열망에 기반하여 신뢰를 구축할 필요가 있음. AI도 권력에 대한 경쟁에 기반하여 만들면, 권력에 미친 악마가 될 것. 그러나 AI를 만들 때 진실에 대한 관심을 유지하고 만들면, AI도 진실을 추구하고, 이는 우리에게 더 나은 미래가 될 것.

https://naver.me/xP856Ldi

유발 하라리 교수가 직접 정리해 주는 《사피엔스》의 핵심! 그리고 인류의 미래는?

[문명전환과 아시아의 미래 EP.01] https://youtu.be/2wLp3krIa_o?si=PChHn7heADRxMluD