‘넥서스’유발 하라리 “AI혁명, 제일 중요한 것?”

유발 하라리 작가 ‘넥서스’ 책 쓰는 데 5년 걸려

지난 3월 20일 종로구에 위치한 노무현시민센터 다목적홀 가치하다에서 유발 하라리 작가 방한 기념 기자간담회가 진행됐다. 본 기자간담회는 ‘<넥서스> AI와의 공존은 가능한가? AI의 의미와 본질, 그리고 미래’라는 주제로 1부 유발 하라리 작가와 모더레이터 장대익 교수의 대담, 2부 질의응답으로 구성됐다.

본격적인 질의응답에 앞서 유발 하라리 작가는 ‘넥서스’ 책을 왜 쓰게 됐는지, 한국을 방문한 소감 등에 대한 이야기를 전했다. 유발 하라리는 “한국에 오게 되어 반갑다. 한국에 두 번 올 수 있었던 기회가 있었는데 첫 번째는 코로나로 인해 못 왔고 두 번째는 조국 이스라엘의 전쟁 문제로 인해 더 빨리 오지 못했다”

“‘넥서스’를 쓰는데 연구하고 글 쓰는데에 5년이나 걸렸다. 책을 짧게 요약하는 건 힘들고 AI와 인간에 대한 이야기를 하려고 한다. AI에 대해 모두가 꼭 알아야 될 것이 있다면 AI는 도구가 아닌 행위 주체자라는 것이다”

유발 하라리 작가(중앙)가 20일 오전 방한 기념 기자간담회에서 질의응답을 하고 있다.

“지금까지 인간이 만든 모든 기술적 발명품은 석기 시대들로 만든 칼로부터 원자폭탄까지 전부 인간의 손에 달려있었다. 이 칼을 가지고 샐러드를 짜를 것인지 원자력을 만들 것인지는 전적으로 우리 인간의 손에 달렸다. 그러나 AI는 스스로 결정을 한다. 새로운 생각을 만들어내고 발명을 한다. 그럼 이 무기로 누구를 폭격할 것인지 AI가 결정할 수 있다. 새로운 무기를 만들어낼 수 있다. AI의 발명이라고 하는 것인 이전에 어떤 기술 혁명과도 다르다. 만약 지금까지 만들어 왔던 기술들이 우리를 조정할 수 있다고 생각한다면 AI에 대해 전혀 이해를 못한 것이다”라고 말했다.

그러면서 유발 하리라 작가는 만약 AI가 무엇을 할지 예측할 수 있다면 그건 AI가 아니라고 덧붙였다. 그는 “그렇기 때문에 수백만의 독립적 행위 주체자들이 우리를 조정하고 예측할 수 없다면 어떻게 될 것인가?’라는 질문을 던졌다. 두 번째로 유발 하리라 작가는 인류에 대해 짧게 이야기했다.

유발 하리라 작가가 질의응답을 하고 있다.

유발 하리라 작가는 “인류 역사상 어느 때보다 우리가 서로 협동해야 하는 이 시기에 협동심이 빠르게 상실되고 있다. AI 문제를 다루기 위해 협력을 해야 한다. AI 혁명의 중심에는 신뢰의 중심이 있다. 세계를 많이 돌아다니다 보면 AI 흐름을 선도하는 많은 분들, 사업가들, 과학자들, 정치가들 등을 만나면 ‘왜 이렇게 빠르게 가는지’라는 질문을 한다. 그러면 그들은 ‘저희도 위험한 걸 알고 더 신중히 가야 되는 걸 아는데 다른 우리와 경쟁하는 인간들을 신뢰하지 못해서 그들이 이기에 되면 세계를 통치하게 될 거라 점점 더 속도를 내고 있다’라고 답변을 한다”

이어 그는 “두 번째 질문은 ‘초지능적 AI를 믿을 수 있냐?’라는 질문을 하면 다들 그렇다고 답변한다. 이게 바로 신뢰의 역설이다. 지극히 이질적인 AI는 믿을 수 있다고 다들 이야기한다. 우리가 우선순위를 바꿔야 한다. 일단 인간이 신뢰할 수 있는 기반을 만들어야 한다. 그래야 인간 신뢰부터 AI가 태어난다면 그런 신뢰를 통해 학습시키고 교육시키면 신뢰하고 의지할 수 있게 한다. AI 태생 자체가 갈등으로 태어난다면 신뢰할 수 있다”라고 이야기했다.