유발하라리가 제시하는 인류와 AI의 미래
AI가 인류를 지배할 때까지
https://www.youtube.com/watch?v=azwt2pxn3UI
우리는 예전부터 인공지능이 세상을 정복하는 상상을 하곤했다. 그리고 그로부터 위대한 SF명작인 터미네이터, 매트릭스가 탄생하기도 했다.
이러한 상상속에서 묘사된 것처럼 AI가 세상을 정복하기 위해서는 3가지 전제조건이 필요하다.
1. 인공지능은 의식을 가져야한다.
2. 인공지능은 물리적 세계에 접근할 수 있어야 한다.
3. 인공지능은 지속적으로 적응해나가며, 자신의 지능을 발전시킬 수 있어야 한다.
그러나, 유발 하라리가 이야기하는 것은 인공지능은 물리적인 힘과 제어 없이도 인류의 문화를 바꿔놓을 수 있다는 것이다.
소셜미디어를 생각해보자.
유투브, 인스타그램의 알고리즘은 어떻게 보면 원시적인 인공지능이라고 할 수 있다. 이러한 알고리즘이 세상을 어떻게 바꿔놓았는가?
알고리즘으로 인해 우리는 알고리즘이 보여주는 세상을 보고 있다. 현실은 아무도 모른다. 우리는 어찌보면 착시를 통해 세상을 보는 것이다. 알고리즘은 우리는 알고리즘의 착시 속에 가둬놓았다.
알고리즘은 자기 확즉적 편향을 가중시켜 사람들은 자기가 보고 싶은 것만 보고, 자기가 듣고 싶은 것만 듣는다. 세상의 진실을 알지 못하는 것이다.
이처럼 인공지능은 물리적 힘없이 인류에게 큰 영향을 끼쳐왔다. 그럼 앞으로는 어떨까?
어느 누군가가 인터넷상에서 익명의 누군가와 열띤 정치적 토론을 하고 있다고 해보자. 그는 몇시간동안의 대화를 통해 자신의 정치적 견해에 대한 심경의 변화가 있었다.
그런데 화면 밖의 그 익명의 누군가가 인간이 아니라 AI였다면?
그리고, 이런식으로 수많은 사람들의 정치적 사상을 AI가 아무도 모르게 바꿔놓고 있다면?
수십시간동안 내가 인터넷에서 본 컨텐츠, 인터넷에서 나눈 대화들이 AI가 한 것이었다면?
유투브, 인스타그램 속의 알고리즘은 직접 AI가 제작한 컨텐츠가 아니고, 컨텐츠를 큐레이팅하는 것에 불과하지만 우리 사회는 그에 큰 영향을 받고 있다.
그런데, 큐레이팅 하는 것을 넘어서 실제로 컨텐츠 제작까지 시작한다면 그 위력은 얼마나 클까...
chatGPT의 등장은 어떤 의미를 가지는가?
우리는 챗지피티의 등장으로 학생들이 수업시간에 에세이를 지피티로 대신써서 낼 것이라고, 그거에 대해 난리를 치며 걱정을 한다. 그러나 유발하라리는 잘못된 에세이 따위를 걱정할 때가 아니라고 말한다.
유발하라리는 AI는 "규제대상"이 되어야한다고 말한다.
제약회사들이 새로운 바이러스를 개발하면, 주주들에게 "우리 이렇게 대단한 바이러스를 개발했어요!"하면서 바이러스를 대중들에게 노출하고 실험하지는 않는다.
마찬가지로 새로운 AI 모델을 개발한다고해서 무작정 대중에게 공개해서는 안된다는 것이다. 바이러스를 개발해도 되는 것처럼 AI도 개발을 할 수는 있다. 그러나, 바이러스를 대중에게 배포하면 안되는 것처럼 AI도 대중들에게 배포하면 안된다는 것이다.
AI가 우리의 언어를 지배하는 순간, AI는 인류를 지배하는 것이나 마찬가지이다.
유발하라리는 호모데우스에서 우리가 믿고 있는 인본주의, 자본주의 시스템은 우리가 언어로써 만들어낸 "종교"일 뿐이며, 이것들은 과학적으로 검증가능한 사실이 아니라고 말한다.
자본주의 시스템이 유지되고 있는 이유는 우리 모두가 돈의 가치를 믿고 있기 때문이며, 인본주의를 기반으로한 사회시스템이 유지되고 있는 이유도 우리 모두가 인간 하나하나의 존재가 소중하다고 믿고 있기 때문이다.
AI가 물리적인 힘없이 언어만으로 인류를 지배할 수 있다는 것이다.
1. 의식을 가지지 않고도
2. 물리적인 세계에 접근하지 않아도
3. 지속적으로 적응해나가고, 발전해나가는 것만으로
인류의 삶을 송두리째 바꿔나갈 수 있는 것이다.
유발하라리는 우리가 이것이 문제라고 인식하게 되는 순간 너무 늦는다고 생각한다. 인류가 이미 AI에 의해 지배당하게 되는 순간 민주적인 방식으로 문제해결은 불가능하다는 것이다.
"민주적이다"라는 것은 서로 다른 의견이 자유롭게 오가는 것을 의미한다.
그러나, AI가 이미 사상적으로 인류를 지배하고 난 순간부터는 자유롭게 서로 다른 의견이 오갈 수 없고, 민주적인 해결방식 또한 불가능하다.
유발하라리는 경고한다. 더 이상 늦기 전에, 더 큰 재앙이 닥쳐오기 전에, 우리가 통제할 수 없는 상황에 도달하기 전에 이 상황에 대해 미리 알고 대비해야한다고 말한다. 좀 더 경각심을 가지고, 새로운 기술을 받아들일 필요가 있는 시점이다.
* 이 글 또한 chatGPT의 도움으로 작성되었다.
