[책리뷰]AI는 신이 될 수 있는가? 넥서스-유발하라리

내가 스스로 선택한 것과 AI가 추천해서 선택한 것 중 무엇이 더 많나?

대작이다.

세상을 보는 새로운 관점을 제시해 준다.

재러드 다이아몬드의 총균쇠와 견줄만하다. 나는 총균쇠를 읽은 이후 석학들의 책에 관심을 가지게 되었다. 나의 인생에 영향을 많이 준 책이 총균쇠인데. 그때와 비슷한 충격이다.

한마디로 총균쇠 이후 세계를 꿰뚫는 안목을 보여주는 책이다.

유발 하라리는 정보의 흐름으로 세상의 모든 이야기를 풀어내고 있다.

정보화 시대라는 말은 예전부터 많이 들었다.

정보가 중요한 자산이며 돈이 된다는 것이다.

그러나 평범한 우리 같은 사람에게는 정보가 중요한 것은 알겠지만 정보가 돈이 된다는 느낌을 받지는 못했다.

그러나 지금은 정보가 돈이라는 사실을 누구나 알고 있다. 그리고 정보가 계속 더 중요해지고 있다.

AI의 먹이는 정보다. AI의 성능을 기르기 위해서는 다양하고 많은 정보가 있어야 한다. 그리고 결국에는 나 자신보다 나의 정보를 더 많이 가지게 될 것이다.

내가 누구인지 소개를 할 때 나의 이야기 보다, AI가 소개해 주는 것이 더 정확할지도 모른다. 어떤 뉴스를 보며, 어떤 영상을 보고, 어떤 쇼핑을 하는지. AI는 알고 있다. 얼마의 수입이 있으며 친구와 연락은 얼마나 하는지도 알고 있다.

그러나 사람이 자기를 소개할 때에는 좋은 점은 부풀리고, 부족한 점은 감출지도 모른다.

결국에는 사람들이 나의 말보다 AI의 말을 더 믿을지도 모르며, 결국 우리는 AI의 노예가 되는 것이다.

이러한 정보는 더욱 AI에 집중되며, 전체주의처럼 AI가 신이 되는 시대가 올지도 모른다. 미국 대통령이 대단하지만, 그러한 대통령도 많은 자문을 AI에게서 받는 시대가 온다면 실제 주인은 누구라고 할 수 있을까?

AI는 세상의 모든 정보를 가지려고 하며 지금도 어떤 인간보다 많은 정보를 가지고 있다.

정보는 흘러야 한다. 그리고 많은 사람이 골고루 가지고 있어야 한다. 그래야 독재가 되지 않고 서로의 필요 때문에 협력이 일어난다.

그러나 정보가 너무 많은 지금. 그 큰 정보의 흐름을 버텨낼 사피엔스는 없다. 우리는 그 많은 정보 중에서 중요하다고 생각되는 정보를 선택해서 받아들일 뿐이다. 그러나 그러한 정보를 선택하는 주체가 우리가 아닌 AI라는 것이 안타까운 것이다.

지금도 가끔 느끼고 있지 않은가?

저녁을 먹기 위해 무언가를 주문할 때 내가 먹고 싶은 메뉴를 정하고 가게를 정하는가?(가게가 너무 많아서 선택하기가 쉽지 않다.)

아니면 AI가 추천하는 것을 먹지는 않는가? 배달 음식을 선택할 때 노출되는 가게의 순서는 결정적인 역할을 한다. 그렇다면 식당은 내가 고른 것인가? 그렇게 순서를 노출한 AI가 정해준 것인가?

유튜브 영상은 더욱 심하다. 알고리즘이 제일 먼저 노출시켜 주는 영상을 보게 될 가능성이 높다. 검색해서 보더라도 다양한 영상의 순서를 결정하는 것은 AI다. 그렇다면 그 영상은 나의 선택인가? 아니면 AI의 선택인가?

우리는 우리가 선택한다는 착각을 하지만 점점 AI의 선택을 따르고 있다. 물론 생각하지 않게 해 주어 편하다.

그렇다. AI는 우리가 생각하지 않도록 해준다. 우리의 생각을 대신해준다는 것이다. 그렇다면 누가 나의 주인인가?

갈수록 이런 일이 심해지고 있다.

여기까지 이 책을 읽은 느낌의 일부를 써 보았다.

이 책에서는 기억하고 싶은 문구가 너무나 많다. 다음은 1부에서 나누고 싶은 내용이다.

역사는 과거를 연구하는 것이 아니라 변화를 연구하는 것이다.

현실을 최대한 사실 그대로 기술해도 현실을 온전히 담아낼 수 없다.

순진한 정보관이 주장하는 것과 달리, 정보는 진실과 딱히 관련이 없다.

정보란 서로 다른 지점들을 네트워크로 연결하는 무언가다.

대규모로 유연하게 협력할 수 있는 유일한 동물

질서를 공정이나 정의와 혼동해서는 안 된다.

질서를 위해 진실을 희생시키는 쪽을 선택하는 이유가 있다.

관료제 질서의 중심에는 서랍이 있다. - 관료제의 목적은 질서 유지다. 진실이 아닌.

성 아우구스티누스는 “실수하는 것은 인간적이지만 실수를 고치지 않는 것은 악마적이다”라고 했다.

마녀사냥은 정보 생태계 탄생의 어두운 면을 잘 보여준다.

아이디어의 완전한 자유 시장은 진실을 희생시키고 분노와 선정주의의 확산을 부추길 수 있다.

민주주의는 아무리 다수라도 빼앗을 수 없는 특정한 자유들을 모두에게 보장하는 제도다.

여기까지 1부 인간 네트워크들에서 기억하고 싶은 문구를 모아 보았다.

이 글은 주옥같은 말들이 매우 많다. 위에 모은 글도 추리는 데 오래 걸렸다.

2, 3부의 내용과 추가적인 느낌은 다음에 이어서 써 보겠다.

나는 내가 나의 주인이 되고 싶어, 알고리즘을 가능한 무시하고 싶다.

편함에 속아 하나씩 AI에게 나를 넘겨주는 것이 슬프다.

우리는 스스로 생각하고 판단하는 위대한 사피엔스다.