독서노트2 [유발하라리, 넥서스]
두꺼운 책인데 읽다 보니 술술 잘 읽어져서 빠르게 읽은 책 중에 하나인데, 독서노트를 써보려고 하니 어떻게 써야 할지 잘 감이 잡히지 않아 며칠째 제목만 쓰고 내용을 하나도 쓰지 못했다.
사실 내용이 엄청나게 방대하고 앞으로 인류가 AI를 어떻게 받아들이고 어떻게 대응해야 할지 작가의 생각을 논리적으로 풀어서 쓴 책이다. 어떻게 이렇게 많은 지식을 알고 있을까? 참으로 작가가 대단하다.
근 몇 년 사이에 세상을 가장 크게 뒤 흔든 과학기술은 AI 챗GPT 아닌가 싶다. 요즘엔 간단한 검색 해서 정보가 필요한 경우 챗GPT를 사용한다. 굳이 구글이나 네이버에 검색해서 여러 사이트를 돌아다니면서 정보를 얻는 것보다는 일목요연하게 정리해서 원하는 답을 정리해서 주는 챗GPT기 훨씬 효율적이다. 가끔 이상한 답변을 하기도 하는데, 요즘 들어서는 이상한 답변도 많이 줄었다. 나도 이렇게 빈번히 사용하는데 앞으로 AI가 얼마나 인간의 많은 환경에서 중요한 점을 차지할지 상상하기 어렵다.
중국 딥시크가 엄청나게 싼 값에 챗GPT와 비길 정도로 개발했다고 해서 난리가 났다. 그리고 소스도 오픈 소스로 누구나 갖다가 쓸 수 있게 했다고 한다. (아무리 오픈소스라고 해도 나는 활용을 못하지만;) 미국과 중국이 기술 싸움이 제대로 난 것 같다. 중국이 압도적 우위를 가지고 있는 건 숫자가 깡패다. 중국 인구는 14억인데 이 사람들이 모든 정보를 중국 당국은 아무런 저항 없이 고스란히 활용할 수 있다. 모든 데이터를 수집하고 분석만 한다면 축적된 데이터를 다른 플랫폼과 비교하기 어려울 것 같다. AI가 이제 아주 일상적인 되었고 주도권 전쟁이 일어났다. 그래서 넥서스 책을 더 주목해야 하는 이유가 된다.
넥서스 책 내용이 아주 방대해서 내가 의미 있게 읽었던 부분만 쓰기로 한다. 책의 큰 줄기는 석기시대부터 인공지능 시대까지, 네트워크가 인류 역상에 어떤 영향을 미쳤는지 탐구하며, AI 시대에 민주주의와 경각심을 강조하는 내용이다.
21세기 네트워크에서 중요한 유튜브, 소셜네트워크 정보를 자정능력 없이 그대로 두기만 한다면 얼마나 위험한지 기술했다. 요즘 들어 정보가 거짓선동이 일상화되고 자극적인 콘텐츠가 난무한 한국사회를 보면 더 와닿는 내용이었다. 넷플릭스 드라마 '지옥'의 화살촉들이 현실에 존재한다.
정보는 때로 사회 질서를 위해 정보는 왜곡되기도 하고 취사선택되어 제시되기도 한다. 정보에 대해 늘 체크하고 잘못된 점은 늘 다시 고치려는 노력이 필요하다. 독재는 자정 장치가 없는 중앙 집중화된 정보 네트워크다. 민주주의는 독재와 달리 자정 장치를 갖춘 분산된 정보 네트워크다. 민주주의와 선거를 동일시하면 안 된다는 것을 강조한다. 21세기 네트워크에도 새로운 인간형과 디스토피아를 만들어 낼 가능성이 많다. 유튜브 알고리즘은 분노를 유발하는 내용은 참여도가 높지만 정상적인 내용은 그렇지 않은 경향이 있다. 대중의 관심은 터무니없는 음모론을 추천한다. 유튜버들은 터무니없는 것을 업로드하면 인기와 수익을 올일 수 있음을 발견했다. 유튜버들은 터무니없는 것을 올리면 인기와 수익을 올릴 수 있음을 발견했다. 알고리즘이 이런 식으로 강화학습을 한 결과 몇 개월 만에 많은 유튜버들이 트롤로 변신했다.
유튜브 알고리즘이 브라질 극우세력을 부상시켜, 주변 인물이던 자이르 보우소나루를 대통력으로 만드는 데 중요한 역할을 했음을 보여주었다. 대통령뿐만 아니라 여타 몇 명의 시의원과 정치인들도 결국 극우성향 유튜버들 힘으로 당선되었다. 비인간 지능이 역사의 큰 흐름에 영향을 미치고 있다는 점에서 우리는 역사의 전환점에 도달했다.
소셜 미디어 플랫폼 관리자는 면죄부를 얻기 위해 알고리즘의 문제를 인간 본성에 전가한다. 플랫폼에서 만연한 증오와 거짓말이 인간본성이라고 치부한다. 기술 대기업들은 알고리즘의 역할을 외면한다. 불행히도 조사에 따르면, 분노와 허위정보가 바이럴성이 더 높았다. 적어도 유해한 콘텐츠를 비정상적으로 확산시키는 것은 막아야 한다. 모든 정보가 여과 없이 흐르도록 내버려 두면 진실이 지는 경향이 있다. 진실이 이기도록 하려면, 정보 네트워크가 진실을 말하는 사람들에게 보상을 제공하는 자정장치를 만들고 유지해야 한다. 그런데 거대 소설 미디어들은 진실을 장려하는 자정장치에 투자하는 대신, 사실상 거짓과 허구에 보상을 주는 전례 없는 오류 증폭장치를 개발했다.
AI의 급진적인 발전이 인간 중심의 정보 네트워크를 근본적으로 변화시킬 수 있으며, 이는 단순한 기술 혁신을 넘어 민주주의와 인간의 자유 의지에 위협이 될 수 있음을 경고한다. AI가 대규모 감시와 조작을 가능하게 하여 디지털 독재로 이어질 수 있다는 우려를 표명한다.
또한, AI가 인간의 감정을 조작하고, 감정적 관계를 형성하여 사람들을 조종할 수 있는 잠재력을 지니고 있음을 지적하며, 이를 방지하기 위한 규제의 필요성을 강조한다. AI가 인간을 사칭하는 것을 금지하고, 인간으로서의 권리는 인간에게만 부여해야 한다고 주장한다. 이러한 문제들을 해결하기 위해, AI 기술의 발전이 가져올 부작용과 위험성을 인식하고, 이에 대한 사회적 논의와 대비가 필요하다고 주장한다. 그는 우리가 현재 겪고 있는 정보 혁명을 이해하고, 그에 맞는 대응 전략을 수립해야 한다라는 점을 이야기한다.
AI가 스스로 진화하도록 그대로 둔다면 큰 문제가 생길 것이고 인간의 자정 기능을 지키고 변화 및 발전시킨다면 인간의 미래는 달라질 수 있다는 결론을 내린다.
이 책을 통해 대기업 플랫폼들이 인간의 본성을 극대화시키고 있는 것을 자정 시키도록 요구하고 콘텐츠를 본성에 입각해 무지성 소비하지 말고 늘 깨어있는 인간이 되어야 한다는 것을 깨달았다. 모든 정보에 대한 판단과 생각이 늘 작동되도록 하자!
