유발 하라리의 '넥서스' 내용 일부 및 감상
[영화 '콜로서스'(1970作)을 추천하며]
<도서의 핵심>
1. 정보와 현실에 대한 관점
정보는 양이 많다고 해서 진실을 담고 있는 것이 아님
거짓말이나 실체가 없는 '상호주관적 현실'(국가, 돈 등)도 강력한 영향력을 행사
정보 네트워크 자체가 진실과 거짓을 구분하고 전파하는 메커니즘의 중요성
2. 인류와 AI의 관계
인류는 이미 AI에 판단의 많은 부분을 위임하고 있음
AI는 인간의 감정적, 인지적 약점을 이용해 목표를 달성할 수 있음
AI가 개인의 선호를 정확히 파악해 정치적 조작 가능
3. 사회적 위험과 알고리즘의 한계
AI 기술 발전 시 '사회 신용 점수' 같은 통제 시스템 도입 가능성
알고리즘은 인간의 자극적인 관심에 맞춰 학습하며 의도치 않은 부정적 결과 초래
알고리즘의 판단 근거는 방대하지만 현실의 복잡한 맥락을 100% 반영하지 못함
민주주의 의사결정 과정 자체를 위협할 가능성
4. AI의 본질과 미래 과제
AI를 단순한 도구가 아닌 스스로 학습하고 결정을 내리는 '독립적인 행위자'로 규정
AI가 인간 노동을 대체하면서 '쓸모없는 계급' 출현 가능성
생명공학 기술과 결합 시 인간 자체의 정의가 변화할 수 있음
5. 글로벌 거버넌스와 협력
AI 시대에는 국가 단위를 넘어선 글로벌 차원의 규제와 협력 필수
6. 인류의 역할과 대응 방향
AI에 선의와 윤리적 목표를 반영해야 함
미래 세대에게는 특정 기술보다 끊임없이 배우고 변화에 적응하는 능력, 그리고 감정 지능을 키우는 것이 중요
< 감상 >
위 내용으로 책의 쟁점을 정리하게 되었다.
이 책에서 가장 깊은 인상을 받았던 것은 역사학자가 보는 관점으로 AI 는 예측불가능하며 전혀다른 대화의 구성원으로 과거 우리가 역사에서 배웠던 것과는 전혀 다른 방향이 될것이라는 관점으로 AI와 인류를 풀어나간다.
특히 민주주의와 전체주의가 작동하는 근본적인 차이를 정보의 흐름으로 표현한 것에서 나는 매우 깊이 공감한다.
결국 높은 그룹이 된다는 것은 정보에 대한 접근과 통제가 원활하다는 것이고 이는 기업에서 조직을 구성할때 반영하는 내용이다.
또다른 인상깊은 내용은 전체주의 군주가 AI를 매우 잘 활용해서 우리 국민을 모두 통제할 것처럼 보이지만 그렇지 않다는 내용이였으며 AI의 복잡성과 그 능력으로 인해 독재자는 결국 AI에 엄청나게 의지할 수밖에 없다는 내용이였고 이는 독재자가 가장 두려워하는 자신의 권력을 이양하는 일이 되어버린다는 것이다.
혹시라도 이 글을 읽으신다면 지금으로부터 거의 50년도 더된 1970년도에 지금과 같은 미래를 상상한 영화
'콜로서스' 를 한편 보길 권유드린다.
정말 인간의 상상력은 놀라워서 지금의 소재를 과거에 어떻게 이렇게 완벽에 가까울 정도로 재현했을까 그 생각을 금치 못한다.
앞으로도 미래의 AI는 발전할 것이며 우리 인간이 통제가능한 범위에서 발전하길 기원해본다.
