[넥서스] 기술은 우리를 구원할까?
우리를 움직이는 보이지 않는 힘, 어떻게 다뤄야할까?
<사피엔스>로 유명한 유발하라리의 신작이 나왔다. 무려 작년에. 아직 첫장을 열지 못한 <사피엔스>가 책꽂이에 존재감을 무겁게 드러내지만 무시하기로하고 <넥서스>를 주문했다. 궁금하다 이 책! 더 이상 미룰 수 없다.
p.20 위험의 규모를 고려하면 AI는 모든 인간의 관심을 가져야 할 문제다. 모두가 AI 전문가가 될 수는 없지만 AI는 스스로 결정을 내리고 스스로 새로운 아이디어를 구상할 수 있는 역사상 최초의 기술임을 우리 모두 명심해야 한다. 이제껏 인간이 만든 발명품들이 인간에게 힘을 실어준 이유는 새로운 도구가 아무리 강력해도 그것을 어디에 쓸지 결정하는 것은 항상 우리 몫이었기 때문이다.(중략) 반면 AI는 스스로 정보를 처리할 수 있고 따라서 인간을 대신하여 결정을 내릴 수 있다. AI는 도구가 아니라 행위자이다.
6~7년전 소설에서 본 AI는 영화속에서만 위협적인 존재였고 실감할 수는 없었다. 2025년인 지금 AI의 위험을 실감한다. 이제라도 AI와 함께 '잘'공존하기 위한 고민을 해야할텐데, 이 고민이 너무 늦지 않았길 바란다.
p.57 사피엔스의 성공 비결은 정보를 활용하여 많은 개인을 연결하는 일에 탁월한 재능을 발휘한 것이다.
정확한 사실이나 재현으로서의 정보보다 인간사회에서 중요한 것은 부정확할지라도 연결로서의 능력이 탁월한 정보여야한다.
p.85 인간 정보 네트워크의 역사가 단순히 승리의 진군이 아니었던 주된 이유가 여기 있다. 수 세대에 걸쳐 인간 네트워크는 점점 강력해 졌지만 점점 지혜로워진 것은 아니었다. 네트워크가 진실보다 질서를 우선시 할 경우 막강한 힘을 가질 수 있지만 대신 그 힘을 지혜롭 게 사용하지 못하기 쉽다. 인간 정보 네트워크의 역사는 승리의 진군이라기보다는 진실과 질서 사이에서 균형을 맞추는 아슬아슬한 줄타기였다. 21세기에 우리는 석기시대 조상들보다 균형을 잘 맞춘다고 보기 어렵다. 구글과 페이스북 같은 기업들의 사명 선언문이 암시하는 것과 달리, 단순히 정보 기술의 속도와 효율을 높인다고 해서 더 나은 세상이 되는 것은 아니다. 오히려 진실과 질서 사이의 균형을 맞추는 일이 더 시급해질 뿐이다. 우리는 이미 수만 년 전에 이야기를 발명했을 때 이 교훈을 얻었다. 그리고 인류가 두 번째 위대한 정보 기술인 '문서'를 생각해냈을 때 이 교훈을 다시 얻게 되었다.
네트워크가 곧 생존하기 위함이고, 네트워크의 확대와 결합은 이야기(스토리텔링)가 필요했다. 이야기가 인간네트워크에 힘을 갖게 된 이상 진실은 중요하지 않게 된다. 권력자일수록 진실보다 중요한것은 질서유지였다. 역사를 돌이켜보며 지혜로운 변화를 위해 준비해야할 것은 진실과 질서의 '균형'이다. 모두가 같은 방향일때 다른생각(진실을 위한)을 낼 수 있는 용기가 필요할 것 같다. 불편함을 극복해야 더 나은 세상을 만날 수 있을 것이라 생각된다.
인간네트워크의 성공사례로 성경을 이야한 것, 예수 브랜딩이라 표현한 점도 흥미롭다.
p.122 중요한 것은 네트워크를 어떻게 설계하고 사용하는가다. 단순히 네트워크의 정보량이 늘어난다고 해서 네트워크가 이롭게 쓰이는 것은 아니며 진실과 질서 사이에서 적절한 균형을 맞추는 일이 더 쉬워지는 것도 아니다. 이는 21세기에 새로운 정보 네트워크를 개발하고 사용하는 사람들이 새겨들어야 할 중요한 역사적 교훈이다.
p.124 정보 네트워크 스스로 어떤 오류도 없다고 가정할 때 어떤 일이 벌어질까? 정보는 권력의 도구가 되고 권력자가 만든 질서에 우리는 길들여진다.
개인이 할 수 있는 건 뭘까? 무력감을 느낀다.
p.125 자정 장치가 제대로 작동하기 위해서는 정당성이 필요하다. 인간이 오류를 범하기 쉬운 존재라면 자정 장치가 오류를 범하지 않을 것이라고 어떻게 장담하는가? 끝이 없어 보이는 이 순환고리를 벗어나기 위해 인간은 자신들의 실수를 찾아 바로 잡는 일을 믿고 맡길 수 있는, 오류로부터 완전히 자유로운 초인적 장치를 꿈꾸었다. 오늘날 누군가는 AI가 그런 장치를 제공할 수 있기를 바랄지도 모른다.
p.141 "AI의 등장으로 이 오래된 문제의 반전이 일어났다. AI는 안면인식을 이용해 엘리베이터를 당신이 사는 증으로 순식간에 데려다줄 수 있다. 따라서 당신은 안식일에 신성모독을 저지를 필요가 없다."
성경의 해석이 단순할 수 있다는 것과 그 예시에 실소가 나온다. 성경은 질서유지를 위한 수단이었을까, 무결하고 절대적일거라는 환상이 만들어낸 거룩한 허구일까? 비종교인으로써 구약 신약, 랍비, 탈무드 등등 단어를 들어는 봤지만 안다고 할 수 없었는데, 이 책을 보며 의미에 대한 모호함이 조금은 풀렸다. 진실보다는 질서유지를 위해 완전한 존재를 계속 찾았던 유대교의 역사가 흥미롭다. 오류가 있기때문에 인간이고, 자정 또한 인간이니까 할 수 있는 것인데, 인간이 믿는 종교란(성경) 것은 무결성을 명분으로 자정력을 잃었다.
유발하라리가 무결성을 이야기한 것은 AI를 받아들이는 태도를 말하기 위해서인데, 작가의 말대로 AI를 나를 돕는 존재로만 생각하는 것은 위험하다. AI는 자정장치가 필요하다.
p.317 AI는 인간 수준의 지능을 향해 발전하고 있지 않다. 그것은 완전히 다른 종류의 지능으로 진화하고 있다. (중략) 지금의 정보 혁명은 이전에 어떤 정보 혁명보다 중대한 의미를 갖기 때문에 전례 없는 현실을 전례 없는 규모로 만들어 낼 가능성이 있다. 이 점을 이해하는 것이 중요한 이유는 아직은 통제권이 우리 인간에게 있기 때문이다. 언제까지가 될지는 몰라도 아직은 우리가 이 새로운 현실을 만들어 나갈 힘을 가지고 있다.
아직은 인간에게 시간이 있고 기회가 있다는 것에 안도하지만, 개개인이 할 수 있는 것은 무엇일지 모르겠다. AI의 발전방향을 지혜롭게 논의할 수 있는 기회가 우리 개인에게 있었던가? AI도 돈의 흐름대로 발전하는데 그렇다면 기업이나 전문가가 더 양심적이고, 인류애를 갖고 지혜로운 판단을 해야한다. 그게될까? 일개 개인이 할수 있는 것은 있을까? 알고리즘과 AI의 노예가 되는 길은 쉬운반면, 이 길의 끝을 예견하고 책임질 수 있는 방법을 고민하는 일은 쉽지 않다. 작가가 우려하는 것을 아는 것까지가 전부다. 당장 할 수있는것은 알고리즘으로부터의 해방이다. 내가 원하는 걸 검색해서 원하는 정보만 찾고 종료. 절대유투브 알고리즘에 시간뺏기지않기. 또 뭐가있을까? 다음장에서는 대안이 있기를 바란다.
p.426 따라서 현재 컴퓨터를 개발하는 사람들은 자신들이 단순히 새로운 도구를 제작하고 있는 것이 아니라는 사실을 인식할 필요가 있다. 그들은 새로운 종류의 독립적인 행위자를 만들어내고 있으며 어쩌면 새로운 종류의 신을 만들어내고 있는지도 모른다.
p.429 한 가지 안전장치는 컴퓨터가 자신의 오류 가능성을 인식하도록 훈련시키는 것이다. 소크라테스가 가르쳐 주었듯이 지혜에 이르기 위해서는 '나는 모른다'고 말할 수 있어야 한다. 이는 인간 못지 않게 컴퓨터에서도 해당하는 말이다. 모든 알고리즘이 학습해야 할 첫 번째 교훈은 자기가 우리를 범할 수 있다는 것이다. 아기 알고리즘은 스스로를 의심하고 불확실성을 알리고 사전 예방 원칙을 지키는 법을 배워야 한다. 이것은 불가능한 일이 아니다. 이미 개발자들은 AI가 자기 의심을 표현하고 피드백을 요청하고 실수를 인정하도록 하는데 상당한 진척을 보이고있다.
소설 <작별인사>, 영화<AI>를 보며 인간과 비인간을 구별하지 못하는 세상을 그저 '구경'만 했는데, 현실이 머지않았다. 작가는 AI가 오류가능성을 스스로 인지하는 것이 하나의 방법이라고 했는데, 사실 이 말은 결국 인간이 스스로에게 던져야 했던 질문과 닿아 있는 것 같다.
이대로 문제의식없이 컴퓨터형멱을 받아들이기만 한다면 민주주의가 없어지는건 당연하고, 세상은 인간 대 비인간의 대립일텐데 상상하니 끔찍하다. 대기업 경영자(기술을 이끄는 자들)는 경쟁구도에서 AI발전에 급진적일 수 밖에 없다고 변명한다. 하지만 결국 그들이 기술의 발전으로 얻은 권력도 비인간에게 옮겨갈텐데, 자본주의 앞에 어쩔 수 없는것인지, 우리의 일상과 닿아있는 AI가 마냥 편하지만은 않다. 구조적 문제를 어떻게 해결할 것인지? 집단지성이 아니면 답이 없을 듯 하다. 암울하지만 아닌 척 책의 마지막장을 덮는다.
