우리가 계속 '인간'일 수 있기 위하여.

<넥서스>/유발 하라리

유발 하라리의 책으로 독서모임을 하겠다고 했을 때 모두가 반대했던 이야기를 쓴 적이 있다. 그때는 무슨 생각을 했던가. <사피엔스>, <호모 데우스>, <21세기를 위한 21가지 제언>을 세 달 안에 모두 읽는 스케줄로 계획했더니 모두가 기겁을 하며 말렸더랬다. 이제는 유발 하라리 님이 책을 내시는 속도가 뜸해져 <넥서스>를 택하면서는 비교적 수월했다고 할 수 있다.

AI를 주제로 세 권을 묶겠다는 생각을 했을 때 <넥서스>를 가장 먼저 꼽아두고 나머지를 골랐다고 해도 과언이 아니다. <나는 AI와 공부한다>와 같은 긍정론을 읽었으니 이제는 걱정도 좀 할 차례라고 생각했다. 저자 본인도 서두에서 밝혔다시피 이 책은 AI가 가져올 빛나는 미래를 전망하는 책이 전혀 아니다. 인공지능 대신 기이한, 그러니까 예측 불가능한 지능 (Alien Intelligence)라고 소신껏 밝히는 저자는 "우리가 흔히 인공지능이 인간다워지기 위해 애쓴다고 하지만 사실은 인공지능은 우리가 예측할 수 없는 전혀 다른 지능을 향해 진화하고 있다"라고 예측한다.

Nexus는 '연결하다'라는 뜻의 라틴어 Nectere의 과거 분사형으로서 결합 또는 연결된 상태를 의미한다. 허브가 그 자체가 중심이 되어 연결되는 형태를 뜻한다면 넥서스를 '연결 고리'의 성격이 강하다고 한다. 저자는 성서의 정경화 과정과 마녀사냥의 역사를 짚어가며 정보는 진실을 반영하기보다는 '인간과 인간 사이를 연결한다'라고 밝힌 뒤, AI 시대가 되면 그런 정보의 연결고리에 인간 대신 컴퓨터가 자리할 것임을 경고한다. 그래서 제목이 Nexus 인 것. 이렇게 되면 인간은 자신이 무엇을 아는지 모르는지 정확히 인지하지 못한 채로 24시간 감시당하는 처지 (aka 사회 신용 점수 시스템)에 놓일지도 모른다.

유발 하라리는 앞의 세 권을 쓰는 내내 호모 사피엔스의 힘을 믿었다. 근래 두 차례 전쟁 (이라고 쓰고 그분의 모국이 행한 것은 학살)을 목도한 바 심경의 변화를 겪었는가, 전에 없이 비관적인 미래 전망을 한참 읽고 보니 뒷목이 땅겨온다. 유독 <호모 데우스>에서 연결되는 부분이 많은 것도 이제는 우리가 기술의 발전을 제어할 수 없는 임계점에 이르렀다는 전망 때문인지도 모른다는 생각을 하면 불안감이 더 커져오는 것도 사실이다.

책벗들과 이런저런 이야기를 나눈 끝에 한 분이 "모 교수님의 예측에 따르면 이제 우리가 할 수 있는 것은 없다. 5-10년 사이에 버킷리스트를 만들어하고 싶었던 일을 최대한 하라. 그 이후에는 우리가 하고 싶다고 하여 모든 것을 할 수는 없는 시점이 올 수 있으니."라며 폭탄을 던졌다. 그러할지언정 소시민인 우리는 어떻게 인간으로 존재할 수 있을까. (참고: https://youtu.be/89rQSoPFd7M?feature=shared)

가장 많이 나온 이야기는 '불완전함을 인정하자'는 것이었다. 인간이기에 실패할 수 있고, 찌그러질 수 있음을 수용하자고. 생각해 보면 생성형 AI에 반복해서 질문을 하는 이유는 실패가 두렵기 때문일 수 있다. 사회적 기회비용이 점점 커지는 대한민국에서 이런 현상이 두드러지는 듯하여 우리 모두 슬펐지만. 또 다른 분은 '철학'을 꼽았다. 개똥철학일망정 자기 철학이 분명한 사람은 섣불리 AI에 모든 것을 의존하지 않으리라는 것이다. '공감과 연민'을 꼽은 분도 계셨다. 누군가에게 공감을 표할 수 있는 사람은 봇이 뒤흔드는 알고리즘에 당할 확률이 적다고 하셨다. 늘 인간의 선함을 믿으시는 나의 책벗님은 냉소적이기 쉬운 나를 공감과 연민의 자리에 되돌려놓아 주신다.

저자의 책을 여러 권 읽으며 느낀 바, 거시사를 거침없이 오가면서도 결국 마지막에 가서는 개인을 돌아보게 하는 묘한 면이 있는데 이번에도 역시 그랬다. 토론의 끝이 고엔카 명상센터와 위빳사나 명상으로 맺어진 것에도 슬쩍 웃음이 난다.

다만 우리 모두 알고 있었다. 알고리즘이 맺어준 인연으로 모인 우리는 그만큼 비슷한 결의 사람이기에 공감하고 끄덕이며 같은 결론에 도달할 수 있었다. 우리와 같지 않은 사람의 이야기도 귀담아 들어 볼 필요가 있으며 알고리즘에 낚이지 않으려면 필사적으로 더 정 반대의 발언을 경청해야 한다는 것을 '알아차렸다'. 희망적인 점은 문제 해결의 단초가 '인지'라는 것. 일단 알았으니 절반의 해결책도 손에 쥔 셈이라 해도 되지 않을까?

저자도 '역사의 유일한 상수는 변화'라고 마무리했으니 어떤 미래를 맞이할지는 우리의 선택에 달린 터다. 일단 '책을 읽는 마이너 인구' 답게 메타인지부터 시작!

정보를 재현으로 보는 순진한 관점을 거부한다고 해서 진실이라는 개념을 거부해야 하는 것도, 정보를 무기로 보는 포퓰리즘적 관점을 수용해야 하는 것도 아니라는 점을 강조하고 싶다. 정보는 항상 연결하는 역할을 하지만, 과학책부터 정치 연설까지 몇 가지 유형의 정보는 현실의 특정 측면을 정확하게 표현함으로써 사람들을 연결하려고 시도한다. 하지만 이는 특별한 노력을 필요로 하는 일이며, 대부분의 정보는 그런 노력을 기울이지 않는다. 더 강력한 정보 기술을 만들어내기만 하면 세상을 더 정확하게 이해할 수 있다고 믿는 순진한 관점이 틀린 이유가 여기 있다. 저울을 진실 쪽으로 기울이기 위해 따로 노력을 기울이지 않는다면, 정보의 양과 속도가 증가할 수록 비교적 드물고 값비싼 진실한 정보가 그보다 훨씬 흔하고 값싼 유형의 정보에 파묻힐 가능성이 높다.

하지만 다행히도 우리가 현실에 안주하거나 낙담하지 않는다면, 스스로의 힘을 견제하는 균형 잡힌 정보 네트워크를 만들어낼 수 있다. 이는 또 다른 기적의 기술을 발명하거나 이전 세대는 생각하지 못한 기발한 아이디어를 떠올려야 한다는 말이 아니다. 오히려 우리가 지혜로운 네트워크를 구축하기 위해서는, 정보에 대한 순진한 관점과 포퓰리즘적 관점을 모두 버리고, 무오류성이라는 환상에서 벗어나 강력한 자정 장치를 갖춘 제도를 구축하는 힘들고 다소 재미없는 일에 전념해야 한다. 이것이 이 책의 가장 중요한 메시지가 아닐까 싶다.