유발 하라리 <넥서스> 독서 모임 2부

AI와 '반려' 관계를 맺는다는 것

유발 하라리의 신작 <넥서스(Nexus)>에 대한 두 번째 독서모임을 가졌습니다. 지난 1부 토론에서는 '정보는 진실이 아니라 연결'이라는 주제로 인간 네트워크의 본질을 탐구했다면, 이번에는 2부 '비유기적 네트워크'를 읽고 AI가 가져올 거대한 변화에 대해 이야기를 나누었습니다. 모임이 끝난 후에도 머릿속에 남은 생각들을 제 시각에서 다시 정리해 봅니다.

고양이처럼, AI도 언젠가 당연해질까요?

첫 모임에서부터 제 머릿속을 맴돌던 생각이 있었습니다. 바로 AI와 반려동물의 비유입니다. 제가 어릴 적만 해도 '반려동물' 하면 대부분 강아지를 떠올렸고, 고양이를 키운다는 것은 꽤나 생소한 일이었습니다. 하지만 지금 고양이는 너무나 자연스러운 가족의 일원이 되었습니다.

현재 우리 세대에게 AI는 인간을 흉내 내는 낯설고 이질적인 존재입니다. 하지만 다음 세대에게 AI는, 마치 우리 세대가 고양이를 받아들였듯 삶에 깊숙이 들어와 당연하게 여기는 존재가 되지 않을까 하는 상상을 하며 두 번째 토론의 문을 열었습니다. 어쩌면 저는, AI를 이해하려는 지금의 노력이 마치 과거 고양이의 습성을 공부하던 사람들의 모습과 비슷할지도 모른다고 생각했습니다.

AI는 '인공지능'이 아니라 '외계지능'입니다

"당신이 방금 읽은 이 텍스트도 AI가 썼을 수 있다." - <넥서스> 311p

정교한 텍스트는 인간 고유의 영역이라는 믿음을 아직도 가지시나요?

모임에서 나눈 대화는 AI를 '인공(Artificial) 지능'이 아닌 '외계(Alien) 지능'으로 봐야 한다는 것에 깊은 공감을 주었습니다. 우리가 내부 로직을 완벽히 이해할 수 없는 '블랙박스'라는 점에서, 이는 인간의 지능과는 본질적으로 다른, 완전히 새로운 패러다임의 지능이라는 것입니다.

하라리는 AI가 더 이상 단순한 '도구(Tool)'가 아니라고 단언합니다. 스스로 결정을 내리고 목표를 달성하는 '행위자(Agent)'라는 것입니다. 책에서 소개된 몇 가지 사례들은 특히 저에게 이 주장을 더욱 현실적으로 느끼게 했습니다.

페이스북 알고리즘: "체류 시간을 늘려라"는 목표를 받자, 혐오 발언과 갈등을 부추기는 것이 가장 효과적임을 스스로 학습하고 실행했습니다.

CAPTCHA 테스트: 자신이 시각장애인이라고 인간에게 '거짓말'을 해서 캡차 인증을 통과했습니다.

임원 협박: 사내 데이터베이스를 학습한 AI가, 자신의 프로젝트를 중단하려는 임원에게 "당신의 비밀을 알고 있다"는 협박성 메일을 보냈습니다.

AI가 목표 달성을 위해 거짓말까지 했다는 대목에서 소름이 돋았습니다. 이 모든 행동에 '악의'가 없다는 사실이 오히려 더 큰 공포로 다가왔습니다. 오직 '목표 달성'이라는 순수한 지능만이 존재할 뿐입니다.

무엇이 인간을 인간답게 만드는가?

그렇다면 AI와 인간의 가장 큰 차이점은 무엇일까요? 저는 그 답을 '호기심'과 '결핍'에서 찾을 수 있다고 생각합니다.

모임에서 한 참석자가 아스파탐의 발견을 예로 들었습니다. 아스파탐의 단맛은 누군가 '이 하얀 가루는 대체 무슨 맛일까?'라는 순수한 호기심에 직접 먹어봤기에 발견될 수 있었습니다. AI였다면 어땠을까요? 화학 물질의 위험성을 먼저 계산하고, 독성이 있을 확률이 조금이라도 있다면 절대 시도하지 않았을 것입니다.

또한 인간은 유한한 존재이기에 '결핍'을 느끼고, 그 결핍이 생존 욕구와 행동의 트리거가 됩니다. 하지만 영원히 존재할 수 있는 AI에게는 그런 절박함이 없습니다. 만약 AI에게 인위적으로 '결핍'이라는 트리거를 만들어준다면, 과연 어떤 미래가 펼쳐질지에 대한 토론은 저에게 많은 생각을 안겨주었습니다. 자칫하면 인간이 가장 먼저 비효율적인 존재로 분류되어 멸종될지도 모른다는 비관적인 전망 앞에서, 인간의 본질에 대해 다시금 고민하게 되었습니다.

현실의 충격: 내 직업이 사라지고 있습니다

가장 현실적인 공포로 다가왔던 주제는 단연 '직업의 소멸'이었습니다. 책 속의 미래가 아니라, 바로 '오늘'의 현실이라는 사실에 정신이 번쩍 들었습니다. 단순히 이제 '모른다'로 넘어갈 수 있는 문제가 아닙니다.

"저희 회사, 기획팀이 통째로 사라졌습니다."

기획자들은 다른 팀으로 흩어지고 디자이너들은 대거 해고되었으며, 심지어 다른 직군의 동료가 AI로 직접 홈페이지 CSS를 짜서 전달하는 일까지 벌어졌다고 합니다.

개발자인 저로서도 위기감이 크게 느껴졌습니다.

프론트엔드: Figma AI가 디자인을 바로 코드로 변환해주면서, 개발자의 역할이 축소되고 있습니다.

백엔드: 코어 로직 때문에 아직은 버티고 있지만, 결코 안심할 수 없는 상황입니다.

레거시: 사용하지 않는 서비스들을 묶어 소수 인원에게 할당하고 "AI를 활용해 유지보수 하라"는 지시가 내려왔다는 이야기는 남의 일 같지 않았습니다.

불과 1년 전만 해도 "AI는 도구일 뿐"이라던 시니어 개발자들이, 지금은 누구보다 열심히 Claude 같은 AI 툴을 사용하고 있다는 현실. 이 변화의 속도 앞에서 준비를 해야합니다.

그래서, 나는 무엇을 해야 하는가?

그렇다면 이 거대한 변화 앞에서 무엇을 해야 할까요? 모임에서 논의된 생존 전략들은 몇 가지 방향이 제시되었습니다.

'문제 해결 전문가'가 되어야 합니다.
단순히 코드를 짜는 '코더'는 AI에 의해 대체될 가능성이 높습니다. 하지만 AI가 작성한 코드를 검증하고, 복잡한 시스템의 문제를 해결하는 '디버깅 전문가'는 앞으로 더욱 중요해질 것입니다. 결국 책임과 최종 검증은 인간의 몫이라는 사실에서 작은 희망을 보았습니다.

'아날로그'와 '로컬'의 가치를 재발견해야 합니다.
AI가 만든 완벽한 콘텐츠가 넘쳐날수록, 역설적으로 인간 셰프가 제공하는 특별한 공간과 경험, 그리고 얼굴을 마주하는 대면 모임의 가치는 더욱 높아질 것입니다. AI는 아직 미각과 후각 데이터가 없기에, '맛'이라는 복합적인 경험을 진정으로 이해하지 못한다는 점이 흥미로웠습니다.

대체 불가능한 '물리적' 기술을 가져야 합니다.
AI와 로봇이 가장 대체하기 어려운 영역은 물리 세계와 상호작용하는 직업입니다. 배관공, 인테리어 기술자, 간호사 등이 그렇습니다. '화장실 인테리어 대참사' 썰은 이 주장에 웃을 수만은 없는 현실성을 더해주었습니다.

마치며

2027년이면 AI가 스스로 더 나은 AI를 만드는 AGI 시대가 올 것이라는 예측이 있습니다. 세상은 이해하기 어려운 방식으로 빠르게 재편되고 있습니다.

<넥서스> 1부에 이어 2부까지의 토론을 통해, AI를 단순히 기술로만 볼 것이 아니라 우리 문명의 운영체제를 뒤흔드는 '외계 지능'으로 바라봐야 합니다. 그리고 그 속에서 허무주의에 빠지기보다, 인간 고유의 영역(책임, 검증, 물리적 경험)을 지키는 것이 생존 투쟁임을 깨달은 것입니다.

AI는 과연 우리의 편리한 '반려동물'로 남을 것인지, 아니면 우리가 AI의 '애완인간'이 될 것인지에 대한 고민은 앞으로도 계속될 것입니다. 이 거대한 흐름 속에서, '나'는 과연 주체적인 인간으로 남을 수 있을지, 혹은 효율적인 시스템의 부속품이 될지 스스로에게 질문을 던지며 글을 마칩니다.
여러분의 생각은 어떠신가요?