[2026 북 4/100] The Coming Wave
'억제'라는 불가능한 미션에 던지는 실전 매뉴얼
2026. 2월 둘째 주: Amazon Kindle 구매.
저자 무스타파 술레이만: 현실주의자인가, 기회주의자인가?
딥마인드의 공동 창업자이자 인플렉션 AI를 세워 '인간 친화적 AI'인 Pi(파이)를 출시했던 무스타파 술레이만. 그는 이 책을 출간한 이후에 최근 핵심 인력들과 함께 마이크로소프트 AI의 수장으로 자리를 옮기며 세간의 주목을 받았다. 이를 두고 거대 자본의 품 안에서 '아폴로 미션'급의 기술 억제를 실현하려는 현실주의적 선택이라는 평가와, 위험을 경고해놓고 결국 권력의 핵심으로 들어간 기회주의적 행보라는 시선이 엇갈린다. 그의 행보 자체가 이미 이 책이 다루는 '기술과 권력'의 복잡한 역학관계를 상징하고 있는 듯.
기술, 거부할 수 없는 '파도'의 등장
술레이만은 인류 역사를 바꾼 작은 고리, 등자(Stirrup)의 이야기를 소개한다. 등자가 등장하기 전까지 기병은 보병의 적수가 되지 못했지만(말에서 쉽게 떨어져서), 이 사소한 도구 하나가 기사 계급과 봉건제를 탄생시키며 중세라는 시대를 열었다. 저자는 AI와 합성 생물학 역시 단순한 도구가 아닌, 사회 체계 자체를 재편하는 결정적 기술이며 우리에게 좋은 선택지(Good options)를 남기지 않을 것이라 경고한다.
사실 1부 Homo Technologicus와 2부 Next Wave는 그리 새롭지 않다. 닉 보스트롬의 슈퍼인텔리전스가 지능의 폭발을 철학적으로 예견했고, 케빈 켈리의 기술의 충격(What Technology Wants)은 기술을 통제 불가능한 생명체(Technium)로 규정하며 훨씬 더 흥미로운 통찰을 보여준 바 있다. 술레이만이 말하는 확산의 필연성이나 기술의 범용성은 테크 뉴스를 깊이 팔로우하는 독자에게는 무어의 법칙의 확장판처럼 익숙하게 들린다.
그럼에도 술레이만이 이 뻔해 보이는 이야기를 길게 펼쳐놓은 데에는 이유가 있다. 3부와 4부의 공포와 해결책을 정당화하기 위한 포석이다. 핵심 논지는 간단하다. 과거의 핵무기는 국가가 원자재를 통제하면 억제가 가능했지만, AI는 오픈소스로 풀리는 순간 통제가 물리적으로 불가능해진다. 인간은 기술적 우위를 원하고(지정학적 경쟁), 돈을 벌고 싶어 하기 때문에(자본주의), 결국 누군가는 이 파도를 멈추지 않고 밀어붙일 것이다. 그래서 그의 결론은 멈출 수 없다면, 차라리 어떻게 가둘지 고민하자로 수렴한다.
외통수에 걸린 인류: 파놉티콘 혹은 혼돈
Panopticon. 제러미 벤담(Jeremy Bentham)이 제안한 원형 감옥의 형태로 간수는 죄수를 볼 수 있지만, 죄수는 간수가 지금 자기를 보고 있는지 알 수 없다.2부가 "왜 막기 힘든가"에 대한 일반론이었다면, 3부 The States of Failure부터는 이 파도가 실제 우리 사회의 구조를 어떻게 무너뜨릴 수 있는지에 대한 구체적인 비관론이 등장한다.
저자는 AI와 합성생물학의 발전이 가져올 실패 상태를 두 가지로 압축한다. 하나는 취약한 혼돈으로, 기술의 분산으로 누구나 파괴력을 갖게 되어 국가 시스템이 마비되는 상태다. 개인이 쉽게 유전자를 합성해 무기를 만들고, AI를 이용해 전 지구적 규모의 공격을 가하는 세계. 다른 하나는 디지털 파놉티콘으로, 질서를 유지하려는 국가가 기술을 이용해 시민을 완벽히 감시하는 감옥이다. 제러미 벤담이 설계한 원형 감옥처럼, 감시자는 보이지 않지만 피감시자는 언제나 보이는 구조다.
취약한 혼돈: 기술의 분산으로 누구나 파괴력을 가지게 되어 국가 시스템이 마비되는 상태.
디지털 파놉티콘: 질서를 유지하려는 국가가 기술을 이용해 시민을 완벽히 감시하는 감옥.
이 사이에 다른 좋은 선택지는 없다.
이 이분법은 소설 넥서스(Nexus)가 던진 질문과 정확히 맞닿아 있다. 소설 속 주인공 케이든은 고민한다. 뇌-컴퓨터 인터페이스 기술이 위험하지만, 그렇다고 정부나 소수 엘리트만 가지게 두면 디지털 파놉티콘이 세워질 것이기 때문이다. 그의 선택은 기술을 모두에게 뿌려버리는 것, 즉 오픈소스화였다. 모두가 위협받겠지만, 적어도 소수에게 지배당하지는 않겠다는 선언이었다.
피터 틸 같은 테크노 리버테리언들이 규제 자체를 거부하는 것과 유사한 논리이지만, 술레이만은 이를 무책임한 낙관이라 비난한다.
이 이분법적 공포에 완전히 동감하지는 않았다. 민주주의는 인류 역사에서 극히 최근의 실험일 뿐이다. 혼돈과 파놉티콘 사이 어딘가에서, 우리가 지금 상상하지 못하는 새로운 시스템이 탄생할 수도 있다. 현재의 관념에 기반해 너무 이른 공포감을 조성하는 것은 아닌가 하는 생각이 들었다.
억제(Containment)'를 위한 아폴로 미션
4부 Through the Wave는 이 책이 10년 전 쏟아진 AI 관련 서적들과 결정적으로 다른 지점이다. 술레이만은 더 이상 형이상학적 윤리 담론에 머물지 않는다. 기술을 물리적으로 가두기 위한 실질적이고 구체적인 자물쇠 10가지를 제안한다. 그는 이를 인류가 모든 역량을 결집해 달에 인간을 보냈던 아폴로 미션에 비유한다.
첫째, 물리적 자물쇠인 하드웨어 장악이다. 소프트웨어인 코드는 복제를 막을 수 없지만, AI를 구동하는 최첨단 칩(GPU)과 거대한 데이터 센터는 물리적으로 존재한다. 술레이만은 핵물질의 이동을 감시하듯, 고성능 컴퓨팅 자원의 공급망을 국가가 엄격히 통제해야 한다고 주장한다. 이는 추상적인 AI 담론을 가장 현실적인 제조와 물류의 영역으로 끌어내린 통찰이다.
둘째, 비가역적 기술에 대한 '정지 단추(Kill Switch)'와 투명성이다. 여기서 술레이만이 주목하는 인물이 MIT의 합성생물학자 케빈 에스벨트(Kevin Esvelt)다. 유전자 드라이브(Gene Drive) 기술의 선구자이자, 동시에 이 기술이 생태계를 파괴하거나 무기화될 위험을 누구보다 먼저 경고한 인물이다.
에스벨트는 자신의 연구 내용을 공개해 동료 학자들이 위험성을 검증하게 했고, 위험한 염기서열 주문을 실시간으로 걸러내는 스크리닝 시스템 구축에 앞장섰다. 그가 제안한 지연(Delay), 탐지(Detect), 방어(Defend) 전략은 AI와 합성생물학 교차 위험에서 위험한 역량의 확산을 늦추고, 핵산 관측소(Nucleic Acid Observatory) 같은 조기경보 시스템을 갖추고, 병원체를 특정하지 않아도 작동하는 수동 방어 수단을 구축하는 것을 골자로 한다. 술레이만은 이 에스벨트식 접근이 AI 분야에도 이식되어야 한다고 주장한다.
셋째, 국제적 공조와 '지연(Delay)' 전략이다. 1995년 '실명 레이저 무기'가 전장에 등장하기 전 전 세계가 합의를 통해 선제적으로 금지했던 사례처럼, AI와 합성 생물학 역시 인류의 생존을 위협하는 지점에 대해서는 국가 간의 이익을 넘어선 강력한 국제 조약이 필요하다고 역설한다.
*실명 레이저 무기 금지 협약 (1995): 1990년대 초반, 기술적으로 보병의 눈을 영구적으로 멀게 하는 레이저 소총을 만드는 것이 가능해졌다. 비용이 저렴하고 효율적인 무기였지만, 국제사회는 이 기술이 가져올 비인도적 결과에 경악. 1995년 UN은 '특정 재래식무기 금지협약(CCW)'의 의정서를 통해 이 무기의 사용과 이전을 선제적으로 금지했다.
결국 술레이만이 제안하는 10단계 전략은 기술의 진화를 멈추는 것이 아니라, 기술의 파도가 인류를 덮치기 전에 우리가 감당할 수 있는 수준으로 '속도를 늦추고 울타리를 치는 것'이다. 비록 이 미션이 아폴로 계획만큼이나 불가능해 보일지라도, 이것만이 디지털 파놉티콘과 혼돈이라는 외통수에서 벗어날 유일한 탈출구라는 것이 저자의 결론이다.
솔직히 이 10단계가 실효성이 있을지는 회의적이다. 다만 이러한 담론의 출발점으로서 의미가 있다고 생각한다.
Ai 가 인간의 직업을 대체한다면
책을 읽으며 가장 현실적으로 와닿은 위협은 사실 거창한 파멸 시나리오가 아니라 직업의 문제였다. 술레이만은 보편적 기본소득 같은 경제적 보상을 언급하지만, 그것도 결국 사회적 안정을 위한 임시방편처럼 들린다. 우리가 진짜 두려워하는 것은 배고픔보다 쓸모없어짐(Uselessness)에 가깝기 때문이다.
우리는 수만 년간 사냥하지 않으면 굶고, 농사짓지 않으면 죽는 결핍의 시대를 살았다. 근대 이후에는 노동이 인간을 신성하게 만든다는 프로테스탄트 윤리와 자본주의적 가치관이 뼈 속까지 박혔다. 그래서 당신은 누구입니까라는 질문에 대부분은 직업으로 답한다. 노동이 사라지면 자신이 누구인지 증명할 수단도 함께 사라지는 것이다. 더 나아가, 인류의 지능과 신체는 도전과 결핍을 해결하는 과정에서 발달해 왔다. AI가 모든 문제를 대신 해결하고 인간이 그저 소비자로 남는다면, 마치 영화 월-E처럼 종 자체가 정신적으로나 육체적으로 퇴행할 것이라는 비관론도 설득력이 없지는 않다.
그러나 나는 인류가 의도적으로 도전을 만들어낼 것이라고 본다. 마라톤을 보면 알 수 있다. 현대 사회에서 마라톤은 경제적으로 보면 최악의 비효율이다. 차를 타면 10분이면 갈 거리를, 돈을 내고 등록하고, 몇 달간 고통스럽게 훈련하고, 몸을 혹사시키며 달린다. 그럼에도 사람들은 그 의도적인 고난을 통해 자신이 살아있음을 느끼고 성취감을 얻는다. 생존을 위해 달린 것이 아니라, 스스로 선택해 달린 것이기에 오히려 더 순수한 성취가 된다.
어쩌면 노동 이후의 시대는 이런 모습일지 모른다. 해야만 하는 것(Have to)에서 하고 싶은 것(Want to)으로의 전환. 배가 고파서 사냥하는 것이 아니라 사격 실력을 겨루기 위해 활을 쏘는 것. 돈을 벌기 위해 코딩하는 것이 아니라 복잡한 논리 구조를 해결하는 쾌감을 위해 알고리즘을 짜는 것. 직업이 아니라 스포츠와 예술이 삶의 기본값이 되는 세계. 억지로 만들어낸 도전일지라도, 그 안에서 느끼는 성취감은 실재(Real)하다. 생존의 굴레에서 벗어나 인간 본연의 극기(Self-mastery) 본능을 더 순수하게 발현하게 될지도 모른다.
총평: 질문은 남겼으나 답은 되지 못했다
커밍 웨이브는 질문은 남겼으나 답은 되지 못했다.
술레이만은 책의 말미에서 기술은 운명이 아니라 우리의 선택이며, 그 선택을 실행할 주체로서 'The world needs you(세상은 당신을 필요로 한다)'라고 썼다. 마지막 문장이 숙제를 던졌다. 관찰자(Observer)를 넘어 '비판적 감시자'가 되는 것, 수혜자(Beneficiary)를 넘어 '윤리적 설계자'가 되는 것, 방관자(Bystander)를 넘어 새로운 application의 창조자가 되는 것. 무엇을 할 것인가를 생각해 보자.