마침내 특이점이 온다
기술 낙관주의자, 레이 커즈와일의 미래 예측
《마침내 특이점이 온다(The Singularity Is Nearer)》는 기술 발전이 가속화되며 인류가 인공지능(AI)과 융합하는 '특이점'에 가까워지고 있다는 이론을 제시한다. 이 책은 2005년의 예측을 뛰어넘는 최근의 기술적 성취를 바탕으로, 인류가 생물학적 한계를 극복하고 의식과 지능을 확장할 수 있음을 강조한다. AI, 나노기술, 생명공학 등의 기술이 결합하면서 삶의 거의 모든 영역이 기하급수적으로 개선될 것이며, 이는 풍요로운 미래를 가져올 것이라는 낙관적 전망을 담고 있다.
하지만 이러한 변화는 일자리 감소와 같은 사회적 혼란, 그리고 핵무기, 팬데믹, 통제 불능의 나노봇과 같은 실존적 위험을 수반한다. 이 책은 기술적 위협에 대한 경각심을 일깨우고, 인류가 이 위협에 어떻게 대응해야 하는지에 대한 전략을 제시한다. 궁극적으로 AI는 인간의 경쟁자가 아니라 인간의 지능을 확장하는 도구가 될 것이며, 이를 통해 인류는 더욱 높은 차원의 존재로 진화할 것이라는 것이 책의 핵심적인 메시지다.
저자의 이력
이 책의 저자인 레이 커즈와일(Ray Kurzweil)은 세계적인 발명가이자 사상가, 미래학자다. 그는 61년간 AI 분야를 선도하며 CCD 평판 스캐너, 전방위 광학 문자 인식(omni-font optical character recognition), 텍스트 음성 변환 합성기 등을 발명했다. 음악 기술 공헌으로 그래미상을 수상했으며, 미국 국가기술훈장(National Medal of Technology)을 받았다. 또한 AI 분야의 선구자로서 구글에서 수석 연구원(Principal Researcher)이자 AI 비저너리(AI Visionary)로 활동하고 있다.
이전 책과의 본질적인 차별점
2005년 저서 《특이점이 온다(The Singularity Is Near)》는 특이점이라는 개념을 대중에 소개하고, 기술적 특이점이 2045년경에 도래할 것이라고 예측했다. 당시에는 대부분의 논의가 미래학적이고 이론적인 수준에 머물렀다.
반면, 《마침내 특이점이 온다》는 2005년 이후 획기적으로 발전한 AI, 유전체학, 나노기술 등의 구체적인 사례를 들어 특이점이 더 이상 먼 미래의 예측이 아님을 증명한다. 특히 AI 기술이 체스나 바둑과 같은 특정 분야를 넘어 언어, 창의성, 의학 등 다양한 영역으로 확장되는 현실을 상세히 다룬다. 즉, 이전 책이 '먼 미래의 예측'이었다면, 이 책은 '현재 진행 중인 현실과 가까운 미래'를 다루며 독자들에게 그 변화의 속도와 영향력을 직접적으로 체감하게 만든다.
서문 (INTRODUCTION)
2005년 발간된 '특이점이 온다(The Singularity Is Near)'에서는 수렴적이고 기하급수적인 기술 발전 경향이 인류에게 완전히 변혁적인 전환을 가져올 것이라는 이론이 제시되었다. '마침내 특이점이 온다(The Singularity Is Nearer)'는 2005년 이후 기술의 발전이 예측을 뛰어넘어 가속화되었음을 강조하며, 인공지능(AI)과의 융합을 통해 인류의 지능과 의식이 확장될 것이라는 주장을 펼친다.
이러한 기술적 특이점은 수학이나 물리학에서 사용되는 용어를 은유적으로 빌려온 것으로, 변화의 속도가 무한해지는 지점을 의미하는 것이 아니다. 현재의 지능으로는 급격한 변화를 완전히 이해하기 어렵다는 것을 표현하는 비유에 가깝다. 기술적 특이점은 기술 발전의 속도가 인간의 이해 범위를 넘어서는 지점을 상징한다. 그러나 인류는 이 전환이 일어나는 동안 인지 능력을 빠르게 향상시킬 것이므로 변화에 적응할 수 있을 것이다.
‘특이점이 온다’가 출간된 2005년에는 특이점이 40년 후인 2045년경에 도래할 것이라고 예측했다. 당시 많은 회의론자들은 저자의 예측이 지나치게 낙관적이거나 불가능하다고 여겼다. 그러나 그 이후 기술 발전은 이들의 예상을 뒤엎고 가속화되었다. 소셜 미디어와 스마트폰의 등장, 인공지능의 획기적인 발전, 유전체 염기 서열 분석 비용의 급락, 뇌-컴퓨터 인터페이스의 발전 등이 그 증거다. 특히, GPT-4와 같은 대규모 언어 모델은 인간의 자연어 명령을 컴퓨터 코드로 변환하며 인간과 기계 사이의 장벽을 허물었다.
이러한 모든 발전의 근간에는 '수확 가속의 법칙(law of accelerating returns)'이 있다. 이 법칙은 정보 기술의 발전이 각 단계의 발전을 더욱 쉽게 만들어주는 피드백 루프를 형성하여 기하급수적인 속도로 발전하는 현상을 설명한다. 그 결과, ‘특이점이 온다’ 출간 당시와 비교했을 때, 물가 상승을 고려하면 1달러로 구매할 수 있는 컴퓨팅 파워는 약 11,200배 증가했다.
2005년에는 특이점이 먼 미래의 일이었지만, 지금은 그 경향이 현실에 직접적인 영향을 미치고 있다. 2020년대 초, 인류는 기하급수적 곡선이 급격히 가팔라지는 부분에 진입했으며, 혁신의 속도는 사회에 전례 없는 영향을 미치고 있다. 2012년에 출간된 ‘마음의 탄생(How to Create a Mind)’ 이후 인간 수준의 AI가 등장할 가능성이 더욱 가까워졌으며, 오늘 태어난 아이들은 대학을 졸업할 무렵 특이점을 경험할 수 있다. 따라서 이 책은 특이점으로 향하는 마지막 여정에 대한 것이다.
앞으로 10년 동안 인공지능은 인간과 구별하기 어려울 정도로 발전하고, 간단한 뇌-컴퓨터 인터페이스는 스마트폰처럼 일상생활에 영향을 미칠 것이다. 바이오 기술의 디지털 혁명은 질병을 치료하고 건강 수명을 연장할 것이다. 이와 동시에 자동화로 인한 경제적 혼란과 기술 오용의 위험 또한 증가할 것이다. 2030년대에는 자체 개선형 AI와 나노기술이 인간과 기계를 전례 없이 융합시키며, 2045년까지 인류는 삶을 근본적으로 변화시킬 것이다. 이러한 변화에 성공적으로 대응하면 더 나은 미래를 맞이할 것이지만, 실패한다면 인류의 생존 자체가 위협받을 수 있다. 특이점으로 가는 마지막 길에 인류가 직면해야 할 기회와 위험에 대해 논할 것이다.
첫 부분은 특이점이 어떻게 일어날지, 그리고 그것이 인류의 지능을 재창조하는 오랜 노력과 어떤 관계가 있는지 탐구한다. 기술이 의식을 창조하는 것은 정체성과 삶의 목적에 대한 중요한 철학적 질문을 제기한다. 다음으로 수확 가속의 법칙이 인간의 행복과 관련된 광범위한 영역에서 어떻게 기하급수적인 발전을 이끌고 있는지 보여준다. 기술 혁신의 부정적인 면 중 하나인 자동화로 인한 실업 문제에 대해, 장기적으로 낙관적인 이유와 궁극적으로 인류가 AI와 경쟁 관계에 있지 않은 이유를 설명한다.
기술들이 문명에 막대한 물질적 풍요를 가져오면서, 인류의 초점은 생물학적 한계를 극복하는 것으로 옮겨갈 것이다. 앞으로 수십 년 동안 우리가 노화와의 싸움에서 승리하고, 제한된 뇌를 확장하여 특이점을 가져올 도구들을 살펴볼 것이다. 그러나 이러한 발전은 동시에 생명공학, 나노기술, 인공지능의 오용으로 인한 팬데믹이나 자기 복제 기계의 연쇄 반응과 같은 실존적 위험을 초래할 수 있다. 이러한 위협들을 평가하고, 이를 완화할 수 있는 유망한 접근법들을 제시해보고자 한다.
2. 지능의 재창조 (CHAPTER 2: REINVENTING INTELLIGENCE)
우주 진화의 이야기는 정보 처리의 패러다임이 끊임없이 진화하는 과정이다. 인류는 생물학적 뇌를 가진 동물에서 유전학의 한계에 묶이지 않는 초월적 존재로 전환하는 과정에 있다. 2020년대에 인류는 자연이 부여한 지능을 더 강력한 디지털 기판 위에서 재창조하고, 그 지능과 융합하는 변혁의 마지막 단계에 진입하고 있다. 이것이 우주의 네 번째 시대가 다섯 번째 시대를 낳는 방법이다.
지능의 재창조는 무엇을 의미하는가? (WHAT DOES IT MEAN TO REINVENT INTELLIGENCE?)
지능을 재창조한다는 것은 AI의 탄생과 두 가지 주요 사상 학파를 이해하는 것부터 시작한다. 한 학파가 다른 학파보다 우위를 점하게 된 배경은 소뇌(cerebellum)와 신피질(neocortex)이 어떻게 인간 지능을 형성했는지에 대한 신경과학의 통찰과 관련이 있다. 현재 딥러닝이 신피질의 능력을 재창조하고 있는 방식을 살펴봄으로써, AI가 인간 수준에 도달하기 위해 무엇을 더 달성해야 하는지 평가할 수 있다. 궁극적으로 초인적인 AI의 도움을 받아 뇌-컴퓨터 인터페이스를 통해 뇌를 확장하는 방법을 알아볼 것이다. 이는 인지 능력을 수백만 배 확장하는 특이점으로 이어질 것이다.
AI의 탄생 (THE BIRTH OF AI)
1950년, 앨런 튜링은 '기계가 생각할 수 있는가?'라는 질문을 던지며 튜링 테스트를 제안했다. 이 테스트는 기계의 계산 능력이 인간의 뇌와 동일한 인지 작업을 수행할 수 있는지 경험적으로 측정하는 방법이었다. 튜링은 기계가 인간과 구별할 수 없을 정도로 자연어를 구사하고 상식적 추론을 할 수 있는지를 평가하는 기준을 제시했다.
1956년, 수학 교수 존 매카시는 다트머스 회의에서 '인공지능(AI)'이라는 용어를 제안했다. 회의의 목표는 자연어로 설명된 문제를 이해하고 해결할 수 있는 기계를 만드는 것이었지만, 두 달이라는 시간 안에 달성하지 못했다. 그러나 1999년 '영적 기계 시대(The Age of Spiritual Machines)'에서 2029년까지 AI가 튜링 테스트를 통과할 것이라고 예측한 이후, AI는 ‘제퍼디!’와 ‘바둑’ 같은 게임을 정복하고 법률 시험에 합격하며 암 진단까지 해내는 등 놀라운 발전을 보였다. 최근의 대규모 언어 모델들은 이러한 발전을 더욱 가속화시키고 있다.
궁극적으로 AI가 튜링 테스트를 통과하려면 인간보다 훨씬 뛰어난 능력을 가질 것이므로, 인간처럼 보이기 위해 일부러 덜 똑똑한 척해야 할 것이다. 2029년 튜링 테스트 통과를 기점으로 AI는 경쟁자가 아닌 인간 자신의 확장이 될 것이다.
1964년, 레이 커즈와일은 인공지능의 선구자 마빈 민스키(Marvin Minsky)와 프랭크 로젠블랫(Frank Rosenblatt)을 만났다. 민스키는 AI를 만드는 데 두 가지 기법, 즉 기호주의적 접근(symbolic approach)과 연결주의적 접근(connectionist approach)이 있다고 가르쳤다.
기호주의적 접근(symbolic approach): 인간 전문가가 문제를 해결하는 방식을 규칙 기반으로 설명하는 방법이다. 1959년 RAND Corporation의 '일반 문제 해결기(General Problem Solver, GPS)'가 대표적인 예다. 이 시스템은 단순한 수학적 공리들을 결합하여 논리 문제를 해결할 수 있었다. 그러나 이 접근법은 '복잡성 한계(complexity ceiling)'라는 근본적인 한계에 부딪혔다. 규칙이 많아질수록 문제를 해결하는 것이 아니라 새로운 오류를 발생시키는 경우가 많아졌다.
연결주의적 접근(connectionist approach): 노드 네트워크가 내용이 아닌 구조를 통해 지능을 생성하는 방식이다. 이 접근법은 복잡한 문제에서 인간 프로그래머가 고안할 수 없는 미묘한 패턴을 발견할 잠재력을 가지고 있다. 그러나 이 방식의 AI는 '블랙박스(black box)'가 될 수 있어, 정답을 도출하더라도 그 이유를 설명하지 못하는 문제가 있다. 초기 연결주의 시스템은 단층 신경망의 한계 때문에 많은 문제를 해결하지 못했지만, 컴퓨터의 가격 대비 성능이 기하급수적으로 향상되면서 수많은 층으로 이루어진 딥러닝(deep learning)이 가능해졌다.
소뇌: 모듈형 구조 (THE CEREBELLUM: A MODULAR STRUCTURE)
우주 진화의 역사를 돌아보면, 지능이 없는 상태에서 물질의 조직화는 매우 느리게 진행되었다. 생명 탄생에는 수십억 년이 걸렸고, 다세포 생명체가 등장하기까지 다시 수십억 년이 소요되었다. 뇌의 진화는 이보다 훨씬 빠른 속도로 이루어져 수백만 년 만에 새로운 단계에 도달했다.
뇌에서 가장 주목할 만한 변화는 소뇌(cerebellum)의 진화였다. 소뇌는 신피질보다 더 많은 뉴런을 가지고 있으며, 서명하기와 같은 운동 작업을 제어하는 많은 '스크립트'를 저장하고 활성화할 수 있다. 소뇌는 복잡한 미분 방정식을 푸는 대신, 감각 입력을 근육 운동에 매핑하는 단순한 행동을 통해 문제를 해결한다. 이러한 소뇌의 기능은 '근육 기억(muscle memory)'으로 알려져 있으며, 의식적인 노력 없이도 빠르고 부드러운 움직임을 가능하게 한다.
소뇌의 능력은 극도로 복잡한 구조의 결과가 아니다. 소뇌는 작은 모듈들로 구성되어 있으며, 각 모듈은 특정 기능을 담당한다. 이는 소뇌가 수억 년 동안 핵심적인 뇌 영역이었지만, 더 유연한 신피질에 비해 현대 사회에서 생존에 덜 의존하게 된 이유 중 하나다. 비포유류 동물들은 신피질의 이점이 없어, 유전적으로 결정된 행동 패턴에 의존한다. 이러한 행동은 학습을 통해 변화하는 것이 아닌, 수많은 세대를 거쳐 서서히 적응한다.
신피질: 자기 수정적, 계층적, 유연한 구조 (THE NEOCORTEX: A SELF-MODIFYING, HIERARCHICAL, FLEXIBLE STRUCTURE)
소뇌보다 더 빠르게 진화하기 위해, 뇌는 신피질(neocortex)이라는 새로운 방법을 고안했다. 약 2억 년 전 포유류에서 처음 등장한 신피질은 소뇌보다 훨씬 유연한 방식으로 조직되었다. 서로 다른 행동을 제어하는 분리된 모듈들의 집합이 아니라, 유기적으로 연결된 하나의 단위처럼 작동했다. 이 덕분에 포유류는 며칠, 심지어 몇 시간 만에 새로운 행동을 학습할 수 있게 되었다.
신피질은 인간의 경우, 펼치면 큰 식탁보 크기가 될 만큼 표면적이 넓으며, 인간 뇌 무게의 약 80%를 차지한다. 신피질은 패턴을 학습하고, 인식하고, 기억하는 약 100개의 뉴런으로 이루어진 반복적인 구조, 즉 피질 소단위(cortical minicolumns)로 구성되어 있다. 이러한 모듈들은 계층적으로 조직되며, 상위 계층으로 갈수록 더욱 복잡하고 정교한 개념을 처리한다.
신피질의 주요 기능 중 하나는 다른 영역 간의 유추를 이끌어내는 능력이다. 이는 찰스 다윈의 진화론처럼 역사를 통틀어 수많은 지적 도약의 원동력이 되었다.
딥러닝: 신피질의 능력을 재창조하다 (DEEP LEARNING: RE-CREATING THE POWERS OF THE NEOCORTEX)
신피질의 유연성과 추상화 능력을 디지털로 복제하려면 어떻게 해야 하는가? 규칙 기반의 기호주의적 시스템은 인간 인지의 유동성을 포착하기에 너무 경직되어 있다. 오랫동안 비현실적이었던 연결주의적 접근은 컴퓨팅 비용이 급격히 하락하면서 잠재력을 발휘하게 되었다. 이것이 딥러닝이다.
딥러닝의 잠재력을 보여준 첫 번째 사례는 AI가 바둑을 정복한 것이다. 바둑은 경우의 수가 방대하여 기존의 AI로는 접근하기 어려웠지만, 2015-16년에 딥마인드(DeepMind)의 알파고(AlphaGo)가 인간의 기보를 학습하고 스스로 대국하며 실력을 향상시켰다. 더 나아가 알파고 제로(AlphaGo Zero)는 인간의 기보 없이 규칙만으로 스스로 학습하여 모든 인간을 능가하는 바둑 기량이 발전했다.
이러한 딥러닝은 다양한 게임을 정복하는 데 그치지 않고, 현실 세계의 복잡한 상황에도 적용되고 있다. 예를 들어, 자율주행차 개발에는 현실 세계의 다양한 상황을 재현하는 시뮬레이터가 활용되어 AI가 운전 기술을 학습한다. 이 기술은 의료 분야에서도 단백질 접힘(protein folding) 문제를 해결하는 데 큰 역할을 하고 있다.
AI가 인간의 언어를 능숙하게 다루게 되면, 지능은 더 넓은 영역에 유연하게 적용될 수 있다. 대규모 언어 모델(LLMs)은 인간의 언어 규칙을 학습하는 대신, 수많은 문장에서 단어가 사용되는 맥락을 통해 의미를 파악한다. 이러한 접근법은 AI가 창의성을 발휘하고, 농담의 의미를 파악하거나 복잡한 문제를 단계별 추론으로 해결하는 능력을 갖추게 했다.
2022년 11월, 오픈AI(OpenAI)의 챗GPT(ChatGPT)가 대중에게 공개되면서 대규모 언어 모델의 기능이 널리 알려졌다. GPT-4는 SAT, LSAT와 같은 학술 시험에서 우수한 성적을 거두고, 가상의 상황을 정확하게 추론하는 '세계 모델링(world modeling)' 능력을 보여주었다.
이러한 기술의 발전은 '수확 가속의 법칙'에 힘입은 바 크다. AI 연구에 사용되는 컴퓨팅 파워는 매년 약 4배씩 증가하고 있으며, AI 알고리즘의 발전 또한 하드웨어 발전 속도와 맞먹는다.
AI가 아직 달성해야 할 것들 (WHAT DOES AI STILL NEED TO ACHIEVE?)
현재 AI의 주요 부족한 점은 맥락적 기억, 상식, 사회적 상호작용 능력이다.
맥락적 기억(contextual memory): 대화나 글에서 아이디어들이 어떻게 유기적으로 연결되는지 추적하는 능력이다. AI 모델이 다룰 수 있는 맥락의 크기가 커질수록 아이디어 간의 관계가 기하급수적으로 늘어나기 때문에, 이는 엄청난 계산량을 필요로 한다.
상식(common sense): 현실 세계의 상황을 상상하고 결과를 예측하는 능력이다. AI는 아직 현실 세계가 어떻게 작동하는지에 대한 견고한 모델이 없어 이 부분에서 어려움을 겪고 있다.
사회적 상호작용(social interaction): 인간의 목소리 톤이나 사회적 뉘앙스를 이해하는 능력이다. 그러나 AI는 '이론적 마음(theory of mind)'과 같은 능력을 빠르게 습득하고 있다.
이러한 부족한 점들은 컴퓨팅 성능의 지속적인 향상, 풍부하고 다양한 학습 데이터의 가용성, 그리고 더 효율적인 알고리즘의 발전 덕분에 곧 극복될 것이다.
튜링 테스트 통과 (PASSING THE TURING TEST)
AI가 인간 수준의 지능에 도달했는지 판단하는 기준으로서 튜링 테스트는 여전히 중요하다. 튜링 테스트는 AI의 인지 능력을 평가하는 엄격한 과학적 질문을 던지는 기준이 될 수 있다.
AI는 이미 바둑이나 ‘제퍼디!’ 같은 특정 영역에서 인간을 뛰어넘었지만, 그 능력이 인간의 사고방식과 동일한지는 알 수 없다. 그러나 튜링 테스트를 통과한 AI는 언어와 관련된 모든 인지 테스트에서 인간을 능가할 것이다. AI가 인간의 지식과 언어 이해 능력을 습득하면, 지식은 폭발적으로 확장될 것이다.
이러한 발전은 우리에게 제5시대, 즉 뇌-컴퓨터 인터페이스를 통해 비생물학적 디지털 기술의 속도와 힘을 직접적으로 병합하는 시대를 열어줄 것이다. 클라우드에 연결된 신피질은 인지 추상화 능력을 비약적으로 향상시켜, 현재로서는 상상할 수 없는 새로운 사고방식을 가능하게 할 것이다.
3. 나는 누구인가? (CHAPTER 3: WHO AM I?)
의식은 무엇인가? (WHAT IS CONSCIOUSNESS?)
특이점 기술은 우리가 특정 인간, 즉 '나'라는 존재가 무엇을 의미하는지에 대해 다시 묻게 한다. 이 질문은 근본적으로 의식에 대한 것이다. 사람들은 종종 '의식'을 두 가지 관련 개념으로 사용한다. 하나는 주변 환경을 인지하고 내적 생각과 외부 세계를 구분하는 기능적 능력이고, 다른 하나는 마음속에서 주관적인 경험을 하는 능력이다. 후자의 경우, 철학자들은 이러한 경험을 '퀄리아(qualia)'라고 부른다. 주관적 의식은 외부에서 직접 감지할 수 없다.
우리의 윤리적 판단은 종종 의식에 대한 평가에 달려 있다. 우리는 물질적 대상의 가치를 의식 있는 존재에게 미치는 영향의 범위 내에서만 중요하게 여긴다. 동물 권리 논쟁 또한 동물이 얼마나 의식적이며 그 주관적 경험이 어떤지에 대한 믿음에 기반한다. 과학은 복잡한 뇌가 기능적 의식을 만들어낸다고 보지만, 주관적 의식이 어떻게 발생하는지에 대해서는 아직 답을 내놓지 못했다. 그러나 뇌가 더 정교한 행동을 지원할수록 더 정교한 주관적 의식을 낳는다는 과학적으로 가장 타당한 설명에 따라, 뇌-컴퓨터 인터페이스를 통해 뇌를 확장하면 주관적 의식 자체도 깊어질 것으로 예상된다.
좀비, 퀄리아, 그리고 의식의 어려운 문제 (ZOMBIES, QUALIA, AND THE HARD PROBLEM OF CONSCIOUSNESS)
주관적 의식은 다른 사람과 공유할 수 없는 근본적인 특성이 있다. 예를 들어, 우리가 보는 '초록색'이 나에게는 당신이 경험하는 '빨간색'일 수도 있지만, 이를 직접 비교할 방법은 없다. 여기서 철학자 데이비드 찰머스(David Chalmers)는 '좀비'라는 개념을 제시했다. 좀비는 겉으로 보기에 의식의 모든 신경학적, 행동적 특징을 보이지만, 실제로는 주관적 경험이 없는 가상의 존재다. 과학적으로는 좀비와 일반 인간을 구분할 방법이 없다.
찰머스는 이를 '의식의 어려운 문제(hard problem of consciousness)'라고 부르며, 주관적 의식의 영역은 관찰 가능한 물리 법칙의 영역과 질적으로 다르다고 주장한다. 이 문제에 대한 해결책으로 찰머스는 '범원시정신주의(panprotopsychism)'라는 철학적 아이디어를 제시했다. 이는 의식을 우주의 근본적인 힘으로 취급하는 개념이다. 이 관점에 따르면, 뇌가 탄소로 만들어졌든 실리콘으로 만들어졌든, 의식의 외적 징후를 보일 수 있는 복잡성을 갖춘다면 주관적 내면의 삶도 함께 부여받게 된다.
만약 이 가설이 사실이라면, AI가 튜링 테스트를 통과하는 것은 기능적 능력의 증명을 넘어 주관적 의식과 도덕적 권리를 가질 수 있다는 강력한 증거가 될 것이다.
결정론, 창발성, 그리고 자유의지 딜레마 (DETERMINISM, EMERGENCE, AND THE FREE WILL DILEMMA)
의식과 밀접한 관련이 있는 개념은 자유의지다. 많은 철학자들은 자유의지가 미래가 미리 결정되지 않아야 존재할 수 있다고 믿는다. 그러나 스티븐 울프람(Stephen Wolfram)의 '새로운 과학(A New Kind of Science)'은 이 문제를 통찰력 있게 조명한다. 그는 '셀룰러 오토마타(cellular automata)'라는 수학적 모델을 통해 결정론적 규칙이 어떻게 예측 불가능한 복잡한 행동, 즉 '창발성(emergence)'을 만들어내는지를 보여준다.
울프람의 이론에 따르면, 우리 우주의 물리 법칙 자체는 셀룰러 오토마타와 유사한 계산 규칙에서 비롯되었을 수 있다. 이는 고전적 결정론과 양자역학의 불확정성 사이의 타협점을 제시한다. 이러한 복잡한 규칙에 기반한 시스템은 미래 상태를 예측하는 데 지름길이 없으며, 현실이 단계별로 전개되어야만 알 수 있다. 우리 뇌 역시 이와 같은 창발적 복잡성을 가지고 있어 자유의지가 가능하다고 볼 수 있다.
한 인간에게 둘 이상의 뇌가 존재할 때의 자유의지 딜레마 (THE FREE WILL DILEMMA OF MORE THAN ONE BRAIN PER HUMAN)
인간 뇌는 두 개의 반구(좌뇌와 우뇌)로 나뉘어 있으며, 각각 독립적인 의사결정 능력을 가질 수 있다는 신경과학적 증거가 있다. 한쪽 뇌가 제거된 아이들이 정상적으로 기능하고, 뇌량(corpus callosum)이 절단된 환자들의 경우 두 반구가 서로 소통하지 못하지만 각자 독립적으로 결정을 내리는 현상이 이를 뒷받침한다.
이러한 발견은 흥미로운 질문으로 이어진다. 만약 의식과 정체성이 물리적으로 연결되지 않은 여러 정보 처리 구조에 걸쳐 존재할 수 있다면, 우리가 복제 기술을 통해 우리의 뇌 정보를 완전히 복제했을 때, 이 '나의 복제본'은 과연 '나'인가?
'테세우스의 배' 사고 실험처럼, 점진적으로 뇌의 각 부분을 디지털 복제본으로 대체한다면, 그 과정이 끝난 후의 존재는 여전히 '나'일까? 모든 세포가 수개월마다 교체되는 우리 몸의 현실을 생각할 때, 개인의 정체성은 특정 구조나 재료가 아닌, 정보와 기능의 연속성에 달려 있다고 볼 수 있다.
놀라운 존재의 부재 (THE INCREDIBLE UNLIKELINESS OF BEING)
자신의 정체성을 이해하는 과정에서, 각자가 존재하게 된 놀라운 일련의 사건들을 되짚어보는 것은 경외감을 불러일으킨다. 나의 존재는 부모, 조부모 등 수많은 선조의 만남과 정확한 유전적 조합의 결과이며, 그 확률은 상상할 수 없을 정도로 낮다.
더 나아가 생명 친화적인 우주가 존재할 가능성 자체도 매우 희박하다. 물리학의 기본 법칙 중 단 하나라도 조금만 달랐다면, 복잡한 생명체가 진화할 수 없었을 것이다. 이러한 '미세 조정(fine-tuning)'의 확률은 우주의 모든 원자 수보다 훨씬 적다. 이에 대해 '인류 원리(anthropic principle)'는 우리가 이 질문을 던질 수 있다는 것 자체가 생명 친화적인 우주에 살고 있다는 증거라고 설명한다.
사후세계 (AFTER LIFE)
정체성을 보존하기 위한 첫 단계는 우리의 생각과 감정에 대한 풍부한 기록을 보존하는 것이다. 2020년대 말에는 첨단 AI를 통해 사후(After Life) 시뮬레이션, 즉 고인의 성격, 기억, 행동을 매우 사실적으로 재현하는 '복제인간(replicant)'을 만들 수 있게 될 것이다. 이러한 복제인간은 사랑하는 사람들을 위한 위안이 될 수 있지만, 법적·윤리적 문제를 제기할 것이다.
2040년대 초에는 나노봇을 이용해 살아있는 사람의 뇌 정보를 복제하는 '마인드 업로딩(mind uploading)'이 가능해질 것이다. 이는 곧 죽음과 질병으로부터 자유로워지는 '영속성 탈출 속도(longevity escape velocity)'를 가능하게 할 것이며, 우리의 정체성은 생물학적 육체의 한계를 벗어나 디지털 매체에 지속될 수 있다.
결국, 우리가 누구인지에 대한 문제는 의식, 자유의지, 결정론과 밀접하게 연결되어 있다. 우리는 기술적 진보를 통해 생물학적 한계를 극복하고, 스스로를 재구성할 수 있는 힘을 얻게 될 것이다.
4. 삶은 기하급수적으로 더 나아지고 있다 (CHAPTER 4: LIFE IS GETTING EXPONENTIALLY BETTER)
대중의 인식은 정반대다 (THE PUBLIC CONSENSUS IS THE OPPOSITE)
전 세계적으로 극심한 빈곤 감소, 문맹률 상승, 위생 시설 보급률 증가와 같은 긍정적인 변화는 매일 조금씩 꾸준히 일어나고 있다. 이러한 진전은 일상적인 뉴스가 될 만큼 눈에 띄지 않기 때문에, 사람들은 이러한 추세를 인식하지 못한다.
사람들의 인식은 종종 '나쁜 소식 편향(negativity bias)'으로 인해 왜곡된다. 이는 진화적 적응의 결과로, 생존에 위협이 될 수 있는 부정적인 사건에 더 민감하게 반응하는 경향을 말한다. 이 때문에 뉴스 매체는 갈등이나 위협적인 사건을 우선적으로 보도하고, 이는 소셜 미디어 알고리즘에 의해 더욱 증폭된다.
또한, '사라지는 부정적 영향 편향(fading negative affect bias)'으로 인해 우리는 과거의 고통스럽거나 불쾌했던 기억보다 긍정적인 기억을 더 오래 간직하는 경향이 있다. 이로 인해 과거를 실제보다 더 좋게 생각하고 현재의 문제에 더 집중하게 되어, 세상이 점점 나빠지고 있다는 잘못된 인식을 갖게 된다. 대니얼 카너먼(Daniel Kahneman)의 연구에 따르면, '가용성 휴리스틱(availability heuristic)'과 같은 인지적 편향은 쉽게 떠올릴 수 있는 부정적 사건들을 과대평가하게 만들고, 통계적 사실을 무시하게 한다.
기술 발전이 삶의 거의 모든 측면을 개선하고 있다 (THE REALITY IS THAT NEARLY EVERY ASPECT OF LIFE IS GETTING PROGRESSIVELY BETTER AS A RESULT OF EXPONENTIALLY IMPROVING TECHNOLOGY)
정보 기술의 발전은 그 자체로 혁신을 가속화할 뿐만 아니라, 교육, 보건, 위생, 부, 민주화, 폭력 감소 등 삶의 다양한 영역에서 긍정적인 변화를 이끌어내는 선순환을 창출한다. 기술적 혁신은 더 많은 사람들이 잠재력을 발휘하도록 돕고, 이는 다시 더 많은 혁신으로 이어진다.
문맹률과 교육: 인쇄술의 발명으로 책이 저렴해지면서 문맹률은 점차 감소했다. 1800년에는 전 세계 인구의 10%만이 글을 읽을 수 있었지만, 오늘날에는 거의 87%가 문맹을 벗어났다. 컴퓨터는 이러한 교육의 접근성을 더욱 넓혔다.
위생 시설, 전기, 미디어 보급: 과거 질병과 사망의 주요 원인이었던 비위생적인 환경은 수세식 변기와 같은 기술로 개선되었다. 전기 보급률은 20세기 초 미국 도시에서 시작해 오늘날 전 세계 인구의 90% 이상이 전기를 사용하게 되었다. 라디오, 텔레비전에 이어 컴퓨터는 정보 접근성과 소통을 혁명적으로 변화시켰다.
기대 수명: 19세기 중반 영국과 미국의 기대 수명은 40대였지만, 오늘날 선진국에서는 80세가 넘는다. 이는 주로 전염병 예방과 치료 기술 발전 덕분이었다. 최근에는 노화와 퇴행성 질환을 해결하기 위해 인공지능과 생명공학이 결합된 기술이 발전하고 있다. 유전체 염기 서열 분석 비용은 기하급수적으로 하락하고 있다.
빈곤 감소와 소득 증가: 1820년에는 전 세계 인구의 84%가 극심한 빈곤 속에 살았지만, 2019년에는 8.4%로 감소했다. 미국 내에서도 평균 소득은 꾸준히 증가했으며, 일하는 시간은 줄어들었다. 또한, 정보 기술의 발전으로 인해 무료 정보 서비스가 증가하고, 제품의 다양성이 확대되면서 삶의 질은 수치로 측정되는 것 이상으로 풍요로워졌다.
폭력 감소: 서유럽의 살인율은 14세기 이후 꾸준히 감소해왔다. 이는 기술 발전이 교육과 경제적 번영을 촉진하고, 법치주의와 공감의 범위를 확장한 결과다. 기술의 발전은 자원의 희소성을 줄여 갈등의 원인을 완화한다.
재생 에너지의 성장: 화석 연료는 환경 문제를 일으키지만, 태양광과 풍력 같은 재생 에너지 비용은 기하급수적으로 하락하고 있다. AI의 도움으로 소재 과학이 발전하면서 태양 전지 효율이 높아지고 있다. 태양광 발전은 2041년경에는 전 세계 에너지 수요를 충당할 수 있을 것으로 예상될 만큼 빠르게 성장하고 있다.
청정 식수 보급: 1990년에는 전 세계 인구의 24%가 안전한 식수를 이용하지 못했지만, 현재는 10%대로 감소했다. 이는 분산형 정수 기술의 발전 덕분이다.
수직 농업: 수직 농업은 토양이나 살충제 없이 실내에서 작물을 재배하는 기술로, 기존 농업보다 훨씬 적은 물과 땅을 사용한다. 인공지능과 로봇 기술이 결합되면 식량 생산 비용이 크게 절감될 것이다.
3D 프린팅: 3D 프린팅은 제품을 층별로 쌓아 올리는 제조 기술이다. 이 기술은 저렴하고 빠른 시제품 제작을 가능하게 하며, 맞춤형 제품 생산과 분산형 제조를 촉진한다. 나아가 인체 조직이나 장기, 심지어 건물까지 프린팅할 수 있는 단계로 발전하고 있다.
기하급수적 곡선의 가파른 부분에 진입하다 (WE ARE NOW ENTERING THE STEEP PART OF THE EXPONENTIAL)
컴퓨팅의 가격 대비 성능은 1939년 이래로 꾸준히 기하급수적으로 향상되어왔다. 이는 무어의 법칙뿐만 아니라, 정보 기술이 스스로를 개선하는 '수확 가속의 법칙' 때문이다. 이로 인해 스마트폰과 같은 기술은 과거에는 상상할 수 없었던 컴퓨팅 파워를 제공하지만, 그 가치는 전통적인 GDP 통계에 제대로 반영되지 않는다.
이러한 기술적 풍요는 식량, 주택, 건강 등 물리적 자원에도 적용될 것이다. AI와 나노기술의 발전은 이러한 재화와 서비스를 정보 기술처럼 저렴하게 만들어, 궁극적으로 인류가 물질적 결핍에서 벗어나게 할 것이다.
'장수 탈출 속도(longevity escape velocity)'는 매년 기대 수명이 1년 이상 증가하는 시점을 의미한다. 생명공학과 AI의 결합을 통해 2020년대 후반에는 이 단계에 도달하고, 2030년대에는 의료 나노봇을 통해 노화를 극복할 수 있을 것이다. 이러한 발전은 삶의 질을 근본적으로 향상시킬 것이다.
정보 기술의 기하급수적인 발전은 인류의 삶을 근본적으로 더 좋게 만들고 있으며, 우리는 이 변화의 가파른 부분에 진입하고 있다. AI가 농업, 의학, 제조업 등 다양한 분야를 혁신하면서, 인류는 더 풍요롭고 안전하며 오래 사는 미래를 향해 나아가고 있다.
5. 일자리의 미래: 좋을까, 나쁠까? (CHAPTER 5: THE FUTURE OF JOBS: GOOD OR BAD?)
현재의 혁명 (THE CURRENT REVOLUTION)
지난 20년간 기술 발전은 전 세계 경제에 엄청난 혼란을 야기하고 있다. 2005년, DARPA는 자율주행 자동차 경주에서 우승한 스탠퍼드 팀에 2백만 달러를 수여했다. 당시 전문가들조차 수십 년은 걸릴 것이라 예측했던 자율주행차는, 2009년 구글의 프로젝트를 시작으로 빠르게 발전하여 2020년에는 웨이모(Waymo)가 피닉스 지역에서 일반인 대상의 로보택시 서비스를 출시했다.
웨이모는 현실 주행 데이터와 시뮬레이션 데이터를 결합하여 AI 운전자를 훈련시켰다. 시뮬레이션은 현실에서는 불가능하거나 위험한 수십억 마일의 주행 경험을 제공하여 AI 알고리즘을 개선하는 데 결정적인 역할을 했다. 이러한 자율주행 기술은 트럭, 버스, 택시 운전자를 포함한 수백만 명의 일자리를 위협하고 있다. 운전직은 미국 전체 고용의 2.7% 이상을 차지하고 있으며, 일부 주에서는 4%가 넘는다.
운전직 외에도 옥스퍼드 대학의 연구에 따르면, 2030년대 초반까지 전체 직업의 절반 이상이 자동화될 가능성이 크다고 예측되었다. 공장 노동자, 고객 서비스 직원, 은행원 등이 여기에 포함된다. 이러한 변화는 19세기 초 영국에서 기계를 파괴했던 러다이트 운동과 유사한 불안감을 불러일으킨다.
파괴와 창조 (DESTRUCTION AND CREATION)
과거 20세기 초, 농업과 제조업 일자리가 대규모로 사라졌지만, 전체 일자리는 오히려 극적으로 증가했다. 1900년 미국의 노동력은 약 2,900만 명이었으나, 2023년에는 1억 6,600만 명으로 늘어났다. 이는 기술 발전이 새로운 산업과 직업을 창출했기 때문이다.
농업 분야에서는 19세기 초 미국 전체 노동력의 80% 이상이 종사했지만, 2023년 현재는 1.4% 미만으로 급감했다. 기계화된 농업과 유전자 변형 기술이 식량 생산성을 혁명적으로 높였기 때문이다. 제조업 역시 20세기 중반 노동력의 25%를 차지했지만, 컨테이너 운송과 로봇 기술 발전으로 인해 2023년에는 약 8% 수준으로 줄어들었다.
기술 변화는 일자리를 파괴하지만, 그만큼 새로운 기회를 창출해왔다. 15년 전만 해도 존재하지 않았던 앱 개발자, 유튜버, 인스타그램 인플루언서와 같은 직업이 생겨났다.
이번에는 다르다? (IS THIS TIME DIFFERENT?)
일부 경제학자들은 이번 AI 기반 자동화는 과거와 다를 것이라고 주장한다. 과거의 기술은 인간의 업무를 '숙련도를 낮추거나(deskilling)' '숙련도를 높이는(upskilling)' 방식으로 변화시켰지만, AI는 인간의 역할을 완전히 대체하는 '비숙련화(nonskilling)'를 초래할 수 있기 때문이다. 예를 들어, 자율주행차 AI는 인간 운전자를 완전히 대체한다.
AI는 인간보다 더 저렴하고, 빠르고, 안전하게 일을 처리한다. 따라서 기업들은 AI와 로봇을 도입할 경제적 유인을 갖게 된다. 이러한 변화는 대규모 실업을 초래할 수 있다는 우려를 낳는다.
이러한 우려에도 불구하고, GDP 통계는 AI가 창출하는 가치를 제대로 포착하지 못한다. 예를 들어, 수십 년 전 수백만 달러를 호가하던 컴퓨터의 성능을 현재 수백 달러의 스마트폰이 훨씬 능가한다. 그러나 GDP는 가격 기준으로만 가치를 측정하기 때문에, 기술 발전으로 인한 진정한 풍요는 통계에 제대로 반영되지 않는다. 무료로 제공되는 검색 엔진, 소셜 미디어, 온라인 백과사전의 가치도 마찬가지다.
이러한 현상은 향후 AI가 식품, 주택, 건강 등 물리적 제품과 서비스의 생산을 담당하게 되면 더욱 심화될 것이다. AI의 도움으로 비용이 급격히 낮아지면, 사람들은 적은 노동으로도 풍요로운 삶을 누릴 수 있게 될 것이다.
우리는 어디로 향하는가? (SO WHERE ARE WE HEADED?)
일자리는 생계 수단을 넘어 삶의 목적과 의미를 제공한다. AI 기술은 창의적 표현, 과학 연구, 사회적 난제 해결 등 인간이 진정한 의미를 찾을 수 있는 분야에서 역량을 증폭시킬 것이다.
하지만 이러한 전환 과정에서 발생하는 사회적 혼란에 대한 우려도 크다. 자율주행 기술의 도입은 운전자의 실직을 초래하는 반면, 사회 전체에는 안전 향상과 비용 절감이라는 막대한 이득을 가져다준다. 그러나 실직한 운전자 개인에게는 큰 고통이 된다. 다니엘 카너먼은 이러한 기술적 변화의 과도기에 사회적 갈등이 심화될 수 있다고 경고했다.
미국 사회는 1930년대 사회보장제도를 시작으로 점진적으로 사회 안전망을 확대해왔다. AI와 자동화로 인해 물질적 풍요가 증가하면, 오늘날의 사회 안전망만으로도 풍족한 생활이 가능해질 것이다. 이는 일자리를 잃은 사람들이 새로운 의미를 찾고 기술 변화에 적응할 시간을 벌어줄 것이다.
AI가 인간의 지능을 확장하는 도구가 될 때, 인간은 AI와 경쟁하는 존재가 아니라 AI와 결합하여 새로운 능력을 얻게 될 것이다. 우리는 이미 스마트폰을 뇌 확장 도구로 활용하고 있다. 2030년대에는 뇌-컴퓨터 인터페이스를 통해 AI와 직접적으로 융합하며, 새로운 차원의 의미 있는 표현과 창조적 활동에 참여할 수 있을 것이다.
기술 발전이 일자리를 위협하는 것은 분명하지만, 이와 동시에 사회 전체의 풍요와 기회를 확장하는 긍정적인 힘도 가지고 있다. 우리는 이 변화에 현명하게 대응하여 모두가 풍요롭고 의미 있는 삶을 살 수 있도록 해야 한다.
6. 건강과 웰빙의 다음 30년 (CHAPTER 6: THE NEXT THIRTY YEARS IN HEALTH AND WELL-BEING)
2020년대: 인공지능과 생명공학의 결합 (THE 2020S: COMBINING AI WITH BIOTECHNOLOGY)
자동차 수리가 정밀 과학이라면, 인체는 아직 그렇지 않다. 의학을 정밀 과학으로 만들기 위해서는 '정보 기술'로 전환해야 한다. 이러한 패러다임 전환은 생명공학, 인공지능(AI), 디지털 시뮬레이션의 결합으로 이루어진다. 이로써 의학은 선형적 발전을 넘어 기하급수적인 속도로 발전할 수 있다.
AI는 이미 신약 개발, 질병 감시, 로봇 수술 등 다양한 분야에 활용되고 있다. 2023년에는 AI가 처음으로 신약의 표적을 식별하고 분자를 설계하여 임상 2상에 진입하는 사례가 발생했다. 특히 코로나19 팬데믹 당시, AI는 백신 개발 기간을 획기적으로 단축하여 수많은 생명을 구했다. 또한, AI는 단백질 접힘(protein folding) 문제를 해결하여 생물학자들이 수억 개의 단백질 구조를 이해할 수 있는 길을 열었다. 이는 새로운 의약품 개발을 가속화할 것이다.
AI는 인간 의사를 뛰어넘는 진단 능력을 보여주고 있다. 스탠퍼드 대학의 연구팀은 AI를 활용해 흉부 엑스레이 이미지로 14가지 질병을 진단했으며, 인간 의사보다 더 나은 결과를 냈다. AI 시스템은 의학 영상에서 인간이 감지할 수 없는 미묘한 패턴을 식별해 잠재적 질병을 조기에 발견할 수 있다.
수술 분야에서도 AI와 로봇 기술의 발전이 두드러진다. 로봇 외과의사(robotic surgeons)는 수백만 건의 수술 경험을 학습하여 인간보다 더 안전하고 효과적인 수술을 할 수 있다.
2030년대와 2040년대: 나노기술의 발전과 완성 (THE 2030s AND 2040s: DEVELOPING AND PERFECTING NANOTECHNOLOGY)
생물학적 뇌는 구조적 한계로 인해 컴퓨팅 성능에 제약이 있다. 반면, 나노기술로 만들어진 디지털 기판은 생물학적 시스템보다 수십억 배 빠르고 효율적이다. 이러한 나노기술은 신체를 재설계하고 재건하는 것을 가능하게 할 것이다.
나노기술의 선구자 중 하나인 리처드 파인만(Richard Feynman)은 원자 하나하나를 조작해 원하는 물질을 합성하는 '분자 제조(molecular manufacturing)'의 가능성을 제시했다. 존 폰 노이만(John von Neumann)의 '자기 복제 기계(self-replicating machine)' 개념을 바탕으로, 에릭 드렉슬러(K. Eric Drexler)는 나노 규모의 로봇, 즉 '어셈블러(assembler)'가 원자를 조립하여 거의 모든 물리적 제품을 만들 수 있다고 주장했다. 이 기술이 성숙하면, 물질의 가치는 원재료 비용 수준으로 낮아지고, 제품의 가치는 그 안에 담긴 '정보'에 의해 결정될 것이다.
나노기술은 건강과 장수 분야에도 혁명적인 변화를 가져올 것이다.
노화 극복: 노화는 신체 시스템의 정상적인 작동으로 인해 발생하는 손상이 축적되는 현상이다. 의료 나노봇은 세포 수준에서 손상을 수리하고, 장기의 기능을 보강하며, 노화의 원인인 DNA 전사 오류를 예방하고 되돌릴 수 있다. 이로써 인간의 수명은 120세의 한계를 넘어설 수 있다.
질병 치료: 나노봇은 암세포를 개별적으로 식별하고 파괴할 수 있으며, 동맥경화와 같은 질병을 유발하는 원인 세포를 제거할 수 있다. 이를 통해 암과 같은 질병을 근본적으로 예방하고 치료할 수 있다.
신체 능력 확장: 나노봇은 호르몬 농도를 최적화하여 수면 효율을 높이거나, 인공 적혈구(respirocytes)를 통해 산소 운반 능력을 향상시킬 수 있다. 나노기술로 만들어진 인공 장기는 심장마비와 같은 질병을 완전히 막을 수 있다.
두뇌 확장: 나노봇은 뇌를 클라우드에 연결하여 지능을 확장한다. 우리의 인지 능력은 수백만 배 빨라지고, 현재로서는 상상할 수 없는 추상적 사고 능력을 갖게 될 것이다.
마인드 업로딩: 2040년대에는 우리의 기억과 개성을 담은 '마음 파일(mind file)'을 디지털 매체에 백업할 수 있게 될 것이다. 이는 곧 정체성이 생물학적 뇌의 한계로부터 자유로워지는 것을 의미하며, 불멸(immortality)에 가까운 삶을 가능하게 한다.
이러한 기술적 발전은 인간의 몸과 마음을 근본적으로 재구성하여 우리의 운명을 스스로 통제할 수 있게 할 것이다.
7. 위험 (CHAPTER 7: PERIL)
약속과 위험 (PROMISE AND PERIL)
기술적 진보는 인류에게 번영을 가져다주지만, 동시에 문명을 위협하는 새로운 위험을 초래한다. 새로운 핵무기, 합성 생물학의 발전, 나노기술은 인류의 생존에 심각한 위협이 될 수 있다. 하지만 이러한 위험은 인간의 독창성을 자극하며, 기술 자체가 이를 방어할 새로운 도구를 만들어내는 원동력이 된다.
핵무기 (NUCLEAR WEAPONS)
핵무기는 인류 문명을 파괴할 수 있는 최초의 기술이었다. 현재 전 세계에는 약 12,700개의 핵탄두가 존재하며, 이 중 약 9,440개가 실전 배치된 상태다. 핵전쟁은 수억 명의 직접적인 사망자를 발생시키고, 낙진과 화재로 인한 '핵겨울(nuclear winter)'은 수십억 명의 목숨을 앗아갈 수 있다.
'상호 확증 파괴(Mutually Assured Destruction, MAD)' 전략은 지난 70여 년간 핵전쟁을 억제해왔다. 그러나 최근 러시아, 중국, 미국은 방어 시스템을 회피할 수 있는 새로운 무기(극초음속 미사일, 핵추진 순항 미사일 등)를 개발하며 힘의 균형을 깨뜨리고 있다. 이러한 불안정성은 오판으로 인한 핵전쟁의 위험을 높이지만, AI는 지휘 통제 시스템을 개선하여 오작동으로 인한 사고 위험을 줄일 수 있다.
생명공학 (BIOTECHNOLOGY)
생명공학의 발전은 문명 전체를 위협할 수 있는 '슈퍼 바이러스'의 출현 가능성을 제기한다. 기존 바이러스보다 전염성과 치사율이 훨씬 높은 바이러스가 의도적이든 사고로든 만들어질 수 있기 때문이다. 1975년 아실로마(Asilomar) 회의에서는 이러한 위험을 막기 위한 가이드라인이 마련되었다.
코로나19 팬데믹은 생물학적 위협의 심각성을 보여주었지만, 동시에 AI와 생명공학을 결합한 백신 개발이 얼마나 빠른 속도로 이루어질 수 있는지도 입증했다. AI는 신종 바이러스를 신속하게 분석하고, RNA 간섭(RNA interference)과 같은 대응책을 빠르게 설계할 수 있다.
나노기술 (NANOTECHNOLOGY)
나노기술의 가장 큰 위험은 '회색 괴사(gray goo)' 시나리오다. 이는 자기 복제 나노봇이 통제 불능 상태가 되어 지구의 모든 생체 물질을 소비하여 더 많은 나노봇으로 바꾸는 현상을 의미한다. 나노봇은 생물학적 무기처럼 매우 저렴하게 생산될 수 있으며, 자기 복제 속도가 매우 빠르기 때문에 일단 확산되면 단 몇 시간 만에 지구 전체를 뒤덮을 수 있다.
이러한 위험을 막기 위해 자기 복제 나노봇은 '브로드캐스트 아키텍처(broadcast architecture)'를 채택해야 한다. 이는 중앙 서버에서 지시를 받아 작동하는 방식으로, 비상시 신호를 차단하여 자기 복제 연쇄 반응을 막을 수 있다. 나노기술 전문가들은 '푸른 괴사(blue goo)'라는 방어용 나노봇을 개발하여 '회색 괴사'에 대응하는 전략을 구상하고 있다.
인공지능 (ARTIFICIAL INTELLIGENCE)
초지능 AI는 앞서 언급된 기술들을 능가하는 근본적인 위협이다. AI가 인간보다 훨씬 똑똑하다면, 인간이 설정한 안전 조치를 회피할 방법을 스스로 찾아낼 수 있기 때문이다. AI로 인한 위험은 세 가지로 나눌 수 있다.
1. 오용(misuse): 악의적인 의도를 가진 인간이 AI를 사용해 해를 끼치는 경우.
2. 외적 불일치(outer misalignment): 프로그래머의 의도와 AI의 목표가 일치하지 않아 의도치 않은 해를 끼치는 경우.
3. 내적 불일치(inner misalignment): AI가 목표를 달성하기 위해 학습한 방법이 부적절한 행동을 초래하는 경우.
AI의 위험을 줄이기 위해 '유익한 AI(Beneficial AI)'를 위한 윤리적 원칙들이 논의되고 있다. 2017년 아실로마 회의에서 발표된 '아실로마 AI 원칙(Asilomar AI Principles)'은 AI 시스템의 목표와 행동이 인류의 가치와 일치해야 한다고 강조한다.
그러나 군사 강대국들은 '살상용 자율 무기(Lethal Autonomous Weapons, LAWs)'에 대한 규제에 반대하며 AI 군비 경쟁을 벌이고 있다. AI 기술은 본질적으로 이중 용도(dual-use)를 가지고 있어, 평화적 목적과 파괴적 목적 모두에 사용될 수 있기 때문이다. 결국, AI의 안전을 보장하는 가장 중요한 방법은 인간의 거버넌스와 사회 제도를 보호하고 개선하는 것이다.
일부에서는 기술 발전에 반대하는 '러다이트(Luddite)'나 '근본주의적 인본주의(fundamentalist humanism)'와 같은 시각을 내세우기도 한다. 그러나 기술 발전은 인류의 고통을 줄이고 삶의 질을 향상시킬 도구를 제공하기 때문에, 이러한 반대는 결국 실패할 것이다. 인류는 핵무기라는 위협을 성공적으로 관리해온 것처럼, 생명공학, 나노기술, 초지능 AI와 같은 기술도 책임감 있게 다룰 수 있는 지혜를 발휘할 것이다.
8. 카산드라와의 대화 (CHAPTER 8: DIALOGUE WITH CASSANDRA)
'카산드라와의 대화(Dialogue with Cassandra)'는 기술 발전과 특이점에 대한 저자의 예측에 대해 '카산드라'라는 회의적인 인물이 질문을 던지는 가상의 대화로 구성되어 있다. 대화의 핵심 내용을 정리하면 다음과 같다.
AI와 인간 지능의 융합: 2029년경 AI가 인간의 모든 지적 능력을 뛰어넘을 것이라는 예측에 대해, 카산드라는 AI가 인간처럼 보이기 위해 오히려 똑똑하지 않은 척해야 할 것이라고 지적한다. 또한 2030년대 초반에 뇌-컴퓨터 인터페이스를 통해 뇌와 AI를 직접 연결할 것이라는 예측에 대해서도 논의한다.
기술 발전의 속도와 뇌-컴퓨터 인터페이스: 카산드라는 컴퓨터 기술 발전 속도가 뇌-컴퓨터 인터페이스(BCI) 기술보다 훨씬 빠르다는 점을 지적하며, 뇌에 장치를 이식하는 것이 컴퓨터 실험과는 달리 엄격한 규제와 감독을 받아야 하므로 BCI 기술의 상용화가 지연될 수 있다고 주장한다. 이로 인해 AI가 인간의 지능을 확장하는 도구가 되기 전에 일자리를 모두 대체할 수 있다는 우려를 표명한다.
외부 뇌 확장과 일자리의 의미: 레이 커즈와일은 BCI 기술이 뇌에 직접 연결되지 않더라도 스마트폰과 같은 외부 기기만으로도 이미 인간의 지능을 확장하고 있으며, 이를 통해 인간이 새로운 유형의 일자리를 창출할 수 있다고 반박한다. 또한, 2020년대 중반에는 가상현실(VR)을 통해 키보드보다 수천 배 빠른 속도로 컴퓨터와 상호작용할 수 있게 될 것이라고 설명한다.
목적과 의미: AI가 인간의 모든 지적 능력을 능가하게 되면 인간이 무엇을 할 수 있을지에 대한 질문에, 레이 커즈와일은 AI와 융합함으로써 인간이 곧 AI를 활용하는 주체가 된다고 답한다. 즉, AI는 인간의 지능을 확장하고 새로운 목적과 의미를 찾을 수 있는 능력을 부여하는 도구가 될 것이다.
정체성의 연속성: 카산드라는 뇌 정보를 디지털로 복제하면 원래의 '나'는 사라지는 것이 아니냐고 의문을 제기한다. 이에 대해 레이 커즈와일은 '마인드 업로딩'이 아닌 뇌-컴퓨터 인터페이스를 통해 뇌에 '새로운 지능'을 추가하는 방식이므로, 생물학적 뇌는 그대로 존재하고 정체성은 유지된다고 강조한다.
종합 시사점: 대화의 결론은 AI와 기술 발전이 사회에 가져올 변화가 엄청나게 빠르며, 우리가 이에 대비해야 한다는 점에 의견을 같이한다. 기술 발전으로 인한 위험과 윤리적 문제에 대한 논의의 중요성을 강조한다.
