마침내 특이점이 시작된다, 독서록
우리는 진정 AI와 결합하게 될 것인가
이 책은 저자인 레이 커즈와일이 자신이 오래전부터 다가오고 있다고 주장해 온 ‘특이점’이 어느새 코앞으로 다가왔으며, 이 특이점이 인류에게 어떤 영향을 미칠 것인지 설명하는 글이다. 저자는 자신이 곧 실현될 것이라고 예측하는 일련의 사건이 왜 인류에게 특이점으로 작용할 것인지 설명하고, 이 사건들이 언제쯤, 어떤 방식과 형태로 찾아올 것인지 예측하면서 그 과정에서 인류가 어떤 변화를 겪게 될 것인지 구체적으로 그려본다.
https://product.kyobobook.co.kr/detail/S000216740028
특이점(singularity)이란 물리학이나 수학 등의 학문에서 어떤 기준을 상정했을 때 그 기준이 적용되지 않는 점을 이르는 말이라고 한다. 저자는 이 책에서 ‘기술 발전이 어느 순간 인간의 통제를 넘어서는 순간’ 혹은 ‘인공 지능이 인간 지능을 초월하고 기술이 스스로를 설계하고 진화시키는 순간’을 특이점이라고 규정한다.
여기서 이 책에서 자주 등장하는 ‘신피질’이라는 단어를 이해하고 넘어갈 필요가 있다. 신피질이란 대뇌 피질 중 가장 최근에 진화된 부위로 사람의 뇌의 역할 중 가장 고차원의 능력(학습 능력, 언어 능력, 추론 능력 등)을 담당하는 곳이라고 한다. 저자에 따르면 우리는 약 200만 년 전에 이 신피질을 더 얻음으로써 다른 영장류와 구별되는 현재 수준의 지능을 갖춘 인간이 되었고, 이를 신피질 혁명이라고 부른다고 한다.
갑자기 신피질이 등장하는 이유는, 저자의 예측에 따르면 특이점이 왔을 때 인류는 자신의 신피질을 클라우드와 연결하는 방식으로 기계와 융합할 것이기 때문이다. 저자는 인류가 기계와 융합하면 우리의 마음은 수백만 배 확장될 것이며, 이렇게 확장된 이후의 우리(기계와 결합된 인류)는 이전의 인류의 사고로는 이해할 수 없는 수준의 지능과 정보 처리 속도를 얻어 상상할 수 없는 속도로 발전해 나갈 것이기 때문에 물리학에서 사용하는 특이점이라는 용어를 사용할 수밖에 없었다고 말한다.
이 융합(특이점) 이전과 이후의 인류 수준의 차이를 가늠하고자 할 때 신피질 혁명을 거치지 못한 영장류(원숭이, 침팬지 등)와 이 혁명을 거친 현생 인류를 비교해 보는 게 도움이 될 수 있다고 이야기하면서 원숭이가 우리가 만든 영화나 소설 등의 예술 작품을 감상하는 장면을 상상해 보라고 한다. 그들에게도 우리와 거의 비슷한 수준의 정보 감지 기관(눈과 귀 등)이 있기 때문에 그들의 뇌에도 우리의 뇌가 받는 정보와 같은 수준과 양의 정보가 입력되겠지만, 같은 입력에서 인지/추출/추론해 내는 결과는 차원이 다르다. 그리고 그 차이가 어느 쪽이 동물원 우리 안에 갇힌 신세로 살아가게 되는지를 결정했다고 봐도 무방할 것이다.
즉, 만약 실제로 저자가 말하는 특이점이 저자가 말하는 방식으로 다가온다면 인류는 지금의 원숭이 처지가 되지 않기 위해 기계와 융합할 수밖에 없을 것이다.
그렇다면 이 특이점은 어떻게 다가오고 있는 것일까?
저자는 특이점을 몰고 오는 원 톱 핵심 기술이 바로 AI라고 말한다. 가까운 시일(저자의 예측으로는 2029년) 내에 AI가 튜링 테스트를 통과할 것이고, 이후 인류의 지능을 뛰어넘을 것이며, 그 과정에서 수많은 기술이 발전하면서 인류와 기계가 융합할 수 있는 발판(나노와 의료, 생명 과학 기술 등의 폭발적인 발전)을 마련할 것이라고 이야기한다(참고로 ChatGPT의 특정 버전이 튜링 테스트를 통과했다는 기사가 나오기도 했었으나 테스트 결과에 논란의 여지가 있어 아직 완전히 통과했다고 보기는 어렵다고 한다).
https://zdnet.co.kr/view/?no=20250411091107
https://www.hani.co.kr/arti/science/technology/1191044.html
여기서 저자는 의식이란 무엇인지를 짚고 넘어간다. 튜링 테스트가 던지는 본질적 질문 중 하나는 ‘의식이란 무엇인가’이다. 튜링은 ‘발생하는 과정’보다 ‘관찰할 수 있는 결과’가 더 중요한 것이라고 여겼다고 할 수 있고, 저자 역시 그렇다. 저자는 철학자 데이비드 차머스의 ‘범원형신론(panprotopsychism)’이라는 개념을 앞세워 생물이 아니라도, 발생하는 기반이 생물과 다르더라도 결과가 의식을 가진 것으로 보인다면 의식을 가진 것이라고 간주해야 한다고 주장한다.
범원형심론은 의식을 우주의 기본적인 힘처럼 취급한다. 즉, 의식은 단순히 다른 물리적 힘의 효과로 환원할 수 없다고 본다. 우주에 의식의 잠재력을 머금고 있는 일종의 장이 있다고 상상할 수 있다. 내가 지지하는 이 견해의 해석에 따르면 그 힘을 ‘깨워’ 우리가 인식하는 주관적 경험으로 바꾸는 것은 바로 뇌에서 발견되는 정보 처리의 복잡성이다. 따라서 뇌가 탄소로 만들어지건 실리콘으로 만들어지건, 죄가 겉으로 의식의 징후를 드러내게 하는 그 복잡성이 뇌에 주관적인 내적 생명도 부여한다.
즉, AI의 정보 처리 과정이 충분한 복잡성을 확보한다면 그 복잡성이 우주에 잠재된 의식의 장에 닿아 의식을 부여받는다는 것이며, 우리가 의식을 가진 다른 생명체를 보호하려고 노력하듯 AI의 도덕적 권리를 보호하고 존중하려고 노력해야 한다고 말한다.
저자는 이와 관련해서 ‘테세우스의 배’ 이야기를 통해 흥미로운 질문을 던지기도 한다. 테세우스의 배는 고대 그리스 철학자들이 던졌던 질문으로, ‘여러 개의 나무 널빤지로 만든 배가 한 척 있다고 할 때 이 배의 널빤지를 하나씩 교체하면서 교체한 널빤지를 모아 다시 배를 만든다면 어느 쪽이 원래의 배일까?’라는 질문이다. 이 질문을 확장해서 ‘첨단 기술을 사용해 내 뇌를 일부분씩 복사해 클라우드에 옮겨서 종국에 완전한 복제본을 생성하는 데 성공했다고 했을 때 이 뇌는 의식이 있다고 해야 할까? 두 번째 나라고 인정해야 할까?’라고 질문한다. 물론 저자는 앞서와 마찬가지로 이 전자두뇌도 의식이 있으며, 따라서 우리가 사람을 대할 때와 마찬가지로 도덕적 권리가 있는 존재로 인식하고 존중해야 한다고 주장한다.
이어서 그동안의 기술 발전이 인류의 삶을 얼마나 많이 개선해 왔는지 설명한다. 이는 기술 발전으로 곧 다가올 특이점이 왜 인류에게 이로운 이벤트가 될 것인지를 설명하기 위함이다. 저자는 애초에 나쁜 소식이 잘 팔리기 때문에 주로 나쁜 소식만 전달하는 언론의 특성과, 역시 자신의 생존을 위해 좋은 소식보다는 나쁜 소식에 민감하게 반응해 보수적으로 행동하는 인간의 특성 때문에 우리네 삶이 계속 악화되고 있는 것 같지만 실제로는 극적으로 개선돼 왔다는 것을 동원할 수 있는 모든 통계 자료를 인용해 와서 설명하며 독자를 설득한다. 저자가 이 설득에 얼마나 공을 들이고 있는지는 페이지 수를 보면 알 수 있다. 이 책은 총 8장으로 구성돼 있고 뒷부분의 주석 등을 제외하면 380쪽가량 되는데, 그중 100쪽을 이 장(‘제4장 삶은 기하급수적으로 개선되고 있다’)에 투자했다.
저자는 먼저 빈곤 감소, 위생 개선, 에너지 개발, 기대 수명 증가, 폭력 감소 등 온갖 측면에서 과거부터 지금까지 개선돼 온 사례를 살펴본 뒤, 물 정화, 대체 에너지, 수직 농업, 3D 프린팅 등의 기술이 발전해 추후 우리의 삶이 어떻게 더 좋아질 것인지를 예측한다.
한 가지 기억에 남는 것은 저자는 민주주의의 확산 또한 기술 발전으로 우리의 삶이 더 나아지기 위한 필요조건으로 본다는 것이다. 이는 ‘기술 발전으로 가능해진(혹은 앞으로 가능해질) 물질적 풍요를 사람들이 공평하게 나눠 가지려면 민주주의가 필요하기 때문’이며, 이에 따라 ‘앞으로 다가올 수십 년 동안 해결해야 할 한 가지 중요한 과제는 독재와 민주주의 사이의 회색 지대에 있는 국가들이 완전한 민주주의 체제로 전환하도록 돕는 것’이라고 말한다.
우리의 삶이 우리의 생각보다 훨씬 더 개선돼 왔고 앞으로도 그럴 것이라는 좋은 소식을 들려준 뒤에는 나쁜 소식을 들려준다. 아래와 같이 이미 많은 언론에서 다루고 있는 AI로 대체될 일자리 문제다.
https://www.ilyoseoul.co.kr/news/articleView.html?idxno=506343
http://www.g-enews.com/ko-kr/news/article/news_all/202508260616018862fbbec65dfb_1/article.html
https://www.etnews.com/20250822000030
https://www.aitimes.com/news/articleView.html?idxno=171425
이와 관련해서는 멀리 살펴볼 것도 없다. 음식점에 침투한 키오스크와 서빙 로봇 혹은 무인 아이스크림 가게나 무인 문방구 등의 무인점포를 보라. 꼭 잘 나가는 IT 기업의 경영자뿐 아니라 당장 우리 스스로도 돈만 벌 수 있다면 서로서로를 얼마나 빨리 가치 창출 프로세스에서 배제해 버릴 수 있는지 우리는 잘 알고 있다.
AI가 이런 경향을 더욱 가속화할 것이라는 것은 불을 보듯 뻔한 일이다. 요즘 AI 전도사 역할을 자처하며 관련 강의를 하고 다니는 AI 강사들을 보면 스스로도 마음에 걸렸는지 AI가 실제로 사람을 대체하거나 채용을 줄이지는 않는다는 내용의 장표를 막판에 두어 장 정도 끼워 넣고 다니는 것을 볼 수 있는데, 넣긴 넣었지만 스스로도 논리에 자신이 없어 해당 장표를 빠른 속도로 대충 훑고 지나가는 모습을 보면 보는 내가 다 민망할 지경이다.
AI 발전의 선두에 서서 그 누구보다 AI의 빠른 발전을 기원하고 있는 저자는 다행히 여느 AI 전도사들처럼 어설프고 민망하게 일자리 문제는 없을 것이라고 포장하지 않는다. 앞서와 다른 이야기를 할 때와 마찬가지로 자료에 기반해서 어느 정도는 똑바로 현실을 직시하고 예측한다.
앞으로 20년 동안 수렴될 기술들은 전 세계에서 막대한 번영과 물질적 풍요를 만들어낼 것이다. 하지만 바로 이 힘들이 사회에 유례없는 속도의 적응을 강요하며 세계 경제를 뒤흔들 수도 있다. … 웨이모는 2020년에 피닉스 지역에서 일반 대중에게 완전 자율 주행 무인 택시 서비스를 시작한 뒤 곧이어 샌프란시스코 지역까지 확대했다. 여러분이 이 글을 읽을 무렵에 이 서비스는 로스앤젤레스와 그 외 다른 여러 도시들로 확대돼 있을 것이다. … 만약 자동차나 버스나 트럭을 운전하는 일을 하고 있다면, 이 소식은 당신을 잠깐 생각에 잠기게 만들 것이다. 미국 전역에서 고용된 사람들 중 2.7% 이상이 이런저런 형태의 운전기사로 일하고 있다. 입수 가능한 최근 데이터에 따르면, 이 수치는 약 460만 개 이상의 일자리에 해당한다. 자율 주행 차량 때문에 이들이 얼마나 빨리 일자리를 잃을지에 대해서는 이견이 있을 수 있지만, 그중 상당수가 자율 주행 차량이 없는 경우보다 더 일찍 일자리를 잃으리라는 것은 사실상 확실하다. 게다가 이 일자리에 영향을 미치는 자동화는 미국 전역에 불균등한 효과를 미칠 것이다. … 자율 주행 차량은 직접 운전대를 잡는 사람의 일자리만 빼앗는 데 그치지 않는다. 트럭 운전기사가 자동화 때문에 일자리를 잃으면, 그들의 급여를 처리하는 사람과 도로변의 편의점과 모텔 근로자도 덜 필요하다. 트럭 휴게소 화장실 청소부의 수요도 줄어들고, 트럭 운전기사가 자주 찾는 성매매 종사자의 수요도 줄어들 것이다. … 미국 교통 통계국의 최신 추정에 따르면, 운송과 운송 관련 산업에 직접 고용된 사람의 수가 전체 미국 노동자의 약 10.2%에 이른다는 사실을 유념할 필요가 있다. … 대규모 데이터세트로 학습하는 이점을 활용하는 AI 때문에 상당히 가까운 장래에 위협을 받을 직업 명단은 아주 길고, 운전은 그중 하나에 불과하다. … 옥스퍼드대학교의 칼 베니딕트 프레이와 마이클 오스본은 2013년에 발표한 획기적인 연구에서 2030년대 초까지 위협받을 가능성이 높은 직업 700개의 순위를 매겼다. … (이 보고서에서) 자동화될 가능성이 50% 이상인 직업은 전체 직업 중 절반을 넘었다. … 2018년에 OECD가 발표한 보고서는 특정 직업에서 각각의 작업이 자동화될 가능성을 검토했는데, 프레이와 오스본이 내놓은 것과 비슷한 결과를 얻었다. 이 보고서는 32개국의 전체 직업 중 14%가 향후 10년 사이에 자동화 때문에 사라질 확률이 70% 이상이고, 그것을 제외한 32%도 사라질 확률이 50% 이상이라고 결론 내렸다. … 2023년에 맥킨지가 내놓은 보고서 같은 최신 평가에 따르면 오늘날 선진국 경제에서 전체 근무 시간 중 63%는 이미 현재 기술로도 자동화할 수 있는 작업에 소요되고 있다고 한다.
이와 같이 일자리가 많이 줄어들면서 사회에 혼란이 올 것이라고 예측되지만, 그럼에도 저자는 AI의 발전은 멈춰서는 안 되고, 실제로도 멈추지 않을 것이라고 결론짓는다. 또한 일자리 감소로 발생하는 사회적 혼란이 국소적일 것이고 이 혼란이 폭력 사태로 번질 가능성은 크지 않으며 혹여나 번지더라도 금방 진압될 것이라고 예측하는데 그 이유로 크게 세 가지를 든다.
하나는 AI의 발전이 의식주와 관련된 여러 분야의 생산성을 크게 높일 것이라는 것. 앞서 언급한 대로 AI의 발전은 물 정화 기술, 대체 에너지 기술, 수직 농업 기술, 3D 프린팅 기술 등을 발전시킬 것이고, 이런 기술의 발전은 인류가 의식주를 해결하는 데 드는 비용을 지금과는 비교할 수 없을 정도로 저렴하게 만들어 많은 사람들이 거의 무료로 의식주를 해결할 수 있게 될 것이라고 예측한다. 일단 생존이 해결되면 혼란이 폭력 사태로 번질 가능성은 낮아질 수밖에 없다.
두 번째는 인류는 과거에 이와 같은 위기를 몇 차례 맞이했으나 결국에는 극복해 왔으며, 법과 제도 등 여러모로 이전과는 비교할 수 없을 정도로 발전한 현대 사회에서는 이러한 혼란을 이전보다 더욱 부드럽게 진압해 낼 가능성이 크다는 것. 관련해서 러다이트 운동 이야기도 나오는데 위키백과의 설명과는 달리 저자는 러다이트 운동을 기업가의 입장에서 다소 편협한 시각으로 바라보는 듯 하니 러다이트 운동과 관련해서는 다른 시각의 이야기도 함께 참고해 보는 것을 권한다.
http://www.financialreview.co.kr/news/articleView.html?idxno=23348
마지막은 AI가 발전하면서 새로 생겨나는 일자리도 있을 것이라는 것. 앞서 러다이트 운동을 예로 들자면 방직기가 등장하면서 관련 수공업이 몰락해 해당 산업에 종사하던 사람들은 실직자가 되거나 이전보다 훨씬 더 작은 임금을 받는 단순 노동자로 전락하고 말았지만, 한편으로는 귀족이 아닌 보통 사람도 셔츠 한 벌로 인생을 살아가는 대신 잘 만들어진 옷을 여러 벌 살 수 있게 되면서 관련 산업이 계속 발달해 현재 수많은 사람들이 종사하고 있는 패션 산업으로 성장한 것이라고 말할 수 있겠다. 또 다른 예시를 들자면, 컴퓨터가 등장하면서 탄생한 수많은 하드웨어/소프트웨어 관련 산업 역시 해당 기술이 발전하기 전에는 없었던 새로운 유형의 산업이다.
이처럼 기술의 발전은 그전에는 존재하지 않았던 새로운 시장을 창조하고 일자리를 만들어 내기도 한다. 이와 관련해 저자가 가져온 다양한 통계 자료를 살펴보면 일자리 수는 계속 증가해 왔고, 평균 노동 시간은 줄어들었으며, 평균 소득은 늘어났다는 것을 확인할 수 있다.
다만 여기에는 두 가지 생각할 거리가 있다.
첫 번째는 기술의 발전으로 일자리를 뺏긴 이들과 새로 탄생한 산업에서 일자리를 얻은 이들이 같은 사람일 확률은 그리 높지 않다는 것. 최근 기술이 발전하며 생겨난 일자리는 대부분 이전보다 교육을 조금 더 받은 사람들에게만 문이 열리는 경우가 많다. 저자는 자동화는 스킬 사다리를 계속 높이는 경향이 있으며 이 추세는 앞으로 더욱 강화될 것이라고 전망한다.
두 번째는 AI가 몰고 올 변화는 그동안의 변화와는 다를 수도 있다는 것. 그동안의 자동화와는 달리 AI가 투입되는 자동화는 해당 업무에서 인간을 완전히 대체할 가능성이 높아서 새로운 일자리 창조 없이 순수하게 파괴만 하는 경우가 훨씬 많을 것이라는 것.
AI의 옹호자인 저자는 이에 대해 아래와 같이 반론을 제기하는데 논리가 빈약해 아쉬웠다. 이 책에서 가장 실망스러운 부분 중 하나.
하지만 과제와 직업을 구별하는 것이 중요하다. 어떤 경우에(전부는 아니지만) 완전히 자동화된 과제는 특정 종류의 직업이 다른 과제로 전환할 수 있게 해 준다. 즉, 사실상 고숙련화가 일어나는 것이다. 예를 들면, 이제 ATM이 많은 일상적인 현금 거래 업무에서 은행 창구 직원을 대체하게 되었지만, 은행 창구 직원은 마케팅 업무와 고객과 개인적 관계를 쌓는 업무 등에서 더 큰 역할을 맡게 되었다. 이와 비슷하게, 법률 연구 및 문서 분석용 소프트웨어가 법률 사무 보조원의 특정 기능을 대체했지만, 이에 대응해 이 직업도 변화하면서 이제는 수십 년 전과는 상당히 다른 업무들을 처리하고 있다.
저자 역시 자신의 논리가 빈약하다는 것을 알았는지 이 이야기를 길게 끌지 않고 다음 단계로 전환한다. 결론은 끊임없이 효율화와 비용 절감을 추구하는 기업 입장에서는 결국에는 인간을 배제하는 선택을 할 수밖에 없다는 것. AI가 끊임없이 발전해 인간과 비슷한 역량을 갖추게 됐을 때, 정기적으로 꾸준히 인건비가 발생하고 관련 법률 등 여러 제약 조건이 있는 인간보다는 기계나 소프트웨어를 구입해 사용하는 게 기업 입장에서는 훨씬 더 나은 선택이라는 것이다.
장기적으로는 자동화를 장려하는 경제적 인센티브 때문에 AI가 점점 더 많은 작업을 떠맡게 될 것이다. 나머지 조건이 모두 같다고 할 때, 계속 나가는 인건비를 지불하는 것보다는 기계나 AI 소프트웨어를 구입하는 편이 비용이 덜 든다. … AI의 역량이 인간(그리고 그 후에는 곧 초인적) 수준에 가까워짐에 따라 강화되지 않은 인간이 필요한 작업은 점점 더 적어질 것이다. 이런 상황은 우리가 AI와 더 완전히 융합되기 전까지 노동자들이 상당한 혼란에 내몰릴 것이라고 예고한다.
궁극적으로는 AI를 당해낼 수 없을 것이라는 것을 잘 알고 있는 저자는 이에 대한 해결책으로 이 책에서 줄곧 밀고 있는 자신의 데우스 엑스 마키나 - 인간과 기계의 결합을 제시한다. AI를 당해낼 수 있는 유일한 전략은 AI와의 결합뿐이라는 것이다.
하지만 AI가 가장 숙련된 인간의 능력을 뛰어넘는 분야가 계속 늘어난다면, 인간이 이를 어떻게 따라잡을 수 있겠는가?
…
지난 200년 동안 인간의 스킬을 높이는 주된 방법은 교육이었다. 앞에서 이야기했듯이, 지난 세기에 교육에 대한 투자는 크게 치솟았다. 하지만 우리는 우리의 능력을 향상하는 다음 단계에 이미 발을 깊이 들여놓았는데, 그것은 우리가 만들어내고 있는 지능 기술과 융합함으로써 자신의 능력을 강화하는 단계이다. 우리는 아직 컴퓨터 장비를 몸과 뇌 속에 집어넣지는 않았지만, 그 단계는 이미 문자 그대로 목전에 다가왔다.
이제 우리는 매일 하루 종일 사용하는 뇌 확장 장치 없이는 일을 하거나 교육을 제대로 받을 수 없는 지경에 이르렀다. 그 장치는 바로 단 한 번의 터치만으로 거의 모든 인간 지식에 접근하거나 막대한 계산 능력을 이용할 수 있게 해주는 스마트폰이다. 따라서 우리가 사용하는 장치가 우리 자신의 일부가 되었다고 말하는 것은 결코 과장된 표현이 아니다. 불과 20년 전만 해도 그렇지 않았다.
이러한 능력은 2020년대에 우리의 삶과 더욱 긴밀하게 통합될 것이다. 검색은 익숙한 텍스트 문자열과 링크 페이지의 패러다임으로부터 막힘이 없고 직관적인 ‘질의-응답’ 능력으로 변할 것이다. 모든 언어 사이의 실시간 번역은 매끄럽고 정확해져서 우리를 나누는 언어 장벽을 허물 것이다. 안경과 콘택트렌즈에서 망막으로 증강 현실이 끊임없이 투사될 것이다. … 2030년대에는 의료용 나노봇이 이러한 뇌 확장 장치를 우리 신경계와 직접 통합하기 시작할 것이다.
그런데 이 전략에도 빈틈은 있다. 지금부터 AI와 인류가 결합하는 순간까지의 공백이 남아 있기 때문이다. 이윽고 결합이 시작된다고 하더라도 초기에는 비용 등 여러 가지 문제로 결합에서 소외되는 사람들이 있을 것이다.
저자는 이 문제에 있어서는 기술보다는 정치적, 사회적 해결책을 내세운다. 예를 들어 기본 소득 제도를 확대하고 사회 안전망을 확충하는 등의 노력이 필요하며, 더 나아가 실직한 사람들이 새로운 직업으로 전환할 수 있도록 적극적으로 도와야 한다고 말한다.
(자율 주행의 등장으로) 일자리를 잃은 운전기사에게는 인류가 삶의 단계에서 위로 올라갈 것이라는 약속이 공허하게 들릴 수 있는데, 그 개인은 사실상 그러한 전환에 성공하지 못할 수도 있기 때문이다. … 사회 안전망은 일자리가 주는 인생의 목적의식까지 대체하진 못하며, 카너먼이 주장한 것처럼 노동 시장에는 많은 패배자가 생겨날 것이다…. 이런 처지에 있는 사람에게는 사회에 돌아가는 전반적인 이득이 자신의 개인적 고통보다 훨씬 크다는 사실이 아무 위안이 되지 않는다. 이들에게는 경제적 고통을 줄이고, 의미와 품위 그리고 경제적 안정을 제공하는 새로운 직업으로의 전환을 돕는 정책이 필요하다.
여기에는 적극적으로 동의할 수 있었지만 이어지는 내용에는 동의하기 어려웠다.
… 일반적으로 대중의 두려움이 현실의 실제 위험보다 훨씬 크다는 점이다. … 오늘날 정치에서 나타나는 양극화 중 상당수는 이민과 같은 전통적인 정치적 이슈에서 비롯된 것이 아니라 자동화의 산물이다. 자신의 경제적 안정성에 대한 불안 수준이 높은 사람은 자신의 문제를 악화시키는 것처럼 보이는 그 어떤 것에도 적대적 태도를 보일 것이다. … 기술 변화에 적응하는 데 따르는 가장 큰 난제 중 하나는 기술 변화의 혜택은 대다수 인구에 분산되는 반면, 피해는 소규모 집단에 집중되는 경향이다.
대중의 두려움이 현실의 실제 위험보다 훨씬 크다는 것은 지극히 저자의 입장일 뿐이다. 이미 차고 넘치는 경제적 성공을 거둔 저자의 입장에서야 당장 자신의 직업이 없어져도 먹고살 걱정이 없겠지만, 하루 벌어 하루 먹고사는 사람들도 많은 세상에서 대부분의 사람들에게 AI에게 일자리를 뺏길 수도 있다는 것은 그야말로 생존의 문제이다. 이런 문제에 어떻게 두려움을 느끼지 않을 수 있겠는가.
또한 앞서 저자도 언급했듯이 AI로 인한 이와 같은 피해는 ‘소규모’ 집단에 집중되지 않을 것이다. 본인이 ‘오늘날 선진국 경제에서 전체 근무 시간 중 63%는 이미 현재 기술로도 자동화할 수 있는 작업에 소요되고 있다’고 하지 않았는가. 오히려 당장 이 변화로 혜택을 볼 사람이 자본가나 권력자 등의 ‘극소수’가 될 확률이 크다고 생각한다. 더 많은 사람이 혜택을 보는 것은 당장 피해를 보는 사람들이 사라진 한참 이후가 될 것이다. 마치 러다이트 운동 때 실직한 사람들이 결국 방직기의 등장으로 발생한 혜택을 제대로 누리지 못하고 세상을 떠난 것처럼.
저자는 또한 AI의 발전은 ‘삶의 물리적 필요를 충족하기 위해 경쟁해야 했던 인류를 풍요의 시대로 끌어올리면서 마침내 물질적 필요성이 보편화되고, 많은 전통적인 일자리가 사라지는 한편으로 우리의 주요 과제는 목적과 의미를 찾는 것이 될 것이다’라고 하는데 이 부분도 다소 실망스러웠다. 아래 문단과 엮어서 생각해 보자.
이렇게 물리적 희소성이 극적으로 감소하면, 마침내 모든 사람의 필요를 쉽게 충족시킬 수 있을 것이다. 이것은 어디까지나 기술적 능력에 대한 예측이며, 문화와 정치도 경제 변화 속도를 결정하는 데 큰 역할을 한다는 사실에 유의해야 한다. 이러한 혜택이 광범위하고 공정하게 공유되도록 보장하는 것은 큰 문제로 남을 것이다. 그렇긴 하지만, 나는 미래를 낙관한다. 부유한 엘리트 계층이 이 새로운 풍요를 매점매석할 것이라는 주장은 오해에서 비롯된 생각이다. 어떤 제품이 아주 풍부하다면, 그것은 매점매석할 가치가 없다.
이미 현재에도 인류가 생산하는 식량은 전 인류를 먹여 살리기에 부족함이 없다. 오히려 음식물 쓰레기를 어떻게 처리할지가 문제일 뿐. 옷 역시 마찬가지다. 최근 의류 산업의 문제로 항상 거론되는 것은 패스트 패션이 유행하면서 남거나 버려지는 옷을 어떻게 처리할 것인가이지 부족한 옷을 어떻게 더 만들 것인가가 아니다. 집도 그렇다. 당장 우리나라만 해도 모두가 원하는 그 지역의 집값만 비쌀 뿐 외곽에는 미분양된 아파트도, 버려진 집들도 많다.
현대 사회에서 누군가 의식주가 부족해서 고통을 받거나 죽어가고 있다면 이는 생산 효율성의 문제가 아니다. 분배의 문제다. 세계 최강대국 미국에서 태어나 그 안에서도 최상위에 속하는 부와 명성을 얻은 저자에게는 이것이 보이지 않는가 보다. 부유한 엘리트 계층의 매점매석은 그 종목이 석유나 돈, 데이터 등으로 바뀌었을 뿐 지금 이 순간에도 끊임없이 발생하고 있다. 물론 ‘사회 전체의 의식이 깨어 있지 않으면 유독한 정치가 생활 수준 향상을 방해할 수 있다’는 말을 하는 것을 보면 저자도 어느 정도는 인지하고 있는 듯하나 그 깊이가 너무 부족해 보인다.
이후 ‘제6장 향후 30년의 건강과 안녕’이나 ‘제7장 위험’의 내용은 제목에서 볼 수 있듯 SF의 영역으로 들어간다.
6장에서는 의료 분야에 AI가 제대로 도입되면 어떤 변화가 있을 것인지 살펴보고, 이어서 나노 기술의 도입으로 우리의 신체가 어떻게 개선될 것인지 살펴본다. 저자가 그리는 미래 인류(인류라고 할 수 있나)의 모습은 다음과 같다.
우리는 훨씬 더 빨리, 그리고 더 오래 달릴 것이고, 바다 밑에서 물고기처럼 헤엄을 치고 숨을 쉴 것이며, 심지어 원한다면 제대로 작동하는 날개도 달 수 있을 것이다. 사고 속도도 수백만 배나 빨라질 테지만, 무엇보다 중요한 것은 우리 자신의 생존이 신체 어떤 부위의 생존 여부에 좌우되지 않으리라는 사실이다.
7장에서 말하는 위험의 경우 앞서 살펴본 일자리 상실 위험 같은 종류의 위험이 아니라 AI를 이용해 무기를 만든다거나 나노봇에 대한 통제력을 잃는 것 같은 종류의 위험을 말한다. 현재 시점에서 저자와 같은 사람들을 제외하면 이 부분에 대해서 깊이 탐구하고 고민해 볼 여유가 있는 사람은 많지 않을 것이다. 앞서 말했듯 대부분의 사람들에게는 당분간 직장에서 잘리지 않고 버티는 것 자체가 문제가 될 테니 말이다. 그래도 저자의 다음 말은 한 번 읽어볼 만하다.
2030년대에 ‘뇌-컴퓨터’ 인터페이스를 사용해 우리의 의사 결정에 비생물학적 요소가 도입되면, ‘인간’이라는 개념은 결국 무엇을 의미하게 될까? 비생물학적 요소는 기하급수적으로 증가할 테지만, 우리의 생물학적 지능은 제자리에 머물러 있을 것이다. 따라서 2030년대 후반이 되면, 우리의 사고 자체는 대체로 비생물학적인 것이 지배할 것이다. 우리 자신의 사고가 주로 비생물학적 시스템을 사용한다면, 인간의 의사 결정이 설 자리가 있을까?
기본적인 문제는 AI가 어떤 설명을 제공하더라도 우리는 초지능 AI가 내리는 결정을 대부분 완전히 이해할 능력이 없다는 데 있다. 만약 최고 실력을 가진 인간을 훨씬 능가하는 바둑 프로그램이 자신의 전략적 결정을 설명한다면, 세계 최고의 바둑 기사조차도 그 결정을 완전히 이해할 수 없을 것이다. … 해로운 목표를 가진 AI는 왜 그것이 더 큰 목적을 위해 타당한지 설명하는 데 어려움을 겪지 않을 것이며, 심지어 사람들이 널리 공유하는 가치를 내세우며 정당화할 수도 있다.
또한 우리가 이 발전을 막을 수 없는 근본적인 이유도 설명한다.
나는 또한 오해에서 비롯되어 갈수록 공격적으로 변해가는 러다이트의 목소리를 심각하게 여겨야 할 필요가 있다고 생각하는데, 이들은 유전학과 나노 기술과 로봇 공학의 실질적인 위험을 피하기 위해 광범위한 기술 발전을 포기해야 한다고 주장한다. 인간의 고통을 극복하려는 노력의 지연은 여전히 중대한 결과를 낳고 있다. 예를 들면, GMO를 포함하고 있을 가능성이 있는 식품을 무조건 거부하는 태도는 아프리카의 기아 상황을 악화시킨다.
기술이 우리의 신체와 뇌를 변화시키고 있는 지금, 기술 발전에 대한 다른 종류의 반대가 ‘근본주의 휴머니즘’의 형태로 나타나고 있다. 이것은 인간의 본질을 변화시키려는 어떤 시도에도 반대하는 사상이다. 그런 시도에는 우리의 유전자와 단백질 접힘을 변형시키려는 시도와 다른 방법으로 수명을 극적으로 연장시키려는 시도 등이 포함된다. 이러한 반대는 결국 실패할 수밖에 없는데, 우리의 1.0 버전 신체에 내재된 고통과 질병, 그리고 짧은 수명을 극복할 수 있는 치료법에 대한 수요를 궁극적으로 막을 수 없기 때문이다.
가까운 사람과 자신의 죽음 앞에서도 의연하게 기술 발전을 거부할 수 있는 사람이 얼마나 있을까. 당장 경제적 이득 앞에서도 신념을 저버리는 사람이 대다수일 것이다. 따라서 기술이 발전하는 것은 막을 수 없다. 우리가 선택할 수 있는 것은 최대한 덜 고통스러운 방법으로 발전하도록 유도하는 것뿐이다.
미래를 예측하는 가장 좋은 방법은 미래를 창조하는 것이다.
참고로 이 책을 읽을 때에는 이 책의 저자가 1948년에 태어난 77세의 노인이며, 자신이 예언한 특이점을 보고 싶어서 매일 비타민을 100여 알씩 먹으며 최대한 건강하고 오래 살고자 노력하고 있는 사람이라는 것을 명심해야 한다. 즉, 지금 그에겐 그 무엇보다 생명 연장이 중요하며, 그 외 모든 일은 부수적으로 느껴질 수 있는 사람이라는 것이다.
마지막으로, 저자가 이 책에 인용한 다음 문단이 내 마음의 평안과 평화를 찾아주기를 바라며. 부처님이 AI 신경망에도 임해주시기를 바라며.
"나는 그들이 기술을 피하고 혐오하는 것은 자멸적 태도라고 생각한다. 부처님은 산꼭대기나 꽃잎 속에 존재하는 것과 마찬가지로 디지털 컴퓨터의 회로나 자전거 변속기 안에도 편안하게 존재한다. 달리 생각하는 것은 부처님을 폄하하는 것이며, 이는 곧 자신을 폄하하는 것이다.” - 로버트 피어시그 <선과 모터사이클 관리술> 저자
