brunch

라이킷 12 댓글 1

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 박태웅 Apr 04. 2023

[번역] '장기주의'에 반대한다

인류의 미래 연구소(FHI), 효과적 이타주의(EA)

장기주의에 반대한다

https://aeon.co/essays/why-longtermism-is-the-worlds-most-dangerous-secular-credo

장기주의는 인류의 미래에 대한 변두리 철학 이론으로 시작되었지만, 이제 막대한 자금이 투입되고 점점 더 위험해지고 있습니다.

인류가 '종말'에 가까워지고 있다는 인식이 점점 커지고 있는 것 같습니다. 끔찍한 재앙에 대한 예측이 뉴스를 뒤덮고 있습니다. 지옥 같은 산불, 엄청난 홍수, 코로나19 환자로 넘쳐나는 병원의 모습이 담긴 소셜 미디어 영상이 타임라인을 지배하고 있습니다. 멸종 반란 운동가들은 세상을 구하기 위해 필사적으로 도시를 폐쇄하고 있습니다. 한 설문조사에 따르면 인류의 미래에 대해 묻는 질문에 응답자의 절반 이상이 '향후 100년 이내에 우리의 삶의 방식이 종식될 위험을 50% 이상으로 평가했다'고 답하기도 했습니다.

'종말론', 즉 종말이 임박했다는 믿음은 물론 새로운 것이 아닙니다. 사람들은 수천 년 동안 종말이 가까웠다고 경고해왔고, 실제로 많은 신약학자들은 예수님도 자신의 생전에 세상이 종말할 것이라고 예상했다고 믿습니다. 하지만 오늘날의 상황은 과거와는 근본적으로 다릅니다. 현재 논의되고 있는 '종말론적' 시나리오는 종교적 예언자의 계시나 인류 역사에 대한 세속적 메타내러티브(마르크스주의의 경우처럼)가 아니라 기후학, 생태학, 역학 등 각 분야의 주요 전문가들이 옹호하는 강력한 과학적 결론에 근거하고 있습니다.

예를 들어, 우리는 기후 변화가 문명에 심각한 위협이 된다는 것을 알고 있습니다. 생물 다양성 손실과 여섯 번째 대량 멸종은 지구 생태계에 갑작스럽고 돌이킬 수 없는 파국적인 변화를 초래할 수 있다는 것을 알고 있습니다. 열핵 교환은 수년 또는 수십 년 동안 태양을 소멸시켜 세계 농업의 붕괴를 가져올 수 있습니다. 그리고 SARS-CoV-2가 우한 실험실에서 만들어졌든 자연의 부엌에서 만들어졌든(지금은 후자가 더 가능성이 높아 보입니다), 합성 생물학은 곧 악의적 행위자들이 다윈주의 진화가 발명할 수 있었던 것보다 훨씬 더 치명적이고 전염성이 강한 병원균을 설계할 수 있게 할 것입니다. 일부 철학자와 과학자들은 기계 초지능, 분자 나노기술, 성층권 지구공학과 관련된 '새로운 위협'에 대해 경종을 울리기 시작했는데, 이 역시 무시무시한 위협으로 보입니다.

이러한 고려를 통해 많은 학자들은 스티븐 호킹이 2016년 가디언에 기고한 것처럼 '우리는 인류의 발전에서 가장 위험한 순간에 있다'고 인정하게 되었습니다. 예를 들어 마틴 리스 경은 인류 문명이 2100년에 도달할 확률이 50대 50이라고 추정합니다. 노암 촘스키는 현재 인류의 멸종 위험이 '호모 사피엔스 역사상 전례가 없는 수준'이라고 주장합니다. 그리고 맥스 테그마크는 '아마도 우리 생애 안에... 우리가 자멸하거나 정신 차릴 날이 올 것'이라고 주장합니다.

이러한 암울한 선언에 따라 2020년 원자과학자회보(Bulletin of the Atomic Scientists)는 상징적인 최후의 날 시계를 자정(또는 파멸) 100초 전으로 설정했는데, 이는 1947년 시계가 만들어진 이래 가장 가까운 시간이며 전 세계 11,000명 이상의 과학자들이 2020년에 '지구가 기후 비상사태에 직면해 있음을 분명하고 명백하게' 밝히며 '생물권을 보존하려는 노력의 규모를 엄청나게 확대하지 않으면 기후 위기로 인해 엄청난 고통이 발생할 위험'이라는 내용의 기사에 서명한 바 있습니다. 젊은 기후 운동가인 시예 바스티다(Xiye Bastida)가 2019년 틴 보그(Teen Vogue)와의 인터뷰에서 이러한 실존적 분위기를 요약한 것처럼, '우리가 마지막 세대가 되지 않도록 하는 것'이 목표이며, 이는 이제 매우 현실적인 가능성으로 보입니다.

오늘날 인류가 직면한 전례 없는 위험을 고려할 때, 철학자들은 인류 멸종의 윤리적 함의 또는 문명의 영구적 붕괴와 같은 관련 시나리오에 대해 상당한 양의 잉크를 쏟았을 것으로 예상할 수 있습니다. 우리가 사라지는 것이 도덕적으로 얼마나 나쁠까요(혹은 좋을까요), 그리고 어떤 이유로 사라질까요? 미래 세대의 존재를 막는 것이 잘못된 일일까요? 과거의 희생, 투쟁, 노력의 가치는 인류가 지구, 더 일반적으로는 우주가 거주 가능한 상태로 유지되는 한 계속 존재해야 하는가에 달려 있나요?

인류 멸종이라는 주제는 최근까지 철학자들의 지속적인 관심을 거의 받지 못했으며, 지금도 철학적 논의와 논쟁의 변방에 머물러 있습니다. 전반적으로 그들은 다른 문제에 몰두해 왔습니다.

그러나 한 가지 주목할 만한 예외가 있는데, 지난 20년 동안 옥스퍼드를 중심으로 한 소수의 이론가들이 우리의 행동이 수천, 수백만, 수십억, 심지어 수조 년 후의 우주의 장기적인 미래에 어떤 영향을 미치는지를 강조하는 장기주의라는 새로운 도덕적 세계관의 세부 사항을 연구하는 데 바쁘게 움직였다는 것입니다. 이는 2005년 인류의 미래 연구소(FHI)라는 거창한 이름의 연구소를 설립한 닉 보스트롬과 FHI의 연구원이자 오픈 필란트로피의 프로그램 책임자인 닉 벡스테드의 연구에 그 뿌리를 두고 있습니다.

장기주의는 '벼랑 끝: 실존적 위험과 인류의 미래(2020)'의 저자이자 FHI의 철학자인 토비 오드에 의해 가장 공개적으로 옹호되었습니다. 장기주의는 힐러리 그리브스가 이끄는 FHI 연계 기관인 글로벌 우선순위 연구소(GPI)와 FHI와 GPI에서 직책을 맡고 있는 윌리엄 맥아스킬이 운영하는 포어씽크 재단의 주요 연구 초점입니다. 직함, 이름, 기관, 약어 등이 복잡하게 얽혀 있는 롱텀리즘은 2011년경 오드에 의해 소개되어 현재 약 460억 달러의 기금을 확보한 것으로 알려진 이른바 효과적 이타주의(EA) 운동의 주요 '대의 영역' 중 하나입니다.

장기주의의 영향력은 아무리 강조해도 지나치지 않습니다. 1845년 칼 마르크스는 철학의 목적은 단순히 세상을 해석하는 것이 아니라 세상을 변화시키는 것이라고 선언했는데, 롱텀주의자들은 바로 이 점에서 놀라운 성공을 거두고 있습니다. 보스트롬의 연구를 인용하고 지지한 엘론 머스크가 자매 기관인 훨씬 더 거창한 이름의 미래생명연구소(FLI)를 통해 FHI에 150만 달러를 기부한 것을 생각해보십시오. 이 연구소는 수백만 달러 규모의 기술 기업가인 얀 탈린(Jaan Tallinn)이 공동 설립했는데, 그는 장기주의 이념을 고수하기 때문에 기후 변화가 인류에 '실존적 위험'을 초래한다고 생각하지 않습니다.

한편, 억만장자 자유주의자이자 도널드 트럼프 지지자인 피터 틸은 EA 컨퍼런스에서 기조 연설을 한 적이 있으며, 초지능 기계로부터 인류를 구한다는 사명이 장기주의 가치와 깊이 얽혀 있는 기계 지능 연구소에 거액을 기부했습니다. GPI와 Forethought Foundation과 같은 다른 조직은 젊은이들을 커뮤니티로 끌어들이기 위해 에세이 콘테스트와 장학금을 지원하고 있으며, 워싱턴 DC에 위치한 보안 및 신흥 기술 센터(CSET)는 미국 정부의 고위직에 롱텀미스트를 배치하여 국가 정책을 형성하는 것을 목표로 하고 있다는 것은 공공연한 비밀입니다. 실제로 CSET는 현재 조 바이든 미국 대통령의 기술 및 국가 안보 담당 부보좌관으로 일하고 있는 FHI의 전 연구 조교였던 제이슨 매테니가 설립한 기관입니다. 오드는 철학자치고는 놀랍게도 '세계보건기구, 세계은행, 세계경제포럼, 미국 국가정보위원회, 영국 총리실, 내각부, 과학부 등에 자문'을 해왔으며, 최근에는 '장기주의'를 구체적으로 언급한 유엔 사무총장 보고서에 기고하기도 했습니다.

요점은 장기주의가 엘리트 대학과 실리콘 밸리 외에는 거의 들어본 적이 없는 가장 영향력 있는 이데올로기 중 하나일 수 있다는 것입니다. 저는 4년 전 장기주의를 옹호하는 책 한 권을 출간한 전직 장기주의자로서 이 세계관이 오늘날 세계에서 가장 위험한 세속적 신념 체계라고 생각하게 되었기 때문에 이를 바꿔야 한다고 믿습니다. 그러나 짐승의 본질을 이해하려면 먼저 짐승을 해부하여 해부학 적 특징과 생리적 기능을 조사해야합니다.

가장 먼저 주목해야 할 점은 보스트롬과 벡스테드가 제안한 장기주의는 '장기적인 관점'이나 '미래 세대의 복지를 중시하는 것'과 동일하지 않다는 점입니다. 그 이상의 의미가 있습니다. 그 핵심에는 개인과 인류 전체를 단순하게 - 비록 결함이 있기는 하지만 - 비유하는 것이 있습니다. 이 개념을 설명하기 위해 동료 학자들 사이에서 당대 가장 뛰어난 지성으로 널리 알려진 케임브리지 대학의 학자 프랭크 램지의 사례를 생각해 보겠습니다. '램지에게는 뉴턴의 무언가가 있었다'고 벨레트리스트 라이튼 스트래시는 말한 적이 있습니다. G E 무어는 램지의 '매우 뛰어난 탁월함'에 대해 썼습니다. 그리고 존 메이너드 케인스는 램지의 논문을 '수학 경제학에서 가장 주목할 만한 공헌 중 하나'라고 묘사했습니다. 하지만 램지의 이야기는 행복하지 않았습니다. 1930년 1월 19일, 그는 런던의 한 병원에서 수술 후 사망했는데, 사인은 캠브리지를 흐르는 캠 강에서 수영을 하다가 간 감염이 원인인 것으로 밝혀졌습니다. 램지의 나이는 겨우 26세였습니다.

이 비극적인 결과가 발생한 데에는 두 가지 뚜렷한 이유가 있다고 주장할 수 있습니다. 첫 번째는 가장 명백한 이유입니다. 이 병은 램지의 생명을 단축시켰고, 그가 살아남았다면 경험할 수 있었던 기쁨과 행복, 사랑과 우정 등 삶을 가치 있게 만드는 모든 것을 박탈했습니다. 이런 의미에서 램지의 이른 죽음은 개인적인 비극이었습니다. 그러나 두 번째로, 그의 죽음은 인류 지식에 더 큰 공헌을 할 수 있었던 지적 슈퍼스타의 세상을 떠난 것이기도 합니다. 파르타 다스굽타 경은 "램지가 남긴 흔적의 수는 놀랍습니다."라고 말합니다. 하지만 그가 얼마나 더 많은 흔적을 남겼을까요?

'당신 세대에 대한 손실은 생각만 해도 고통스럽다'고 스트라치는 '빛이 꺼져 버렸다'고 한탄했는데, 램지가 그렇게 일찍 죽지 않았다면 서양의 지성사가 어떻게 달라졌을지 궁금해집니다. 이러한 관점에서 램지의 죽음이라는 개인적 비극은 정말 끔찍했지만, 세상을 더 나은 방향으로 변화시킬 수 있었던 그의 엄청난 잠재력이 두 번째 비극을 더욱 악화시켰다고 주장할 수 있습니다. 즉, 램지의 죽음은 그가 경험한 직접적이고 개인적인 피해보다는 실현되지 않은 잠재력에서 비롯된 것이 압도적으로 많다는 것입니다. 또는 그렇게 주장할 수도 있습니다.

장기주의자들은 이러한 주장과 결론을 마치 인류가 '일생' 동안 낭비하거나 성취하거나 파멸하거나 실현할 수 있는 고유한 '잠재력'을 가진 개체인 것처럼 인류 자체에 대입합니다.

따라서 한편으로는 인류의 인구를 0으로 줄이는 재앙은 당시 살아남은 사람들에게 가할 모든 고통 때문에 비극적일 것입니다. 열핵전쟁 이후 수년 또는 수십 년 동안 영하의 기온과 칠흑같이 어두운 하늘 아래에서 굶어 죽는 공포를 상상해 보세요. 이것은 직접적인 영향을 받은 사람들에게는 개인적인 비극입니다. 그러나 장기론자들은 첫 번째 비극보다 천문학적으로 더 심각한 두 번째 비극이 있다고 주장하는데, 이는 인류의 멸종이 향후 약 10100년 동안 매우 길고 번영할 수 있는 미래를 영구적으로 포기할 수 있다는 사실에서 비롯됩니다(이 시점이 되면 '열사병'으로 인해 생명이 불가능해질 것입니다). 그렇게 되면 인류의 '광대하고 영광스러운' 장기적 잠재력을 돌이킬 수 없게 파괴할 것이며, 오드의 거의 종교적인 표현을 빌리자면 우주의 크기와 열역학적 평형에 도달하기까지 남은 시간을 고려할 때 첫 번째 비극은 완전히 창백해질 정도로 거대한 '잠재력'이 사라지게 됩니다.

이는 곧바로 개인과 인류 사이의 또 다른 유사점을 암시합니다. 누군가의 잠재력이 실현되지 않는 유일한 방법은 죽음이 아니라는 것입니다. 램지가 젊어서 죽지 않고 공부하고 학술 논문을 쓰고 발표하는 대신 동네 바에서 당구를 치고 술을 마시며 하루하루를 보냈다고 상상해 보세요. 같은 결과, 다른 실패 모드. 이를 인류에 적용하면 장기주의자들은 인류가 멸종하지 않고도 잠재력을 실현하지 못할 수 있는 실패 모드가 있다고 주장할 수 있는데, 이에 대해서는 아래에서 다시 설명하겠습니다.

이 견해에 따르면 기후 재앙은 두 살 때 발가락을 다친 90세 노인처럼 작은 사고에 불과할 것입니다.

지금까지의 생각을 요약하면, 인류는 각 개인의 잠재력을 초월하는 자체 '잠재력'을 가지고 있으며,이 잠재력을 실현하지 못하면 극도로 나쁠 것이며, 실제로 우리가 보게 될 것처럼 말 그대로 우주적 규모의 도덕적 재앙이 될 것입니다. 이것이 장기주의의 핵심 교리입니다. 윤리적으로 말하자면, '지구에서 유래한 지적 생명체'로서 우리의 잠재력을 실현하는 것보다 더 중요한 것은 없습니다. 장기주의자들은 우리의 잠재력이 파괴될 가능성에 대해 '실존적 위험'이라는 무서운 용어를, 이 잠재력을 실제로 파괴하는 사건에 대해 '실존적 파국'이라는 무서운 용어를 만들었을 정도로 이 문제는 매우 중요합니다.

이 이데올로기가 왜 그렇게 위험하다고 생각하나요? 간단히 말하자면, 인류의 잠재력을 다른 무엇보다도 높게 평가하면 현재와 가까운 미래에 살아 있는 실제 사람들이 극심한 피해를 입거나 심지어 죽음에 이를 확률이 크게 높아질 수 있기 때문입니다. 다른 글에서 언급했듯이, 장기주의 이데올로기는 지지자들이 기후 변화에 대해 무감각한 태도를 취하는 경향이 있다는 점을 고려하세요. 왜 그럴까요? 기후 변화로 인해 섬나라가 사라지고, 대규모 이주가 일어나고, 수백만 명이 사망하더라도 앞으로 수조 년 동안 인류의 장기적인 잠재력을 손상시키지는 않을 것이기 때문입니다. 우주적 관점에서 상황을 바라본다면, 향후 2천 년 동안 인구의 75%를 감소시키는 기후 재앙조차도 큰 틀에서 보면 90세 노인이 두 살 때 발가락을 다친 것과 같은 작은 사고에 지나지 않을 것입니다.

보스트롬의 주장은 '세계 문명의 붕괴를 초래하는 실존하지 않는 재앙은 인류 전체의 관점에서 볼 때 잠재적으로 회복 가능한 좌절'이라는 것입니다. 그는 '인류에게 거대한 학살'이 될 수도 있지만, 인류가 다시 일어나 잠재력을 발휘하는 한 궁극적으로는 '인류의 작은 실수'에 지나지 않을 것이라고 덧붙입니다. 그는 역사상 최악의 자연재해와 끔찍한 잔학 행위도 이러한 원대한 관점에서 보면 거의 눈에 띄지 않는 사소한 일이 된다고 말합니다. 그는 두 차례의 세계대전, 에이즈, 체르노빌 원전 사고를 언급하며 '그러한 사건들이 당장 영향을 받은 사람들에게는 비극적이지만, 큰 그림에서 보면 ... 최악의 재앙조차도 거대한 생명의 바다 표면의 파문에 불과하다'고 선언합니다.

에이즈와 홀로코스트의 악영향을 평가하는 이러한 시각은 앞으로 일어날 동일한(실존하지 않는) 범위와 강도의 재난도 '단순한 파문'으로 분류해야 한다는 것을 의미합니다. 직접적인 실존적 위험을 초래하지 않는다면 개인에게 비극적일지라도 크게 걱정할 필요는 없습니다. 보스트롬은 2003년에 '첫째, 둘째, 셋째, 넷째 우선순위는... 실존적 위험을 줄이는 것'이라고 썼습니다. 그는 몇 년 후 이 말을 되풀이하며 세계 빈곤을 완화하고 동물의 고통을 줄이는 것과 같은 '차선책의 효능을 가진 기분 좋은 프로젝트'에 우리의 유한한 자원을 '낭비'해서는 안 된다고 주장했는데, 그 어느 것도 우리의 장기적인 잠재력을 위협하지 않으며 우리의 장기적인 잠재력이 진정 중요한 것이기 때문입니다.

오드는 이러한 견해를 반영하여 인류가 직면한 모든 문제 중에서 우리의 '첫 번째 큰 임무는 ... 안전한 곳, 즉 실존적 위험이 '낮고 낮은 상태를 유지하는 곳'에 도달하는 것'이라고 주장하며 이를 '실존적 안전'이라고 부릅니다. 무엇보다 중요한 것은 '즉각적인 위험에서 벗어나' 우리의 잠재력을 '보존'하고 '보호'하는 데 필요한 모든 일을 하고, '장기적인 미래에 대한 위험으로부터 인류를 보호할 수 있는 강력한 안전장치를 고안하여 실패할 수 없도록' 하는 것입니다. 오드는 기후 변화에 대해 고개를 끄덕이면서도 모호한 방법론을 바탕으로 기후 변화가 실존적 재앙을 초래할 확률은 1,000분의 1에 불과하며, 이는 금세기 초지능 기계가 인류를 파괴할 확률보다 두 배나 낮은 수치라고 주장합니다.

여기서 주목할 점은 기후 재앙이 전 세계 실제 사람들에게 미칠 영향이 아니라(큰 틀에서 보면 이것은 보스트롬의 표현을 빌리자면 '인류의 작은 실수'에 불과하다는 점을 기억하세요), 오드가 '더 프레시피스'에서 말했듯이 이 재앙이 '회복 불가능한 문명의 붕괴 또는 인류의 완전한 멸종으로 이어질 위험'이 있다는 희박한 가능성이라는 점입니다. 다시 말하지만, 실제 사람들(특히 글로벌 사우스 지역의 사람들)이 입는 피해는 절대적인 측면에서는 상당할 수 있지만, 우주에서 인류의 장기적인 잠재력의 '광대함'과 '영광'에 비하면 거의 미미한 수준입니다.

그러나 장기주의의 함의는 훨씬 더 걱정스러운 것입니다. 우리의 최우선 순위가 실존적 재앙을 피하는 것, 즉 '우리의 잠재력'을 실현하는 것이라면, 이를 실현하기 위해 테이블 위에 놓여 있지 않은 것은 무엇일까요? 우리가 '더 큰 선'이라고 부르는 개념이 특정 잔혹 행위(예: 전쟁 중)를 '정당화'하는 데 어떻게 사용되어 왔는지에 대한 토마스 나겔의 발언을 생각해 보십시오. 그는 목적이 수단을 '정당화'하고 목적이 충분히 크다고 생각되면(예: 국가 안보), 이는 '특정 수의 까맣게 그을린 아기들에 대한 책임이 있는 사람들의 양심을 완화하는 데 도움이 될 수 있다'고 주장합니다. 이제 '더 큰 선'이 국가 안보가 아니라 향후 수조 년 동안 지구에서 유래한 지적 생명체의 우주적 잠재력이라면 무엇이 '정당화'될 수 있을지 상상해 보세요. 2차 세계대전 동안 4천만 명의 민간인이 사망했지만, 이 숫자를 우리가 실존적 재앙을 피할 수 있다면 존재할 수 있는 1,054명 이상의 사람들(보스트롬의 추산)과 비교해 보세요. 이 잠재력을 '보호'하고 '보존'하기 위해 우리가 하지 말아야 할 일은 무엇일까요? 아직 태어나지 않은 사람들이 존재할 수 있도록 하기 위해? 이 우주적으로 중요한 도덕적 목적에 의해 '정당화'될 수 없는 수단은 무엇일까요?

보스트롬은 '예방적 치안 역량'을 강화하기 위해(예: 문명을 파괴할 수 있는 대량 살상 테러 공격을 막기 위해) 지구상의 모든 사람을 실시간으로 감시하는 글로벌 침습적 감시 시스템을 구축하는 것을 진지하게 고려해야 한다고 주장했습니다. 다른 글에서 그는 국가가 실존적 재앙을 피하기 위해 선제적 폭력/전쟁을 사용해야 한다고 주장했으며, 수십억 명의 실제 인명을 구하는 것이 실존적 위험을 극히 미미하게 줄이는 것과 도덕적으로 동등하다고 주장했습니다. 그의 말에 따르면, 미래에 1054명이 존재할 확률이 '단 1%'라 할지라도 '실존적 위험을 단 10억분의 1로 줄이는 기대 가치는 10억 명의 목숨보다 1000억 배의 가치가 있다'는 것입니다. 이러한 광신주의(일부 장기주의자들은 이 말을 받아들입니다) 때문에 현실 세계의 정치 지도자들이 보스트롬의 견해를 진지하게 받아들일 경우 어떤 일이 벌어질지 걱정하는 비평가들이 점점 더 많아지고 있습니다. 당혹스럽게도 장기주의에 대해 호의적으로 말하는 경향이 있는 수학 통계학자 올레 해그스트룀의 말을 인용하자면 다음과 같습니다:

저는 [위의 계산이] 정치인과 의사 결정자들 사이에서 문자 그대로 받아들일 만한 가치가 있는 정책 지침으로 인식될 수 있다는 전망에 대해 극도로 불안감을 느낍니다. '오믈렛을 만들려면 달걀 몇 개를 기꺼이 깨뜨려야 한다'는 옛 속담이 떠오를 정도로, 미래의 유토피아를 만드는 데 기여할 수 있다면 약간의 대량 학살도 좋은 것일 수 있다고 설명하는 데 주로 사용되어 왔습니다. CIA 국장이 미국 대통령에게 독일 어딘가에 종말의 무기를 개발 중인 미치광이가 있고 이 무기로 인류를 멸망시키려 한다는 믿을 만한 증거가 있으며 이 미치광이가 성공할 확률은 100만 분의 1이라고 설명하는 상황을 상상해 보십시오. 이 미치광이의 정체나 행방에 대한 추가 정보는 없습니다. 대통령이 보스트롬의 주장을 마음에 새기고 산술을 할 줄 안다면 독일에 대한 전면적인 핵 공격을 감행하여 국경 내의 모든 사람을 죽이는 것이 가치가 있다고 결론을 내릴 수 있습니다.

제가 장기주의가 매우 위험하다고 생각하는 몇 가지 이유는 다음과 같습니다. 하지만 제가 아는 한 이 세계관에는 제가 아는 한 그 누구도 문서로 지적하지 않은 근본적인 문제가 더 있습니다. 예를 들어, 장기주의의 근본적인 약속이 인류가 애초에 생존에 전례 없는 많은 위험에 직면하게 된 주요 원인이라고 주장할 수 있는 좋은 근거가 있습니다. 다시 말해, 장기주의는 '실존적 안전'을 달성하는 것과 양립할 수 없으며, 이는 미래의 멸종 또는 붕괴 가능성을 진정으로 줄이는 유일한 방법은 장기주의 이데올로기를 완전히 포기하는 것일 수 있다는 것을 의미합니다.

보스트롬과 오드에게 포스트휴먼이 되지 못하면 우리는 우리의 광대하고 영광스러운 잠재력을 실현하지 못할 것입니다.

이 주장을 이해하기 위해 먼저 장기주의자들이 말하는 '장기적 잠재력'이 무엇을 의미하는지, 지금까지 정의하지 않고 사용했던 표현을 풀어보겠습니다. 이 개념은 트랜스휴머니즘, 우주 확장주의, 그리고 철학자들이 '완전 공리주의'라고 부르는 것과 밀접하게 연관된 도덕적 관점의 세 가지 주요 구성 요소로 분석할 수 있습니다.

첫 번째는 첨단 기술을 이용해 우리의 신체와 두뇌를 재설계하여 근본적으로 향상된 '우월한' 포스트휴먼 종족을 만들어야 한다는 생각을 말합니다(혼란스럽게도 장기주의자들은 이를 '인류'의 범주에 포함시킵니다). 보스트롬은 오늘날 가장 저명한 트랜스휴머니스트이지만, 롱텀주의자들은 '트랜스휴머니즘'이라는 용어가 주는 부정적인 연상 때문에 이 용어를 사용하는 것을 꺼려왔습니다. 예를 들어, 수잔 레빈은 현대 트랜스휴머니즘이 영미 우생학 운동에 뿌리를 두고 있다고 지적하며, 보스트롬과 함께 '인간 강화'(2009)라는 책을 공동 편집한 줄리안 사불레스쿠 같은 트랜스휴머니스트는 실존적 파국을 피하기 위해 옥시토신과 같은 '도덕성 강화' 화학 물질을 섭취해야 한다고 주장했습니다(그는 '궁극적 해악'이라고 부릅니다). 사불레스쿠는 동료와 함께 쓴 글에서 '인류를 도덕적으로 개선하는 것은 매우 시급한 문제이며... 우리는 이를 위해 모든 수단을 강구해야 한다'고 말합니다. 이러한 주장은 논란의 여지가 있을 뿐만 아니라 많은 사람들에게 매우 불안한 것이기 때문에, 장기주의자들은 이러한 생각과 거리를 두려고 노력하면서도 이 이데올로기를 옹호해 왔습니다.

트랜스휴머니즘은 현재의 인간 모드보다 훨씬 더 나은 다양한 '포스트휴먼 모드'가 존재한다고 주장합니다. 예를 들어, 유전적으로 자신을 변화시켜 감정을 완벽하게 통제하거나 신경 임플란트를 통해 인터넷에 접속할 수 있고, 컴퓨터 하드웨어에 마음을 업로드하여 '디지털 불멸'을 달성할 수도 있습니다. 박쥐나 돌고래처럼 에코로케이션을 통해 세상을 인식하거나 붉은 여우나 귀향 비둘기처럼 자기 지각을 통해 세상을 인식할 수 있다면 얼마나 멋진 일인지 생각해 보세요. 오드는 '이러한 미지의 경험은 우리보다 훨씬 덜 정교한 동물의 마음에도 존재한다'고 말합니다. 그렇다면 엄청난 가치를 지닌 어떤 경험이 우리보다 훨씬 더 뛰어난 마음속에 존재할 수 있을까요?"라고 말합니다. 이러한 가능성에 대한 보스트롬의 가장 환상적인 탐구는 '유토피아에서 온 편지'(2008)에서 비롯되었는데, 이 편지에 등장하는 가상의 포스트휴먼이 '차에 뿌려 먹는다'고 쓸 정도로 '쾌락'이 넘치는 초지능적 포스트휴먼으로 가득한 테크노 유토피아 세계를 묘사하고 있습니다.

보스트롬과 오드에 따르면 포스트휴먼이 되지 못하면 우리가 가진 광대하고 영광스러운 잠재력을 실현하지 못하게 되고, 이는 실존적으로 재앙이 될 수 있다는 것이 장기주의와의 연관성입니다. 보스트롬은 2012년에 '인간의 생물학적 본성을 변화시킬 수 있는 가능성을 영구적으로 봉쇄하는 것 자체가 실존적 재앙이 될 수 있다'고 말했습니다. 마찬가지로 오드는 '인류를 지금과 같이 영원히 보존하는 것은 우리의 유산을 낭비하고 잠재력의 대부분을 포기하는 것일 수 있다'고 주장합니다.

잠재력의 두 번째 요소인 우주 확장주의는 미래의 빛의 원뿔, 즉 이론적으로 우리가 접근할 수 있는 시공간 영역을 가능한 한 많이 식민지화해야 한다는 생각을 말합니다. 장기주의자들에 따르면, 미래의 빛의 원뿔에는 엄청난 양의 개발 가능한 자원이 포함되어 있으며, 이를 네젠트로피(또는 역 엔트로피)의 '우주적 엔다우먼트'라고 부릅니다. 오드는 은하수만 해도 '지름이 15만 광년이고, 1,000억 개 이상의 별을 포함하며, 대부분 자체 행성을 가지고 있다'고 말합니다. 인류의 장기적인 잠재력을 달성하기 위해서는 '결국 가까운 별에 가서 더 멀리 나아갈 수 있는 새로운 번영의 사회를 만들 수 있는 충분한 발판을 마련하는 것'만이 필요하다고 그는 말합니다. '한 번에 6광년씩만' 퍼져나가면 '우리 은하를 포함한 각 항성계는 우리 은하 전체가 결국 생명체로 가득 차려면 가장 가까운 몇 개의 별만 정착하면 되기 때문에' 포스트휴먼 후손들은 '우리 은하의 거의 모든 별에 도달할 수 있게' 만들 수 있을 것입니다. 이 과정은 기하급수적으로 진행될 수 있으며, 우리 후손들이 별과 별 사이를 이동할 때마다 사회는 더욱 '번성'하게 될 것입니다.

하지만 정확히 왜 우리가 이 일을 해야 할까요? 새로운 포스트휴먼 문명으로 우주를 가득 채우는 것이 왜 그렇게 중요할까요? 이는 세 번째 요소인 총체적 공리주의로 이어지는데, 저는 이를 줄여서 '공리주의'라고 부를 것입니다. 일부 장기주의자들은 자신은 공리주의자가 아니라고 주장하지만, 이는 대부분 장기주의, 그리고 더 일반적으로 장기주의가 등장한 효과적 이타주의(EA) 운동이 공리주의를 재포장한 것에 불과하다는 비판을 회피하기 위한 연막작전이라는 점을 바로 알아두어야 합니다. 사실 EA 운동은 적어도 실제로는 매우 공리주의적이며, 실제로 운동의 이름을 정하기 전에 오드를 비롯한 초기 멤버들은 운동의 이름을 '효과적인 공리주의 공동체'라고 부르는 것을 진지하게 고려했습니다.

즉, 공리주의는 '우주의 관점'이라는 비실체적이고 공정한 우주적 관점에서 계산된 세상의 '내재적 가치'의 총량을 극대화하는 것이 우리의 유일한 도덕적 의무라고 명시하는 윤리적 이론입니다. 이 관점에서는 공리주의 쾌락주의자들이 쾌락과 동일시하는 가치가 공간과 시간에 걸쳐 사람들에게 어떻게 분배되는지는 중요하지 않습니다. 중요한 것은 총 순 합계입니다. 예를 들어, 가치가 '1'인, 즉 간신히 살아갈 가치가 있는 삶을 사는 사람이 1조 명이라고 가정해 보겠습니다. 그러면 총 가치는 1조가 됩니다. 이제 10억 명의 삶이 가치가 '999'인, 즉 삶이 매우 좋은 대체 우주를 생각해 봅시다. 이 경우 총 가치는 999억 달러가 됩니다. 999억은 1조보다 작으므로, 살 가치가 거의 없는 삶으로 가득 찬 첫 번째 세계가 두 번째 세계보다 도덕적으로 더 낫기 때문에 공리주의자는 둘 중 하나를 선택해야 한다면 전자를 선택할 것입니다. (이를 '반박할 수 없는 결론'이라고 하는데, 최근 오드, 맥아스킬, 그리브스 같은 장기주의자들은 이 결론을 심각하게 받아들이지 말아야 한다고 주장했습니다. 그들에겐 첫 번째 세계가 정말 더 나을 수도 있습니다!)

벡스테드는 부유한 나라 사람들의 삶을 가난한 나라 사람들보다 우선시해야 한다고 주장했습니다. 이 주장의 근본적인 논리는 여러분과 나라는 사람은 목적을 위한 수단에 지나지 않는다는 생각에 기초합니다. 우리는 그 자체로 중요한 존재가 아니며, 고유한 가치를 지니지 않습니다. 대신, 사람은 가치의 '용기'로 이해되며, 따라서 우리는 가치를 '담는' 한도 내에서만 중요하며, 따라서 빅뱅과 열사 사이에 우주의 전체 순 가치 총량에 기여합니다. 공리주의는 우리에게 가치를 극대화하라고 말하기 때문에, 순 양의 가치(쾌락)를 지닌 사람(가치 용기)이 많을수록 도덕적으로 볼 때 우주는 더 좋아질 것이라는 결론이 나옵니다. 한 마디로, 사람은 가치를 극대화하기 위해 존재하는 것이 아니라 가치를 극대화하기 위해 존재하는 것입니다.

그렇기 때문에 장기주의자들은 우리가 우주를 식민지화하고 헤아릴 수 없을 정도로 많은 사람들이 가상현실 환경에서 긍정적인 삶을 사는 별을 중심으로 방대한 컴퓨터 시뮬레이션을 만들어낸다면 미래에 얼마나 많은 사람들이 존재할 수 있을지 계산하는 데 집착합니다. 이미 보스트롬의 미래 인구 추정치1054명에 대해 언급했는데, 여기에는 이러한 '디지털 인간'이 다수 포함되어 있지만, 그의 베스트셀러인 '초지능'(2014)에서는 이보다 훨씬 더 많은 1058 명이 '가상 환경에서 서로 상호작용하면서 풍요롭고 행복한 삶을 살 것'이라고 예측했습니다. 그리브스와 맥아스킬은 컴퓨터 시뮬레이션을 통해 은하수 내에만 약 1054 or more people개의 의식을 가진 존재가 존재할 수 있다고 추정하면서 이 가능성에 대해 비슷한 기대를 걸고 있습니다.

이것이 바로 우리의 '광대하고 영광스러운' 잠재력, 즉 미래의 빛의 원뿔 전체에 퍼져 있는 거대한 컴퓨터 시뮬레이션 안에 기술적으로 강화된 수많은 디지털 포스트휴먼이 존재하는 것입니다. 해그스트룀의 시나리오에서 장기주의 정치인이 독일을 멸망시키는 것은 바로 이 목표 때문입니다. 이 목표를 위해 우리는 세계 빈곤 해결과 같은 일에 우리의 자원을 '... 낭비'해서는 안됩니다. 이 목표를 위해 우리는 글로벌 감시 시스템의 구현을 고려하고, 선제 전쟁을 테이블 위에 올려놓고, 기후 변화의 파괴적인 영향(대부분 글로벌 북부에 의해 야기된)으로부터 글로벌 남부의 사람들을 구하는 것보다 초지능적인 기계에 더 집중해야 합니다. 사실 벡스테드는 이러한 목표를 달성하기 위해서는 장기적인 미래에 영향을 미치는 것이 '압도적으로 중요'하고, 전자가 후자보다 장기적인 미래에 영향을 미칠 가능성이 더 높기 때문에 실제로 부유한 국가의 사람들의 삶을 가난한 국가의 사람들보다 우선시해야 한다고 주장하기도 했습니다. 오드가 장기주의 문헌에 가장 중요한 공헌 중 하나라고 극찬한 벡스테드의 2013년 박사 학위 논문의 한 구절을 인용하면 다음과 같습니다:

가난한 나라에서 생명을 구하는 것은 부유한 나라에서 생명을 구하고 개선하는 것보다 파급 효과가 훨씬 작을 수 있습니다. 왜 그럴까요? 부유한 국가는 혁신이 훨씬 더 많고 근로자의 경제적 생산성이 훨씬 높기 때문입니다. [따라서 다른 모든 것이 동일하다면 부유한 나라에서 생명을 구하는 것이 가난한 나라에서 생명을 구하는 것보다 훨씬 더 중요하다는 주장이 더 그럴듯해 보입니다.

이것은 빙산의 일각에 불과합니다. '우리의 잠재력'이라는 개념이 기술 발전과 새로운 위험 창출에 미치는 영향을 생각해 보세요. 우리의 잠재력을 실현하는 것이 인류의 궁극적인 도덕적 목표이고, 현재보다 훨씬 발전된 기술 없이는 우리 후손이 포스트휴먼이 되어 우주를 식민지화하고 컴퓨터 시뮬레이션에서 약 1054 or more people명의 인류를 창조할 수 없기 때문에, 더 많은 기술을 개발하지 못한다면 그 자체가 실존적 파국, 즉 램지가 당구와 술로 하루를 보내며 자신의 재능을 소홀히 하는 것과 비슷한 실패 모드가 될 것이며 보스트롬은 이를 '정체'라고 불렀습니다.

실제로 보스트롬은 인류가 '기술적 성숙', 즉 '실현 가능한 최대치에 가까운 수준의 경제적 생산성과 자연에 대한 통제력을 제공하는 능력의 달성'에 도달하거나 유지하지 못하게 하는 미래의 모든 사건을 의미하는 '실존적 위험'의 정식 정의에서 이 아이디어를 전면에 배치합니다. 여기서 기술적 성숙이 중요한 이유는 자연을 통제하고 경제적 생산성을 절대적인 물리적 한계까지 끌어올리는 것이 표면적으로는 미래의 빛의 원뿔 안에서 최대한의 '가치'를 창출하는 데 필요하기 때문입니다.

하지만 인류가 어떻게 현재의 기후 및 생태 위기에 처하게 되었는지 잠시 생각해 보세요. 화석 연료의 추출과 연소, 생태계 파괴, 생물 종의 멸종 이면에는 자연을 통제하고, 정복하고, 착취하고, 정복하고, 약탈하고, 변형하고, 재구성하고, 조작해야 할 대상으로 여기는 관념이 자리 잡고 있습니다. 기술 이론가인 랭던 위너는 『자율 기술』(1977)에서 프랜시스 베이컨 시대부터 기술에 대한 우리의 관점은 '권력이 사용되는 방식에 대한 단일 개념, 즉 절대적인 지배 방식, 노예에 대한 주인의 독재적이고 일방적인 통제 방식에 불가분의 관계에 놓여 있었다'고 지적합니다. 그는 이렇게 덧붙입니다: 자연의 모든 것을 정복하고 정복하고 정복하는 인간의 정당한 역할에 대해서는 거의 의문의 여지가 없습니다. 이것이 바로 인간의 힘이자 영광입니다. 다른 상황에서는 다소 비열하고 비열한 의도로 보일 수 있는 것이 여기서는 가장 명예로운 미덕입니다. 자연은 인간이 마음대로 조종할 수 있는 만물의 영장입니다.

보스트롬의 에세이 '천문학적 낭비'(2003)를 인용한 보스트롬의 실존적 위험과 그와 관련된 규범적 미래학에 대한 설명에서 자연, 우주 전체, 우리의 '우주적 부여'는 약탈을 위해 존재하며, 방대한 컴퓨터 시뮬레이션에서 '가치 있는 삶을 사는 중생과 같은 가치 구조'로 조작, 변형, 변환될 수 있다는 것입니다. 그러나 베이컨의 이러한 자본주의적 관점은 현재 생물권의 넓은 지역과 전 세계 원주민 공동체, 심지어 서구 기술 문명 자체를 파괴하겠다고 위협하는 전례 없는 환경 위기의 가장 근본적인 근본 원인 중 하나입니다. 다른 장기주의자들은 보스트롬만큼 명확하지는 않았지만, 공리주의가 인간을 보는 방식, 즉 추상적이고 비인격적인 목적을 위한 수단으로 자연 세계를 보는 경향이 분명합니다. 예를 들어, 맥아스킬과 한 동료는 EA 운동과 장기주의가 '선한 일을 한다는 잠정적인 목표가 생물 다양성을 보호하거나 자연의 아름다움을 보존하는 것이 아니라 복지를 증진하는 데만 관심을 둔다는 점에서 잠정적으로 복지주의자'라고 주장합니다.

모든 문제는 너무 많은 기술이 아니라 너무 적은 기술에서 발생합니다.

오늘날 인류 생존에 대한 압도적인 위험의 원천이 바로 이러한 기술에서 비롯된다는 사실에 동의함에도 불구하고 더욱 강력한 기술을 개발해야 한다는 장기적인 요구도 걱정스러운 부분입니다. 오드의 말을 빌리자면, '인류를 보호하기 위한 진지한 노력이 없다면 금세기의 위험은 더 커질 것이며, 기술 발전이 계속될수록 그 위험은 더 커질 것이라고 믿을 만한 강력한 이유가 있다'는 것입니다. 마찬가지로, 2012년에 보스트롬은 다음과 같이 인정합니다.

가까운 미래에 실존적 위험의 대부분은 인위적 실존적 위험, 즉 인간 활동으로 인해 발생하는 위험으로 구성됩니다. 특히, 가장 큰 실존적 위험의 대부분은 외부 세계 또는 우리 자신의 생물학을 조작하는 능력을 근본적으로 확장할 수 있는 미래의 잠재적 기술 혁신과 관련되어 있는 것으로 보입니다. 우리의 힘이 확장됨에 따라 의도적이든 의도하지 않았든, 긍정적이든 부정적이든 잠재적 결과의 규모도 커질 것입니다.

이러한 관점에서 볼 때, 앞으로 나아갈 길은 단 하나, 더 많은 기술 개발뿐이며, 이것이 미래를 향한 가장 위험한 길일지라도 말입니다. 하지만 이것이 얼마나 의미가 있을까요? 분명 우리가 생존 가능성을 극대화하려면 위험한 새로운 이중 용도 기술 개발에 반대해야 합니다. 더 많은 기술이 더 큰 위험과 같다는 것이 역사가 분명히 보여주고 기술 예측이 확증한다면, 실제로 '실존적 안전' 상태에 도달하는 유일한 방법은 기술 혁신의 속도를 늦추거나 완전히 중단하는 것뿐일 것입니다.

그러나 장기주의자들은 이 수수께끼에 대한 해답을 이른바 '가치 중립성 논제'라는 이름으로 제시합니다. 기술은 도덕적으로 중립적인 대상, 즉 '도구에 불과하다'는 주장입니다. 이 개념은 '총이 사람을 죽이는 것이 아니라 사람이 사람을 죽인다'는 미국총기협회(NRA)의 슬로건에 가장 잘 요약되어 있는데, 이는 기술의 결과가 좋든 나쁘든, 유익하든 해롭든, 전적으로 인공물이 아니라 사용자가 결정한다는 메시지를 전달합니다. 2002년 보스트롬은 '실존적 위험을 초래한 문명이나 기술을 탓해서는 안 된다'며 '우리가 실존적 위험을 정의하는 방식 때문에 기술 문명을 발전시키지 못했다는 것은 실존적 재앙의 희생자가 되었다는 것을 의미한다'고 덧붙였습니다.

오드는 마찬가지로 '문제는 기술의 과잉이 아니라 지혜의 부족'이라고 주장하며 칼 세이건의 저서 '창백한 푸른 점'(1994)을 인용합니다: '우리가 직면한 많은 위험은 실제로 과학과 기술에서 비롯된 것이지만, 더 근본적으로는 우리가 그에 상응하는 지혜를 갖추지 못한 채 강력해졌기 때문입니다.' 다시 말해, 더 똑똑하고 현명하고 윤리적이지 못한 것은 우리의 잘못이며, 많은 장기주의자들은 약간의 왜곡된 논리로 우리의 인지 시스템과 도덕적 성향을 기술적으로 재설계함으로써 이러한 결함을 바로잡을 수 있다고 믿습니다. 이 논리에 따르면 모든 것은 공학적 문제이며, 따라서 모든 문제는 기술이 너무 많아서가 아니라 너무 적어서 발생합니다.

이제 우리는 장기주의가 얼마나 자멸적일 수 있는지 알 수 있습니다. 장기적 잠재력의 실현에 대한 '광신적' 강조는 사람들이 실재하지 않는 기후 변화를 방치하고, 가난한 사람보다 부자를 우선시하며, 심지어 '더 큰 우주적 선'을 위해 선제적 폭력과 잔학 행위를 '정당화'하도록 이끌 수 있을 뿐만 아니라, 인류를 파멸의 벼랑 끝으로 몰아간 베이컨주의, 자본주의, 가치 중립주의와 같은 경향을 그 안에 포함하고 있기 때문입니다.

장기주의는 경제적 생산성, 자연에 대한 우리의 통제력, 우주에서의 우리의 존재감, 미래에 존재하는 (시뮬레이션된) 사람들의 수, 비인격적인 '가치'의 총량 등을 극대화하라고 말합니다. 그러나 이를 극대화하기 위해서는 점점 더 강력하고 위험한 기술을 개발해야 하며, 그렇게 하지 못하면 그 자체가 실존적 재앙이 될 수 있습니다. 하지만 걱정할 필요는 없습니다. 기술이 우리의 곤경에 대한 책임이 아니기 때문에 대부분의 위험이 기술에서 직접적으로 비롯된다는 사실이 더 많은 기술 개발을 중단할 이유가 되지 않기 때문입니다. 오히려 문제는 우리에게 있으며, 이는 우리가 인지적, 도덕적으로 향상된 포스트휴먼으로 변모하기 위해 더 많은 기술을 만들어야 한다는 것을 의미합니다.

이것은 재앙의 레시피처럼 보입니다. '현명하고 책임감 있는' 새로운 종족의 포스트휴먼을 창조하는 것은 불가능하며, 현재와 같은 속도로 첨단 기술이 계속 개발된다면 전 지구적 규모의 재앙은 '만약'이 아니라 '언제'의 문제일 것입니다. 예, 10억 년 후 태양에 의해 멸종되기 전에 지구를 탈출하려면 첨단 기술이 필요할 것입니다. 그러나 장기주의자들이 놓치는 중요한 사실은 기술이 먼 미래의 사건으로부터 우리를 구하기보다는 그 전에 우리를 멸종시킬 가능성이 훨씬 더 높다는 것입니다. 저처럼 인류의 지속적인 생존과 번영을 소중히 여긴다면 장기적인 관점에 관심을 가져야 하지만, 위험하고 결함이 있을 뿐만 아니라 현재 지구상의 모든 사람을 위협하는 위험에 기여하고 강화할 수 있는 장기주의의 이데올로기는 거부해야 합니다.

* DeepL로 기계번역한 다음 최소한의 교정을 했다. 미씸쩍은 대목은 원문을 참조해야 한다.

keyword