brunch

You can make anything
by writing

C.S.Lewis

by 다정한 세상 May 27. 2023

신이 되는 인간[호모 데우스]

신인간이 탄생한 세상에서는 무슨 일이 일어날까?

몇 년 전에 <레드 라이징> 시리즈(현재 5권까지 발행. 6권이 7월 발행 예정. 국내에는 3권까지 번역된 것으로 보임) 공상 과학 소설을 읽었다. 세계적으로 대단한 호응을 얻었다고 하고 사이언스 픽션을 좋아하기에 도서관에 신청하고 오래 기다린 끝에 읽을 수 있었다. 읽으면서 그때 내 생각은 사이언스 픽션이라기보다는 판타지 소설에 가깝다는 것이었다.

이 소설의 무대는 주로 달과 화성, 기타 태양계 행성들이지만 뒤로 가면 태양계를 벗어나 먼 우주로까지 확대된다. 주요 줄거리는 올림푸스 신화에 나오는 신과 같은 존재들과 이들에게 지배당하고 계급적 차별과 굶주림과 매일매일의 노동에 생명을 건 노예 같은 종족의 반란으로 시작된 우주 전쟁이다. 반란을 주도하는 <레드> 족은 그들을 통치하는 <골드> 족에 비해 신체적으로나 정신적으로나 비교가 되지 않을 정도로 열등한 존재이다. 이미 외모 자체가 확연히 다르기 때문에 주인공 다리오는 <골드>족 사회에 침투하기 위해 자신의 신체를 [조각]하는 고통을 감수한다.

[조각]은 생명공학과 의학의 첨단 기술을 사용해 피부와 골격, 얼굴에서부터 두뇌에 이르기까지 한 사람을 완전히 새로운 존재로 탄생시키는 과정이다. 그런데 <골드>족은 이미 수십 수백 세대를 통해 유전자 변형 기술을 사용해 만든 우수한 신체적, 정신적 DNA를 자신들의 계급 안에서만 향유하고 전달하는 방식으로 신과 같은 존재가 되었다. 질병과 노쇠함도 극복했고 전쟁으로 인해 망가진 신체는 [조각]을 통해 원상 복귀할 수 있다.

<신>이 가지는 두 가지 중요한 힘, 즉 '죽지 않을 수 있는 존재'라는 점과 '생명을 창조하는 힘'을 가진 <골드>는 더 이상 우리가 속한 <호모 사피엔스 Homo Sapiens>로 분류될 수 없는 존재이다.

이 소설을 읽은 얼마 뒤 <유발 하라리 Yoval Noha Harari>의 <호모 데우스>를 읽던 나는 <피어스 브라운 Pierce Brown>이 그려낸 미래의 인간 <골드>족이 판타지가 아니라 실제로 구현될 수 있는 존재이며, 하라리가 그리는 <신인류 Homo Deus>의 모습과 너무나 닮아있음에 충격을 받았다. 하라리의 <신인류>가 어떤 존재일지 궁금하다면 <레드 라이징>을 한 번 읽어봐도 좋을 것이다. 너무 길긴 하지만 1권만 읽어도 <호모 데우스>와 <호모 사피엔스>가 공존하는 미래 사회의 모습이 어떨지 상상할 수 있을 것이다.

하라리의 유명한 책 <사피엔스>가 인류의 과거에서 현재에 이르기까지의 역사를 자신만의 독특한 관점으로 기록한 것이라면, <신인류>는 인류의 미래 역사에 대한 하라리의 예언자적 성찰을 기술한 책이다. 이 책은 하이 테크닉과 생물학, 의학 등의 과학적 발전에 의해 21세기 인류가 맞닥뜨리게 될 여러 가지 문제들을 제시하고 있다. 철학적, 윤리적, 인문학적 논쟁과 과학적 논쟁까지 대단히 다양한 논쟁거리를 제시하고 있기 때문에 간단히 요점을 소개하기가 무척 어려운 책이다. 그래서 큰 논점만을 정리해 볼 생각이다.

그는 21세기에 들어 선 인류는 수 천년 동안 우리를 괴롭혀 온 대표적인 세 가지 문제 <기아poverty>, <질병diease>, <전쟁war>을 벗어던질 수 있게 되었다고 본다.

21세기 인류는 모든 인구를 먹여 살릴 만한 충분한 식량생산기술을 가졌다. 아직도 빈곤과 기아로 고통받고 있는 지역이 물론 있지만 인류 전체로 보면 더 이상 생산력의 문제가 아니고 정치적으로 해결해야 하는 분배의 문제이다.

또 전염병이나 각종 질병은 의학과 미생물학의 발전에 따라 더 이상 미지의 재앙이 아니다. 백신과 항생제의 개발, 암이나 에이즈 등 불치의 병으로 여겨졌던 질병도 진단방법과 치료제의 개발로 인류가 조금만 더 노력하면 극복 가능한 도전 정도로 받아들여지고 있다.

전쟁 역시 과거에는 한정된 자원을 차지하려는 영토분쟁이라는 불가피한 측면이 있었지만 21세기는 더 이상 자원획득을 위한 전쟁은 불필요하다고 보았다. 21세기 경제력은 지식과 기술, 상품의 생산과 소비 행위로부터 나오며 이러한 요소들은 영토의 제한을 뛰어넘어 전 세계를 서로 연결시켰다. 이제 인간은 경제력 강화를 위해 전쟁보다 기술과 정보력, 상품 생산과 교역의 확대를 선택한다. 제한된 자원을 빼앗기 위한 재래식 전쟁은 아직도 경제를 땅에서 나는 자원에 의존하고 있는 일부 지역(아프리카, 중동 등)에 국한된 것이고, 경제적 발전을 위해 필요불가피한 것이 아니다.

그러므로 21세기에 이르러 오랫동안 인류를 괴롭혀 온 기아와 질병, 전쟁은 운명적이고 피할 수 없는 비극이 아니라 정치적 사회적 기술적 해법으로 해결할 수 있는 문제가 되었다는 것이다.

21세기에 인류의 지평에는 새로운 도전이 떠오르고 있다.

하나는 <죽음death>을 극복하는 것, 다른 하나는 <행복 혹은 쾌감happiness>을 최대한 누릴 수 있는 방법을 찾는 것이다.

21세기 새롭게 대두된 문제 중에 환경문제도 있다. 심각하고 중요한 문제이지만 하라리는 환경문제가 인류의 주된 과제로 선정되지는 못할 것이라고 본다. 왜냐하면 이 문제는 인간의 욕망을 채우는 과제가 아니기 때문이다. 역사를 통해 본 인간의 속성은 항상 무언가 좀 더 나은 것, 큰 것, 맛있는 것을 찾았다. 굶주림과 질병과 전쟁의 공포에서 해방된 인간은 이제 그동안 욕망했지만 실현시키기 어려웠던 두 가지 과제를 해결하는데 집중할 거라고 한다. 그리고 이윤을 추구하는 자본은 그러한 인간의 욕망이 지향하는 방향으로 투자되고 집중될 것이다.

이 문제를 풀기 위해 이미 굴지의 대기업들이 생명과학과 생화학, 인공지능 분야의 벤처기업들에 많은 돈을 투자하고 있다. <구글 벤처투자기금Google Ventures Investment fund> 회장인 <빌 마리스Bill Maris>는 한 인터뷰에서 인간이 500살까지 살 수 있느냐고 묻는다면 '네'라고 대답하겠다고 하였다. <불름버그 통신> 기사에 의하면 2015년 구글의 벤처기업 투자액 20억 달러의 36%를 '노화와 죽음의 문제'를 풀기 위한 생명공학 분야에 투자하고 있다.

하라리는 이러한 욕망을 추구하는 과정에서 미래의 우리 사회에 크게 세 가지 차원에서 근본적인 변화가 일어날 것으로 예측한다.

하나는 호모 사피엔스라는 우리 종 자체가 질적으로 변화하게 되는 것이다. 물론 모든 호모 사피엔스가 그런 변화를 이룰 행운(?)을 누릴 수 있는 것은 아닐 것이다. 필요한 재력을 갖춘 사람만이 그 기회를 얻을 수 있을 것이라는 것은 인류의 과거와 현재를 보면 충분히 예측할 수 있을 것이다.

하라리는 죽음과 행복(쾌락)의 문제를 해결하기 위한 생명과학과 의학적 연구의 발전은 뇌과학, 생체공학Bioengineering, 유전자공학Geneengineering, 로봇공학Cyborgengineering 등의 관련 분야와 협력해 결국은 호모 사피엔스를 호모 데우스로 업그레이드하는 세 번째 목표로 수렴될 것이라고 본다. 이 업그레이드 과정에 인간의 두뇌[인간성Humanity]를 개조하는 단계도 있을 수 있고 사이보그 신체를 가진 생명체는 이미 흔하지만 인공지능의 발달로 완전한 [비유기체적 존재Non organic Being]가 탄생하기도 할 것이라고 한다.

물론 호모 사피엔스가 호모 데우스로 업그레이드되는 것은 당장은 아니고 시간이 좀 걸릴 것이며 단계적으로 이행될 것이라고 보았다. 그러나 그 단계마다의 시간은 짧아지고 가속화될 것이며 미래의 어느 순간 우리의 후손이 뒤를 돌아봤을 때 자신들이 더 이상 성서를 기록하고 만리장성을 쌓았으며 찰리 채플린의 연기에 웃던 [동물들]과 완전히 다른 [마음구조mind set]를 가진 존재임을 깨닫게 될 것이다. 두뇌의 구조가 달라지고 신체 구조와 능력도 달라지고 무엇보다 [마음구조]가 완전히 다른 존재의 탄생에 도달하게 될 것이다. 이 과정에서는 호모 사피엔스를 진화시켰던 <자연선택의 법칙>은 더 이상 작동하지 않을 것이다.

더욱이 뇌과학자들은 여러 가지 다양한 실험을 통해 인간의 행동이 인간의 정신, 마음, 자유의지의 결과라기보다 뇌에서 일어나는 일련의 생화학반응의 결과라는 것을 입증하고 있다.

우리는 인공지능과 인간을 구별 짓는 특징으로 인본주의Humanism을 든다. 르네상스와 산업화는 신본주의에서 인본주의로의 역사적 이행을 완성시켰다. 휴머니즘의 중심에는 인간성, 인간의 정신, 인간의 자유의지 등의 가치가 있다. 이런 가치는 인간과 여타 유기체를 구별 짓는 중요한 기준이었으며 다른 동물보다 인간을 우월한 존재로 인정하는 근거이다. 그런데 이제 인간의 행동-육체적 능력뿐만 아니라 의지까지도 생화학적으로 조절할 수 있다는 사실이 보편적으로 인정되고 있는 단계에 이르렀다. 이미 오래전부터 할리우드의 스파이 영화(맷 데이먼이 주연한 본Bourn 시리즈가 대표적) 등에 자주 등장하는 소재가 되었다. 만약에 인본주의의 중요한 기반인 인간의 마음과 자유의지가 사실은 뇌의 생화학적 반응에 불과하다면, 또한 생화학적, 전기적 자극으로 그 능력을 조절할 수 있다면 인간의 두뇌와 비유기체적 존재인 인공두뇌AI 사이에 어떤 질적 차이가 존재하는가?라는 질문이 생긴다.

인간의 의식과 두뇌의 관계에 대한 과학자들의 연구는 한편으로는 두뇌에 대한 생화학적 조작을 통해 <초인Superhuman>을 탄생시키고 다른 한편으로는 인간과 차이가 없는, 오히려 더 뛰어난 연산능력을 갖춘 <비유기체적 존재Non-organic Being>를 탄생시킬 것이라고 한다.

그 결과는 인간의 의식과 지능의 대분리The great decoupling이다.

두 번째는 노동시장의 변화 그리고 정보와 기술의 고도화와 집중화에 따른 사회적 관계와 제도의 차원에서 일어나게 될 변화이다.

요즘 인공지능의 능력이 이미 인간의 능력을 능가하는 분야들이 많이 나타나고 있다.

처리해야 하는 정보의 양과 속도에서 인간의 두뇌는 컴퓨터를 따라갈 수 없게 된 것이 명확하다.

단순한 연산과정에서 인간의 노동이 컴퓨터로 대체된 건 오래전이다.

그런데 요즘 소위 딥 러닝Deep Learning이라는 기계의 인식 기능 프로그램이 추가되면서 인공지능은 일정한 조건 속에서의 '판단'과 '결정'도 가능하게 되었다.

이것은 과거에 과학기술이 발전하면 육체노동은 로봇에게 맡기고 인간은 지시와 결정과 예술적 행위만 하면 되리라는 장밋빛 미래상과는 상당히 다른 현실이다. 여러 전문가들이 인간이 감당할 수 없이 너무 많은 정보를 처리해야 하는 전문적인 분야에서 오히려 더 인공지능에게 의존하게 될 것이라고 본다. 운전은 물론 체스나 바둑, 기업의 투자결정, 의사들의 병에 대한 진단과 처방, 변호사나 판사, 검사가 하던 법률적 판단 등이 충분한 자료만 입력되어 있다면 오히려 인간 보다 인공지능이 더 정확한 판단을 훨씬 신속하게 내릴 수 있다는 것이다. 군사적 분야에서도 이미 많은 부분이 로봇과 인공지능에 그 자리를 내주었다. 의식과 지능의 분리는 군사작전에서 불필요한 감정을 제거함으로써 더 효과적이고 정확하게 목표를 달성할 수도 있을 거라고 예상한다. 군인들도 많은 인력이 인공지능과 기계로 대체될 것이다. 단지 하급 군인만이 아니다. 고위급 결정권자도 전략 전술의 결정권을 이미 인공지능의 데이터 분석 결과에 내어주고 있는 현실이다.

인간의 지능과 정보 분석 능력이 인공지능을 앞지르지 못하는 것은 21세기 후반으로 갈수록 더 분명해질 것이다. 유기체의 진화는 오랜 시간이 걸리는 반면 비유기체의 진화-기술적 발전은 시간을 더할수록 가속화될 것이기 때문이다. 그 결과는 인간의 직업과 노동의 형태에 커다란 변화를 가져올 것이다. 많은 전통적인 일자리가 인공지능을 장착한 기계에게 넘어갈 것이며 자본이 얻게 될 이익이 큰 분야부터 그리될 것이다. 반면에 산업화시대에 새로운 일자리-서비스 직종-가 창출되었던 것처럼 21세기에도 전통적 일자리를 대신할 새로운 일자리들이 창출될 수 있을지는 미지수이다. 하라리는 상당히 비관적인 전망을 내놓는다. 왜냐하면 인간의 고유 영역이라고 여겨져 왔던 예술의 분야에서 조차 인간이 만든 것인지 인공지능이 만든 것인지 구별할 수 없는 수준의 그림, 음악, 문학작품 등이 나오고 있기 때문이다. 근래 세상을 떠들썩하게 만드는 챗GPT의 능력을 보면 하라리의 예상이 적중하였다는 것을 알 수 있다.

따라서 잉여노동력의 문제가 불가피하게 대두될 것이다.

그리고 전례를 찾아볼 수 없는, 업그레이드된 사회적 불평등 구조를 만들어 내게 될 것이다.

고도화된 연산체Algorithms는 사람들을 노동시장에서 밀어내는 한편, 사회의 부는 소수 엘리트들의 손에 집중될 것이다. 이들은 그 부를 사용해 <전능한 연산체All-powerful Algorithms>를 완성시킬 것이다.

초인Super Human으로 업그레이드된 소수의 엘리트들은 과거 시대의 엘리트들과는 달리, 부와 지식의 차이뿐만 아니라 신체적으로, 지능적으로 평범한 대중과는 근본적으로 차이가 나는 몸도 가질 것이다. 이들은 19세기 유럽인들이 아프리카인을 취급했던 것과 같은 방식으로 평범한 대중들을 취급하게 될 것이다.

초인으로 업그레이드된 소수 엘리트 그룹과 그들에 비해 영원히 열등한 대부분의 호모 사피엔스로 계급이 나뉠 것이다.

세 번째로 현대사회를 떠받쳐 온 개인주의적 휴머니즘이 붕괴하고 이를 새로운 종교인 <기술의 종교Techno-Religion>가 그 자리를 대신할 것이라고 한다.

하라리는 <기술의 종교>를 기술의 인본주의Techno-humanism과 데이터 종교Data religion라는 개념으로 나누어 설명한다.

기술의 인본주의는 집단으로서의 인간성의 가치를 중요하다고 인정한다. 인간의 두뇌를 기술의 도움을 받아 확장하려고 한다. 아직 우리에게 알려지지 않은 인간 두뇌와 마음의 광대한 영역을 탐사하고, 강력한 약이나 유전자 조작, 전자 헬멧, 두뇌에 직접 연결한 컴퓨터 장치등을 통해 인간 두뇌와 마음의 미지의 영역을 새롭게 열어젖히는 것을 목표로 한다. 이 기술은 과거처럼 정신적, 심리적 질병을 치료하는데 그치지 않고 인간의 마음/감각의 능력을 업그레이드하는 것을 추구할 것이라고 한다.

그런데 이 글을 쓰고 있던 중 바로 이 대목에 직접적으로 관련된 기사를 하나 읽었다.

최근 경향신문 기사에 따르면 미 FDA가 인간에게 뇌신경 칩chip을 이식하는 실험을 승인했다고 한다.

이 실험은 일론 머스크가 설립한 뇌신경과학 스타트업 기업인 <뉴럴링크Neuralink>에서 실시하는 것이다.

일론 머스크는 인공지능과의 경쟁에서 밀리지 않도록 인간지능을 증강시키는 기술을 개발하고자 이 회사를 설립했다고 한다. 이번에 인간에 대한 실험이 승인된 칩은 인간의 두뇌와 컴퓨터를 연결시켜 척수환자, 뇌질환자, 시각 장애인, 청각 장애인 같이 장애를 가진 사람들이 생각만으로 도구를 조작하고 의사소통을 할 수 있게 돕는 장치이다. 1500여 마리에 이르는 동물실험을 거쳐 인간에게도 구현할 수 있게 된 이 칩은 단지 질병의 치료를 목적으로 개발된 것이 아니다. 기사에 의하면 일론 머스크는 이 칩이 하는 가장 중요한 일은 인간의 두뇌를 컴퓨터와 연결해서 인공지능과 하나가 되게 하는 것이라고 하였다. 즉 질병치료에 머무르지 않고 인간과 AI가 결합되어 마치 텔레파시처럼 생각만으로 다른 이들과 소통할 수 있게 되는 것을 목표로 한다는 것이다. 이를 그는 <개념적 텔레파시>라고 불렀다고 한다. 생각만으로 의사소통이 가능한 인간의 탄생- 더 이상 공상과학소설 속의 외계인 이야기가 아니다.

그런데 하라리는 결국 기술의 인본주의는 해결 불가능한 딜레마에 직면하게 된다고 보았다. 그것은 인간의 의지가 우주에서 가장 중요한 것이라고 생각하고 그에 따라 우리의 의지를 조정하고 재건축하는 기술을 발전시키는데 힘을 쏟았다. 그러나 막상 그 힘을 얻는 순간 신성한 인간의 의지는 새로 디자인된 생산물에 불과한 것이 되어버린 것이다.

덧붙여서, 하라리는 인류의 제2의 인식혁명Cognitive revolution을 꿈꾸는 기술의 인본주의자들은 반대로 인간을 다운그레이드하는 결과를 초래할 수도 있다고 한다. 즉 우리의 몸과 두뇌는 성공적으로 업그레이드될 수 있지만 그 과정에서 우리는 마음을 잃을 수도 있다. 그리고 사회체제는 이를 오히려 선호할 수도 있다. 체제를 훼방 놓거나 지연시키는 인간의 골치 아픈 특징적 성질이 제거되는 결과를 낳을 수도 있기 때문이다.

데이터 종교는 괴상하고 극단적인 관념처럼 들릴 수 있지만 세상은 이미 정보주의Dataism에 의해 정복되었다. 특히 과학의 분야는 두 갈래 흐름에서 정보주의의 폭발적 영향을 받았다. 하나는 찰스 다윈의 <종의 기원> 이후 유기체를 생화학적 연산체로 보는 생명과학의 분야에서, 또 다른 하나는 알랑 튜링이 튜링 머신을 생각한 이래 컴퓨터 공학 분야에서 급속하게 받아들여졌다. 이 두 분야에서는 동일하게 수학의 법칙이 적용된다.

생물학자들에 의하면 모든 유기체는 정보를 처리하는 연산체이다. 유기체뿐만 아니라 음악도 경제도 정보 처리 시스템이다. 자유시장적 자본주의나 중앙집권적 공산주의도 이념이나 윤리적 신조, 정치적 체제를 경쟁하는 것이 아니다. 정보 처리 시스템을 경쟁하고 있는 것이다. 자유시장적 자본주의는 정보를 모두에게 자유로이 분배하고 서로 다른 사람들의 독립적 정보처리 과정을 서로 연결시키는 방식으로 연산이 일어난다. 증권시장이 돌아가는 방식이 그 대표적인 사례라고 할 수 있다.

공산주의 사회에서는 국가라는 단 하나의 정보처리 시스템을 인정한다. 모든 정보는 국가로 향하고 국가가 처리 한 정보를 개인에게 분배한다.

중앙집중화된 정보 처리 시스템이 자본주의와의 경쟁에서 패한 것은 자본주의가 도덕적으로 우월하거나 개인의 자유가 신성한 권리 거나 하나님이 축복해 줘서가 아니라 단지 빠르게 변화하고 쏟아지는 정보의 홍수 속에서 공산당 중앙위원회가 그 많은 정보와 변화를 처리하고 대응하기에는 역부족이었기 때문이다.

여기서 하라리가 말하고자 하는 것은 점점 빨라지고 있는 기술과 수많은 정보를 이해하고 처리할 수 있는 능력을 지금의 정치체제나 대중이 갖고 있느냐 혹은 앞으로 가질 수 있겠느냐는 문제이다. 인터넷과 사이버 공간에서 모든 정보가 국가의 경계나 법적 제약 없이 자유롭게 주고받고 어딘가에 축적되고 이용되고 있는데 전통적인 민주적 정치체계로는 이를 관리할 수가 없다. 그렇다고 20세기형 전체주의적 독재체제가 그 역할을 해낼 수 있다고 보지도 않는다. 하라리는 신과 같은 능력을 가진 기술과 정치적 비전을 가진 야심가가 손을 잡으면 히틀러의 아우슈비츠나 히로시마, 대약진운동과 같은 역사적 비극으로 인류를 이끄는 비극이 일어날 수 있다고 보았다. 그러나 반대로 신과 같은 능력을 가진 기술을 그저 자유시장의 논리에 맡기고 정치가 미래에 대한 비전을 결여한 채 현재를 관리하는데만 열중하면 자유시장은 지구온난화의 경고나 인공지능의 잠재적 위험성을 해결하는데 실패할 것이라고 본다.

이처럼 기존의 정치체계가 더 이상 의미 있는 비전을 제공하지 못한다면 더 효과적인 새로운 구조가 나타나서 그 자리를 꿰찰 것이다. 이 새 구조는 과거의 전통적인 제도들-민주적이든 권위적이든-과는 매우 다를 것이다. 다만 문제는 누가 이 구조를 세우고 움직일 것인가 하는 것이다.

이때 등장하는 것이 <모든 것이 연결된 망Internet-of-All-Things>이다.

세상의 모든 사람에 대한 정보만이 아니라 자동차, 식물, 동물, 냉장고, 그 속의 달걀의 숫자...나아가 우주의 정보까지도 모두 입력되고 관리되는 신과 같은 통합 정보 시스템이 나타날 것이라는 것이다. 이 신과 같은 기계는 우리를 우리 자신보다 더 잘 알고 일상의 모든 선택과 결정을 '올바른' 방향으로 유도하거나 대신 결정해 줄 것이다.

평범한 사람들은 이메일을 주고받고, 유튜브를 즐기고, 페이스북과 인스타그램을 즐기는 동안 자신의 모든 취향이나 개인정보를 IT 공룡기업들의 슈퍼 컴퓨터에 저장하도록 허락하고 있다. 이 기업들은 개인 맞춤형 인공지능 비서처럼 개개인의 일상에 필요하고 중요한 선택을 대신해 주게 될 것이다. 아내의 생일이나 결혼기념일을 환기시켜 주고 선물도 추천해 주고, 직장이나 학교에 낼 과제도 대신해 주고, 심지어 결혼 상대를 선택해 줄 수도 있다.

이처럼 결정권이 인간 개개인으로부터 고도의 지능을 가진 연산체에 이전될 때 이제까지 인간사회를 받쳐 온 자유주의적 휴머니즘의 가치는 붕괴되고 새로운 종교/이념 즉 데이터 종교Data Religion로 대체될 것이다.

하라리는 역사를 연구하는 것은 과거를 돌아봄으로써 오늘 우리의 선택이 어떤 운명을 가져올 것인가를 예측하고 보다 바람직한 미래를 위한 선택을 할 수 있게 돕는 것이라고 한다. 그래서 이 책에서 그리는 미래의 역사는 결정된 것이 아니며 우리가 오늘, 또 앞으로 어떤 선택을 하느냐에 따라 달라질 수 있다고 한다.

죠나단 프리드랜드라는 가디언지의 칼럼니스트가 쓴 글을 소개하고 싶다. 그는 인공지능이 인류문명의 미래에 가져올 소름 돋는 위협에 대항하기 위해 인류는 함께 뭉쳐 행동해야 한다는 제목의 글을 썼다.

요즘 선풍적인 관심을 불러일으키는 챗GPT 같은 생성형 인공지능이 인간이 지시한 한정된 과제를 수행하는데 머무르지 않고 스스로 고유의 목적을 세우고 수행하는 대단히 강력하고 무서운 AGI(Artificial General Intelligence)로 발전하는 것은 시간문제라는 많은 전문가들의 진단과 가능성 있는 사례들을 소개한다. 극단적인 사례로 인공지능에 축적된 수많은 DNA 정보와 단백질 생성 정보를 이용해 인공지능이 인터넷 안에만 존재하지 않고 인공의 몸을 만들어 낼 거라고 예상하는 것도 너무 나간 추측이 아니라는 것이다. 우리는 이미 인공지능이 생산해 낸 거짓 정보로 미국 주식 거래소가 혼란에 빠지거나 대통령 선거에서 혼란을 겪은 사실을 알고 있다.

그러나 기자는 이로 인해 운명주의나 패배주의에 빠지지는 말자고 말한다.

우리에게는 공동 행동으로 인류를 멸망의 위험에서 구하고 위험을 관리했던 경험이 있다는 것이다.

그 예로 복제인간에 대한 연구를 금지시킨 것, 완벽하지는 못했지만 핵무기의 개발과 사용을 규제한 것, 대량살상용 생화학 무기에 대한 연구를 금지한 것 등이다.

이제 하라리가 말한 <새로운 형태의 대량살상무기-인공지능>에 공동으로 대처해야 할 시간이다.

기자는 이를 위해 각국의 정부가 거대 IT 기업들에 인공지능에 입력할 수 있는 정보를 일정 수준에서 규제할 것을 제안한다. 생화학 기술이나 핵무기 제조 정보, 인간의 실제 정보들이 인공지능에게 모두 흡수되는 것을 막아야 한다. 인공지능이 자신을 훈련시키는 방법에서도 허용하는 정도를 기업들이 제한하도록 규제해야 한다. 하라리는 공룡 IT 기업들에 대한 이런 규제가 제 때에 얼마나 효과적으로 시행될지 비관적인 것 같다. 데이터 종교가 사회의 모든 분야에서 강력한 힘을 발휘하고 있기 때문이다.

그러나 또 미래의 역사는 오늘 우리의 선택과 결정에 의해 달라지므로 나는 이 글이 조금이라도 더 많은 사람들이 인공지능의 편리함 뿐만 아니라 위험성도 인식하고 그 위험성을 줄이는 선택과 결정에 동참하는데 작은 도움이라도 되었으면 하는 심정이다.

keyword