<맥스 테그마크의 라이프3.0> 소설 같은 미래 상상?
기본적으로 '프로메테우스'는 컴퓨터 게임, 음악, 소프트웨어, 책이나 기사 저술, 주식 거래, 발명한 물건 판매 등 디지털 경제 전체를 공략할 수 있었지만, 무엇부터 시작하는 것이 좋을지가 문제였다... 프로젝트를 시작하고, 끝내 기술의 모든 영역에서 압도적인 기업을 만든다.
“우린 지역사회에 투자한다”며 막대한 이익의 상당 부분을 지역사회 고용에 쓴다.
학교, 의료, 주간돌봄, 노인돌봄, 저렴한 주거, 공원 등에 신경쓰고, 미디어 회사를 출범시켜 훌륭한 뉴스 채널을 전세계에 구축한다.
어떤 정치인을 우호적으로 비춰야하며, 어떤 타락한 정치인을 드러내야 하는지 조언하여 신뢰를 확보하고, 모든 종류의 극단주의에서 벗어나 중도로 향하도록 부드럽게 민다.
인신공격이나 공포팔이, 근거 없는 소문 전파보다 돈이나 권력과 관련된 구체적 사안에 초점을 맞춘다. 신재생 에너지 생산 비용을 줄이면, 그걸 미디어가 조명하는 식.
교육 혁명을 통해 어떤 사람이든 지식과 역량을 파악하고, 최적화된 방식으로 몰입하고 계속하고자 하는 동기를 부여한다.
어느새 1) 민주주의 2) 세금감축 3) 정부의 사회적 서비스 감축 4) 군비감축 5) 자유무역 6) 국경 개방 7)사회적 책임을 수행하는 기업 등 7가지 아젠다에 지지를 확보, 정부 권력을 줄였으나 세계유권자들은 삶의 질이 개선됐다고 느낀다.
그 기업들은 ‘인도적 연합’을 결성해 글로벌 기술 붐에서 소외된 나라들도 교육 의료 통치방식 개선되도록 돕는다. 세련된 형태의 기본소득에 다양한 활동을 독려해 소속감까지.
'인도적 연합'은 점점 세계 정부 역할을 하게 된다. 지구 역사 최초로 단일한 권력의 등장.
이것이 처음에 회사의 이상주의자들이었던 오메가팀이 만든 AI 프로메테우스의 역사다. 프로메테우스는 시동이 걸린 뒤, 개발자가 레드불을 마시는 동안 인간의 수쳔년을 쏟아부어 진화하기 시작한다.
책이 본격 시작되기 전에 25쪽 분량의 이 프렐류드에 훅 넘어갑니다. 이상주의자들이 만든 범용인공지능 프로메테우스는 끝내 지구라는 행성을 통합합니다. 프로메테우스를 위한 구약성서 같은 느낌인데 몹시 재미있었어요. 세상은 나쁘지 않습니다. 오히려 좋아집니다. 자본과 미디어까지 완벽하게 장악한 '단일한 권력'이라는 디스토피아적 상상 외엔 유토피아에 가깝죠.
라이프 3.0, 인류의 미래 시나리오는 어찌나 생생한지 소설 같아요. 프렐류드 뿐 아니라 뒤로 가면서 또 실감나는 가설들, 킬러 로봇들의 등장, 사이버공격을 통한 사회 마비, 재난, 스스로 족쇄를 깨고 탈출할 로봇들..이게 설득력이 아예 없다고 하기는 어렵네요. 하지만, 이런 미래가 올지, 안올지, AI가 거기까지 갈지, 이런걸 따질 때가 아니란 거죠.
"기술이 사악해진다는 공포는 관심을 딴 데로 돌리는 또 다른 요소. 정말 걱정할 거리는 악의가 아니라 능력이다. 초인간 AI는 그게 무엇이든 목표를 달성하는 일에 매우 뛰어나고, 우리는 그것의 목표와 우리 목표를 정렬해두어야 한다." (66쪽) 예컨대 터미네이터가 꼭 의도를 가졌다기보다, 목표 달성의 과정에서 벌어질 수도 있는 여러가지 상상 중 하나란 거죠. 따라서 "당장의 문제는 AI 군비경쟁을 시작해야 하느냐, 또 미래 AI 시스템을 어떻게 오류 없고 탄탄하게 만드느냐이다. 법률을 어떻게 현대화할지, 아이들에게 직업교육을 어떻게 시켜서 자동화될 일자리를 피하도록 할지.. 우리가 직업 없이 번영하는 여유 사회를 창조해낼 수 있는지, 그래야 하는지도 자문해야 한다."(69쪽) 이건 이제 구체적 과제로 떠올랐고요.
'잘 정리된 책' 맞습니다. 그리고 (중간에 물리학 얘기라든지 몇 개 대충 넘긴다면ㅎㅎ) 대체로 잘 읽힙니다. AI에 대해서도 설득력 있습니다. 책에 나오는 이미지가 워낙 깔끔하여, 검색해 퍼왔습니다. 초지능? 어찌될지 아직 의견이 엇갈리는 중이고, 러다이트 뿐 아니라 최고 연구자들도 염려가 없지 않습니다. 그러나 바로 몇 년 뒤의 일은 아니고, 우리에겐 대응할 시간이 있습니다.
AI 미래를 위한 질문들, 상상할 수 있는 혼란들
"당장의 문제는 AI 군비경쟁을 시작해야 하느냐, 또 미래 AI 시스템을 어떻게 오류 없고 탄탄하게 만드느냐이다. 법률을 어떻게 현대화할지, 아이들에게 직업교육을 어떻게 시켜서 자동화될 일자리를 피하도록 할지.. 우리가 직업 없이 번영하는 여유 사회를 창조해낼 수 있는지, 그래야 하는지도 자문해야 한다." (69쪽)
미래는 훌쩍 열립니다. 우리는 해야할 일들이 무엇인지 질문을 던질 수 있어야 합니다. 군비경쟁, 법제도 개선, 교육, 직장 없는 시대 등의 질문은 이미 시작됐습니다. 상상하는 것보다 어려울 수도 있습니다. 저자는 정교한 해킹을 상상해봅니다. 인간의 글쓰기 스타일, 말투, 얼굴까지 다 복제되는 세상. 친구가 보낸 이메일은 친구가 보낸 것이 맞는지, 전화를 건 친구는 친구가 맞는지, 신용카드 회사의 이메일은 신용카드 회사 것이 맞는지, 분간이 안될 수 있습니다. 기술적으로는요. 아마도 공들여 해킹할만큼 내가 중요한 사람이 아니라면 다행이지만, 중요한 사람일수록 난감한 일들이 계속 발생할 수 있습니다.
예컨대 AI 로보판사가 불편부당하고 효율적이고 공정할 수 있습니다. "그런데 로보판사가 오류가 나거나 해킹이 되면? 몇 년 동안 수감되어야 하거나 수백만 달러가 걸려 있다면 사이버 공격을 시도할 유인은 커진다"(150쪽)고요. 인간과 AI 어느 쪽을 더 신뢰할 수 있을지도 관건인데.. 판결에 납득못하는 이들에게 “우리는 시스템을 많은 데이터로 훈련시켰고, 이 판결은 그 시스템이 결정한 것”이라는 답변으로 충분할까요.
무기로서의 AI는 어떨까요. 킬러 로봇을 금지하자, AI 연구자와 로봇공학자 3000명 이상이 공개서한에 서명했습니다. 민간 AI 투자 약속은 16년 10억 달러 규모로 미 국방부의 17년 AI 예산 120~150억 달러에 비하면 초라한 규모입니다. 저자에 따르면, 소형 킬러 드론이 스마트폰보다 조금 비싼 시대가 옵니다. 목표의 사진과 주소를 입력하면 그 사람을 식별하고 제거한 다음 자폭한다거나, 호박벌만 한 드론이 눈에 초소형 탄환을 발사해 사람을 살해하는건 영화가 아니라 현실이 됩니다. 킬러로봇에 대해 로봇공학자들이 자제하면 과연 막을 수 있는 일인지, 궁금합니다. 국가이기주의와 자본의 논리가 겹칠 때 무엇으로 막을 수 있을까요. 언젠가 그 적은 자율주행차를 해킹해 파괴할 수 있고, 자율비행기, 원자로, 산업 로봇, 커뮤니케이션 시스템, 금융 시스템, 전력망을 망가뜨릴 수 있습니다. AI라고 해서 바둑만 두는게 아닐텐데, 그 시절은 우리는 어떻게 준비해야 할까요.
맥스 테그마크의 대단한 능력은 상상력. 프로메테우스에 대한 가설도 흥미로운데, AI가 감언이설로 사람을 속여넘기는 일에 대한 시나리오도 무궁무진할듯요. 뇌와 감각기관의 연결을 차단한 상태에서 버거운 유산소운동을 하면서 트레이닝을 한다면? AI 시대 일자리가 없어지면 기본소득만 답일까요? 인류 문제의 솔루션, 신약 개발이든 뭐든. 범국가적 프로젝트를 제대로 해본다면? 이걸 범용적으로 만들어 수익을 재분배하는 방식은 어떻게 가능할까요? 취미로서의 노동이 등장하는 시대, '직'을 정체성으로 하지 않는 시대는 어떨 것이며.. 기본소득이 죽지 않을 정도의 비참한 선 밖에 안된다면??
#트레바리 #국경 2019년 10월 책입니다. 당시엔 아래와 같은 짤막한 독후감만 남겼고. 아까워서 다시 정리하다가.. 역시 바빠서 저장만해둔 글을 2020년 6월에야 끄집어냅니다..
책을 읽다가 문득 상상하고야 말았어요. 인류가 멸망하는 순간을. 단번에 끝장나면 별 소용 없지만, 짧은 시간이 주어질 때의 풍경. 가능하다면 사랑하는 사람들을 끌어안거나 손을 잡겠죠. 대화를 나눌겁니다. 유쾌했던 에피소드, 떠오르는 따뜻한 추억, 실수하고 웃겼던 얘기, 그래도 오래 기억나는 시간들을 나누겠죠. 살아가면서 남는 건 아마 별 거 아닐겁니다. 좋고 나쁜 짧은 장면들, 그때의 마음들.
인간은 무엇으로 사는가. 오히려 그런 질문을 하게 되는군요. 행복하려고 하죠. 지적으로 의미 있는 시간을 만들거나, 보람있는 일에 뛰어들거나, 감각적으로 쾌락을 추구하거나. 그 모든건 사실 시간의 문제이기도 하고요. 차곡차곡 쌓는거죠. 우리는 단순 컴퓨터보다도 연산을 못하고, 신속하고 정확하게 데이터를 분석하지도 못합니다. 실수 투성이죠. 인간이 기계의 도움을 받아 좀 나아지기는 할겁니다. 교통사고도, 비행기 사고도, 어이없는 판결도, 그 많은 부조리한 일들도 줄일 수 있겠죠. 사회적으로는 나을 겁니다. 근데 개인의 삶은 더 행복해지거나, 더 여유있거나, 더 쿨하기는 쉽지 않아요. 우리의 행복들이 워낙 소소해서요. 초지능 때문에 행복의 가짓수가 늘어나진 않을 겁니다. 사회적 편익을 늘릴뿐.
인간 사회의 민낯은 얼마나 암담한가요. 미국 산업재해 사망자가 1970년 1.4만명에서 2014년 4821명으로 줄었다고요? 김훈 작가가 한 해 1000명씩 목숨을 잃는 국내 산재 피해자 얘기를 꺼내며 격렬히 분노했죠. 자동차사고는 2015년에만 120만명의 목숨을 앗아갔다고요. 우리는 둔감해서, 산재가 9.11의 몇 배씩 사람을 쓰러트리고, 비극적 참사의 몇 배로 끔찍한걸 잘 몰라요. 자동차 회사에 더 많은 배상을 요구하지도 않고요. 그리고 다시 걱정하기 시작한 겁니다. 초지능 시대 인류가 멸망할 시나리오를.
라이프 3.0, 인류의 미래 시나리오는 어찌나 생생한지 소설 같아요. 사실 프렐류드, 프로메테우스를 위한 구약성서 같은 느낌인데 몹시 재미있었어요. 뒤로 가면서 또 실감나는 가설들, 킬러 로봇들의 등장, 사이버공격을 통한 사회 마비, 재난, 스스로 족쇄를 깨고 탈출할 로봇들..이게 설득력이 아예 없다고 하기는 어렵네요. 기왕이면 유토피아 쪽이면 좋을텐데 말이죠.
인간은 아마 혐오와 차별, 대립과 분열로 사회를 망가뜨릴 가능성이 지금은 더 커보입니다. 문해력은 떨어지고, 사회에 대한 연민도 희귀해질 가능성도 높아보입니다. 당장의 우리 문제를 해결하는데 기술이 할 수 있는 걸 찾는게 낫지 않을까, 우리는 할 일이 너무 많지 않나요. 저자와 친구들이 AI 무기 연구를 막기 위해 공개서한에 마음을 모은 과정들은 인상적입니다. 당장 할 수 있는 걸 찾고, 해야 할 질문들을 던지고, 고민들을 키우고.. (시간 없어서 일단 여기서 마무리할게요)
