'마침내 특이점이 시작된다'를 읽고서
간단한 평과 메모식 요약
간단한 평
레이 커즈와일은 인공신경망 연구/개발 분야에서 활약하는 연구자이자 OCR을 발명한 혁신가이다. 지금은 기술철학 및 미래학 분야로 활동 범위와 영향력을 확대해 나가고 있는 부지런한 양반이기도 하다.
비교적 최신작인 '마침내 특이점이 시작된다'를 읽고난 뒤 그에 대해 내가 느끼는 인상은 다음과 같다.
"테크노퓨처리스트"
"포스트휴머니스트"
"매드 사이언티스트"
정보 기술과 인공 지능 기술이 혁신적이라는 것을 모르는 사람은 거의 없겠지만, 레이 커즈와일의 낙관론은 지나치게 급진적이다. 이 저작에서 구사하는 서술 방식 역시 적절한 고증이 함유된 공상 과학적인 영역과 실제 역사 및 최신 발전 현황이 오묘하게 뒤섞여 있으며, 매우 비약적인 추측이 행 단위로 교차하는 편이다.
아마 이러한 저술 방식은 "미래를 예측하는 가장 좋은 방법은 미래를 창조하는 것이다."라는 핵심 구절에 비추어 이해되어야 할 것이다. 레이 커즈와일의 예측이 그대로 구현될 것이라는 공포감 혹은 기대감은 본질적인 교훈이 아니다. 이러한 생각을 가진 기술자들이 인공 지능을 연구하고 있다는 사실 자체가 더 본질에 가깝다.
레이 커즈와일이 묘사하는 이 기술은 거의 만화 <강철의 연금술사>에 소재로 등장하는 '현자의 돌'과 유사하다. 모든 문제를 해결해 주는 권능의 물질 말이다. 내가 이 책을 읽고 느끼는 교훈 역시 <강철의 연금술사>의 핵심 교훈과 비슷하다. 인체 연성의 뼈아픈 대가를 치르기 위해 고군분투했던 주인공 에드워드 에릭이 연금술을 포기해도 좋겠냐 묻는 '진리의 문'에게 돌려준 대답은 소중한 것은 이미 가지고 있다는 것이었다.
인공 지능에 의해 인간 노동력의 필요성이 사라지고 난 뒤의 세상에서 직업과 삶의 의미에 대한 생각을 묻는 인터뷰어의 질문에 일론 머스크가 뜸 들이며 내놓은 대답 역시 "소중한 것이 무엇인지에 관하여 고민해야 할 때"라는 것이었다.
어쩌면 이 시점에서 취창업이나 생계에 대한 전략적인 판단 만큼이나 중요한 것은, 다름 아니라 각자에게 정말 소중한 것이 무엇인지, 그것들을 잃지 않기 위해 필요한 생각과 조치는 무엇인지 고민하는 일이 아닐까.
메모식 요약 (아래 내용은 책의 실제 순서 및 구성과 일치하지 않는 메모식으로 재구성된 내용이다.)
○ 정보 기술 분야의 '수확 가속 법칙'
정보 기술의 진보는 각 단계가 새 단계를 향한 도약의 모멘텀을 만들어 내며 이로 인해 지수적 발전 추세를 보인다.
특히 인공 지능 분야에서 이러한 특징이 두드러지는데, 이로 인해 2029년 쯤에는 '튜링 테스트'를 통과하거나 전 영역에서 인간의 역량을 초월하는 인공 지능이 출현할 것으로 추정되며 모든 인간 활동 분야에 침투하는 '전 영역의 정보 기술화' 혹은 '정보 기술 수렴화'를 촉발할 것이고, 정보 기술 분야의 지수적 발전 속도를 모든 분야에서 공유하여 2045년 쯤에는 나노봇 기술과 BCI 기술을 통해 인간의 정신 및 신체에 침투하여 존재론적인 융합, 모든 인간 능력의 강화를 유도할 것으로 보인다.
○ 2029년 예측은 적중할 것인가?
1950년 앨런 튜링의 '마인드'에 게재된 논문 "계산 기계와 지능"에서 제기된 의문: "기계도 생각을 할 수 있을까?"
* 유사한 계열의 질문들 중 최고의 사례: 그리스 신화 속 청동 자동 장치 '탈로스'.
튜링의 혁신적인 아이디어: '이미테이션 게임(튜링 테스트)'.
1956년 존 매카시가 다트머스 대학교에서 설계한 10명 규모의 2개월 짜리 연구 프로그램: '인공 지능'
* 모든 인간 '학습'의 측면들을 '모방 가능할 만큼 충분히 기술할 수 있으며', 기계가 언어를 통해 추상화 및 개념화를 거쳐 문제를 풀고 스스로 개선하도록 하는 방법을 발견하는 실험.
2014년 10월 MIT AI 및 인지과학 전문가의 회의론("최소 20년!") 발언 이후 2개월 뒤 구글에서 '객체 인식 AI' 공개.
1964년 마빈 민스키, 프랭크 로젠블랫과의 만남: "기호주의와 연결주의의 두 패러다임."
규칙 기반의 기호주의 모형: 랜드연구로의 General Problem Solver 모형과 허버트 사이먼, 존 클리프 쇼, 앨런 뉴얼 등의 Well-Formed Formular 모형, IF-THEN 규칙의 결합을 활용하는 MYCIN 모형(전문가 시스템 모형의 일환) 등.
* 복잡성의 한계: 규칙이 n 개인 모형에서 실패 가능 지점의 부분집합은 2^n-1 개 존재함(부분집합의 개수에 관한 법칙).
노드 연결망 기반의 연결주의 모형: 설계자의 완벽한 정의와 이해에 의존하지 않고 층화된 토폴로지의 무작위성 속에서 패턴을 인식하게 하는 방법.
* 투명성의 문제: 더 나은 결과를 내놓더라도, 이를 내놓는 절차를 이해할 수 없음. (본질적으로 불가해한 블랙박스로 귀착할 가능성, '기계론적 해석 가능성 mechanistic interpretability' 연구 진행중.
연결주의는 XOR(배타적 선언지) 연산 함수를 필요로 하지만, 이를 뒷받침할 만한 충분히 큰 규모의 다층적 구조를 구현할 수 없어 지체됨.
* 2010년대에 충분한 규모의 데이터와 28억배 저렴해진 저비용 고효율 컴퓨팅 파워의 하드웨어가 등장하고 나서야 연결주의 모형은 성과를 다시 내기 시작.
○ 의식에 관하여
의식에 관한 '범원형심리' 가설에 따르면, 의식은 원자나 아원자처럼 취급되어야 할 개별 단위로서 하부구조로 환원될 수 없는 범주에 속하는 실체일 수 있다.
하지만 이는 의식 또는 정신이 하부구조를 갖지 않는다는 것을 의미하지도, 하부구조를 통해 발생할 수 없다는 것을 의미하지도 않는다. 단지 하부구조를 토대로 발생하여 하부구조를 가짐에도 불구하고 개별적으로 취급되어야 하는 새 범주일 수 있다는 것을 의미한다.
실제로 여러 시뮬레이션 작업을 통해 확인한 결과 매우 단순한 여러 규칙의 반복적인 조합 속에서 반복적인 구조 뿐만이 아니라 파악하기 힘든(예측하기 힘든) 복잡한 구조가 발생하는 창발 현상이 발견되기도 하는데, 이러한 현상은 범원형심리 가설의 설득력을 높여주는 데 활용될 수 있다.
물리-화학적 규칙의 조합 위에서 생물학적 규칙이 발생할 수 있고, 생물학적 규칙의 조합 위에서 의식과도 같은 새 범주의 창발이 가능하다면, 집적 회로의 연산 규칙의 조합 위에서 의식이 발생하지 말라는 법은 없다.
인간의 신경 회로는 발화와 비발화라는 이진법 연산 구조로 되어있으며 이를 통해 복잡한 병렬 연산을 구현한다는 측면에서 컴퓨터와 유사하다. 게다가 인공 신경망은 (활성화와 비활성화라는 이진법 구조 뿐만 아니라) 말 그대로 인간의 신경망 구조를 모방하는 방식으로 다층적 병렬 연산 구조와 가소성을 재현하도록 가중치를 조율하는 피드백 회로를 구현하도록 설계되었다.
그렇다면 인공 지능이 인간과 똑같은 의식은 아닐지라도 수준에 있어서는 인간에 준하는 의식을 갖추는 일도 논리적으로 불가능하지는 않다고 말해야 한다.
○ 무작위적 진화, 작위적 진화, 자율적 진화
인공 지능의 지수적 발전이 가능한 또 다른 이유는 바로 진화의 원리이다.
이 우주는 몇 가지 법칙들과 상수들의 조합 위에서 약 138억 년이라는 긴 세월을 통해 현재 수준까지 진화를 이룩해 왔다.* 아주 단순하고 기본적인 수준에서 생명 현상과 인간의 의식이라는 매우 복잡하고 고차원적인 수준에 이르기까지의 진화는 매우 비약적인 것처럼 보이지만, 긴 시작의 무작위적 진화를 통해 이토록 놀라운 기적이 달성할 수 있었다. 그 중에서도 인간을 비롯한 인지적 생물 유기체들은 자기 피드백을 통해 작위적 진화를 달성하는 역량을 갖추고 있어 진화에 필요한 시간을 크게 단축할 수 있었고, 문자 매체, 인쇄 기술, 전파 통신 기술의 개발을 통해 인류는 다른 생물군과 현저하게 차별화되는 '문명'이라는 진화 현상을 창출할 수 있었다.*
그 중에서도 인공 지능이라는 새로운 정보 기술은 저장 능력, 처리 능력, 인출 능력 측면에 있어서 매우 독보적인 기술이다. '대규모의 반도체 소자 집적 회로 구조'에 피드백 능력을 갖춘 인간의 신경망 모방형 '다층위 대규모 병렬 연산 알고리듬'을 구현해 '대규모의 데이터를 학습'시켜서 "지속적으로 더 나은 결과를 산출하도록 설계"한 것이 바로 인공 지능의 기본적인 개념이다. 인공 지능은 클라우딩 기술을 활용해 대규모의 정보를 저장할 뿐만 아니라, 놀라운 연산 속도를 활용해 필요한 정보를 종합적으로 열람하거나 참조할 수 있고, 인간 설계자의 부가적인 프로그래밍 없이도 더 나은 정답을 도출하는 방법(경로)를 발견할 수 있다.*
* 의식의 출현은 우주의 여섯 단계 정보 처리 과정에서 창발한 현상이다.
- 물리-화학의 시대: 미립자부터 탄소 이상의 복잡한 조합이 가능한 분자에 이르기까지의 진화 단계.
- 생물학의 시대: DNA 등 자기 복제가 가능한 고분자가 탄생해 생물학적 진화가 시작하는 단계.
- 뉴런과 뇌의 시대: 환경과의 상호작용 속에서 스스로 정보를 저장 및 처리하는 종이 출현하기까지의 단계.
- 정보의 기술화 시대: 손가락과 고차원적 인지 기능을 활용해 정보를 개체 외부에 저장하고 조작하는 기술을 활용하게 되기까지의 단계.
- 2029년까지 AI는 튜링 테스트를 완벽히 통과할 정도로 발전할 것. (<21세기 호모 사피엔스(1999)>, <특이점이 온다(2005)>)
- 기술적 인지 증강의 시대: IT 기술과 BCI 기술의 융합으로 인간 인지 능력이 뻥튀기하기 시작하는 단계.
(기계와 인간의 물리적 상호침투, 신피질과 클라우드 컴퓨팅의 융합)
- 컴퓨트로늄의 시대: 진정한 의미의 IoT, CoT의 실현, 즉 일반 물질이 계산 밀도계 내부로 포섭되기 시작하는 단계.
* 전파 통신 기술의 진보 과정:
- 1920~1930년대: 전화기/라디오의 등장
- 1950~1997년대: 텔레비젼의 등장 및 확산
- 1970년대~: PC의 보급
- 1990년대~: 인터넷(WWW)의 등장 및 확산
- 2010년대~: 스마트폰/테블릿PC의 등장 및 확산
- 2020년대~: AI의 등장 및 확산
- 2040년대~: 나노봇 기반의 IoT 기술과 BCI 기술의 확산
* 현재 수준에서 인공 지능의 최고 역량은 따라서 열람, 종합, 논리적 추론, 시뮬레이션 및 예측 등 분야에서 발휘된다.
○ 전 영역의 개선
기술의 발전은 어려운 작업을 쉽거나 효율적으로 만드는 경향이 있다. 그래서 기술의 비약적인 발전 이후에는 노동 시장의 대대적인 개편이 잇따르기 마련이다. 사용자의 입장에서 노동력은 비용의 일환이기 때문이다. 인공 지능의 발전 역시 대체 노동력으로 작용하여 많은 분야에서 실업자를 야기하며 노동 시장을 대대적으로 해체하고 재구축하게 만들 것이다. 인공 지능으로 인한 노동력 대체는 특히 고지능, 고숙련 분야에까지 작용한다는 측면에서 급진적이다.* 이는 사회적으로 커다란 고통을 야기하며 '러다이트 운동(1811~)'과도 같은 폭력적인 반응을 촉발할 위험이 있다. 그러나 기술의 진보, 특히 정보 기술, 그 중에서도 특히 인공 지능 기술의 진보는 지금껏 진행돼 온 모든 기술 중에서도 가장 강력한 디플레이션 유인*으로 작용하며 무수한 경제적 문제를 원천적으로 해소할 잠재력을 지닌다.
게다가 인공 지능 기술은 인류의 가장 큰 숙원들 중 하나인 '수명 연장의 과제'에 기여할 것이다. 전통적으로 전염병 예방 및 방역과 기초 위생, 생활 습관의 개선 등에 머물러 있던 건강 관리의 목적을 '노화의 지연 및 중단'이나 '죽음의 해결(영생)'과 같은 '급진적 수명 연장'으로 탈바꿈하게 만들 것이다.* 분명 누군가는 인생을 고통과 불행의 연속으로 보아 수명 연장에 관하여 부정적인 생각을 가질 것이다. 하지만 AI가 유도하는 전 영역의 개선은 세상을 이전보다 훨씬 살기 좋은 곳으로 만들 것이 분명하다. 또한 이러한 혜택이 소수 권력가들과 자본가들에게 집중될 위험 역시 낮다. 왜냐하면 생산 비용의 절감, 소비자 잉여의 확대는 경제적 희소성과 반대되기 때문에 독점욕과도 반대되기 때문이다. AI의 혜택은 결국 모두에게 확산될 것이다. 생활 터전의 개선과 경제적 부담의 감소가 인구 증가를 유인할 수도 있다는 생각에 다시 '맬서스의 종말론'이 불현듯 함께 떠오를 수도 있다. 그러나 걱정하지 않아도 되는 이유가 있으니, 이는 AI 기술이 식량 생산의 양적, 질적 효율도 비약적으로 개선할 것이기 때문이다.
이러한 테크노퓨처리즘식 낙관론과 포스트휴머니즘식 급진주의가 근본주의 휴머니스트들의 심기를 불편하게 만들 수도 있다. 하지만 개선된 세상의 혜택에 대한 막대한 수요가 그들의 불만마저 불식시킬 것이다.
* 스탠퍼드 경제학자 에릭 브리뇰프슨의 우려 섞인 예측:
- 탈숙련화deskilling 단계: 고임금 고숙련 직군이 저임금 저숙련자들로 대체되는 단계
- 고숙련화upskilling 단계: 고도의 지식/정보 기술을 갖춘 소수가 고소득 직군을 독차지하는 단계
- 비숙련화nonskilling 단계: 인간 노동력의 필요성을 전방위적으로 배제하는 단계.
매 단계마다 같은 직함을 유지하는 직군에서도 직무 성격의 급진적인 변화를 직면하게 된다.'
* 에릭 브리뇰슨 등 경제학자들의 우려에 대한 레이 커즈와일의 대답:
모든 기술적 진보는 한계 비용 개념을 반영하기 마련이며, 특히 정보 기술의 진보는 막강한 디플레이션 유인으로서 생산 비용의 절감, 소비자 잉여의 확대를 가져올 것이다.
이는 사회 보장 제도의 성격을 완전히 적극적인 것으로 탈바꿈하도록 만들 수 있다(보편적 기본 소득제).
* 급진적 수명 연장의 단계화 시나리오:
- 생활 양식의 개선, 보충제를 활용한 만성 질환 및 퇴행병 개선
- AI 시뮬레이션 기술을 통한 임상 시험의 개선 (의학의 정보 기술화)
- 나노봇 기술과 AI 기술의 결합을 통한 생물 유기체의 분자 단위 조작 가능성 획득
- 인간 정신의 전산화를 통한 해석 가능성, 복제 가능성, 전송 가능성, 확장 가능성, 강화 가능성 획득
○ 커다란 위험이 도사리고 있음에도 낙관론을 견지해야 하는 이유
기술의 진보는 위험을 동반한다. 그러나 기술적 진보에 인류는 지금껏 잘 대처해 왔다. 악의와 오류로 인해 발생하는 기술의 무기화, 남용, 부작용 등에 대해서 말이다. 반면 기술이 야기해 온 고통만큼이나 기술이 야기해 온 삶과 세상의 질적 개선 역시 분명하다. 물론 이런 피해와 혜택이 집중되는 특정 분야, 지리, 인구 등이 국소적으로 발생할 수 있다. 하지만 이는 정책적으로 해결할 수 있는 문제일 것이며 개선된 인프라의 낙수 효과는 위험보다 더 확실하다.
신중한 낙관론이 중요한 이유는 기술이 아무런 고통이 수반되지 않는 진보를 가져다 주기 때문이 아니라, 고통이 수반되더라도 진보를 추구되어야 하기 때문이다. 고통을 수반하지 않는 진보는 없다. 인류는 고통을 이겨내며 진보해 왔다. 비관론은 개선하지 않게 만드는 신념인 반면 낙관론은 개선하기 위한 행동을 유도하는 신념이다.
"미래를 예측하는 가장 좋은 방법은 미래를 창조하는 것이다."
