물질에서 지능이 어떻게 생겨날까?, 지능폭발 이후엔?
맥스 테그마크, 『맥스 테그마크의 라이프 3.0』, 동아시아, 2017.
“인공지능 연구자들은 지능은 궁극적으로 정보와 연산이지, 육체와 혈액이나 탄소 원자와는 무관한 것이라는 지혜를 공유한다. 이는 기계가 언젠가 적어도 우리만큼 영리해지지 않을 이유가 전혀 없음을 뜻한다.”
저자는 AI에 관한 근거 없는 믿음을 갖고 있거나 AI의 미래를 알고 싶어 하는 사람들에게, AI와 함께하는 생명의 미래와 우리가 해야 할 일을 알려주려고 이 책을 썼다.
책의 전반부에서는, 생명에 관한 핵심 아이디어와 지능의 기초, AI의 가까운 미래를 설명한다. 저자는 생명을 라이프 1.0(생물적 단계), 라이프 2.0(문화적 단계), 라이프 3.0(기술적 단계)로 구분하며, AI가 라이프 3.0으로의 전환을 촉진한다고 말한다. 이어서 겉으로 보기엔 멍청한 물질이 어떻게 기억하고 계산하며 배울 수 있는지 알아보고, AI로 초래될 여러 가지 문제들을 경제, 무기, 법, 일자리 측면에서 세부적으로 설명한다.
중반부에서는, 지능폭발에 따른 초지능 시나리오와 1만 년 뒤, 수십억 년 뒤 물리적 수준에서 AI의 미래를 논한다. AI가 계속 발전해서 인간 수준의 지능을 갖추게 된다면 우리는 그것이 어떻게 인류에게 이로운 역할을 하게 할 것인지 검토하고, 지능폭발 또는 점진적으로 발생하는 초지능과 관련된 시나리오를 포괄적으로 살펴본다. 이어서 물리법칙에 근거하여 우주적 수준에서 수십억 년 뒤 AI의 미래까지 가늠해 본다.
후반부에서는, 목적 지향적 행동의 역사와 의식이란 무엇인가에 관해 탐구한다. 인간은 어떤 미래를 지향할 것인지, 어떻게 그리로 갈 것인지에 대한 의문에서 시작하여 ‘목적’의 물리적인 기초를 탐구하고 의식에 대해 살펴본다. 이를 바탕으로 마지막에는 우리가 원하는 미래를 위해 지금 무엇을 할 수 있는지 독자들에게 안내한다.
나는 ‘맥스 테그마크’가 쓴 <맥스 테그마크의 라이프 3.0>이 물질에서 지능이 어떻게 탄생할 수 있는지 궁금한 사람들과 AI의 다양한 미래 시나리오를 알고 싶어 하는 사람들에게, 생명에 관한 독특한 관점과 범주화된 AI의 미래 시나리오를 알려주는 좋은 책이라 생각한다.
왜냐하면,
첫째, 생명에 관한 통찰이 놀랍기 때문이다. 저자는 생명을 종種 에 한정하지 않고 ‘자신의 복잡성을 유지하고 복제할 수 있는 과정’이라고 폭넓게 정의한다. 이때 복제되는 대상은 물질(원자)이 아니라 비트로 이루어진 정보라는 점. 이러한 이해를 기초로 하여 생명의 단계를 개체의 하드웨어와 소프트웨어의 설계 가능성으로 구분했다는 점이 정말 참신하고 놀랍다.
둘째, AI 이후 미래 시나리오들을 범주화한 방식이 미래연구에 여러 가지 시사점을 준다. 저자는 극과 극의 스펙트럼을 상정하고 12가지 시나리오를 펼쳐놓는다. 내가 아는 범위에서 생각할 수 있는 모든 AI 미래 시나리오들을 포함하고 있는 것 같다. 시나리오를 전개하는 방식도 훌륭하고 배울 점이 많지만, 저자가 이렇게 집요하게 AI의 미래를 생명과 연결시켜 여러 가지 시나리오를 검토한 이유가 AI 안전에 대한 관심 촉구를 위해서라는 점은, 미래연구가 지향해야 할 방향을 보여주는 듯하다.
셋째, ‘기질 독립성’ 개념이 탁월하다. 만질 수 있는 물리적 물질이 어떻게 지능과 같이 만져지지 않고 추상적이며 미묘한 무언가를 빚어낼 수 있는가? 저자는 지능이 비물질적으로 느껴지는 것은 그것이 기질 독립적이어서 기질의 물리적 세부사항에 의존하거나 영향을 받지 않고 독자적인 생명을 지니기 때문이라고 설명한다. 지능은 살과 피와 탄소 원자를 필요로 하지 않는다는 점. 이것은 바로 물질에서 의식이 어떻게 발생하는지에 대한 설명과 이어질 수 있다는 점에서 탁월하다.
한 가지 아쉬운 점이 있다. 수십억 년 뒤 미래를 물리학 이론에 근거하여 설명하는 부분은 이해하기 어려웠다.
