초지능 담론의 기원. 일론 머스크의 우려는 이 책 때문
닉 보스트롬, 『슈퍼 인텔리전스』, 까치, 2017.
“우리는 초지능을 사실상 모든 관심 영역에서 인간의 인지능력을 상회하는 지능이라고 잠정적으로 정의할 수 있다.”
저자는 초지능(슈퍼인텔리전스)에 대해 궁금해하는 사람들에게, 지능 대폭발로 출현할 초지능의 존재적 위험을 설명하고 초지능으로 인한 문제에 어떻게 대처할 수 있는지 알려주려고 이 책을 썼다.
책의 전반부에서는, 기계지능의 현재와 미래전망, 초지능으로 향하는 몇 가지 경로에 관해 설명한다. 저자는 초지능의 도래를 기정사실로 한다. 이어서 초지능으로 향하는 5가지 기술적 경로인 ‘인공지능’, 인간의 뇌를 모방하려는 시도인 '전뇌 에뮬레이션', '생물학적 인지능력의 증강', '인간-기계 인터페이스', '네트워크와 조직'을 살펴보면서 각각의 방법과 타당성을 치밀하게 분석한다.
중반부에서는, 초지능의 존재적 위험에 관해 설명한다. 존재적 위험이란 지적 생명체를 멸종시키거나 그런 지적 생명체의 바람직한 미래 발달을 영구적이고도 철저하게 파괴하는 위험을 말한다. 저자는 초지능이 지구에서 기원한 생명체들의 미래를 좌지우지할 가능성이 있고, 인간의 사고관에 입각한 최종적 가치들과는 전혀 다른 최종 목표를 지향할 수도 있으며, 끝없이 자원 획득을 추구할 도구적 이유를 가질 가능성이 크다는 점을 이유로 '초지능은 인류의 존재적 위험'이라고 결론짓는다.
후반부에서는, 초지능의 통제 가능성과 가치부여, 규범의 필요성에 관해 설명한다. 이를 위해 인공지능 안전성을 보장하기 위한 방안(능력 통제, 동기 선택)을 검토하고, 오라클과 같은 현존 시스템을 통한 안전성 확보 가능성을 평가하며, 가치를 초지능에 어떻게 탑재할 것인지와 같은 문제를 설명한다. 이어서 규범의 필요성과 우리가 취해야 할 전략에 대해 개략적으로 언급한다.
나는 '닉 보스트롬'이 쓴 <슈퍼인텔리전스>가 인공지능의 미래에 대해 궁금한 사람들에게, 초지능에 이르는 경로와 초지능의 존재적 위험을 알려주고, 인공지능에 관한 풍성한 미래담론을 제공하는 유익한 책이라 생각한다.
왜냐하면,
첫째, 초지능에 이르는 여러 가지 경로에 대한 아이디어가 인상적이기 때문이다. 인공지능(기계지능)만을 초지능의 후보로 생각하지 않는 점이 참신하다. 전뇌 에뮬레이션이나 유전자 조작인간, 뇌-기계 결합(트랜스휴머니즘 같은), 심지어 사회 시스템까지 초지능의 후보군으로 생각하고 있다. 이러한 생각들은 풍성한 미래담론의 원천이자, 포스트휴먼 담론을 가늠할 수 있는 기준 역할을 할 수 있다고 생각한다.
둘째, 초지능은 시간이 걸리겠지만 필연적으로 도래할 것으로 보고, 그것의 존재적 위험을 고려하여 당장 대비해야 한다는 통찰은 현시점에도 여전히 유효하기 때문이다. 이 책은 2014년에 영미권에서, 2017년에 한국에서 출간됐다. 출간 초기에는 인공지능에 대한 부정적인 시각을 심어준다고 하여 많은 비판을 받았지만, 오늘날 인공지능의 윤리에 관심이 커지고, 초지능의 도래와 그것의 존재적 위험에 대한 논의가 무성한 것을 보면, 저자의 통찰이 매우 적시적이었다는 생각이 든다.
셋째, 미래연구 측면에서 시사하는 바가 크기 때문이다. 우선 미래에 대한 전망을 고정하고, 역으로 그 일이 어떻게 일어날 수 있는지 탐색한다. 미래연구방법 중 '백 캐스팅'이라는 방법이 이것과 유사하다. 또한, 한 가지 미래 시나리오만 제시하는 것이 아니라, 질문에서 비롯된 수많은 가능성을 탐색한다. 나는 미래란 예측할 수 없기 때문에 상상할 수 있는 다양한 가능성을 탐색하고 대안을 준비하는 것이 중요하다고 생각하는데, 저자가 바로 그렇게 미래를 탐색하고 있다.
한 가지 아쉬운 점은, 가독성이 매우 나쁘다는 점이다. 인공지능에 관심 많은 나 같은 사람도 정말 어렵게 읽었다. 인공지능 분야의 대단한 수작임은 분명하다고 생각하지만, 권하기는 어려운 책이다. 차라리 이 서평을 훑어보시는 게 낫다.
