Superintelligence. 초지능
Nick Bostrom
일론 머스크는 '초지능'이 불가피하며 인류를 종식시킬 수 있다고 믿습니다.
"초지능이 출현하면 다음에 어떤 일이 일어날 지 예측하기가 매우 어렵습니다"
일론 머스크는 현재의 발전 속도로 볼 때 2030년에는 인공지능이 인간의 지능을 능가할 것이며, 이 기술이 인류를 종말시킬 가능성이 있다고 생각합니다. 하지만 그렇다고 해서 미래가 암울한 것은 아니라고, 테슬라와 스페이스X 에서는 "우리는 인공지능을 가장 긍정적인 방향으로 이끌어 멋진 미래의 확률을 높이려고 노력할 것"이라고 이야기합니다.
"멋진 미래의 확률" 이라니, 결국 인류는 초지능을 마주하게 되리라는 것은 분명한 확률일까요..
일론 머스크의 추천작이기도 한 닉 보스트롬(Nick Bostrom)의 책 "Superintelligence: Paths, Dangers, Strategies"는 인공지능, 특히 인간의 인지 능력을 초월하는 AI의 위험성과 가능성에 대해 깊게 분석합니다.
2014년에 출판된 이 책은 AI가 자신의 능력을 빠르고 지수적으로 향상시킬 수 있는 인텔리전스 폭발(intelligence explosion) 가능성을 탐구합니다. 이러한 폭발은 인간의 이해를 훨씬 뛰어넘는 형태의 지능을 낳을 수 있습니다.
옥스퍼드 대학의 철학자인 보스트롬은 초지능이 진화할 수 있는 여러 경로를 탐구하고, 이러한 경로들을 어떻게 관리하여 안전을 보장하고 인간의 가치와 윤리적으로 일치하게 할 수 있는지에 대해 논의합니다. 그는 통제되지 않은 AI가 초래할 수 있는 존재론적 위협을 피하기 위해 AI 발전을 준비하고 지도하는 것의 중요성을 강조합니다.
uperintelligence SuSuperintelligenceperintelligence
책에서는 초지능이 무엇을 의미하는지, 어떤 형태를 취할 수 있는지, 그리고 그 발전의 역학에 대해 정의하고 설명하면서 시작합니다. 또한 AI 발전의 전략적 및 정치적 함의를 검토하며, AI 진보를 먼저 달성하려는 국가와 조직 간의 경쟁적 압력과 제어의 도전에 대해서도 다룹니다.
여기서는 책의 첫장에서 등장하는 짧은 우화를 소개해보겠습니다.
끝나지 않은 참새의 우화
둥지를 짓는 계절, 며칠 동안의 고된 노동 끝에 참새들은 저녁 노을에 앉아 휴식을 취하며 지저귀고 있었습니다.
"우리는 모두 너무 작고 약해요. 둥지를 짓는 데 도움을 줄 올빼미가 있다면 얼마나 편할까요?"
"맞아요!" 다른 참새가 말했습니다. "그리고 노인들과 새끼들을 돌보는 데도 쓸 수 있을 거예요."
"조언도 해주고 동네 고양이도 지켜볼 수 있을 거예요." 또 다른 참새가 덧붙였어요.
그러자 나이든 참새인 파스투스가 말했습니다: "사방으로 정찰대를 보내 어딘가에 버려진 올빼미나 알을 찾도록 노력합시다. 까마귀나 아기 족제비도 괜찮겠지요. 이것은 분명 우리에게 일어난 최고의 일이 될 수 있을 거에요."
무리는 흥분했고 사방에서 참새들은 목청이 터지도록 지저귀기 시작했습니다.
이때, 신중한 성격을 가진 외눈 박새인 스크롱크핑클만이 그 노력의 지혜에 대해 확신하지 못했습니다.
그는 말했습니다: "이것은 분명히 우리의 운명을 되돌릴 것입니다. 우리는 그런 생물을 우리 가운데 데려 오기 전에 올빼미 길들이기 기술을 먼저 생각해야하지 않습니까?"
파스투스가 대답했습니다. "올빼미를 길들이는 것은 매우 어려운 일처럼 들리지만 올빼미 알을 찾는 것도 충분히 어려울 것입니다. 그러니 거기서부터 시작합시다. 올빼미를 길들이는 데 성공한 다음에는 다른 도전에 대해 생각해 볼 수 있습니다."
"그 계획에는 결함이 있습니다!" 스크렁크핑클이 비명을 질렀지만, 이미 참새 무리가 파스투스가 제시한 지침을 실행하기 위해 떠났기 때문에 그의 항의는 무용지물로 돌아갔습니다.
그의 곁에는 참새 두세 마리만 남아있었습니다. 그들은 함께 올빼미를 길들이거나 길들일 수 있는 방법을 연구하기 시작했습니다. 그들은 곧 파스투스의 말이 옳았다는 것을 깨달았습니다. 특히 연습할 실제 올빼미가 없는 상황에서 이것은 매우 어려운 도전이라는 것을 깨달았습니다. 그럼에도 불구하고 그들은 통제 문제에 대한 해결책을 찾기 전에 참새 무리가 올빼미 알을 가지고 돌아올까 봐 끊임없이 두려워하면서 최선을 다했습니다.
이 이야기의 결말은 알 수 없습니다.
저자는 이 책을 스크롱크핑클과 그의 추종자들에게 바칩니다.
