초예측
세계 석학 8인에게 인류의 미래를 묻다
3장 인공지능을 어떻게 통제할 것인가 - 닉 보스트롬
미래를 두려워하는 것은 지구에 살고 있는 많은 생명체 중 인간만이 가지고 있는 감각이 아닐까. 그렇기에 인간은 비과학적이라 일컫는 사주나 손금, 타로카드 같은 문화를 만들어내고 그 결과를 위안삼아 오늘을 살고 있는지도 모른다.
하루가 다르게 변해가는 세상에서 과학적이고 논리적으로 미래를 예측하는 책이 있다고 해서 읽어보았다. 책은 8명의 석학들에게 질문을 던지고 그 답을 듣는 형식으로 되어있다. 그중에서 가장 관심을 끌었던 주제인 "3장 인공지능을 어떻게 통제할 것인가"가 내 시선을 끌었다.
딥 러닝이라는 인공지능 기술이 급속도로 발전하면서 완전한 인공지능, 즉 초지능이 도래할 시기가 앞당겨졌다. 인류를 지배할지도 모른다는 두려움이 있지만, 인공지능을 개발하고 연구하는 이유는 얻는 것이 더 많기 때문이다. 범용 인공지능이 개발된다면 인류는 그 혜택을 누리게 될 것이다. 하지만 그에 앞서 인공지능을 설계할 때에는 반드시 인간의 삶에 대한 철학을 고민해서 인간의 가치관에 부합하도록 설계해야 한다. 그것이 막연한 두려움을 없애는 방법이다. 하지만 그보다 더 우선되어야 하는 것은 인공지능을 기술적으로 완벽히 통제하는 방법을 확보, 수립하는 것이다.
인공지능으로 작동하는 자율주행 자동차를 생각해보자.
자동차는 빠르게 목적지까지 이동이라는 목적을 가지고 있지만 중요한 목적 중 한 가지는 안전일 것이다. 당연히 탑승자와 보행자, 즉 인간을 보호해야 한다. 인공지능으로 운행하는 자율주행 자동차 앞에 공을 주우러 아이가 뛰어드는 상황을 가정해보자. 이때 아이를 피하려면 자동차가 급회전해야 하지만 탑승자의 안전이 보장되지 못하는 상황이라면 인공지능은 어떤 선택을 하게 될까. 그대로 직진해서 아이에게 피해를 주고 탑승자를 보호할지, 급회전해서 벽을 들이받아 아이를 보호하고 탑승자에게 피해를 줄지 선택해야 할 것이다. 두 가지 모두 “안전”이라는 자동차의 기본적인 목적에 부합하지 않는 것이다.
만약 자율주행 자동차가 보행자 보호를 우선으로 프로그래밍되어있다면 탑승자를 보호하지 못하는 자동차를 사들일 의향이 있는가. 또 사고의 법률적 책임은 누구에게 있게 될 것인가. 탑승자일까, 차량의 소유주가 될까. 혹은 그러한 돌발상황을 만든 아이, 아이의 부모, 그도 아니면 애초에 그렇게 프로그래밍한 차량 제조사가 책임을 져야 할 것인가. 그렇기에 개발 이전에 반드시 인간의 가치관에 부합하는 것이 무엇인지 고민해야 한다.
핵전쟁이 일어난다면 인류가 멸종할 수도 있지만 코스모스의 저자 칼 세이건이 예측한 가능성일 뿐이다. 우리는 아직 본격적인 핵전쟁을 경험하지 못했다. 경험하지 못했기에 막연한 두려움이 있는 것이다. 인공지능도 마찬가지일 것이다.
기술의 발달은 항상 혜택과 폐해가 공존했다. 전화기가 보급되었을 당시에 사회학자는 인간이 더는 만나지 않을 것이라고 단언했지만 요금 전화 통화의 약 60%는 만나자는 약속 전화라는 통계가 있다. 또 컴퓨터의 보급으로 많은 사람이 종이의 사용량이 급감할 것으로 예측했지만 실제로는 수십 배나 더 많은 종이를 사용하고 있다. 어떤 부분의 사회변화는 인류가 예측하지 못하는 방향으로 전개된다. 인공지능도 인류가 예측하지 못하는 방향으로 전개될 수 있다. 그렇기에 완전한 통제를 이루기 위해서는 개발의 속도와 타이밍 등 모든 가능성에 대해서 열린 자세로 고민해야 할 것이다. 또한, 전 인류에게 공평한 혜택을 주기 위해서 어떤 제도와 사회적 구조가 필요한지도 고민해야 한다.
인공지능은 비가역적 과학기술이기에 초기 설정이 중요하다. 인공지능을 개발하는 사람과 그에 대한 안전을 확보하는 사람은 공존해야 한다. 그래야 개발 마지막 단계에서 전반적인 안정성을 검토할 수 있게 된다. 정부가 운용하는 “특허”라는 제도를 활용하는 것도 하나의 방편이 될 수 있다. 더불어 인공지능을 개발, 연구하고 있는 기업이나 국가는 협력, 신뢰, 투명성의 문화를 더 널리 퍼트려야 한다.
이 책의 마지막에는 이런 구절이 있다.
미래는 불확실하지만, 실제로 미래를 완성해가는 과정이 곧 미래를 위한 사고이며 이 사고로부터 탄생하는 의지 자체가 곧 미래라고 할 수 있다 - P.229
불투명한 미래를 두려워하지 말고 미래를 구체적으로 만들어가는 과정이 미래이고 막연한 두려움을 없애는 방법이라는 말이다. 인공지능에 대해 막연한 두려움을 가지기보다 어차피 찾아올 기술이라면 인류에게 도움이 되는 방향이 무엇일까를 고민하는 것이 조금 더 나은 미래를 만드는 방법이 될 것이다.
바로 이것이 초예측 3장의 ‘닉 보스트롬’이 전하려고 하는 이야기의 핵심이다.
저자 : 오노 가즈모토
다방면에 걸쳐 취재 및 집필 활동을 하는 국제 저널리스트다. 도쿄 외국어대학교 영미학과를 졸업한 후 미국 코넬 대학교와 뉴욕 의과대학교에서 공부했다. 놈 촘스키, 마이클 샌델, 짐 로저스 등 세계 주요 인사들과 단독 인터뷰를 해온 베테랑 언론인이다.
인터뷰이 : 닉 보스트롬
1973년 스웨덴에서 태어났다. 옥스퍼드 대학교 철학과 교수이자 인류 미래 연구소(Future of Humanity Institute) 창립 소장이다. 옥스퍼드 대학교와 스탠퍼드 대학교의 협업 기관인 전략적 인공지능 연구 센터(Strategic Artificial Intelligence Research Center) 센터장도 맡고 있다. 분석철학뿐 아니라 물리학, 계산 신경과학, 수리논리학을 연구한다. 미국 ⟪포린 폴리시(Foreign Policy)⟫ '세계의 지성 100인'에 두 번 뽑혔고, 영국 ⟪프로스펙트(Prostect)⟫ '2014년 세계 사상사'에 전체 15위로 이름을 올렸다. 저서로는 ⟪슈퍼 인텔리전스⟫ 등이 있다.
