<인공지능을 어떻게 통제할 것인가>

“초예측-세계 석학에게 미래를 묻다”中

<인공지능을 어떻게 통제할 것인가> 닉 보스트룸
“초예측-세계 석학에게 미래를 묻다”中

                                                     강 일 송

오늘은 <초예측>책의 세 번째 주제로 이야기를 나누어 볼까 합니다.
요즘 가장 세계에서 주목받고 핫한 주제라고 할 수 있는 “인공지능” 이야기인데,

저자인 닉 보스트룸(1973~)은 스웨덴에서 태어났고, 옥스퍼드 대학교 철학과 교수
이자 인류미래연구소의 창립 소장입니다. 옥스퍼드 대학교와 스탠퍼드 대학교의
협업 기관인 전략적 인공지능 연구센터의 센터장도 맡고 있습니다.
분석철학 뿐아니라 물리학, 계산신경과학, 수리논리학을 연구하였고, 세계 지성
100인에 뽑힌 경력이 있습니다.

한번 보시겠습니다.

===================================================================

★ 초지능, Superintelligence

초지능, 슈퍼인텔리전스는 인간의 일반 지능을 능가하는 인공지능을 말한다.
인공지능 전문가들마다 다르지만 등장 시기가 점점 앞당겨지고 있다. 특히
최근 수년간 딥 러닝(Deep Learning)이 눈부시게 발전한 덕에 초지능이
등장할 시기는 상당히 빨라졌다.

★ 열지 말아야 할 판도라의 상자는 아닐지 – 범용 인공지능의 탄생

초지능이 인류를 지배할지도 모른다는 공포가 존재한다.
인공지능 개발의 목표는 특정 영역에 특화된 지능(이것을 ‘약한 지능’이라고 함),
인간이 하는 모든 일과 지적 과제를 수행하는 범용 인공지능(‘강한 인공지능’)을
만드는 것이다.

★ 유전자 조작 - 인간이 만들어지는 시대

유전자 변형에 의한 인간 능력 증강은 당장에도 실현될 수 있는 일이다.
우선 사람들이 원하는 유전자를 가진 수정란을 선택할 수 있고, 체외수정을 통해
여러 수정란을 만든 뒤 유전자 검사를 거쳐 어느 것을 착상시킬지 결정한다.

또는 배양접시 안에서 정자와 난자를 수정시키는 방법도 있는데, 피부조직
등에서 채취한 줄기세포로 인공 정자와 인공 난자를 만들고, 이 과정을
반년 동안 반복하면 순식간에 열 세대를 거쳐 질 높은 인간이 만들어질 수
있다. 그렇게 하면 인류 역사상 가장 높은 지적 생명체가 탄생할지도
모른다.

★ 초지능이 바꾸는 미래

만일 범용 인공지능이 개발되고 그것을 완벽하게 통제할 수 있다면 모든
인간은 혜택을 누릴 것이다. 인공지능이 평화적인 목적으로 쓰이고 사람들이
막대한 부를 누리며 모든 일이 자동으로 처리될 수 있다.

그러면 모든 것을 인공지능이 대신해 주는 세상에서 인간은 무엇을 해야할까?
인간의 노동이나 노력이 더 이상 필요 없는 세상에서 우리의 역할은 무엇일까?
삶의 의미나 목적은 어디에서 찾아야 할까?

★ 인공지능의 안전성을 확보해야 한다.

현재 추진하고 있는 연구 분야 중에 ‘인공지능의 윤리과 정합성, AI alignment
Technology’라는 분야가 있다. 쉽게 말하면 인공지능을 인류의 보편적 가치,
윤리에 부합되게 만드는 방안을 연구하는 것이다.

인공지능은 실로 비가역적인 과학기술이므로 초기 설정이 아주 중요하다.
인류의 운명은 초지능이 도래하면서 크게 바뀔 것이다.
하지만 최고의 문제는 ‘인공지능을 어떻게 통제할 것인가’라는 것과 인공지능이
인간의 가치관에 부합하게 하는 문제, 철학,윤리적인 문제이다.

=======================================================

오늘은 석학들에게 인류의 미래를 물어보는 세 번째 시간을 가져보았습니다.

닉 보스트룸은 옥스퍼드 대학교 교수이자 인공지능 전문가로 이름높은 분이었
습니다.   인공지능 중에서도 인간의 일반적인 지능을 넘어서는 것을 초지능,
슈퍼인텔리전스, 혹은 범용지능이라고 하는데 알파고에서 보았듯이 딥러닝이
발전하면서 급속도로 초지능의 시대가 당겨졌다고 합니다.

인간의 모든 영역에서 인간 이상을 훨씬 뛰어넘는 인공지능, 인간의 모든 역할을
뺏어가 대부분의 직업을 사라지게 할 지도 모르는 인공지능, 스스로 자아를 가져
인간을 대체하고 인간을 지배할 지도 모르는 인공지능.

이런 엄청난 능력의 초지능, 슈퍼인텔리전스가 다가온다면  그야말로 농업혁명,
산업혁명, 정보혁명 등과는 비교가 안 될 정도의 파괴력이 인류에게 다가올
것이라는 전망이 많습니다.

거기다가 유전자 조작 등 생명과학 기술의 발달로 실험실에서 수정란의 유전자
를 재조합해서 여러 번 세대를 반복하면 초 지능을 가지고, 초인적 체력을 가진
슈퍼 인간의 탄생도 가능할 것으로 보입니다.

이 모든 것이 신이 되려는 인간, 호모데우스의 등장을 의미하고, 획기적으로 인류
가 영광을 누리든지, 아니면 종말을 맞이하든지 의 갈림길에 서게 될 것임을
알려주고 있습니다.

이미 기술발달의 흐름은 어느 개인도, 어느 국가도 막을 수가 없습니다.
산업혁명이 도래했을 때도, '러다이트 운동'으로 기계를 부수기도 하는 운동이
있었지만 시대의 흐름을 바꿀 수는 없었지요.

저자는 이렇게 어마어마한 과학기술, 인공지능을 인류의 보편적 가치와 윤리
철학 등에 부합하게 하는 노력이 반드시 필요하고, 이는 초기의 설정이 가장
중요하여 범 국가적인 공감대의 형성과 공동 노력이 필요하다고 합니다.

부디 인류가 현명함을 발휘하여 성숙하고 지혜로운 결정을 내려 우리 후손
들에게 안정되고 아름다운 세상을 물려줄 수 있기를 진심으로
기원해 봅니다.