피조물에 대한 통제력을 유지할 수있는가?

과학의 발전을 통제해야 한다

1. 피조물에 대한 통제력을 유지할 수 있는가?

인간이 만들어낸 수많은 발명품이 있다. 빛나는 물고기, 황우석박사가 복제해낸 사냥개와 양들, 바둑의 신 이세돌을 이겨낸 컴퓨터 알파고, 수 천 킬로미터 떨어진 지역의 적을 사살할 수 있는 무인 공격기 드론 등등.

인공지능

이세돌(33) 9단이 5시간 접전 끝에 알파고(AlphaGo)에 패했다. 이로써 이번 대국은 1승4패로 알파고의 승리가 됐다. 이세돌 9단은 15일 서울 광화문 포시즌스 호텔에서 계속된 '구글 딥마인드 챌린지 매치' 5번기 제5국에서 알파고와 접전 끝에 280수 만에 패배를 인정했다. 이세돌 9단은 인간 최고의 바둑 고수로서 알파고의 거센 도전을 받았지만, 끝내 1승(4패)밖에 거두지 못했다. 반면, 알파고는 인간 대표를 끝까지 밀어붙이며 자신의 무한 능력을 막판까지 발휘했다. 4국에서 첫 승을 거두며 상승세를 탄 이세돌은 이날 초반 우하귀 접전에서 알파고의 실수를 틈타 40여 집의 큰 집을 형성해 유리하게 출발했다. 하지만 상변 타개 과정에서 알파고에 추격을 허용하며 박빙의 승부를 벌였다. 이세돌은 좌하귀 백 모양에서 수를 빼려고 했지만, 알파고의 정확한 계산에 밀려 손해를 봤고, 결국 항복했다. (경인일보, 2016.3.15.)

인간이 자신의 피조물인 컴퓨터에 졌다. 이세돌을 위한 수많은 변명이 있기는 했지만 진 것은 진 것이다. 다행히도 이세돌과 알파고는 사람 목숨을 놓고 싸우는 전쟁은 아니었다. 다만 인간의 자존심이 많이 상했을 뿐이다. 멀지 않은 미래에 인간이 하고 있는 일자리의 대부분은 인공지능에 빼앗길 것으로 예측된다.

소프트웨어

“스타니슬라프 페트로프는 소련의 조기 핵 경보 시스템의 수뇌부인 세르푸코프-15의 전투 알고리즘 참모부장이었다. 그런데 1983년 9월 26일 페트로프와 그의 팀이 작성을 도운 알고리즘이 미국인의 공격을 시작했다는 경보를 울렸다. 다행히 페트로프는 그 것이 잘못된 경보임을 깨닫고 작전 참모들에게 그 알고리즘을 믿지 말라고 설득했다. 그때 그는 즉각적으로 결정을 내려 반격하지 않도록 그의 상관을 만류해야 했다. 미래에는 이런 오류가 없기를 바라지만 오늘 날처럼 단순히 미사일 시스템뿐만 아니라 모든 분야에 두루 퍼진 슈퍼 컴퓨터나 폭발적으로 개발 및 사용중인 알고리즘이 등장하기 수십 년 전에 일어난 이 사건은 많은 것을 시사한다.”

이미 30년 전에 인간이 만들어내 컴퓨터 시스템은 오작동을 일으켜 세계의 많은 부분이 파괴될 뻔했다. 그리고 핵무기 뿐만 아니라 인간이 만들어낸 화학무기, 생물학 무기로 인한 인류가 매우 어려운 곤경에 처한다는 이야기가 꾸준히 소설과 영화화되고 있다. 이제는 그런 너무 많이 나와서 흔하디 흔한 소재가 되었지만, 여전히 공포스러운 것은 변함이 없다. 자기가 만들어낸 것 때문에서 멸망할 수 있다는 불안감에 떨고 있다.

플라스틱

태평양 거대 쓰레기 지대(Great Pacific Garbage Patch)는 각각 하와이 섬 북쪽과 일본과 하와이 섬 사이에 있는 태평양을 떠다니는 두개의 거대한 쓰레기 더미를 일컫는다. 쓰레기 섬이라 부르기도 한다. 이 쓰레기 더미들은 지금까지 인류가 만든 인공물 중 가장 큰 것들로, 하와이 북단의 덩어리 하나만 쳐도 한반도의 약 7배 이다. 이처럼 쓰레기가 한곳으로 모여 섬에 가까운 모습이 된 것은 원형 순환 해류와 바람 때문인 것으로 보며, 1950년대부터 10년마다 10배씩 증가하여 오늘날 거대한 쓰레기 지대가 만들어졌다. 이 섬은 1997년, 미국의 해양 환경운동가인 찰스 무어에 의해 최초로 발견되었다. 이러한 태평양 거대 쓰레기 지대 때문에 수많은 해양생물들이 피해를 보고 있으며, 특히 먹이로 잘못 알고 먹었다가 죽게 되는 사례도 있으며, 주변 지역에서 잡힌 어류를 조사한 결과 35％의 물고기 뱃속에 미세플라스틱이 있음을 확인했다. (위키백과)

플라스틱으로 만든 최초의 제품은 당구공이었다. 당구공은 원래 코끼리의 어금니인 상아로 만들었었다. 맑고 연한 노란색을 때며 아주 단단했기 때문이다. 하지만 상아는 구하기도 힘들었을 뿐만 아니라 매우 비쌌다. 그래서 미국 당구공 제조업자들은 상아 당구공을 대신할 소재에 1만달러의 현상 공고를 냈다. 그리고 1869년 독일 출신 인쇄업자인 J. W. 하야트가 동생과 함께 니트로 셀룰로오드와 장뇌(녹나무를 증류하면 나오는 고체 성분으로 화약과 방충제의 원료로 쓰이는 물질)를 혼합하여 만들어 냈다. 이 당구공이 바로 최초의 플라스틱이다. 바로 코끼리를 보호하기 위하여 만들어낸 플라스틱이 지금은 지구의 환경을 위협하고 있다. 플라스틱은 그야말로 물질이다. 움직임도 없고, 에너지도 필요없고, 스스로 생각하지도 않는 소모품 그 자체이다. 더불어 유전학의 혁명, 나노기술의 혁명, 로봇공학의 혁명 등 세 개의 혁명이 서로 연관되어 만들어지는 새로운 ‘존재’들이 무수히 만들어져 가고 있다. 게다가 그 속도마저 기하급수적으로 빨라지고 있다. 그저 물질에 불과한 플라스틱마저 우리가 예측하지 못했던 환경파괴라는 매우 중차대한 방법으로 우리에게 좋지 않은 영향을 미치고 있다. 공학적으로 만들어진 기계와 생물학적 유기물인 인간이 결합된 합성인간이 출현한다면 우리는 그 존재로부터 인류의 안전을 담보할 수 있을까?

“특이점이란 무엇인가? 그 것은 미래에 기술 변화와 속도가 매우 빨라지고 그 영향이 매우 깊어서 인간의 생활이 되돌릴 수 없도록 변화되는 시기를 뜻한다. 유토피아도 디스토피아도 아닌 이 때, 비즈니스 모델부터 인간의 수명에 이르기까지, 우리가 삶에 의미를 부여하기 위해 사용하는 온갖 개념들에 변화가 일어날 것이다. 죽음도 예외가 아니다.”

레이 커즈와일은 그 특이점이 매우 가까이 와있다고 한다. 과거보다 인간은 많은 기술들을 만들어냈고, 이 기술들이 변화에 기하급수적으로 속도를 더하고 있기 때문이다. 수 십년 내에 인간의 모든 지식과 기량을 망라하고 궁극적으로 인간 두뇌의 패턴 인식 능력과 문제 해결 능력, 감정 및 도덕적 지능에 까지도 이르게 될 것이다. 궁극적으로는 기술이 가장 인간다운 특성이라고 여겨지는 정교함과 유연함에 있어 인간에게 맞먹게 되고 나아가 뛰어 넘으리라는 것이다. 인간은 점점 스스로의 기술에 대한 두려움을 갖게 되었지만, 여전히 기술에 대한 통제력을 자신하고 있다.

"인공지능(AI)은 사물인터넷(loT) 때문에 소통은 가능하지만 허구(보지 않고, 듣지 않은 것)를 만들 수 없어 인간을 지배할 수 없습니다. 24일 인천 라마다송도호텔에서 열린 인천경영포럼 '인공지능의 이해와 미래' 주제 강연에서 초청 강사로 나온 KAIST 미래전략대학원 이광형 원장은 인공지능의 인간지배 조건을 설명하며 이같이 밝혔다. 이 원장은 인공지능 발전을 단순 인공지능, loT 인공지능, 감성 인공지능, 자아 인공지능, 조직화 인공지능으로 구분했다. 그는 로봇이 인간을 지배하기 위한 조건으로 '자아'(자신의 존재 인식과 보호 의식, 기쁨·공포·슬픔 등에 대한 인식)와 '조직'을 제시했다. 자아로봇은 loT 때문에 소통이 가능하지만, 허구를 만들 수 없어 '집단의 힘'을 형성하지 못한다는 것이다. 반면 인간은 인공지능과 달리 보지도 듣지도 않은 사실(허구)을 전파해 리더십을 만들고 단체를 구성하는 조직능력이 있다고 이 원장은 강조했다. (연합뉴스, 2016.3.24.)

로봇에 대한 인간의 우월성은 앞으로도 영원히 지속될 것이라는 자신감이 배어있는 말이다. 또한 로봇의 개발에 대한 원칙이 전혀 없다고 할 수도 없다. 러시아 출신의 과학자이자 미국 SF소설가인 아이작 아시모프는 로봇에 관한 40여 편이 넘는 많은 소설을 썼다. 그는 로봇의 활용, 로봇공학이라는 뜻으로 쓰이고 있는 ‘로보틱스(robotics)’라는 단어를 처음 만들기도 했다 그는 1950년에 발간한 장편소설인 ‘I Robot’에서 로봇의 행동에 관한 3가지 원칙을 제안한 바 있다.

1. 로봇은 인간에게 해를 끼쳐서는 안 되며, 위험에 처해 있는 인간을 방관해서도 안 된다.

2. 로봇은 인간의 명령에 반드시 복종해야 한다. 단, 제1법칙에 거스를 경우는 예외다.

3. 로봇은 자기 자신을 보호해야 한다. 단, 제1법칙과 제2법칙에 거스를 경우는 예외다.

문제는 정말 로봇을 만드는 사람, 즉 과학자들이 저러한 원칙을 지키는 로봇만을 만들어 낼 지에 대한 확신이 없다. 가장 대표적인 사례가 무기를 만들어내는 과학 기술자들이다. 그들이 만들어 내는 것은 인간 살상이 주 목적이기 때문에 저 첫 번째 원칙부터 배제된다. 피조물을 통제하기 위해서 우리는 과학부터 통제해야 한다는 결론이 나온다.