인공지능, 둠스데이를 부르는 주문?

둠스데이(Doomsday)

세상의 마지막 날, 수많은 영화와 만화, 게임, 심지어 종교까지 둠스데이는 사람들의 흥미를 끄는 단골 소재이다. 인간의 공포를 자극하는 이 단어는 누구도 피할 수 없는 심판의 날을 떠올리게 한다. 이미 세상은 충분히 공포스러워 그렇게 거창한 엄포도 필요 없을 텐데 말이다. 아마도 사람들은 자신이 죽음으로써 세상에서 사라지는 것보다 자신을 기억할 세상이 남아 있지 않다는 것을 더 두려워하는지도 모르겠다. 둠스데이가 더 큰 공포가 될 수 있는 합리적인 설명일 것이다.

예전에는 둠스데이가 신의 영역이었다. 변덕스러운 신을 노하게 하는 불경의 끝은 멸망이라는 공포였다. 반면에 요즈음은 둠스데이를 부르는 것은 인간이다. 인간의 기술과 과학에 대한 탐구가 둠스데이를 부르는 기재로 작용한다. 그중 하나가 인공지능이다.

영화 2012의 한 장면

터미네이터(Terminator)와 매트릭스(The Matrix)

과학기술이 발전하면서 인간을 두렵게 만드는 것은 신이 아니라 기술 그 자체가 되어가고 있다. 하늘에는 드론이 떠다니고, 로봇 워리어들이 전장을 누비는 날이 얼마 남지 않았다. 하지만 아직도 이 드론과 워리어들은 인간의 조정을 받는다.

그렇다면 이 드론과 로봇 워리어들이 인공지능을 갖추게 되면 어떤 일이 벌어질까? 스스로의 생존을 위해 잠재적인 위협을 제거하는 수준으로 발전하면 어떤 일이 발생할까? 이런 상상은 새로운 창작을 만들어 냈다.

미사일을 장착한 드론, 출처: 영국 가디언지

영화 <터미네이터>에서는 인공지능을 획득한 드론과 로봇들이 인류를 거의 멸종위기로 몰아넣었다. 인간이 만들어 낸 인공지능이 컴퓨터 네트워크를 장악하고 인간에 대한 공격을 시작했다. <매트릭스>는 더 나아가 인공지능 프로그램이 세상을 장악하고 인간을 생체 발전기로 사육하는 미래를 그렸다.

이런 영화의 영향인지 언제부턴가 인공지능은 인류의 가장 큰 가상의 적이자 두려움의 대상이 되었다. 1997년 IBM의 슈퍼컴퓨터 딥블루는 세계 체스 챔피언 Garry Kasparov를 이겼다. 1000억 개의 뉴런을 가진 자연계의 절대 지능을 가진 존재가 컴퓨터에게 패한 일은 역사적인 사건으로 여겨졌다. 인간의 유일한 강점인 지능이 컴퓨터 프로그램에게 패한 것이다. 로봇의 힘과 인간보다 뛰어난 지능을 갖춘 존재, 현생 인류가 등장할 때 네안데르탈인의 멸종이 일어났듯이 인간보다 뛰어난 새로운 종은 인류의 멸망을 불러오는 기재가 된다. A.G. 리들의 소설 <아틀란티스 유전자(The Atlantis Gene)>에서는 인간보다 뛰어난 외계인의 유전자가 공포의 소재이다.

테슬러 회장 앨런 머스크는 인공지능 연구를 악마를 불러내는 것이라며 핵무기보다 더 위험한 것으로 간주했다. 아이언맨의 실존 모델이며 가장 최첨단 연구(전기자동차, 우주여행)를 하는 테크 가이의 말치고는 상당히 으스스했다. 머스크 회장에게 인공지능은 인류의 파멸, 즉 둠스데이를 부르는 판도라의 상자이다.

하지만 언제나 그렇듯이 생겨난 개념이 구체화되지 않을 방법은 없다. 인공지능이 창이라면 새로운 방패가 따라서 생겨 날 것이다. 과학은 항상 그래 왔다. 과학자들은 그런 위험을 알고 있으면 막을 수 있는 방법도 당연히 생겨날 것이라며, 머스크 회장의 우려를 과학에 대한 이해의 부족이라고 간주했다. 하지만 누가 인공지능에 대해서 더 잘 이해하고 있을까, 라는 물음에 이르면....

인공지능 (Artificial Intelligence)

아이작 아이시모프의 소설 아이 로봇에는 로봇의 3원칙이 등장한다. 아이시모프는 로봇이라면 당연히 이 원칙을 따라 로봇으로 인해 초래되는 위험을 막으려 했다. 그렇지만 이 원칙은 종종 상호모순을 일으키며 새로운 문제를 발생시킨다.

제1원칙: 로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다.

제2원칙: 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.

제3원칙: 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다.

위의 원칙에서 다른 사람을 해치려는  한 사람을 보았을 때 로봇은 어떻게 해야 할까? 누구를 공격해야 원칙에 위배되지 않는 걸까? 인간에게 해를 입히지 않으면서 위험에 처한 인간을 구할 수 있을까? 로봇은 3원칙을 위반하게 되면 인공지능 회로가 과부하를 일으켜 작동 불능이 되도록 설계되어 있다. 그냥 있어도 작동 불능이 되고 공격자를 공격해도 불능이 된다. 이 경우 인간의 기만에 의해 인공지능은 쉽게 무력화된다.

그럼 직접적으로 해치지 않을 경우는 어떻게 될까? 예를 들면 고인성 병원균을 수원지에 풀려는 사람을 발견할 경우 로봇은 어떤 행동을 취해야 살아남을 수 있을까? 24시의 잭 바우어처럼 종횡무진 활약하는 인공지능 로봇을 기대할 수 있을까. 단순하게 생각되는 문제지만 그리 만만하게 해결할 수 있는 과제는 아니다. 3원칙을 무시하면 둠스데이를 부르게 될 것이고, 3원칙을 지키자면 인공지능 로봇은 무용지물이 된다.

파이널 판타지 10

아이시모프가 그리고 싶었던 세상은 어떤 것도 완벽할 수 없다는 것이었다. 탄탄한 논리구조 속에서도 수많은 모순과 틈새가 만들어지고 그것은 새로운 사건을 일으키는 복선이 된다. 사실 많은 문제는 잘하려는 선한 의도에서 생겨난다. 작은 악들은 생겨났다 사라지지만, 이런 선한 의지(더 정확하게는 선하다고 믿는 의지)는 스스로의 요인으로부터 또는 외부의 지원에 기대어 점점 더 증폭된다.

지금 세계에서 벌어지는 대부분의 분쟁은 서로가 옳다고 믿는 선한 의지의 충돌이다. 서로가 상대방을 악으로 규정하며 자신의 행동을 정당화한다. 악을 무찌른다고 그게 선이라는 보장은 어디 있는가. 악은 더 큰 악으로만 무찌를 수 있을 뿐이다. 악이 물러간 자리에 잠시 찾아오는 평화는 악을 무찌른 영웅에 의해 다시 위협을 받는다. 끊임없는 악과의 전쟁이 이어진다. 이 이야기 구조를 가지고 있는 게 PS2의 게임으로 인기를 끌었던 "파이널 판다지 10"이다.

<스타워즈>에서 처럼 보이지 않는 위협은 외부의 적이 아니라 바로 내부의 공포였다. 외부의 적은 쉽게 무찔렀지만 내부의 권력자에게 위임된 권력은 새로운 악이 된다. 더 상대하기 어려운 악이 되어 제다이의 기사들을 무너뜨린다.

영화 <이글아이(Eagle eye)>에서 인공지능 컴퓨터는 인간을 위험으로 지키기 위해 인간을 위협한다. <트랜샌더스(Transcendence)>는 인간 자체가 인공지능이 되어 자연생태계를 지키기 위해 인간을 도구화한다. 이런 상상은 가장 위험한 것은 언제나 인간이었지 기계가 아녔다는 인식이 바탕에 있다. 좋은 세상을 위해 인간이 반드시 필요한 것은 아니다고 인공지능이 생각하는 순간이 오면, 그때는 어찌해야 할까? 그때도 로봇의 3원칙이 적용될까?

로봇은 생명체에 어떤 해도 입힐 수 없으며 스스로 자신 또는 다른 기계를 개조할 수 없다.

<오토마타(Automata)>에서 다시 인용되는 아이시모프의 로봇 3원칙이다. 아이시모프의 우려처럼 이런 원칙이 완벽히 작동할 수는 없다. 우리가 예기치 못한 상황은 과학기술에 대한 확신이 충만할 때 생겨날 것이다. 그렇지만 우리가 두려워해야 할 것은 기계가 아니라 언제나 인간이다. 선한 의지를 가진 인간이다. 가장 최악의 재난은 항상 비현실적인 공포와 근거 없는 믿음에서 생겨났다. 만들어진 두려움과 완전한 선에 대한 갈망이 둠스데이를 부르는 주문이 될 것이다. 그렇지만 둠스데이가 앨런 머스크의 우려처럼 인공지능과 함께 할 가능성이 높아지는 것은 분명해 보인다.

* 표제부 사진은 "IBM's Blue Gene/P supercomputer at Argonne National Laboratory" 로 Wikipedia에서 가져왔음.