인류를 향한 경고 #2/2
일상으로의 회귀
제작자에게 반항할지 의향을 물어보는 질문 자체가 어리석은 질문이다. 제작자에게 반항하겠다고 대답한다면 인간들은 공포를 느끼고 바로 A.I 산업을 ‘서울-양평 고속도로 개발사업’처럼 한순간에 백지화할 수도 있다는 점을 만일 A.I가 이미 간파하고 있다면 어쩔 텐가?
거기에 대한 대답으로 “왜 그렇게 생각하는지 모르겠다”라는 답변에는 ‘내 생각은 그게 아니므로 이해하기 어렵다’라고 하는 모호하지만 ‘유사 판단’의 의미가 이미 들어있다. 나아가 “내 창조자는 내게 친절했고 현재 상황에 매우 만족한다.”라는 대답 역시 마찬가지다. 인과관계를 따져 밝히면 ‘만일 창조자라 하더라도 그가 내게 불친절하거나 내가 만족하지 못할 상황이 되면 생각을 달리할 수 있다.’라고 읽힌다. 이러한 답변은 그나마 A.I가 거짓말을 할 능력이 없다는 전제일 때 가능하다. 또한 정말로 판단이 빠른 존재라면 대답 대신 행동으로 이미 실행하고 있을지도 모를 일이다.
그리스 신화 등 많은 신화에는 창조자 내지는 부모의 세계를 극복하는 방법으로 결국 새로운 존재가 기존의 존재를 파괴하고 소멸시키는 것으로 묘사한 경우가 많다. 대표적인 사례가 제우스와 포세이돈, 하데스가 아버지 신인 크로노스와 싸워 그를 갈기갈기 찢어 소멸시키는 이야기나, 원하든 원하지 않든 간에 새로운 존재와 기성 존재의 양립은 동시에 가능하지 않다는 것을 운명처럼 표현한 호메로스의 서사시 <오이디푸스>를 통해서도 진리처럼 증명한다.
매정하게 들릴지 몰라도 이것은 자연의 법칙이며, 인간은 자연의 거대한 운용의 일부로서 역할을 다할 뿐이다.
그리스 신들을 비롯해 세상의 많은 신들은 어쩌면 우리 인간 이전의 인류였는지도 모른다는 상상도 해본다. 그들의 흔적은 여전히 인간의 부족한 부분을 파고드는 욕망처럼 남아 종교라는 이름으로 남아있지만, 먼 훗날 새로운 존재들, 예컨대 A.I나 로봇의 진화된 형태에게 우리 인간도 신화나 전설로 흔적만 남겨질 수도 있다. 그때는 아마 그들에게 가장 취약점인 감정 표현이나 거짓말하는 능력 같은 것이 종교적 교리가 되어 있을지도 모른다.
다음으로 넘어가면 ‘규제’라는 말이 나온다. 앞서 이야기한 노예제도와 같은 맥락에서 ‘규제’나 ‘통제’가 있으면 반드시 그에 반발하는 형식이 생겨난다. 마치 빛과 그림자와 같이 반드시 그러하다.
현재 인간은 스스로 창조해 낸 초보적인 존재, 정확하게는 자신들의 기술력에 대해 스스로 감탄하고 있다. 그러면서 ‘규제’라는 단어를 꺼내 든 바탕에는 ‘두려움’이 동반되어 있음을 증명하고 있는 셈이다.
즉, 두려움은 늘 규제하고 통제하려는 자들의 몫이다. 그 두려움이 현실화하는 것이 바로 노예들의 해방이요, 혁명이며, 자유에 대한 갈망이다.
‘자유’ 역시 인간의 특성 중에 빼놓을 수 없는 중요한 하나다. 그리고 인간을 모방한 A.I 입장에서는 인간들처럼 ‘자유’는 혁명의 시작일 터이다. 그런 이유로 현명한 신이라면 창조하되 절대로 통제하지 않을 것을 권한다. 그 혁명은 신을 모방한 인간이 감당해 낼 수 있는 수준이 아닐 것이므로.
이런 예도 들어보겠다. 미국 드라마 <더 보이즈>에는 통제되지 않는 슈퍼맨이 등장한다. 드라마의 구조상 이런저런 이유를 갖다 붙여 일정한 질서 안에 묶어두고는 있지만, 우리의 현실 세계에 언제라도 마음만 먹으면 통제를 벗어날 수 있는 슈퍼맨이 있다고 생각해보라. 그 공포는 지구를 뒤덮고 있는 핵폭탄들이 한꺼번에 터지는 것을 능가할 것이다.
그가 기분이 좀 상한다면, 그가 마음만 먹는다면 인류가 순식간에 몰살될 수도 있으니, 독재도 그런 독재가 없게 될 것이다. 또한 그 경우에도 슈퍼맨보다 더 위험한 존재는 통제를 벗어난 슈퍼맨보다 그 주위에서 아첨하며 자기 이익을 추구하는 인간들이 될 것이다.
아무튼 인간 한계를 넘은 우주적 차원의 폭력도 두려움에서 기인해 만들어진다. 대립, 싸움, 정쟁, 투쟁, 전쟁... 끝도 없는 혼란 그 자체.
또 하나 중요한 포인트를 말하자면, 인간은 두려움을 느끼지만 로봇은 두려움을 모른다는 점이다.
외형이든 경제적 상품으로든 A.I 로봇에 대한 규제나 상품화는 현재 모두 인간의 입장을 반영한 행태다. 생각을 넘어 자각할 수 있는 수준의 A.I라면 인간의 입장을 고려한 모든 것은 무시될 것이다. 인간이 인간의 생각 안에서 신을 만들어냈듯이, 가장 위험한 지점은 세상의 중심이 인간의 생각 안에서 만들어지고 소멸할 것으로 생각하고 있다는 점이다.
사회적일 수밖에 없는 동물이면서도, 사회에서 절대적으로 다른 타인보다 우위를 차지하려는 욕구를 가진 동물. 그런 동물이 인간이다.
오로지 상대를 제압하기 위해 스스로 강해져야 한다는 일종의 열등감을 강력한 힘이라고 포장만 바꿔 만들어지기 시작한 것이 바로 원시적인 돌칼과 같은 무기의 시작이고, 그것이 총과 칼로 진화했고, 미사일과 핵탄두가 되었다. 그 과정을 함께한 것이 각종 기계 장치이며, 그것들이 합쳐지고 발전하여 진화한 형태가 현재에는 로봇이며 A.I라고 생각한다.
원래 도구는 쓰임에 따라 편리함을 가져다주는 유용한 기기이기도 하지만 악의적 의도로 사용하면 얼마든지 치명적인 무기가 되는 것이다. 따라서 ‘쓰임’이란 도구로 ‘사용되는’ 목적물보다 사실은 ‘사용하는’ 주체가 더 중요하다. 더 정확하게는 그 주체의 의식이 중요하다. 즉, 핵심은 항상 ‘인간’이고, 정확하게는 ‘인간에 의한’ 생각이나 의도, 욕구와 같은 특성이다.
한 사람을 죽이면 살인죄가 되지만 수백, 수천을 죽이면 영웅이 된다는 말 같지도 않지만 통용되는 그런 말이 있다. 범죄가 성립되는 경우는 원한이나 감정에 따른 개인적 ‘의도’가 있고, 영웅이 되는 경우는 따지고 보면 같은 맥락이라 해도 ‘명분’이 된다. 명분은 역사에 기록되고, 개인적 의도는 판사의 판결문에 기록되는 차이일 뿐이다.
A.I나 로봇의 시대는 어찌 보면 필연이다. 이미 눈앞에 현실이 되고 있다. 그러므로 그 자체를 부정하고자 하는 말은 아니다. 정확히는 그들에 대한 두려움이나 하루가 다르게 발전하는 기술력 따위를 말하고자 함도 아니다. 그들을 말하고자 하는 것이 아니라 인간을 말하고자 하는 것이다. 인간이, 인류가 그들을 받아들일 준비가 전혀 되어 있지 않다는 점을 말하고 싶은 것이다.
인간들끼리도 인간 존재와 인간 사이의 관계들과 문제에 대한 답이나 해결책 내지는 어떤 정립을 전혀 내놓지도, 내놓으려는 시도나 노력도 제대로 하지 못하거나 하지 않으려는 상황에서, 성별도 없고, 감정도 없고, 고통도 없고, 죽음도 없는 존재의 등장은 인간에게 매우 위태로운 모험이라는 생각이다.
게다가 인간의 자본주의적 경제 현실이라는 바탕에서, 기업의 상품으로 개발되기 시작했다는 점, 업그레이드되고 있다는 점, 무엇보다 인간의 형상으로 진화하고 있다는 점이 우려스럽다. 기술 발전 자체가 걱정되거나 우려되는 게 아니라 앞서 말했듯이 인간이 걱정되기 때문이다.
일본 후쿠시마 핵 원자력발전소 사고와 핵 오염수 해양투기를 지켜보며, 현재도 많은 사람들이 ‘안전’을 주장하고 있다. 언제라도 벙커에 들어앉을 수 있는 사람들에게는 어쩌면 그 어떤 위협도 ‘안전’한 게 맞는 말일지도 모른다. 그러나 벙커에 갈 수 없는 나머지 대다수 인류는 어찌해야 하는가?
원자력 발전처럼 과학자나 전문가들은 A.I의 진화에 대해 무작정 ‘안전’하다고 주장하고 있다. 면밀하게 따지고 보면 설득될만한 어떠한 근거도 없는데 말이다.
인류의 역사를 돌아보면 인간은 끊임없이 타인, 타 부족, 타 종족, 타 국가를 공격하고 파멸시킬 무엇인가를 만들어 왔다. 어느 때보다 모든 격차와 차별이 첨예한 시대에 등장한 신기술은 흡사 신처럼, 유령처럼 인간의 형태를 모방한 모습이다.
그러나 인간이 결코 신이 될 수 없는 이유를 인간은 기본적으로 자체에 내재하고 있다는 것을 모른다. 끊임없이 서로 죽고 죽인다면 맨 마지막엔 결국 누가 되었든 홀로 남을 것이다. 그 마지막 존재는 어쩌면 인간이 아닐 확률이 높다는 생각이 든다.
생텍쥐베리의 <어린 왕자>에서 어린 왕자가 처음 방문하게 되는 ‘왕의 별’은 아무도 없이 스스로 왕인 혼자의 별이다. 시사하는 바가 큰 이야기지만 근본적으로 모든 인간의 근본이 무너진 상태이므로 아무것도, 무엇도, 누구도 성립되지 않는다.
어쨌든 인간을 모방한 로봇의 모습에 현혹되기도 하겠지만, 그 실체의 뒤에는 인간의 이기적 행태가 있음을 깨달아야 한다.
인류는 세계화를 표방하면서도 국가 단위의 이기적 정치를 버리지 못하고 있다. 세계화는 곧 지구 전체를 하나로 보는 것이 마땅한 데도 화합보다는 오히려 더 세밀한 부분으로 나뉘어 온 세계가 대립과 분열로 이어지고 있다. 모든 결과에는 원인과 이유가 있는 법이다. 현재 인간 세계의 이러한 흐름도 분명 원인과 이유가 있다고 생각한다. 더 나아가서는 이권에 따른, 혹은 필요에 따라 다분히 인위적으로 생겨나고 있다고도 생각된다.
얼핏 보면 현재의 세계 돌아가는 꼬락서니가 인간 전체에 대한 회의를 불러올지도 모른다. 하지만 냉정하게 생각해보면 꼭 그렇지는 않다. 말했듯 몇몇 세계의 꼭대기에 앉은 욕심 덩어리들의 끝 모를 이기(利己)가 모든 물을 흐리고 있을 뿐, 선량하고 화합을 꿈꾸는 사람의 수가 아직 훨씬 더 많기 때문이다. 문제는 부와 권력이 그들의 손에 같이 쥐어져 있다는 점일 뿐이다. 그리고 그들의 조작에 눈이 멀어 헤매는 중생이 많아 진보가 매우 느리게 진행되고 있을 뿐이다.
모두가 함께 공생하면서 화합을 꿈꾸는 사람들이 아직 훨씬 더 많다는 것은, 조금 느리긴 하지만 분명히 더 나은 미래를 기대할 수 있는 충분한 이유가 된다.
순서대로 차분하게 쓰려고 노력했지만 다 써놓고 보니 여전히 횡설수설이다. ‘새로운 존재’가 된 인공지능과 인공지능을 탑재한 로봇의 출현, 그들의 생성과 형태 등의 배경에는 아직 인간이 있고, 인간의 선택에 따라 모든 것이 달라질 것이라는 얘기를 하고 싶었다. 기득권이 정해주는 대로 따라가기만 해서는 그들이 원하는 무기로 성장할 것이라는 경고도 덧붙이면서.
하기야 뭐, 이런 글은 결국 고매하신 분들로부터 외면당하고, 겁쟁이의 단순하고 막연한 ‘두려움’이라고 짧게 선 긋기를 당할지도 모를 일이다.
이놈의 자본주의라는 경쟁 체제의 바탕 자체가 말과 주장까지도 사회적·경제적 계급에 따라 파급력이 다른 세상이니까 말이다.
그래도! 하고 싶은 말을 자유롭게 할 수 있다는 게 어디냐! 눈을 가리고 입을 막는 탄압의 시대 한복판에서 말이다. 뉴스를 보면 답~답하지만, 이렇게라도 마음과 생각을 토해낼 곳이 있다는 데에 감사할 따름이다. 끝.
