미래의 묵시록 기사들

성장일기 벽돌시리즈 304

성장일기 벽돌시리즈 삼백 사번째

성경에서는 세계를 멸망시킬 징조로써 묵시록의 4기사(역병,전쟁,기근,죽음)가 나타나게 된다.

AI가 기술적 특이점이 다다르면 인간의 통제에 벗어나게 되면서 인류에 해로운 존재가 될것임을 예측하는 주장이 많다. AI가 이 세상 모든 지식을 더하고 더해 단순 인풋,아웃풋의 기계적 위치에서 창조자의 입장으로 달라지면서 인간만이 해냈던 창의적인 작업들이나 기계로 대체할수 없는 감정적 작업까지 해낼수 있을 거란 전망도 곳곳에서 보이고 있다. AI가 귀에 못이 박히도록 최근의 화두로 떠오르자 경외심과 우려스러운 감정들이 느껴진다.

인류사에서 어떤 종이 다른 종을 이겨내고 오늘날의 인류가 되기까지는 여러 복합적인 변수가 있어왔다. 환경의 문제라던가, 개체의 적응문제라던가 그것도 아니면 직접적으로 서로 간에 무력충돌 겪으며 집단의 힘이 존속될정도로 유지되기가 힘들어진다던가 등등. 마찬가지로 미래는 어쩌면 신인류라고 불릴만한 기계라던가 인공지능이 탑재된 인간의 형상을 한 존재가 나타난다면 현존하는 인류는 크로마뇽인의 시즌2의 입장이 될지도 모른다.

기술을 예측하기 힘들어지고 통제에서 벗어나면 불안함을 느끼는 것은 당연하며 창조자가 도리어 지배받게 된다면 그것만큼 끔찍한 시나리오는 없으리라. 마치 SF영화처럼 인간은 이 행성에서 하등 쓸모없는 존재이므로 쓸어버리는 것이 낫겠다라고 자체 판단한 인공지능의 공격처럼 어쩌면 초기단계에서 가시화 되어가고 있는 인공지능과 로봇이란 존재는 더이상 소설속 존재로만 비추어지지 않는다는 것이다.

하지만 손을 놓고 있는 건 또 아닌지라, 정확히 알지는 못하지만 백도어를 설치한채로 공장에서 부품을 만들게 되는 경우가 대부분인지라(특히 방산업계라던가 민감한 산업분야 등등) 마치 인간이 선천적으로 혹은 유전적으로 사회적인 동물이고 서로 협력하는 것이 생존하는 방법임을 알게되는 집단생활하는 동물로써 짜여져있는 것처럼 인공지능이나 로봇도 만들때부터 그런 경우의 수로 당연히 설정할 수 밖에 없다.

지금으로썬 상상의 영역이지만 어떤 프로그램이나 로봇이 인간에게 위해를 가하고자 한다면 마치 우호적이지 못한 유전자를 가지지 못했던 한 집단은 저절로 도태되거나 자연스레 사라지듯이 신인류라고 불릴만한 그들도 이런 문제에서 결코 자유롭지 못하다는 생각이 든다. 문제는 인간처럼 후천적으로 별의별 일을 저지르고 학습하며 어떤 변수가 생겨날지 모른다는 것인데 인간에게 역기능적으로 행동하는 존재만 있는 것은 아닐것이기 때문에 그리 간단하게 끝날 문제는 아니라고 생각해본다. 

통제되지 못해 프로그램이 해킹 당해서 모든 로봇이 갑자기 공포의 존재로써 탈바꿈된다는 과한 우려또한 이 역시 상상의 영역인것처럼 그 반대의 경우도 인간의 감정마저 그대로 따라하는 로봇 혹은 이타심을 가지고 있는 로봇이 뭐어쩌고 저쩌고 하는 그런 서사도 생각해볼수 있다는 뜻이다. 이런 화두가 겉잡을수 없이 커지는 지식의 소용돌이에서 더이상 파악하기 불가능할 정도의 무궁무진한 정보의 양때문에 인간이 무기력감을 느낀다는 점이 오히려 그 반대의 경우를 만들수도 있다.

전염병의 문제라던가 사회에 중대한 영향을 끼칠만한 어떤 요소에 대해 공포감을 느낀다면 인간은 그 누구보다도 무자비해진다. 설령 같은 피부, 같은 생각을 가지고 있는 사람들도 기꺼이 목숨을 빼앗는 존재가 바로 인간이니 만큼 생존의 문제에 있어서 굉장히 민감하게 움직이므로 더이상 겉잡을수 없는 정보의 양에 더해 인간 존재에 순기능을 더하는 존재로만 움직이도록 정보의 토대를 설계한채로 불가사의한 일들을 저지르든 말든 통제하에 정보와 기능의 한계치를 설정할지도 모른다. 

쉽게말해 컴퓨터에서 백날 떠들어봤자 혹은 컴퓨터 본체가 갑자기 움직이려 든다면 플러그를 뽑아버리려는 조치는 아주 민감하게 즉시 하게끔 준비할 수 있다는 점이다.