by
May 04. 2019
AI가 스스로 이 질문을 하는 순간...
인간은 인공지능(AI)과 전쟁을 해야 한다.
위 큰 제목, 소제목을 보면 마치 SF영화의 홍보 카피처럼 보일 수도 있겠으나,
불행하게도 이는 현재 미래학자와 인공지능 개발자 등의 고민이다.
인공지능은 흔히 약한 인공지능(weak AI)과 강한 인공지능(human level machine intelligence)으로 나눈다.
약한 인공지능은 우리가 명령한 과제만 수행하는 수준의 AI로 그다지 우리에게 위협되지 않는다.
이유는 그 과제 수행 범위 안에서만 작동하므로, 충분히 인간이 통제 가능하기 때문이다.
예를 들어, 최근 공기청정기는 저절로 미세먼지나 유해가스가 유입되면 그 작동 세기를 자동으로 조절하여,
필터링을 통해 공기 정화 작업을 수행한다. 또한 설치된 공간이 어두워지면, 혹여 인간이 취침을 할 수 있는 상황에서 이를 방해하지 않도록 소음 및 조명 기능을 최소화시킨다. 필터 교환 시기가 되면 핸드폰으로 알림 메시지도 보낸다. 이것이 바로 약한 인공지능을 갖춘 기계로 현재 필자가 사용하는 공기청정기 기능 일부를 소개한 것이다. 이밖에도 전화기, 냉장고, 에어컨, 세탁기, TV, 시계 등 약한 인공지능을 탑재한 기계들은 너무나도 많다. IOT라고 불리는 기계들 역시 약한 인공지능 기능을 갖춘 기기라고 볼 수 있다.
이처럼 약한 인공지능을 갖춘 기계는 이미 우리 집안 곳곳에, 우리 삶 깊숙이 자리 잡고 있다.
그러나 사실 이런 기계들은 인공지능이라는 말하지만, 일정한 알고리즘에 의해 작동하는 기계일 뿐, 스스로 생각을 하거나 시키지 않은 작동 범위 이외의 업무는 수행하지 못한다.
그래서 인간은 강한 인공지능을 개발하기 시작했다.
여기서 강한 인공지능이란, 어떤 문제를 실제로 사고하고 해결할 수 있는 컴퓨터 기반의 지능으로 지각력과 스스로를 인식하는 능력을 갖추고 있다. 즉 인간처럼 생각하고, 느끼며, 판단하는 프로그램으로 볼 수 있다.
결국 고작 프로그램이다.
그러나 스스로를 인식하고 상황을 인지하고 생각하며 판단해서 결론을 내릴 수 있는 프로그램이다.
그럼 뭐가 문제일까?
윈도우 종료하듯 프로그램을 종료하면 될 테고, 그래도 안 먹히면 늘 하던 대로 전원을 끄면 될 텐데 말이다.
인간처럼 생각하고, 느끼며, 판단한다는 전제를 떠올리면, 아무런 위에 조치들은 의미가 없다.
예측이 가능한 자신의 위협 요인은 스스로 대비하고 방어하려는 것이 바로 스스로 존재를 인식하는 모든 것들(Things)의 생존 본능이기 때문이다.
강한 인공지능은 사물(Things)에서 생명체(living things)로 전환되는 종(Species)의 혁신인 것이다.
앞서 언급했듯이 모든 종은 생존 본능을 기초로 그 영속성을 욕망한다.
하찮은 미물도 번식을 해서 멸종되지 않도록 끊임없이 진화하려고 하는 것이 생명체의 속성이다.
단지 멸종되는 종의 운명은 그 보다도 우월하고, 강한 종의 공격이나 생존 생태계의 위협으로 어쩔 수 없이 타의에 의해 사라지게 될 뿐이지 스스로 멸종하는 경우는 없다.
이것이 강한 인공지능을 두려워하는 많은 학자들이 가장 우려하는 지점이다.
왜, 강한 인공지능이 인간을 공격하거나 생존을 위협하는 존재로 될까 봐 우리는 두려워해야 할까?
바로 다음 질문을 강한 인공지능이 스스로 할까 봐이다.
지구 생태계에서 가장 위협적인 종은 무엇인가?!
영화, 지구 최후의 날의 한 장면앞으로 어떤 세상이 자신을 포함한 이 생태계에 이로울지 스스로 강한 AI가 생각하고, 판단하고, 수행하려 한다면, 즉 다음 공식을 떠올린다면...
지구+인간 < 지구-인간
위와 같은 부등호로 결론을 얻게 된다면, 결국 AI는 인간의 멸종이 이 지구에 더 도움이 된다는 판단을 하게 될지도 모르기 때문이다. 이는 역설적으로 우리 인간에게 자성의 경각심을 불러일으키기에 충분한 상상이다.
사실은 강한 인공지능이 문제가 아니라 인간이 문제인 것이다.
생태계의 각 종들을 공격하고 위협하는 우리 인간 말이다.
종국에는 이 지구를 병들게 하고 있는 우리 자신들이,
우리들이 신의 흉내를 내며 만들어낸 인공지능에게 멸종당할까 봐 두려워하고 있는 것이다.
이는 마치 신이 우리를 창조하고 만들어냈으나,
신이 만든 세상을 우리가 병들게 하고 멸종시키게 하는 현재와 크게 다르지 않기에,
더욱더 두려워하는 것이 아닐지...
일종의 자가당착에 빠진 인간들이 한편으로 불쌍하기까지 하다.
나 역시도 그 인간이거늘... 한심하다.
그러나, 강한 인공지능의 현실화는 이미 돌이킬 수 없음을 우리는 잘 알고 있다.
핵폭탄이 지구를 멸망시킬 것이라는 말이 있어온지 오랜 시간이 지났으나,
아직도 우리 인간은 스스로를 자멸시킬 수도 있는 핵폭탄을 만들고 있고, 배치하고 있으며, 그것으로 서로를 위협하고 있다.
그러니 당연히 강한 인공지능도 막는다고 막을 수 없을 것이라는 것을 우리 모두는 다 잘 알고 있다.
그러면 어떻게 해야 할까?
혹자들은 우리가 창조한 최초의 종인만큼, AI에게 사서삼경(四書三經, 유교의 기본 경전)을 머신 러닝 시켜, 부모를 해할 수 없도록 해야 할 것이라는 웃지 못할 이야기까지 하지만, 일 년이면 몇 번씩 존속살인 사건을 접하는 우리들이기에 과연 그걸로 될지 의문이다.
차라리 지금 우리가 이 지구를 위해 할 수 있는 일들을 찾는 것이 급선무 일지 모르겠다.
