로봇도 미칠 수 있다
원문출처: 차이트 온라인 칼럼
글쓴이: 게로 폰 란도브
번역: Claire PEK
발행일: 2017년 8월 9일
< I, Robot > 20th Century Fox어쩌면 미래의 어느 시점에, 로봇들은 인간이 너무 많은 고통을 야기한다는 결론을 내릴지도 모르겠다. 이것은 이미 철학자들에게는 익숙한 생각이다. 그럼 이 세상의 고통을 줄이기 위해서는 인간이 로봇에 의해 제거당해야 마땅한 것일까?
며칠 전, 미국의 로봇 공학자들은 그들이 어떤 방법으로 자율주행차들을 혼란에 빠뜨렸는지에 대해 보도했다. 교통표지판의 식별이 좀 더 어렵도록 약간의 변형만 가했을 뿐인데, 자동차의 광학시스템은 이를 전혀 다르게 해석하였다는 내용이었다. 이를테면 정지 표지판을 감속으로 해석하는 식이었다. 여기서 흥미로운 사실은, 연구진이 표지판을 변형할 때 사용했던 프로그램이 사실은 해당 자율주행차량의 이미지 처리 소프트웨어가 분석한 내용을 기반으로 변형 방식을 제안했다는 점이다. 그만큼 효과적이었던 데는 이유가 있었던 것이다.
자율주행차나 여타 이동 로봇들은 비교적 단순한 방식의 말썽을 일으킨다는 점에서, 이번에 발견된 문제가 앞으로의 기술발전에 실질적인 걸림돌이 되지는 않을 것이다. 그러나 곰곰이 생각해 보면 이 모든 것의 근본에는 굉장히 심오한 문제가 숨어 있다.
로봇과 그 주변 환경을 하나의 종합적인 시스템으로 한번 생각해 보자. 실제로 로봇공학자들 사이에서는 이 종합시스템 자체를 한 대의 특수한 로봇으로 봐야 한다는 의견이 제기된 바 있다. 자동화된 공장에서는 이와 같은 모습이 거의 현실화되었다. 이러한 개체-환경 시스템은 계속해서 다양한 상황을 경험하게 될 것이다. (알고리즘의 실행이라고 간주할 수 있는) 이러한 발달단계에서는 로봇 내부로부터 간섭이 일어나기도 하고, 주변 환경의 영향, 또는 방해를 받거나 해킹을 당할 수도 있다. 청소로봇 앞에 놓인 불량 케이블처럼, 기계의 센서라든가 그 로봇이 움직이는 환경에는 수많은 취약점이 존재한다. 하지만 모든 생명체가 그러하듯, 로봇 역시 로봇에게 적합한 환경이 주어져야 한다. 그렇지 않으면 문제가 발생한다.
그렇다면 로봇이 스스로의 환경을 바꾸고, 그 바뀐 환경에 다시 영향을 받는 상황(아주 단순한 예를 들자면 로봇축구와 같은 상황)에서는 어떻게 될까? 이러한 경우, 시스템 초기에 발생하는 아주 작은 오류에도 로봇은 상황을 전혀 예측하지 못한 방향으로 처리/반응하기도 한다.
이 때 로봇을 둘러싼 환경이란 무엇을 의미하는 걸까? 외부의 관점에서는 로봇에 영향을 미치거나, 로봇이 영향을 미치는 모든 것이라고 볼 수 있다. 그러나 프로그램의 관점(혹은 프로그래머의 관점)에서 보자면 로봇의 주변 환경이란 로봇의 센서에 감지되는 것들을 의미한다. 철학적인 관점에서 이야기하자면, 로봇은 (그들이 스스로가 기존에 입력된 데이터를 기반으로 내장 컴퓨터의 센서가 외부의 자극을 해석한다는 사실을 모른다는 점에서) 과격한 감각주의자(Sensualist)라고 볼 수 있다. 로봇의 입장에서는 그들이 놓치는 것이 무엇인지가 중요하다. 사실, 센서 데이터가 수집될 때, 그 데이터가 어디서부터 모이는 것인지는 로봇의 입장에서 전혀 상관이 없다. 잠재적으로 그 데이터는 로봇이 스스로 생산해내는 대상으로 인식되기도 하고, 로봇이 잡아야 하는 포켓몬 같은 존재로 인식될 수도 있다. 혹은 입력되는 이미지 데이터에서 나타나는, 체계적으로 소프트웨어를 통해 발생되는 간섭으로 인식될 수도 있다.
인공지능은 인문과학이다
인공지능이 사람들을 불확실성에 빠트릴 수 있다는 이야기가 자주 들려온다. 이 때의 불확실성이란 관념적인 것이 아니라 물리적인 불확실성을 가리킨다. 예컨대 기계가 스스로 세운 목표를 쫓는 과정에서, 확신이 들지 않는 경우에 사람들을 방해요소로 인식하고 제외시키는 일이 발생할 수 있다. 이 때 기계가 스스로 세운 목표라는 것은 어떻게 생기는 것일까? 상상해볼 수 있는 시나리오는, 인공지능을 갖춘 로봇이 물리적 세계의 속성만을 쫓는 것이 아니라 스스로 생산해낸, 외부의 것들을 반영하지 않은 시그널들을 쫓는 경우이다. 사람들과 마찬가지로 말이다. 그 시그널은 망상이 될 수도, 고정관념이나 환청일 수도 있다. 로봇도 미칠 수 있다는 뜻이다. 이론상으로는 그렇다. 인간도 마찬가지이지 않은가 – 지능이 뛰어난 사람일수록, 광기 어린 사람들이 많다.
독일의 철학자 토마스 메칭거(Thomas Metzinger)는 지난 화요일에 사고실험(思考實驗)을 한 가지 소개했다. 그는 윤리학의 영역에서도 인간을 뛰어넘는 초지능(Superintelligenz)이 있다고 전제하고, 이것이 고통을 야기하지 않고 항상 최선을 추구한다는 점에서 근본적으로 인간적이라는 점 또한 가정하였다. 이 초지능은 인간이 필연적으로 행복에 비해 훨씬 더 큰 고통을 생산하고, 느끼도록 타고났다는 결론을 내릴 것이라고 생각해볼 수 있다. 철학자들에게는 결코 낯설지 않은 생각이다.
이러한 사고는, 비록 개인이 갖는 삶의 의지에 모순되긴 하지만, 존재하지 않는 것이 존재하는 것보다 더 낫다는 결론으로 이어질 수도 있다. 여기까지가 철학자 메칭거가 설명한 내용의 일부이다(그의 에세이에는 훨씬 더 많은 내용이 담겨있다). 이러한 경우를 가정한다면, 이 초지능이라는 존재는 인간들로 하여금 번식을 하지 않도록 인도할 수도 있지 않을까? 혹은 그렇게 인도해야만 하지 않을까? 만약 그것이 실현된다면, 그 과정은 인간을 고통으로부터 벗어나게 해 주려는 본래의 목적에 반하지 않도록, 매우 완만하고 부드러운 멸종의 과정이 되어야 할 것이다.
이 모든 것은 물론 픽션일 뿐이다. 모든 것은 가정 놀이에 지나지 않는다. 인간의 세계에 새롭고도 묘한 존재, 인공지능이 탑재 가능한 로봇이 등장함에 따라 이러한 논의가 활발하게 이루어지기 시작했다. 그리고 이 모든 가정 놀이의 목적은 먼 미래에 대한 두려움을 양산하기 위한 것이 아니라, 인간이라는 존재가 어떤 존재인지 명확하게 설명하기 위함이다. 인공지능 연구를 힘닿는 한 지원해야 하는 배경에는, 단순히 국제적인 위상을 높이려는 목적을 넘어 이러한 인문학적인 이유가 존재한다. 이러한 측면에서 본다면 인공지능 역시 실용인문과학인 것이다.
원문 URL
http://www.zeit.de/digital/2017-08/kuenstliche-intelligenz-robotik-philosophie-5vor8/komplettansicht
