인공지능은 무엇이 되려 하는가

[책을 읽고] <인공지능은 무엇이 되려 하는가> (2)

이전 글에서 이 책에 나오는 25개의 글 중 상당수를 요약했다. 그러나 너무 다양한 주장이 제기되어 한번 정리를 해야겠다는 생각이 들었다. 책을 읽고 나서 2주 이상 지난 시점이라 더 참신한 시점이 보일지도 모른다.

당연한 얘기지만, 가장 먼저 떠오르는 분류법은 인공지능이 위협이 되는가 여부에 따른다. 희망적인 의견, 즉 인공지능의 위협을 부인하는 의견은 놀랍게도 내가 살펴본 14개의 글 중 세 개에 불과하다.

세스 로이드는 별 근거도 대지 않으면서 특이점이 허풍이라고 말한다. 주디아 펄은 인공지능이 <모형>을 결여했기 때문에 초인공지능은커녕 인간 수준의 인공지능조차 불가능하다고 말한다. 대니얼 힐리스는 인공지능이 굳이 인간을 적대할 이유가 없어 위협이 되지 않을 것이라 말한다.

책 초반부터 인공지능을 우습게 생각하는 사람들이 포진해 있어 그랬던 것이지, 이 책에 글을 던진 저자들 대부분은 인공지능을 위협이라 생각하는 것이다.

AI가 표현한 AI

다음은 인공지능과 인간지능(자연지능)의 관계 내지 우월성에 대해 살펴보자.

스튜어트 러셀은 인간보다 지능이 낮은 고릴라가 인간에게 위협이 될 수 있다는 직관적인 비유로 인공지능의 위협을 설명한다. 즉, 그는 인공지능이 인간지능보다 우월하지 않아도 위협적 존재가 될 수 있다는 사실을 보여준다. 

대니얼 힐리스는 인공지능이 우리를 닭 소 보듯이 할 것이기 때문에 위협이 되지 않는다고 말한다. 그러나 이 말을 뒤집어보면, 인공지능은 뒷걸음질 치던 소가 쥐를 깔아뭉개듯 우리를 파멸시킬 수도 있다는 말이다.  더구나 대니얼 힐리스는 인공지능이 개별적 인간이 아닌 형태의 초지능, 예컨대 기업이나 종교 집단, 국가 따위를 경쟁자로 여길 가능성은 농후하다고 말한다. 그렇다면 인공지능은 우리에게 위협이다.

프랭크 윌첵은 자연지능이 인공지능의 한 종류일 뿐이라는 점을 강조한다. 과격하게 말하면, 정보가 존재하면 지능이 창발할 수밖에 없다는 주장이다. 그는 인간지능이 초인공지능이 등장하기 위해 거쳐가는 단계일 뿐이라 주장하는데, 이는 그 다음에 이어지는 맥스 테그마크 역시 마찬가지다. 다만, 맥스 테그마크는 우리가 인공지능과 적대하지 않고 지낼 수 있다는 희망을 이야기하며 글을 맺는다. 

벤키 라마크리슈난 역시 진화의 최종단계가 인공지능이라 말한다. 다만, 인공지능이 인간은 정복해도 세균은 정복하지 못할 것이라는 다소 엉뚱해 보이는 희망적 비전을 제시한다. 그러니까, 인간 대 인공지능이 아니라 탄소 대 실리콘으로 게임을 확대해 보면, 결국 우리편인 탄소가 이길 것이라는 재미있는 생각이다.

스티븐 울프람 역시 같은 의견이다. 인공지능은 자기들끼리 의사소통을 하며 훌륭한 성취를 이루겠지만 굳이 인간의 일에 신경쓰지 않을 것이다. 스티븐 울프람은 여기에서 목적이란 개념을 들먹인다. 목적은 역사에서 나온다. 그러나 문명이 아니라 지구라는 차원에서 목적을 생각해보면, 과연 지구의 목적은 무엇일까. 허무한 결론이다.

다음은 인공지능의 위협에 어떻게 대처할 것인지를 살펴보자.

많은 사람들이 목표 내치 가치 통제를 통해 인공지능의 위협에 대비할 수 있다고 말한다. 다시 말해, 인간에게 봉사하는 것을 인공지능의 목적으로 묶어둘 경우, 인공지능이 우리에게 해를 가하지 않을 것이라는 생각이다. 책에서는 톰 그리피스와 앤카 드라간이 이런 주장을 명시적으로 전개하고 있다.

아시모프

이는 아이작 아시모프의  유명한 로봇 3원칙에 잘 나타나 있다. 그러나 원칙은 원칙일 따름이다. 인간 세상이 원칙에 따라서만 움직이지 않는다는 것을 우리는 잘 알고 있다. 게다가 모든 법과 원칙은 해석 여지가 있다. 로봇 3원칙이 소개된 아이작 아시모프의 그 소설조차 원칙의 해석 여지 때문에 발생하는 사건을 다루지 않는가.

따라서, 이런 순진한 생각보다는 더 현실적인 접근이 필요하다. 대니얼 데닛은 그래서 인공지능에게 의식을 허락하지 말아야 한다고 주장한다. 인공지능은 인간의 목적에 봉사해야 한다는 주장보다는 훨씬 낫다. 그러나 이 주장도 완전하지 않다. 대니얼 데닛 본인조차 의식은 창발적인 것이라 생각한다. 그냥 생기는 것이다. 그런데 어떻게 인공지능에게 의식이 발생하는 것을 막겠는가? 이 책에 글을 쓴 많은 사람들은 지능 자체가 창발적이라 생각한다. 즉, 의식과 지능은 서로 분리할 수 있는 것이 아닐 것이다.

조지 처치는 다소 엉뚱하게 기계의 권리에 대해 말한다. 그러나 생각해보면 이런 접근이 오히려 위협에 대응하는 방식일 수 있다. 대니얼 힐리스는 인공지능이 기업, 국가 따위의 초지능을 경쟁자로 생각하기 전에, 우리가 인공지능과 협력적 관계를 구축하자고 말한다. 이 전략에는 반드시 기계의 권리라는 개념이 고려되어야 할 것이다.

흥미로운 주제이고, 참신하고 좋은 의견을 많이 들었다. 그러나 상황은 인류에게 희망적으로 보이지 않는다. 영화 <Don't Look Up!>이 보여주었듯, 위협이 현실이 되면 인간 본성은 오히려 문제를 회피하려 들 테니 더욱 암울하다.

무엇을 할 수 있을 때, 인간은 파괴적 결과를 외면한다는 사실을 우리는 역사를 통해 수없이 보아 왔다. 덕분에 우리 생활은 아주 편해졌다. 전쟁이 아니었다면 등장이 수십 년 늦었을 물건들을 우리는 즐거운 마음으로 향유하며 살고 있다.

인공지능도 도구일 뿐이라는 순진한 생각을 하는 사람들도 있다. 그러나 인공지능은 지금까지 인류가 만들어온 도구와는 전혀 다른 도구다. 이 책을 읽고, 또 정리하면서 다시 생각해봐도 나는 희망적인 결론을 내리지 못하겠다.