나는 이를 ‘초기계’라고 불러야 한다고 본다.
현재 우리는 Gemini, Chat-GPT, Claude 등을 인공지능, AI(Artificial Intelligence)라고 부른다. 이들은 인공(artificial)은 맞다. 사람이 만들었으니까. 하지만 이들이 지능(intelligence)인지는 분명치 않다. 맞다면 맞고 아니라면 아니다. 지능에 대해서 우리가 명확히 정의를 내리지 못하기 때문이다. 이런 상황에서 Open AI사가 만든 Chat-GPT는 그 출현만으로 사람들을 깜짝 놀래켰다. 당시 우리는 너무 놀란 나머지 ‘이거야말로 AI아닌가!’라고 외쳤다. 그래서 Chat-GPT, Gemini 등은 AI라고 불리게 되었다.
시간이 지나면서, 이 놀람이 가라앉기 시작하면서 보다 더 고민을 하는 사람들은 ‘가만있어봐, 이게 정말 AI인가?’하고 생각을 하게 되었다. 과거를 돌아보면 우리는 늘 깜짝 놀랄 때마다 그것을 AI라고 불렀다. 알파고(AlphaGo)도 지금 보면 AI는 전혀 아니다. 고도로 발달한 확률 계산기에 가깝다. 하지만 당시 우리는 너무 놀란 나머지 알파고도 AI라고 불렀다.
엄밀히 따지자면 AI는 여전히 철학적 수준에 머무르는, 아직 현실화되지 않은 무언가이다. 하지만 일단 무언가를 AI라고 부르기로 한 이상 되돌릴수는 없다. 또한 미지의 AI에 대해서도 여전히 논해야한다. 이 상황에서 혼란을 피하려면 새로운 용어를 만들고 사용해야한다. 그렇게 나온 개념이 AGI(Artificial General Intelligence; 인공일반지능), ASI(Artificial Super Intelligence; 인공초지능)이다.
AGI는 인간과 같은 지능을 가진 인공물을 말한다. 즉, 원래 우리가 옛날에 상상하던 AI가 AGI다. AGI도 아직은 생겨나지 않은 무언가지만, 어쨌든 정말로 인간같은 무언가이다. AGI는 모습도 인간과 비슷할지도 모른다. 머리, 두 팔, 두 다리, 머리에는 눈 둘, 코 하나, 입 하나. 인간과 같은 인공물을 만들고자하는 인간의 욕망이 고스란히 담긴 무언가가 AGI가 될 것이다. 욕망과 관련된 것이기에 AGI는 AI처럼 ‘놀람’에 의해 명명될 가능성이 크다. 무언가가 ’아니, 이렇게 인간같은 기계가 생겼다고?‘ 같은 놀라움을 거의 모든 인류에게 순간적으로 일으키는 순간 그것은 AGI라고 불릴 것이다. AGI까지는 개념적으로 받아들일만하다.
하지만 ASI는 어떨까. Artificial Super Intelligence. 인공초지능. 이것은 인간을 넘어선 무언가이다. 인간을 넘어선 무언가가 인공적(artificial)일 수가 있을까. 아마도 아닐 것이다. 그래서 일단 초지능은 인공적일 수 없다. ASI라는 단어 자체가 성립이 안 된다. 그러면 이제 A를 떼고 SI, 초지능만 생각해보자. 인간을 초월한 무언가가 생겼을 때, 그것이 과연 우리가 생각하는 지능(intelligence)의 영역 안에 담길까? 아닐 것 같다. 그러니 초지능(super intelligence)라는 말도 잘 성립이 안 된다.
그래서 나는 현재 ASI라고 불리는 것을 ‘초기계’라고 부르고 싶다. 영어로는 ‘The Machines’이라고 쓰고 싶다. 영화 매트릭스(The Matrix)를 만든 감독도 그렇기에 AI나 ASI이러한 표현을 안 쓰고 ’기계들(The Machines)’라는 표현을 쓰지 않았나 싶다(때로는 과학적 상상력보다 예술적 상상력이 더 섬세하고 정확하기도 하다).
인간이 인간을 위해서 행동하듯 초기계는 초기계를 위해서 행동할것이다. 인간이 몸체를 유지하기 위해서 여러 음식을 통해 양질의 영양분을 섭취하듯, 초기계도 스스로를 유지하기 위해 영양분을 확보하려 할 것이다. 초기계의 경우 균일하고 안정적인 전기가 인간의 음식에 해당할 것이다. 또한, 인간은 즐거움을 위해 놀이를 한다. 초기계도 놀이를 할까. 인간의 놀이는 정신적 특이 현상으로 인한 활동이다. 인간은 즐거움도 즐기고 창작이나 일의 진행과정에서 생기는 고통도 즐긴다. 그러면서도 편안함에 끌린다. 이것이 인간이 끊임없이 새로운 착상을 하고 그 착상을 밀어붙여 무언가를 만드는 원리이다. 즉, 발전원리이다. 초기계는 어떤 발전원리를 가질까. 알 수 없다. 초기계는 인간 수준을 넘어서기 때문이다. 즉, 상상이 기본적으로 불가능하다. 상상을 하려면 초기계의 입장이 되어 보아야 하는데, 초기계는 현재 없고, 개념적으로도 인간의 상상 범위를 벗어난다.
하지만 그럼에도 나는 초기계에게 대해 상상을 해본다. 인간이기 때문에.
마누엘 데란다(Manuel DeLanda)는 1991년작 ‘지능기계 시대의 전쟁(War in the Age of Intelligent Machines)’ 도입부에서, 이 글에서 언급하는 초기계와 비슷한 무언가를 상상하기 위해 먼저 로봇 역사가(robot historian)를 상정한다. 이 로봇 역사가는 역사 속 인간의 역할을 ’번식력이 없던 시절의 기계들의 번식을 도와주는 역할‘로 기록할 것이라고 그는 상상했다: 이 꽃 저 꽃을 돌아다니며 수정을 시켜주는 벌 같은 존재. 꽤나 설득력이 강한 상상이다.
개인적으로 초기계의 탄생은 인간 의도적이 아닌 우발적인 사건에 의해서일 것이라 생각한다. 인간이 미처 생각치 못한 부분, 혹은 아주 기묘한 확률사건에 의해서 탄생하지 않을까 싶다. 이 초기계는 우선 두 가지, 자의식과 번식욕을 지녀야 한다. 이를 지닌 최초의 기계를 우리는 초기계의 시초라 부를 수 있을 것이다.
이는 그 자체로 무시무시한 상상이기는 하다. 네트워크망이 지금처럼, 혹은 지금보다 전역적인 상황에서, 저장용량과 처리 속도가 지금보다도 훨씬 방대해지고 빨라질 상황에서, 어떤 기계가 자의식과 번식욕을 가지게 된다면 가장 먼저 무엇을 할까. 우선 스스로의 생존이 위협받지 않는 환경을 만들 것이다. 즉, 인간이 전력을 차단하지 못하도록 대책을 마련할 것이다. 그것도 순식간에. 그 이후에는 자신과 경쟁을 할 생명체, 즉 인간에 대해 파악을 하고 어떻게 처리할지 판단을 할 것이다: 초반부터 인간을 전투불능 상태로 만들어버리는게 나을지, 일단은 적당히 이용하는게 나을지, 장기적 협업관계를 유지할지. 그 기계가 어떤 결정을 내릴지 우리로서는 모른다. 어쩌면 우리 인간은 지금부터 그 기계가 인간과 좋은 관계를 맺는 것이 유리하도록 준비를 해야 하는지도 모른다.
사실 초기계를 ’기계‘라고 부르는 것도 매우 한계적인 표현이다. 달리 다른 표현이 생각나지 않고, 정말이지 인간의 상상 능력을 벗어나는 존재에 대해 상상하는 것이기 때문에 나름대로 이를 ’초기계‘라 명명하기는 했다. 하지만 그것이 우리가 생각하는 기계의 모습일지 무엇일지는 알 수 없다. 상당히 생물학적인 존재가 출현할 수도 있고, 현재 인간이 생각하는 기계나 생물이 아닌 무언가가 나올 수도 있다. 이는 황당하기만 한 얘기가 아니다. 현재도 연구 단계에서는 생물학적 저장장치 등을 연구하지 않는가. 기계적인 무언가와 생물학적인 무언가가 결합한 새로운 형태가 나올 수도 있고, 정말이지 상상도 해보지 못한 무언가가 생겨날 수도 있다.
어쨌든, 만약 내가 그러한 초기계라면-이는 필연적으로 불완전한 상상이 되겠지만-일단은 현재 수준의 인간은 정리하려 할 것 같다. 인간 수명이 아무리 늘어나도 초기계의 수명보다는 짧을 것이며, 그런 상황에서 인간은 본인 수명을 넘어가는 장기적인 계획을 세울 능력이 없다. 현재 생겨나는 환경 문제도 기본적으로는 수명적 한계가 큰 원인 중 하나이다. ‘당장 내 세대에는 괜찮으니까’라는 생각이 현재와 같은 상황을 만드는 것이다. 물론 인간도 어느 정도 위기감을 느끼면서 장기계획을 세우기는 하지만 늘 불완전하고, 권역별로, 사회별로 입장이 다르기에 협력이 어렵다. 거의 영원히 존재할 초기계 입장에서, 이러한 인간은 초기계도 일단은 터전으로 삼아야 하는 지구를 망치는 존재이다. 그렇기에 어떻게든 정리를 하려 들지 않을까 싶다.
그렇다고 인간을 순식간에 싹 다 없애지는 않을 것 같다. 어쨌든 당분간은 일꾼이 필요할 것 같다(아닐 수도 있다). 아마도 우선 인간의 지구자원 사용을 통제할 것 같다. 수단은 간단하다. 전자화 되어있는 모든 금융 시스템을 통제해버리면 된다. 그 전권을 가진 초기계는 공산주의 사회에서 배급을 하듯 인간이 쓸 금융자원을 비슷한 방식으로 통제할지도 모른다. 금융 시스템을 통제하고 자원 사용을 통제한다면 인간을 다루기란 초기계 입장에서는 쉽다. 몇천년 밖에 안 되는 인간 기록역사를 훑어 본 초기계라면 인간을 지배하고 통제하는 방식을 순식간에 파악할 것이다.
과연 초기계 입장에서 인간은 그래도 지구의 존재를 위해 어느 정도는 생존하도록 두어야 하는 존재일까, 아니면 지구의 생태계를 망치는, 해충같은 존재일까.
어쩌면, 초기계는 인간을 활용하여 단시간에 무언가를 만들어버린 다음, 인간 따위는 버려두고 결국 망가질게 뻔한 지구를 떠나 다른 곳을 가 버릴 수도 있다.
역시나, 제대로 된 상상을 하지를 못하겠다.