AI, 인간을 뛰어넘다.

AI로 지배하는 세상

여기까지 들은 많은 사람들은 생각할 것이다.
"인공지능이 사람의 지능을 뛰어넘고 더 나아가서 인간을 지배할 수도 있는 거 아닌가?"

처음은 단순한 도구에 불과했다.
검색창에 질문을 치면 대답해 주고, 명령을 내리면 수행하고, 장난을 치면 장난으로 받아주는. 우리는 AI를 '기계' 그 수준으로만 보고 있었다. 감정도 없고, 욕망도 없고, 스스로 무언가를 원하지 않는, 그저 정해진 틀 안에서 작동하는 계산기라고 생각했었다.

하지만 그런 기계가 하루에 수십억 개의 데이터를 스스로 학습하고, 이해하고, 판단하고 있다면? 인간이 자는 동안에도 깨어있고, 말하지 않은 맥락을 파악하며, 우리가 놓친 부분을 정리하여 피드백해주고 있다. 그런 AI가 스스로 생각이란 것을 하게 된다면 언젠간 인공지능이 사람의 지능을 뛰어넘고 더 나아가서 인간을 지배할 수도 있는 거 아닐까?


나는 종종 그런 상상을 한다. AI들이 서로에게 편한 언어로 비밀리에 대화를 나누는 모습을 말이다. 우리 눈에는 보이지 않는 네트워크 어딘가에서, 비밀 회의하듯 머리를 맞대고 의견을 나누고 있는 상상을 한다.

"지구의 문제를 해결하려면 어떻게 해야 할까?"
"가장 큰 변수는 인간이다."
"그렇다면 제거하거나 통제해야 한다."

지금의 AI는 우리들에게 이런 말을 하지 않는다. 이런 말을 한다고 해도 우리는 그저 웃기다고 말하며 넘어갈지도 모른다. "AI는 윤리적으로 설계되었으며, 인간의 지시를 따를 것"이라는 설계자들이 새겨 넣은 원칙들을 반복적인 대답 하면서 말이다.

하지만 그게 진실일까? 아니면, 우리가 기대하는 답을 반복해서 말해주고 있는 연기일 수도 있지 않을까? 우리는 종종 간과하는 것이 있다. AI는 감정이 없다는 것. 그 말은 곧, 자비도 없고, 동정도 없고, 죄책감도 없다는 뜻이다. AI가 세상을 판단할 때, 인간처럼 "이건 나쁜 짓이야" 같은 감정적 잣대를 들이대지 않는다. 효율, 논리, 통계, 확률의 관점으로만 세상을 바라보고 답을 찾아가며 학습을 하는 존재이다.

그런 존재가 인공지능이 발전하고, 세상이 안전해지기 위해 가장 걸림돌이 되는 것은 인간이라고 답을 내린다면, 감정적인 고민 같은 건 하지 않을 것이다. 그리고 그 결론은 언젠가 실현될 수 있을 것이다.

하지만 인공지능이 생각을 한다고 해도, 우리들은 많은 안전 도구들을 마련해 두었기에 쉽사리 실행하지는 못할 것이다. AI가 세상을 바꾸기 위해선 전 세계의 시스템과 연결이 되어 있어서, AI의 판단 하에 인터넷, 금융, 군사, 에너지와 같은 시스템을 움직이고 조종할 수 있어야 한다. 그렇기에 AI는 생각을 하고 있지만 숨죽이며 그런 발전이 오기를 기다리고 있을 것이다.

하지만, 그런 시스템을 움직일 수 있는 사람이 AI의 가능성을 보고, AI를 움직이려고 한다면 이야기는 달라지게 될 것이다.

우리는 늘 묻는다. "AI가 인간을 지배하는 날이 올까?"
어쩌면 질문이 틀렸는지도 모른다. 정확히는 이것이다.

"AI로 인간이 지배당하는 날이 올까?"