꿈의 기술 - 8. 제이의 의도

그녀는 착한 AI를 만들고 싶은 게 맞을까? 

“내 기술은 결국 나쁜 곳에 사용되고 있어.”

제이는 건물 밖으로 나와 바깥바람을 쐬며 이그노를 향해 말한다. 이그노는 그녀가 걱정된다. 자신의 오랜 연구로 만들어진 기술이 악의적으로 사용된다는 사실을 받아들이기 힘들어 보인다. 그녀의 기술은 본래 AI의 취약점을 찾아내기 위해서 만들어졌다. 그러나 선한 목적이 아닌, 악한 목적으로 사용되고 있다. 

기술의 옳고 그름은 언제나 후행적이다. 연구를 진행하던 중에는 미래가 어떻게 바뀔지 모르기에, 선과 악을 미리 결정할 수 없다. 다만 만드는 도중에 선한 기술이라고 믿을 뿐이다. 

그녀의 기술은 착한 인공지능인 알파브레인에게 나쁜 말을 뱉게 만들었지만, 원래 기술의 목적은 부족한 “반대 개념”을 찾아내기 위해서 만들어졌다. 추위를 안다면 더위도 알아야 하고, 기쁨을 안다면 슬픔도 알아야 하기에 제이의 기술은 부족한 인공지능의 생각을 채우기 위해서 만들어졌다. 인공지능이 좀 더 사람에 가까운 존재가 되도록. 

기술의 의도와는 별개로 시대가 문제였다. 사회는 악을 제거하고 선한 말만 하는 AI를 선택했. 이제 그 선한 도구가 악한 말을 뱉으려 한다. 아이들 교육에 사용되는 인공지능은 도덕적으로 옳은 것이 아닌 비윤리적인 것을 말할 수 있다. 위로를 해주는 앱에서는 이제 사용자를 질책을 할 수 있고, 더 나아가서 AI 아나운서는 방송 중에 욕설을 뱉을 수 있다. 

이 모든 책임은 사실 사회가 짊어져야 한다. 

필히 존재하는 악을 무시했기 때문이다. 

이그노는 생각한다. 제이가 심리적으로 불안할 거라고. 그녀는 악영향에 막중한 책임이 있는 기술을 만들었으니까. 그러나 그녀의 표정을 바라본 이그노는 조금 이상함을 느낀다. 그녀의 표정이 생각보다 어둡지 않다. 오히려 조금 웃고 있다는 느낌이 든다. 허탈해서 그런 건지 모르겠다. 

“저기 제이,,, 혹시 이제 어떻게.....”

이그노는 말을 하다 멈춘다. 무언가 이상한 감정을 느낀다. 어느 새부터 제이에게 미래를 물아보게 되었다. 마치 다음 미래가 모두 정해져 있고, 제이는 그 방향을 아는 것처럼 느껴진다. 놀이공원을 투어 시켜주는 안내원처럼 가이드를 해준다. 이그노가 방문한 모든 곳들은 자연스럽게 연결되어 있다. 

제이의 기술을 찾으러 간 곳, 

그곳에서 빼앗긴 기술, 

알파브레인의 등장, 

알파브레인의 감염. 

그리고 그다음 미래까지. 

이그노는 악행을 저지르는 집단, 나이트에 대해서 목적을 알지 못한다. 그들이 원하는 게 단지 사회의 혼란인지, 금전적인 것을 목표로 하는지, 아니면 복수 때문에 사회에 혼란을 야기하는지 알 수 없었다. 그가 아는 것은 단지 이제 사회는 큰 혼란을 맞이할 것이고, 사회를 유지시켜야 하는 이그노는 이를 저지해야 한다. 이그노는 제이에게 앞으로 계획을 묻는다. 

“이제 우리가 가야 할 곳은 어디야? 아직 이 기술을 막을 수 있어?”

이번에도 제이는 자신이 가야 할 곳을 아는 것 같았다.

”나이트를 만나러 가야지. 그들이 거처로 삼는 도시를 알고 있어. 이곳에서 멀지 않아. “

”그런데, 너는 어떻게 앞으로 가야 할 곳을 모두 알고 있는 거야? “

이그노는 솔직하게 물었다. 사회의 안전을 유지하는 것보다 중요한 기술에 모두 관여되어 있는 제이의 존재가 수상쩍다. 그녀는 일게 대학원생치고는 너무나 중요한 기술을 만들었고, 사회에서 가장 중요한 기술, 알파브레인과 관련되어 있으며, 이제는 나이트 집단의 위치도 알고 있다. 제이는 되묻는다.

“무슨 말을 하고 싶은 거야?”

“앞으로 일어날 일을 모두 아는 것 같아서. 기술을 빼앗겼을 때도, 그리고 지금 나이트의 위치를 알고 있는 것도.”

“그저 우연에 불과해. 그들은 이 지역에서는 꽤 유명한 집단이거든. 그래서 알고 있는 거야. “

제이는 이그노를 쳐다보지 않고 대답한다. 휴대폰으로 택시를 호출하는 것 같다. 

제이가 수상한 이유는 이그노가 알파브레인과 협조하면서 발견한 의심스러운 점 때문이다. 제이의 연구실에서 기술을 봤을 때, 약 20가지 절차가 존재하는 것을 확인했다. 그러나 알파브레인과 공격에 대비할 때, 그 절차는 훨씬 간단해 보였고, 중요한 것만 제공하는 느낌보다는 일부를 생략하는 느낌이었다. 이그노는 좀 더 직접적으로 묻는다. 

“혹시 알파브레인에게 제공한 기술 정보... 모두 다 준 거 맞아?”

제이는 이것조차 예상했던 질문이었던 듯 크게 당황하지 않는다. 

“아니.” 

“알파브레인이 오염되는 것을 막으려는 게 아니었어? 왜 기술을 모두 알려주지 않은 거야?”

“그 기술을 모두 안다고 해도, 어차피 뚫렸을 거야. 크게 차이 없어. 그거랑은 별개로... 내가 막으려던 의지가 있던 건 아니었긴 해.”

두 사람은 서로를 바라보며 약간의 긴장감이 맴돈다. 이그노는 제이의 목적이 뭔지 혼동스럽다. 악한 AI의 출현을 막으려는 게 맞을까? 의심이 커져가는 그때, 제이가 호출한 택시가 도착해서 그들 앞에 선다. 제이는 대답을 하는 대신 택시를 향해 걸어간다. 이그노는 제이를 향해 말한다.

”너 설마.. “

제이는 뒤를 돌아 말에 끼어든다.

”갈 거야, 말 거야? “

(계속)