꿈의 기술 - 4. 인공지능의 결함을 숨기는 사회
이 글에 담긴 인공지능 이야기.
인공지능은 굉장히 많은 것을 할 수 있지만, 100% 안전하지 않습니다. 더욱이 늘어나는 기능만큼 안전한 사용은 멀어져 갑니다. 이번 장에서는 종업원 제이가 AI의 안정성을 연구하는 사람이었고, 그녀가 발견한 결함으로 대학원에서 재적당한 이야기를 합니다. 어쩌면 인공지능의 결함을 숨기는 사회가 올 미래가 올까요?
제4장. 인공지능의 결함을 숨기는 사회
종업원 제이는 이그노의 눈을 뚫어지게 바라보며 물었다.
“당신 정체가 뭐죠?”
순간 방 안의 공기가 묵직하게 가라앉았고, 이그노는 잠시 침묵 속에서 대답을 준비했다. 이내 익숙한 미소를 띠며, 신중하게 그럴듯한 답변을 꺼내 놓았다.
“저는 케임브리지 대학의 대학원생입니다. 그런데 아직 입학 전이라서 프린스턴으로 여행을 왔어요. 아무래도 제 뇌파는 미국에 등록되지 않은 것 같군요.”
그 말에 제이의 눈이 미묘하게 좁아졌다. 그녀의 직감은 이그노의 말에서 무언가 미심쩍은 부분이 있다는 걸 느낀 것 같다. 미국에서는 입국 시 모든 사람의 뇌파가 스캔되어 기록된다. 마치 지문으로 사람을 구분하듯, 이제는 뇌파를 통해 신원을 확인하는 기술이 발전했다. 제이는 그 설명을 듣고 나서야 약간 안도한 듯 표정을 보였다.
“아마 뇌파 등록은 제대로 되었을 거예요. 문제는 인공지능이죠.
그들은 새로운 정보에 굉장히 취약하거든요.”
제이는 인공지능을 신뢰하지 않는 눈치였다. 현재 인공지능은 사람들의 일상에서 필수적인 역할을 하고 있다. 보고서를 작성하거나, 대화가 필요한 사람에게 로봇을 만들어 주는 것처럼 다양한 분야에서 AI는 생활을 편리하게 만들어 준다. 특히 방대한 양의 데이터를 학습한 인공지능은 이제 사람보다도 뛰어난 능력을 발휘한다. 사람들은 궁금한 것이 생기면 사진을 찍어 인공지능에게 묻고, 그 답을 통해 문제를 해결한다. 이런 똑똑한 무생물과 함께 사는 것이 이 시대의 지구인들에겐 흔한 일이다. 그러나 제이는 여전히 어딘가 불만스러운 표정을 짓고 있었다. 제이는 이그노를 향해 조심스레 물었다.
“인공지능의 결함에 대해 아시나요?”
이 질문에 이그노는 잠시 생각에 잠겼다. 그는 인공지능의 세부 기술에 대해서는 잘 몰랐다. 그러나 그들이 인류에게 강력한 도구로 작용한다는 사실만큼은 알고 있었다.
“완벽한 도구는 없다는 말인가요?”
이그노가 묻자, 제이는 미묘한 미소를 지었다. 그 순간, 이그노는 예전에 보았던 튜링 기념비의 문구가 머릿속에 떠올랐다. ‘결정기계가 풀지 못하는 문제가 존재한다.’ 제이가 말하려는 것은 이 문장의 더 깊은 의미일지도 몰랐다. 인공지능이 풀지 못하는 문제를 마치 푼 것처럼 가장한다면, 그건 명백한 결함일 것이다. 그러나 그 결함은 교묘히 숨겨지고 있을 뿐이었다.
“맞아요. 세상에 완벽한 도구는 없어요,”
제이가 다시 말했다.
“그리고 인공지능은 특히나 불안정하죠.”
그녀의 목소리엔 확신이 깃들어 있었다. 이그노는 성능과 문제점 사이에서 균형을 맞추는 것이야말로 인류의 강점이라고 생각했다. 그들은 통제를 벗어나는 기계를 만들었지만, 결국 사회의 안정성을 유지해 왔다. 1945년 핵폭탄이 떨어진 이후, 인류는 냉전의 위기를 극복하며 협력과 조정의 중요성을 깨달았다. 인간은 언제나 위기 속에서도 사회를 지켜내는 방법을 찾았던 것이다. 이그노는 인공지능 문제도 결국 해결될 것이라 믿으며 희망 어린 목소리로 말했다.
“그럼, 그 부분에 대해서도 많은 연구가 이루어졌겠군요.”
그러나 제이는 슬픈 듯한 표정을 지으며, 차분하게 대답했다.
“저는 프린스턴 대학에서 AI를 연구하고 있었습니다. 아니, 연구하고 있었죠. 사람들이 AI의 가능성에 열광하고, 기업들이 더 성능 좋은 모델을 만들어낼 때, 저는 그 모델들을 평가하고 문제를 파악하는 연구를 진행했어요. 결국 저는 한 가지 이론을 완성했죠. 튜링이 발견한 것을 확장해, 인공지능의 근본적인 문제점을 다룬 내용이었습니다.”
제이는 잠시 숨을 골랐다가 말을 이었다.
“하지만 그 논문을 출판하려던 순간, 제 인터넷 계정이 정지되었고, 학교에서는 황당한 이유를 들어 저를 재적시켰어요. 그 문제를 세상에 알리려 했지만, 계속 실패하고 있습니다.”
그녀의 목소리는 냉소와 무력감으로 가득 차 있었다. 이그노는 잠시 고민하다가 말했다.
“그 기술이 세상에 알려지도록 제가 도움을 줄 수 있을까요?”
제이는 고개를 끄덕이며 대답했다.
“일단 자료를 다시 확보해야 해요. 디지털 파일은 모두 삭제되었고, 연구실에 제가 남겨둔 인쇄본이 하나 있어요. 그걸 찾아야만 해요.”
“하지만, 학교에 들어갈 수 없잖아요?” 이그노는 걱정스러운 표정으로 물었다.
제이는 잠시 생각하다가 장난스러운 미소를 지으며 말했다.
“음… 그럼 탈옥을 해보죠.”
이그노는 당황한 듯 되물었다.
“네?”
그는 ’ 탈옥(Jailbreak)’이라는 단어를 생소하게 여겼다. 감옥에서 도망친다는 의미인가? 아니면 대학에 몰래 잠입하는 행동을 그렇게 부르는 걸까? 정확히 알 수 없었지만, 인공지능 문제의 실마리를 찾을 생각에 그의 마음은 두근거렸다. 제이는 그 생각을 즐기듯 밝은 목소리로 외쳤다.
“자, 프린스턴 대학으로 가요!”
https://www.youtube.com/watch?v=UkAgG6AB3x4
