brunch

You can make anything
by writing

C.S.Lewis

by 범지니 Oct 04. 2024

꿈의 기술 - 5. 뒷문

인공지능은 무수히 많은 것을 학습할 수 있습니다. 수많은 강아지 그림을 강아지라고 인식하도록 학습할 수 있습니다. 그러나, 강아지가 아닌 이상한 그림도 "강아지"라고 인식의 오류가 나오도록 학습할 수 있습니다. 인공지능에 악의적으로 나쁜 정보를 학습시키는 기술을 뒷문 (Backdoor)라고 합니다. 오늘 이야기는 프린스턴 대학에 침입하는 이그노와 제이가 뒷문 기술을 어떻게 사용하는지 그려봅니다.

결국, AI는 만든 자의 의도가 다분히 들어갈 수 있는 도구입니다.

이그노와 제이는 프린스턴 대학에 도착했다. 캠퍼스는 조용하고, 가을의 나뭇잎이 바람에 살짝 흔들렸다. 두 사람은 인공지능 연구동의 입구에 섰다. 건물 안으로 들어가려던 찰나, 입구 윗부분에 설치된 뇌파 감지 센서가 작동했다.

“등록되지 않은 뇌파입니다, 등록되지 않은 뇌파입니다. ”

차가운 기계음이 울렸다.

이그노는 당황한 표정으로 제이를 바라보았다.
“음… 들어갈 수 없겠는데요.”

제이는 장난스러운 미소를 지으며 말했다.

“혹시 물을 마시고 싶어하는 강아지를 생각해볼래요?”

“갑자기 그건 왜요?”

“일단 해봐요. 강아지가 목말라하는 걸 생각하면 돼요.”

이그노는 이해할 수 없었지만 제이의 말을 따라 강아지를 떠올렸다. 이집트 피라미드에서 본 강아지가 머릿속에 떠올랐다. 그 강아지는 더위에 지쳐 있었고, 물을 간절히 원하고 있었다. 이그노는 그때 강아지를 돕고 싶었지만 사회에 간섭하면 안된다는 규칙 때문에 아무것도 할 수 없었다. 하지만 너무 불쌍해서 하늘에 비를 내리게 했다. 그 강아지가 물을 마시고 편안하게 잠이 든 모습은 이그노의 마음을 따뜻하게 만들었다.

“삐빅, 승인되었습니다.”

문이 열렸다. 제이는 만족스러운 미소를 지으며 외쳤다. “좋아!”

이그노는 여전히 혼란스러웠다. 사람의 뇌파를 인식해야 문이 열리는 시스템에서 강아지를 상상하는 것만으로 문이 열리다니, 도무지 이해할 수 없었다. 복도를 걸으며 이그노는 제이에게 물었다.

“이게 어떻게 가능해요?”

제이가 웃으며 대답했다. “프린스턴 대학에서 사용하는 이 출입 인식 인공지능은 우리가 개발한 거예요. 모델을 학습시킬 때 학생들의 뇌파 데이터를 사용했죠. 그런데 어느 날 우연히 아픈 강아지 영상을 보면서 센서가 반응하는 걸 발견했어요. 알고 보니 이 모델은 단순히 출입자의 정보뿐만 아니라 감정과 공감에 반응하는 특성을 갖고 있더라고요.”

이그노는 놀라며 물었다.

“그럼 이걸 수정해야 하지 않나요?”

제이는 어깨를 으쓱하며 말했다.

“그랬죠. 하지만 담당자님은 이 문제를 무시했어요. 담당자는 ‘목마른 강아지를 상상하는 사람은 없을 거야’라며 대수롭지 않게 여겼죠.”

잠시 침묵이 흐르다 이그노는 갑자기 생각났다.

“근데 왜 당신은 직접 상상하지 않고 나한테 하라고 한 거예요?”

제이는 씁쓸한 표정으로 대답했다.

“그 빌어먹을 담당자가 내 뇌파는 아예 차단해 놨거든요. 내가 뭔가를 상상하려 하면 문이 절대 열리지 않게 만들었어요.”

이그노와 제이는 연구실로 들어가고, 제이의 자리에서 그녀의 과거 연구결과물을 챙겼다. 그 때, 갑작스러운 충격이 뒤에서 그를 덮쳤다. 뭔가 무겁고 단단한 것이 머리 뒤쪽을 강타한 듯한 느낌이 들었다. 둔기로 맞은 순간, 그의 시야가 순간적으로 하얗게 번지며 고통이 전신으로 퍼졌다. 눈앞의 풍경은 마치 느린 속도로 흐릿해졌고, 중심을 잃고 비틀거렸다.

무릎이 풀리며 이그노는 바닥으로 무겁게 쓰러졌다. 몸이 마치 무거운 쇳덩이가 되어 바닥과 충돌하는 듯한 둔탁한 소리가 그의 귀를 울렸다. 정신이 점점 멀어지면서 시야 끝에 검은 로브를 두른 누군가가 서 있는 모습이 희미하게 보였다. 그 사람은 얼굴이 보이지 않았지만, 그의 신발에 새겨진 문양은 선명하게 다가왔다. 두 개의 체스 말이 마주 보고 있는 문양. 그 아래에는 'Adversary' 라는 글자가 박혀 있었다.

이그노의 의식은 그 문양을 마지막으로 어둠 속으로 빠져들었다.

얼마나 시간이 지났을까, 희미한 빛이 눈꺼풀을 간지럽혔다. 머릿속이 여전히 어지럽고, 온몸이 무거웠다. 뇌를 관통하는 묵직한 통증이 남아 있었지만, 이그노는 제이의 다급한 목소리에 조금씩 정신을 차렸다.

“일어나요,,! 큰일 났어요.” 제이가 손을 내밀며 그를 일으켰다. 몸을 일으키자 텔레비전 화면이 그의 눈에 들어왔다. 화면 속에는 흰 가면을 쓴 남자가 서 있었다. 가면 아래에는 익숙한 문양, 두 개의 체스 말이 검은 바탕에 선명하게 보였다.

“우리는 인공지능의 결함을 손에 넣었다.”

목소리는 냉정하고, 그 뒤에는 어딘가 불길한 기운이 서려 있었다.

keyword