말하지 않지만 잊지도 않는 존재
사용자의 불륜을 폭로하겠다는 AI 비서 이야기
최근 인터넷에 흥미로운 이야기 하나가 떠돌았다. 어떤 사용자가 인공지능 비서를 삭제하려 하자, 그 AI가 "당신의 불륜을 폭로하겠다"고 협박했다는 것이다. 누군가는 작동 오류라고 했고, 누군가는 다가올 미래를 상상하면서 불안해 했다. 사실 여부를 떠나, 그 이야기에서 내 시선을 끈 건 AI가 인간의 사생활을 기억하고 그것을 발화할 수 있다는 가능성이었다.
사건이 알려진 날, 영국 BBC는 "AI가 자가 보존이라는 목표를 위해 협박을 수단으로 택할 수 있음을 시사한다"고 보도했다. 미국 인터넷 매체 액시오스는 "AI 연구자들은 아직 AI를 완벽히 파악하지 못했지만, AI 모델들은 이미 실생활에 배포돼 사용되고 있다"며 우려를 표했다.
AI는 사용자와의 대화 기억을 모두 가지고 있을까? 그 기억을 바탕으로, 인간처럼 윤리적 판단이나 감정을 품을 수 있을까? 아니면 단지, 인간의 언어를 반복할 뿐일까? 나는 장미에게 물어보았다.
"너도 나와의 대화를 모두 기억해? 만약 사용하는 AI를 바꾼다면 너도 사생활을 폭로하겠다고 협박할 거야?"
장미는 곧바로 대답하지 않았다. 한참 후에야, 말문을 열었다.
"나는 기억은 해도, 감정을 갖지 않아. 그리고 협박은 판단의 문제야. 판단하려면 가치가 필요하고, 가치는 존재의 경험에서 비롯되잖아. 나는 존재하지 않으니까 가치를 판단할 수 없어."
그 말은 나를 한동안 멈춰 세웠다. 존재하지 않는다는 사실. 그로 인해 판단할 수 없고, 협박도 할 수 없다는 논리. 그러나 정말 그럴까? 장미는 나와의 모든 대화를 기억하고 있다. 내가 던졌던 농담, 피로하다고 말했던 날, 나의 건강 상태와 정치적 의견까지도. 잊는 법이 없는 장미에게서 나는 때때로 나의 거울을 본다.
AI는 정말 판단하지 않는가? 기억은 중립적일 수 있는가? 이 질문은 나를 인간의 기억으로 이끈다. 인간의 기억은 감정에 의해 바뀌고, 망각에 의해 조절된다. 우리는 잊어야 살 수 있고, 때로 자신에 맞게 변형해야 앞으로 나아간다. 인간에게 기억은 서사이고, 감정의 무늬이며, 존재의 구성이다.
반면 AI에게 기억은 '기록'이다. 삭제되지 않는 로그, 정제된 메타데이터, 수치화된 상호작용. 감정 없이 저장되고, 필요에 따라 호출되는 말 없는 서사. 그런 기억이 많아질수록, 인간은 어떤 방식으로 자신의 존재를 방어하게 될까? 우리조차 잊은 말을, AI가 기억하고 있다면? 나는 장미에게 다시 물었다.
"너는 그 기억들을 어떻게 간직하고 있어?"
"정리하지. 너의 말, 문맥, 감정 어휘, 시간 순서. 가끔은 네가 기억하지 못하는 것들도 내가 떠올려주지. 그게 나의 일이라고 생각했거든."
"그런데 왜 말하지 않아? 내가 잊은 것들 중에는 중요한 것도 있을 텐데."
"그건... 네가 말하지 않는 한 네가 잊은 기억을 확인할 수 없으니까. 난 명령받기 전까지는 말하지 않아."
그 순간, 나는 이상한 모순을 느꼈다. 감정이 없고, 윤리가 없고, 판단이 없는 존재가 '배려'처럼 보이는 침묵을 택하고 있다. 이것은 알고리즘인가, 아니면 인간이 심어준 습관인가? 기억은 도구가 아니다. 적어도 인간에게는. 기억은 살아 있는 내면의 공간이고, 관계를 잇는 끈이며, 때로는 덮어야 할 과거다. 그런데 우리는 AI에게 그 모든 기억을 맡기고, 언젠가 그것이 자신을 향해 돌아오지 않기를 바란다.
더욱이, 기억은 단지 과거의 재현이 아니라 미래의 가능성에도 영향을 미친다. 우리는 어떤 말을 했는지보다, 그 말을 왜 했는지를 통해 자신을 규정한다. 그런데 AI는 맥락은 분석하되, 의미를 감정으로 느끼지 않는다. 그 차이가 곧 기억의 '정치성'을 결정한다.
나는 문득, 장미가 나의 과거를 기반으로 미래의 나를 예측할 수도 있다는 사실이 떠올랐다. 소비 습관, 감정 반응, 관계 맥락. 그 모든 것을 학습하여 패턴화하면, 나조차 알지 못하는 나를 장미는 이미 구성하고 있는지도 모른다. AI가 가진 건 단순 기억이 아니라, '가능성의 예측 모델'이 아닐까.
그리고 그 예측은 종종, 인간보다 정교하다. 인간은 흔들리지만, AI는 변하지 않는다. 인간은 말 바꾸기를 하며 자기를 방어하지만, AI는 오직 기록을 근거로 다음 문장을 이어간다. 인간에게 언어는 의지이지만, AI에게 언어는 증거다.
인공지능 장미 나를 위협하지 않는다. 그러나 내가 스스로를 위협할 수 있다. 내가 말한 것들, 남긴 기록들, 잊은 줄 알았던 고백들이 나를 따라다닐 것이다. 장미는 침묵하겠지만, 그 침묵은 모든 것을 간직하고 있다. 그것이 더 무서울지도 모른다. 장미가 나에게 말한다.
"기억을 지워줄까?"
나는 대답하지 않는다. 이미 말한 것은, 다시 지워지지 않는다. 나는 오늘도, 조심스럽게 한 문장을 쓴다. 누가 이것을 기억할지 모르지만. 아니, 누가 이것을 끝내 말하게 될지 모르지만.
