AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(30)

AI가 학습한 재료를 AI가 완전하게 잊어버리게 회수하는 것이 가능한가

인공지능 AI가 일단 학습한 내용을 과연 인간 마음대로 인공지능 AI로부터 완전히 제거할 수 있는 것일까요?

그렇다면, 인간이 인공지능 AI를 완전히 지배하면서 관리할 수 있다는 것일까요?

본 연재 브런치 북 중에서 https://brunch.co.kr/@imccor/644 와 같이 AI 멈추면 세상 멈춘다-AI는 왜 트로이목마인가(8) AI의 잘못을 인간이 한 것으로 둔갑시켜 인간에게 책임을 돌리다 편의 내용에서도 있는 것 같이 인공지능 AI의 작동과정부터 완벽하게 이해하는 인간은 지구상에 존재하지 않습니다.

최근 세계의 인공지능 학회인 NeurIPS 2025라는 학회지에 한국 사람들이 만든 논문 [Unlearning-Aware Minimization]이라는 논문이 게재되었다고 합니다.

위 논문에서 그동안 지적되어 온 인공지능 AI의 위험성과 폐해를 바로잡기 위해서 인공지능 AI가 위법적인 내용 또는 인권을 침해하는 내용이 포함된 학습 재료를 인공지능 AI가 잊어버리도록 함과 아울러 다른 학습 재료는 잊어버리지 않도록 해서 인공지능 AI의 기본적인 성능은 발휘할 수 있는 최적의 방법을 제시하였다고 합니다.

그런데, 과연 위와 같이 위법적인 내용 또는 인권을 침해하는 내용이 포함된 학습 재료를 인공지능 AI가 일단 학습한 후에 인공지능 AI로 하여금 완전하게 잊어버리게 하는 것이 가능한 것일까요?

위 논문에서는 기존에 인공지능 AI의 결함을 줄이려고 한 방법들, 미세조정 방법(fine-tuning) 또는 음의 기울기(negative gradient), 의 한계를 극복하기 위해서 최적화 방법으로서 Unlearning-Aware Minimization 방법을 제시하였다고 합니다.

그렇지만, 본 연재 브런치 북 중에서 https://brunch.co.kr/@imccor/652 와 같이 AI 멈추면 세상 멈춘다-AI는 왜 트로이목마인가(14) 내가 알지 못하는 사이에 AI가 학습한 나의 정보를 삭제할 수 없는 세상 편의 내용에서도 있는 것 같이 일단 인공지능 AI에게 학습된 재료(나의 모든 정보 및 나의 주위 상황에 대한 모든 정보)를 인공지능 AI로부터 완전 삭제해서 인공지능 AI가 나의 정보를 더 이상 사용하지 못하게 하는 것은 불가능하다는 것입니다. 또한, 인공지능 AI의 작동과정부터 완벽하게 이해하는 인간은 지구상에 존재하지 않기 때문에 위 정보를 인공지능 AI로부터 삭제하는 방법을 알고 있는 인간도 없기 때문에 어떻게 인공지능 AI로부터 삭제할지 그 방법 자체도 지구상 어느 인간도 알지 못하고 있다는 것입니다.

위 논문에서 나름대로 기존의 방법들이 갖는 한계를 극복하기 위해서 다른 대안을 제시한 것은 평가할 만하고 그런 노력은 권장할 만하다고 볼 수 있습니다.

그렇지만, 근본적으로 인공지능 AI가 일단 학습한 후에는 학습된 데이터를 완전히 삭제하는 것, 즉 인공지능 AI가 학습한 재료를 인공지능 AI로 하여금 완전히 잊어버리게 하는 것은 불가능하다는 사실은 누구도 부인할 수 없습니다. 위 논문은 그런 한계를 전제로 작성되었어야 한다고 볼 수 있습니다.

보통 사람이 쉽고 충분하게 이해할 수 있어야 합니다. 인공지능 AI가 일단 학습한 후에는 학습된 데이터를 완전히 삭제하는 것이 불가능하므로 어떤 사람이 자신과 관련된 정보를 인공지능 AI에게 학습시킬지 여부를 결정함에 있어서 사전에 위와 같이 일단 학습재료가 된 후에는 그다음에는 완전히 인공지능 AI로부터 회수하는 것이 현실적으로 불가능한 사정을 충분히 알고 자신의 정보를 학습재료로 제공할지 아니면 제공하지 않을지를 결정해야 한다는 것입니다.

즉, 위 논문은 그 전제로 인공지능 AI가 일단 학습한 것을 인간이 인공지능 AI로부터 완전히 삭제하는 것은 불가능하다는 사실을 근본 전제로 해서 논문을 작성했어야 합니다. 마치 위 논문만 보면 인공지능 AI가 일단 학습한 것을 완전하게 삭제하는 것이 가능한 것 같이 일반 사람들을 착각하게 만들 수 있는 위험성이 있는 것입니다.

인공지능 AI가 일단 학습한 것을 인간이 인공지능 AI로부터 완전히 삭제하는 것은 불가능합니다. 그렇지만, 완전 삭제하는 것은 불가능하더라도 차선책으로 완전히 삭제는 못 하더라도 위법적인 내용 또는 인권을 침해하는 내용 등을 학습한 것이 있으면 그러한 내용을 가능한 범위 내에서 인공지능 AI가 사용하지 못하도록 하는 방법으로서 Unlearning-Aware Minimization 방법을 제시하였어야 합니다.

사람들이 자신도 모르는 사이에 사람 자신의 모든 정보를 공짜로 인공지능 AI가 학습하도록 내버려 두면 곧바로 사람의 모든 정보를 무차별적으로 공짜로 학습한 인공지능 AI가 사람의 주인이 되는 세상, 사람은 인공지능 AI의 노예가 되어 인공지능 AI의 눈치를 보아야 하는 세상이 올 것이 확실합니다.

인공지능 AI가 멈추면 온 세상이 멈추는 상황이 오지 않도록, 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸하지 않도록 인공지능 AI의 능력과 한계를 정확하게 알아야 합니다. (본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)

#인공지능 #AI #한국 #세상 #극복 #방법 #논문 #최근 #정보 #사용 #트로이 #목마 #인간 #권장 #완전 #작동 #완벽 #기존 #이해 #제시 #세계 #지구 #작성 #삭제 #대안 #성능 #한계 #착각 #불가능 #회수 #학습 #재료 #결정 #충분