설명 가능한 AI라는 말은 뜨거운 아이스커피라는 말과 같이 거짓말입니다.
인공지능 AI가 만들어내는 결과물이 과연 어떤 재료를 학습해서 어떤 과정으로 중립적이고 공정하며 편향되지 않은 내용으로 만들어진 것인지를 우리 바보 같은 인간에게 설명할 수 있어야 한다는 설명 가능한 인공지능 AI라는 말이 많이 사용되고 있습니다.
인공지능 AI라는 것을 정말로 우리 바보 같은 인간에게 설명 가능하다는 것이 사실일까요?
그렇지 않습니다. 아무리 인공지능 AI가 내놓은 결과물의 산출 과정, 인공지능 AI가 학습한 재료의 원천 등을 우리 바보 같은 인간에게 설명할 수 있도록 노력을 하더라도 설명 가능한 인공지능 AI라는 말은 사실이 아닙니다.
우선, 설명 가능한 인공지능 AI라는 말이 성립하려면 우리 인간이 인공지능 AI에 대해서 완벽하게 이해하고 있어야 합니다.
인공지능 AI가 어떻게 작동하는지 인공지능 AI의 작동 과정 그리고 인공지능 AI가 어떠한 시스템인지에 대한 완벽한 이해 또한 인공지능 AI가 학습한 재료의 취득 과정 및 학습한 재료의 내용 등을 일일이 우리 바보 같은 인관이 완벽하게 꿰뚫고 있어야 합니다.
그렇지만, 현실은 우리 바보 같은 인간은 위 각 사항 중 어느 것 하나 인공지능 AI의 구체적인 내용을 완벽하게 이해하지 못하고 있습니다.
위와 같이 우리 인간이 인공지능 AI의 구체적인 내용을 완벽하게 이해하지 못하기 때문에 현재 인공지능 AI를 운영하는 회사들은 인공지능 AI 사용으로 발생하는 오류, 착오 등에 대해서 인공지능 AI를 운영하는 회사가 책임을 부담하겠다는 내용의 약관을 보장하지 못하고 있는 것이 현실입니다.
만약, 우리 인간이 인공지능 AI의 구체적인 내용을 완벽하게 이해하고 있다면 현재 인공지능 AI를 운영하는 회사들은 당연히 인공지능 AI의 오류, 착오 등에 대해서 인공지능 AI 운영 회사들이 스스로 책임을 부담하겠다는 약관을 보장해서 우리 바보 같은 인간들이 그런 약관을 믿고 인공지능 AI의 착오나 오류 등에 대한 피해를 보상받도록 할 것입니다.
그렇게 우리 바보 같은 인간들이 인공지능 AI의 착오나 오류로 보상을 받는다면 우리 바보 같은 인간들은 안심하고 사용할 수 있는 해당 인공지능 AI로 몰려갈 것입니다.
그런데, 그렇게 인공지능 AI의 착오나 오류로 보상을 해 주겠다고 과감하게 약관을 만드는 인공지능 AI 회사들은 단 한 곳도 없습니다.
왜냐하면, 지구상에 인공지능 AI의 작동 과정 그리고 인공지능 AI가 어떠한 시스템인지에 대한 완벽한 이해를 하고 있는 사람은 단 한 사람도 없기 때문입니다.
본 연재 브런치 북 중에서 https://brunch.co.kr/@imccor/644 와 같이 AI 멈추면 세상 멈춘다-AI는 왜 트로이목마인가(8) AI의 잘못을 인간이 한 것으로 둔갑시켜 인간에게 책임을 돌리다 편의 내용에서도 있는 것 같이 인공지능 AI의 작동과정부터 완벽하게 이해하는 인간은 지구상에 존재하지 않습니다.
최근 세계의 인공지능 학회인 NeurIPS 2025라는 학회지에 한국 사람들이 만든 논문 [Unlearning-Aware Minimization]이라는 논문에서 그동안 지적되어 온 인공지능 AI의 위험성과 폐해를 바로잡기 위해서 인공지능 AI가 위법적인 내용 또는 인권을 침해하는 내용이 포함된 학습 재료를 인공지능 AI가 잊어버리도록 함과 아울러 다른 학습 재료는 잊어버리지 않도록 해서 인공지능 AI의 기본적인 성능은 발휘할 수 있는 최적의 방법을 제시하였다고 합니다.
그런데, 과연 위와 같이 위법적인 내용 또는 인권을 침해하는 내용이 포함된 학습 재료를 인공지능 AI가 일단 학습한 후에 인공지능 AI로 하여금 완전하게 잊어버리게 하는 것이 가능한 것일까요?
위 논문에서는 기존에 인공지능 AI의 결함을 줄이려고 한 방법들, 미세조정 방법(fine-tuning) 또는 음의 기울기(negative gradient), 의 한계를 극복하기 위해서 최적화 방법으로서 Unlearning-Aware Minimization 방법을 제시하였다고 합니다.
그렇지만, 본 연재 브런치 북 중에서 https://brunch.co.kr/@imccor/652 와 같이 AI 멈추면 세상 멈춘다-AI는 왜 트로이목마인가(14) 내가 알지 못하는 사이에 AI가 학습한 나의 정보를 삭제할 수 없는 세상 편의 내용에서도 있는 것 같이 일단 인공지능 AI에게 학습된 재료(나의 모든 정보 및 나의 주위 상황에 대한 모든 정보)를 인공지능 AI로부터 완전 삭제해서 인공지능 AI가 나의 정보를 더 이상 사용하지 못하게 하는 것은 불가능하다는 것입니다. 또한, 인공지능 AI의 작동과정부터 완벽하게 이해하는 인간은 지구상에 존재하지 않기 때문에 위 정보를 인공지능 AI로부터 삭제하는 방법을 알고 있는 인간도 없기 때문에 어떻게 인공지능 AI로부터 삭제할지 그 방법 자체도 지구상 어느 인간도 알지 못하고 있다는 것입니다.
그러므로, 위와 같이 인공지능 AI의 작동과정부터 완벽하게 이해하는 인간은 지구상에 존재하지 않기 때문에 인공지능 AI에 대해 우리 바보 같은 인간에게 설명 가능한 AI를 선물하겠다는 달콤한 사탕발림은 거짓말이라는 사실을 확인할 수 있습니다.
설명 가능한 인공지능 AI(Explainable AI, XAI) 방법으로는 본질적으로 내재된 방법(Intrinsic method)과 일이 발생한 후에 분석하는 사후적인 방법(Post-hoc method) (이미 학습된 모델 위에 덧붙여서 설명 도구로 설명하는 방식)이 있다고 합니다.
또한 설명 가능한 인공지능 AI의 목적이 인공지능 AI의 작동 과정을 인간이 이해할 수 있게 설명하려는 좋은 목적에서 비롯되었지만, 부작용으로 설명 가능한 인공지능 AI라는 포장 아래에서 불확실성을 은폐하거나 또는 불공정하고 편향된 확신을 오히려 증폭시키게 될 위험도 존재합니다.
세상에 공짜 점심은 없습니다. 인공지능 AI의 사용을 금지시키자는 것이 아닙니다. 적절한 곳에 필요하면 당연히 인공지능 AI를 사용하여야 합니다. 다만, 인공지능 AI가 인류의 구세주라는 환상에 도취해서 귀찮고 번거롭다고 판단과 결정의 주도권을 인공지능 AI에 의존해서 인공지능 AI에게 넘겨주는 일은 발생하지 않도록 해야 한다는 것입니다.
설명 가능한 인공지능 AI라는 거창하고 듣기 좋은 포장 뒤에는 위와 같이 지구상에 인공지능 AI의 작동과정, 학습재료의 원천 등을 완벽하게 이해하고 설명할 수 있는 사람은 없다는 냉엄한 현실이 존재합니다.
듣기 거북하지만 설명 가능한 AI라는 말은 뜨거운 아이스커피라는 말과 같이 거짓말입니다.
말로는 전자계산기 사용하듯이 어디까지나 인공지능 AI를 보조적인 수단으로 사용하자고 하지만 바쁜 업무 과정에서 생각하는 고통과 고민에서 도피해서 인공지능 AI에게 의존하는 달콤한 습관에 젖어들면 순식간에 우리 인간은 호모 사피엔스를 포기하고 생각하지 않는 갈대가 되어 인공지능 AI의 노예가 될 것입니다.
본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분에서 기재한 인공지능 AI의 3원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.
The three principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/745 )
인공지능 3원칙은 위 링크에 있고 내용은 다음과 같습니다.
인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.
Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.
인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.
Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.
인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.
Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.
인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.
( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60, I가 멈추면 세상이 멈춘다 2 https://brunch.co.kr/brunchbook/safeai7772 61-90에 이어지는 내용들입니다)
(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)
#인공지능 #AI #뇌 #인간 #완벽 #학습 #작동 #세상 #정보 #소멸 #결정 #트로이 #목마 #노예