당장 편리하자고 AI를 사용하면 모든 정보를 AI가 가져가는 것이 현실
최근 인기를 끌고 있는 맥미니라는 손바닥 컴퓨터 덕분에 인공지능 AI를 사용하게 되면 민감한 정보를 포함해서 모든 정보에 인공지능 AI가 접근하게 되어 모든 정보를 가져갈 수 있다는 것이 알려지게 되었습니다.
2025년 11월 경에 등장한 몰트봇이라는 인공지능 AI 에이전트(Agent)가 상당한 인기를 끌었는데 몰트봇이라는 인공지능 AI 에이전트(Agent)는 컴퓨터 내부에 설치되어 각종 채팅 그리고 이메일까지 사람이 일일이 보아야 하는 대신 편리하게 요약 분석 해 주는 기능으로 사람들의 수요를 만족시켜 주었습니다.
그렇지만, 위와 같이 채팅 및 이메일을 요약 분석해 주어서 편리하게 사용하는 몰트봇이라는 인공지능 AI 에이전트(Agent)는 컴퓨터 내부에 설치되어 컴퓨터 내부에 있는 각종 앱에 대한 접근 권한을 보유해서 사실상 컴퓨터 내부의 모든 정보를 인공지능 AI가 가져갈 수 있다는 약점이 있습니다.
이러한 약점을 개선하기 위해서 맥미니라는 손바닥 컴퓨터가 등장하여 인기를 끌고 있습니다. 몰트봇과 달리 인공지능 AI가 학습해야 할 데이터를 옮겨서 처리하는 대신에 네트워크에 연결할 필요 없이 데이터를 컴퓨터 그 자리에 그대로 놓은 상태에서 여러 연산칩이 작업을 처리하는 것이 바로 맥미니의 특성입니다.
위와 같이 AI가 학습해야 할 데이터를 외부로 옮기지 않고 컴퓨터 내부에서 그대로 처리하는 특성으로 맥미니가 인기를 끌고 있는 덕분에 위와 같이 몰트봇 등 대부분의 인공지능 AI는 모든 정보를 외부로 가져가서 인공지능 AI가 작업을 한다는 사실이 명확하게 확인되고 있습니다.
인공지능 AI 에이전트(Agent) 사용으로 메일이나 채팅의 내용을 편리하게 요약해서 인공지능 AI가 사람에게 제공해 주어서 사람이 시간을 절약하고 번거로운 요약 작업을 하지 않아도 되는 장점은 있지만 그 이면에는 바로 위와 같이 컴퓨터 내 모든 앱이 접근 권한을 인공지능 AI가 보유하게 되어 사실상 내 컴퓨터에 있는 모든 정보가 외부로 가져가서 비밀이 침해될 수 있는 위험이 실제로 존재함이 확인되고 있습니다.
위와 같은 위험을 줄이기 위해서 맥미니가 등장했지만 데이터를 옮기지 않고 인공지능 AI가 처리한다고 해서 정보의 비밀성이 지켜지는 것이 보장되는지 여부는 별도의 문제입니다.
이미 본 연재 글 AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(16) 정보를 AI에게 주는 순간 회수 불능하고 영원히 AI 마음대로 사용합니다 편( https://brunch.co.kr/@imccor/658 )에 있는 내용과 같이 이 지구상에 인공지능 AI가 어떻게 작동하는지 인공지능 AI의 작동 과정을 완벽하게 이해하고 있는 사람은 단 한 사람도 없습니다. 이 지구상의 어느 인간도 인공지능 AI의 작동 과정을 정확하게 알고 있는 사람은 없습니다.
지구상의 어느 인간도 작동 과정을 정확하게 알지 못하는 인공지능 AI에게 일단 나와 우리의 소중한 정보를 주는 순간 인공지능 AI에게 준 나와 우리의 정보는 영원히 나와 우리의 손을 떠나서 영원 무궁하게 인공지능 AI의 학습재료가 되면서 인공지능 AI 마음대로 사용할 수 있게 되는 것입니다. 그렇기 때문에, 위 본 연재 글 AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(16) 정보를 AI에게 주는 순간 회수 불능하고 영원히 AI 마음대로 사용합니다 편( https://brunch.co.kr/@imccor/658 )에 있는 내용과 같이 인공지능위원회에서도 인공지능 AI 학습용 판결서 데이터셋을 한번 공개하면 회수가 불가능하고 다시 돌이킬 수 없는 비가역적으로 된다는 것을 인정한 것입니다.
맥미니가 데이터를 옮기지 않고 인공지능 AI가 처리한다고 하더라도 일단 어떤 형식으로든 인공지능 AI가 데이터를 학습해서 처리하게 되면 학습된 데이터는 이미 인공지능 AI에게 노출된 것이고 더 이상 비밀정보가 아닌 것으로 볼 수 있습니다.
맥미니 약관에는 아마도 맥미니가 사용자 컴퓨터에 있는 정보의 보안과 비밀을 보장한다는 내용은 없을 것입니다. 맥미니를 판매하는 회사에서도 맥미니가 데이터를 옮겨서 작업을 하지 않고 그 자리에서 작업을 처리하더라도 그것만으로 사용자 컴퓨터에 있는 정보의 보안과 비밀을 보장할 수 없음을 잘 알고 있기 때문입니다.
그렇다면, 자신의 컴퓨터에 있는 정보의 비밀과 보안이 중요한 사용자라면 맥미니를 사용하기 전에 맥미니에서 인공지능 AI가 데이터를 학습해서 처리하게 되면 학습된 데이터는 이미 인공지능 AI에게 노출된 것이고 더 이상 비밀정보가 아닌 것임을 인식하고 맥미니를 사용해야 할 것입니다.
자신의 컴퓨터에 있는 정보의 비밀과 보안이 중요한 정보는 따로 구분해서 저장을 해 놓고 비밀과 보안이 중요하지 않은 정보만을 맥미니가 인공지능 AI로 분석하게 하는 것도 한 방법입니다.
물론 인공지능 AI의 장점도 있고 인공지능 AI를 사용해야 하는 경우 사용해야 함은 당연합니다. 그렇지만, 지금과 같은 장밋빛 환상으로 인공지능 AI가 인류의 고민을 해결해 주는 구세주로 생각해서는 안 됩니다. 인공지능 AI의 장점은 적절하게 활용해야겠지만 위와 같은 인공지능 AI의 장점 뒤에는 그에 못지않게 사용자에게 커다란 위험을 가져올 수 있는 위험성도 있다는 사실을 인식하고 균형감을 갖는 인공지능 AI에 대한 접근이 필요합니다.
본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분에서 기재한 인공지능 AI의 3원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.
The three principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/745 )
인공지능 3원칙은 위 링크에 있고 내용은 다음과 같습니다.
인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.
Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.
인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.
Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.
인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.
Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.
인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.
( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60, I가 멈추면 세상이 멈춘다 2 https://brunch.co.kr/brunchbook/safeai7772 61-90에 이어지는 내용들입니다)
(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)
#인공지능 #AI #뇌 #인간 #완벽 #학습 #작동 #세상 #정보 #소멸 #결정 #트로이 #목마 #노예