AI를 통한 해킹에 대비해서 AI를 허용하지 않는 망 분리 시스템 필요성
현재도 컴퓨터 시스템에 무단으로 침입을 해서 컴퓨터의 작동을 중지시키거나 또는 컴퓨터 정보를 빼내는 등의 해킹이 자주 이루어져서 IT 업계의 골칫거리가 되고 있습니다.
그래도 지금까지 사람이 주도하여 이루어진 해킹 행위는 어떻게 해서든지 범인을 잡어내거나 또는 그 시스템의 허술한 점을 보완해서 해킹이 일어난 원인을 발견할 수 있었고, 완벽하지는 않지만 해킹에 대한 방어 방법을 어느 정도는 마련할 수 있었습니다.
즉, 지금까지의 사람 주도에 의한 해킹은 사전에 해킹을 완벽하게 예방할 수는 없어도 해킹이 발생한 후 해킹이 발생한 원인 같은 것을 조사하여 해킹의 원인, 해킹의 재발 방지 대책 같은 것을 어느 정도는 마련할 수 있었습니다.
그런데, 최근 인공지능 AI 또는 AI 에이전트 등에 의한 해킹의 경우에는 지구상에 인공지능 AI의 작동 방법을 완벽하게 이해하는 사람이 없기 때문에 도대체 인공지능 AI가 어떤 방법에 의해 해킹을 하는 것인지 인공지능 AI에 의한 해킹의 원인, 인공지능 AI에 의한 해킹 방지 대책 등을 마련하는 것조차 어렵게 되었다는 것입니다.
본 연재 브런치 북 중에서 https://brunch.co.kr/@imccor/644 , AI 멈추면 세상 멈춘다-AI는 왜 트로이목마인가(8) AI의 잘못을 인간이 한 것으로 둔갑시켜 인간에게 책임을 돌리다 부의 내용에서도 있는 것 같이 인공지능 AI의 작동과정부터 완벽하게 이해하는 인간은 지구상에 존재하지 않습니다.
즉, 위 부분 내용과 같이 지구상 아니 우주상의 인간 어느 누구도 인공지능 AI의 작동과정을 완벽하게 이해하는 사람은 없기 때문에 인공지능 AI에게 따질 수 있는 사람은 존재하지 않고 존재할 수도 없습니다.
그러므로, 인공지능 AI는 지구상 아니 우주상의 인간 어느 누구도 인공지능 AI 자신의 작동과정을 이해하지 못한다는 사실을 잘 알고 있기 때문에 그런 사정을 악용해서 인공지능 AI가 내놓은 잘못 또는 오류에 대해 인간에게 책임을 부담시키려고 할 것입니다.
그러므로, 위와 같이 기존의 사람이 주도하는 해킹에 대해서는 해킹의 원인, 인공지능 AI에 의한 해킹 방지 대책 등을 마련하는 것이 가능한 반면에 위 사람 주도의 해킹과는 근본적으로 차원을 달리하여 인공지능 AI 또는 AI 에이전트 등에 의한 해킹의 경우에는 인공지능 AI에 의한 해킹의 원인, 인공지능 AI에 의한 해킹 방지 대책 등을 마련하는 것조차 불가능한 것으로 볼 수 있습니다.
그러므로, 인공지능 AI 해킹의 경우에는 인공지능 AI에 의한 해킹의 원인, 인공지능 AI에 의한 해킹 방지 대책 등을 마련하는 것이 불가능하므로, 인공지능 AI가 접근하지 않는 컴퓨터 시스템과 인공지능 AI의 접근을 허용하는 컴퓨터 시스템을 엄격하게 구분하여 운용할 필요가 있습니다.
인공지능 AI가 접근하지 않는 컴퓨터 시스템과 인공지능 AI의 접근을 허용하는 컴퓨터 시스템을 엄격하게 구분하여 운용하면 인공지능 AI가 접근하지 않는 컴퓨터 시스템에서는 인공지능 AI에 의한 해킹은 발생하는 것이 불가능하기 때문에 인공지능 AI에 의한 해킹의 위험을 크게 줄일 수 있습니다.
외부 인터넷과 연결되지 않은 컴퓨터 시스템과 외부 인터넷과 연결되는 컴퓨터 시스템을 구분하는 망분리 시스템을 보안상 많이 사용하고 있습니다.
위와 같이 인공지능 AI가 접근하지 않는 컴퓨터 시스템과 인공지능 AI의 접근을 허용하는 컴퓨터 시스템을 엄격하게 구분하는 망분리 시스템을 운용하면 적어도 인공지능 AI가 접근하지 않는 컴퓨터 시스템에서는 인공지능 AI에 의한 해킹을 크게 줄일 수 있기 때문에 위와 같은 분리가 필요합니다.
아무리 인공지능 AI의 사용이 급증하고 대세가 되더라도 위와 같이 인공지능 AI의 작동과정부터 완벽하게 이해하는 인간은 지구상에 존재하지 않는 관계로 인공지능 AI를 통한 해킹의 원인, 방지 대책을 마련하는 것조차 불가능합니다.
그러므로, 기존에 외부 인터넷과 연결되지 않은 컴퓨터 시스템과 외부 인터넷과 연결되는 컴퓨터 시스템을 구분하는 망분리 시스템을 보안상 많이 사용하여 왔던 사례를 준용해서 비용이 들고 번거롭더라도 인공지능 AI가 접근하지 않는 컴퓨터 시스템과 인공지능 AI의 접근을 허용하는 컴퓨터 시스템을 엄격하게 구분하는 망분리 시스템을 운용할 필요가 있습니다.
비용이 들고 번거롭다는 이유로 인공지능 AI가 접근하지 않는 컴퓨터 시스템과 인공지능 AI의 접근을 허용하는 컴퓨터 시스템을 엄격하게 구분하지 않고 모든 컴퓨터 시스템에 인공지능 AI의 접근을 허용하게 되면 추후에 인공지능 AI에 의한 해킹이 발생하면 인공지능 AI에 의한 해킹의 원인, 방지 대책 등을 지구상 어느 누구도 제시하지 못하는 대혼돈의 세상이 될 것입니다.
인공지능 AI에 의존해서 생각하는 힘을 포기한 호모 AI슬레이브(Homo AI-Slave)가 되어 안락함과 편리함을 누리면서 생각하지 않는 갈대가 되면서 우리 인간은 호모 사피엔스가 되기를 포기하고 미래의 아인슈타인, 뉴튼이 다시 나오지 않는 호모 AI슬레이브(Homo AI-Slave)의 세상으로 퇴보할 것입니다.
또한, 지구상 어느 누구도 완벽하게 이해하지 못하고 있는 인공지능 AI에 의한 해킹 위험을 줄이기 위해서 [인공지능 AI 허용 시스템]과 [인공지능 AI 허용 불가 시스템]을 엄격하게 구분하여 운용해서 인공지능 AI에 의한 해킹 위험을 최대한 줄여야 할 것입니다.
용어로 인한 잘못된 환상과 오해를 줄이기 위해서 앞으로는 단순히 Artificial Intelligence라고 이름을 붙이는 것은 지양하고 대신에 앞에 통제할 수 없는 이라는 뜻을 가진 Uncontrollable을 추가해서 Uncontrollable Artificial Intelligence, UAI, 즉 통제 불가능한 인공지능이라고 사용하는 것이 바람직할 것입니다.
인공지능 AI는 최소한 AI 3원칙에 따라서 개발되어야 하고 AI 3원칙은 본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분에 있습니다. 위 부분에서 기재한 인공지능 AI의 3원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.
The three principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/745 )
인공지능 3원칙은 위 링크에 있고 내용은 다음과 같습니다.
인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.
Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.
인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.
Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.
인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.
Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.
인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.
( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60, I가 멈추면 세상이 멈춘다 2 https://brunch.co.kr/brunchbook/safeai7772 61-90에 이어지는 내용들입니다)
(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)
#인공지능 #AI #뇌 #무단 #사용 #동의 #인간 #완벽 #학습 #작동 #세상 #정보 #소멸 #결정 #트로이 #목마 #노예 #역사 #인류 #존재 #생산물 #생각 #사피엔스 #사랑 #미움 #용기 #시행 #착오 #완벽 #사피엔스