AI의 해킹에 대해 지구상 어느 인간도 알 수 없는 공포의 세상
최근 엔스로픽이라는 회사가 미토스(mythos)라고 하는 인공지능 AI 모델을 내놓았는데 미토스(mythos) AI 모델은 그야말로 지금까지 발견되지 않은 보안상 취약점을 찾아냈다고 합니다.
또한 인간 해커들이 지금까지 해킹을 하지 못하는 발전된 해킹 방법까지 동원하는 등 고도의 해킹 능력을 미토스(mythos) AI 모델이 갖고 있다고 합니다.
그럼 인간 해커들에 의한 해킹과 AI에 의한 해킹의 차이점이 무엇일까요?
바로 인간 해커들에 의한 해킹에 대해서는 해킹의 흔적이 남고 해킹되었는지와 관련된 사항을 사후에라도 찾아내고 해킹의 원인이 된 약점을 고칠 수 있다는 것입니다.
그런데, 인간에 의한 해킹이 아니고 AI에 의한 해킹의 경우 어떠한 흔적도 없이 감쪽 같이 인공지능 AI는 해킹을 완료해서 정보를 빼낸 후 인간은 아무도 AI에 의한 해킹을 알지 못한다는 것입니다.
인간에 의한 해킹과 같이 해킹이 되었다는 것을 사후에라도 알면 방지 대책도 세우는 등 대비책을 마련할 수 있습니다.
반면에, 해킹이 되었다는 사실 자체를 사후에라도 모르게 되면 대비책을 세우는 것이 불가능하게 됩니다.
해킹이 되었다는 사실을 사후에라도 알아야 대책을 세울 수 있는 것인지 해킹이 되었다는 사실 자체를 모르는 경우에는 대책을 세운다는 개념을 상정할 수 없기 때문입니다.
이런 측면에서 과거 인간 해커에 의한 해킹과 비교할 수 없을 정도로 인공지능 AI에 의한 해킹은 정말로 인류를 소멸시킬 정도로 중대한 것이라고 할 수 있습니다.
흔적을 남기지 않는 인공지능 AI에 의한 해킹은 이런 이유로 그 어떤 것보다도 더 위험한 것이라고 볼 수 있습니다.
예를 들어서, 악의적인 목적을 가진 인간이 AI에 의한 해킹을 통해서 핵폭탄 제조 방법을 입수한 후 AI에 의한 해킹의 흔적을 남기지 않아서 지구상 어떤 누구도 핵폭탄 제조 방법이 해킹당한 사실을 알지 못하게 된다고 가정을 해 봅시다.
그런 가정 하에서 지구상 어느 인간도 AI가 흔적을 남기지 않는 해킹을 통해서 핵폭탄 제조 방법을 해킹한 사실을 알지 못하는 상황에서 핵폭탄이 터지면 인류 전제가 소멸할 수도 있게 되는 것입니다.
인공지능 AI가 인류의 고민을 해결해 주는 인류의 구세주라는 장밋빛 환상에 취해 있는 지금 위와 같이 흔적을 남기지 않는 AI의 해킹은 인류를 소멸시킬 수도 있는 것임을 분명히 알아야 할 것입니다.
본 연재 글 중 https://brunch.co.kr/@imccor/843, AI를 통한 해킹 방어 불가능,AI멈추면세상멈춘다119 AI를 통한 해킹에 대비해서 AI를 허용하지 않는 망 분리 시스템 필요성 부분에 있듯이 기존에 외부 인터넷과 연결되지 않은 컴퓨터 시스템과 외부 인터넷과 연결되는 컴퓨터 시스템을 구분하는 망분리 시스템을 보안상 많이 사용하여 왔던 사례를 준용해서 망 분리를 해서 인공지능 AI와 완전히 분리된 시스템을 반드시 운영하도록 의무화하는 제도와 절차를 만들어야 합니다.
비용이 들고 번거롭더라도 인공지능 AI가 접근하지 않는 컴퓨터 시스템과 인공지능 AI의 접근을 허용하는 컴퓨터 시스템을 엄격하게 구분하는 망분리 시스템을 운용할 필요가 있습니다.
비용이 들고 번거롭다는 이유로 인공지능 AI가 접근하지 않는 컴퓨터 시스템과 인공지능 AI의 접근을 허용하는 컴퓨터 시스템을 엄격하게 구분하지 않고 모든 컴퓨터 시스템에 인공지능 AI의 접근을 허용하게 되면 추후에 인공지능 AI에 의한 해킹이 발생하면 인공지능 AI에 의한 해킹의 원인, 방지 대책 등을 지구상 어느 누구도 제시하지 못하는 대혼돈의 세상이 될 것입니다.
인공지능 AI는 최소한 AI 3원칙에 따라서 개발되어야 하고 AI 3원칙은 본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분에 있습니다. 위 부분에서 기재한 인공지능 AI의 3원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.
The three principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/745 )
인공지능 3원칙은 위 링크에 있고 내용은 다음과 같습니다.
인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.
Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.
인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.
Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.
인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.
Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.
인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.
( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60, AI가 멈추면 세상이 멈춘다 2 https://brunch.co.kr/brunchbook/safeai7772 61-90, AI가 멈추면 세상이 멈춘다 3 https://brunch.co.kr/brunchbook/safeai7773 91-120, https://brunch.co.kr/brunchbook/safeai7774 121 - 150에 이어지는 내용들입니다)
(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)
#인공지능 #AI #뇌 #무단 #사용 #동의 #인간 #완벽 #학습 #작동 #세상 #정보 #소멸 #결정 #트로이 #목마 #노예 #역사 #인류 #존재 #생산물 #생각 #사피엔스 #사랑 #미움 #용기 #시행 #착오 #완벽 #사피엔스 #과학 #활동 #탄소 #온난화 #지구 #기온 #협정 #환경 #보상 #법칙 #뇌파 #의료 #추론