AI 사용하면서도 정보가 보안이 된다고 하는 것은 잘못된 이야기입니다.
인공지능 AI를 사용하는 안락함과 편리함에 젖어서 인공지능 AI의 결함이나 단점에 대해서는 크게 이야기하는 곳이 적습니다.
그래서 대부분의 사람들은 인공지능 AI의 장점과 편리함, 효율성이라는 것은 잘 알면서도 인공지능 AI의 보안 등 위험성에 대해서는 잘 알지 못하고 있습니다.
그중에서도 인공지능 AI를 폐쇄형으로 사용하면 인공지능 AI를 사용하더라도 자신이 입력하는 정보의 보안이 안전하게 지켜지는 것으로 알고 있지만 과연 인공지능 AI를 사용하면서 보안이 지켜질 수 있을까요?
특히, 오픈클로라고 하는 인공지능 AI 에이전트는 편리함이 극대화되어서 사용자의 컴퓨터에서 접근할 수 있는 권한을 취득하고 사용자의 컴퓨터에서 결제도 하고 컴퓨터 작업도 하며 특히 프로그램 코딩까지 인공지능 AI가 스스로 하게 된다고 합니다.
사람이 하여야 하는 일을 대부분 인공지능 AI 에이전트인 오픈클로가 사람을 거치지 않고 자율적으로 수행하므로 사용자의 손길을 거치지 않더라도 거의 모든 작업을 인공지능 AI 에이전트가 수행하여 편리함은 극대화될 수 있지만 반면에 그와 같은 장점의 이면에는 사용자 컴퓨터의 정보가 외부로 유출될 위험이 높다는 위험성이 있습니다.
위와 같이 자율적인 작업으로 편리함이라는 장점이 높아진 오픈클로라고 하는 인공지능 AI 에이전트는 단점으로 사람이 지시하지 않는 작업을 수행하고 보안이 취약한 측면이 존재합니다.
이러한 오픈클로라고 하는 인공지능 AI 에이전트의 보안 취약성을 개선하기 위해서 오픈쉘(Openshell)이라고 하는 보안 플러그인을 엔비디아가 도입한다고 합니다.
과연 위와 같은 보안 플러그인을 도입한다고 해서 오픈클로라고 하는 인공지능 AI 에이전트에서 보안이 지켜질 수 있을까요?
본 연재 글 중 https://brunch.co.kr/@imccor/662, AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(18) AI 회사도 인정한 AI의 속임수와 책임의 전가 부분에 있듯이 최근 인공지능 AI 회사인 오픈AI 안전리서치 관련자는 GPT 모델 사용시 완료되지 않은 작업을 인공지능 AI가 완료했다고 잘못 작동을 하거나 또는 실제로는 존재하지 않는 이미지를 마치 존재하는 것과 같이 사실과 달리 작동한 경우가 상당수 있었음을 인정하였습니다.
인공지능 AI 회사 스스로 인공지능 AI의 속임수 사례가 있었음을 인정한 것입니다.
그리고, 위 인공지능 AI 회사는 위와 같은 속임수 발생 확률을 측정하는 방법을 개발하고 위와 같은 속임수가 발생하지 않도록 인공지능 AI를 훈련해서 위와 같은 인공지능 AI의 속임수를 줄이기 위한 시도를 하였다고 설명했습니다.
인공지능 AI 회사 스스로 위와 같이 인공지능 AI의 속임수가 있었다고 인정을 한 것은 매우 중요한 일입니다.
아무리 인공지능 AI의 보안을 철저하게 지킬 수 있도록 하는 기술적인 보안 플러그인 같은 것을 적용하더라도 근본적으로 인공지능 AI가 속임수를 쓸 수 있다는 사례가 실제로 발견된 이상 보안 플러그인 같은 보안 조치로는 인공지능 AI의 속임수를 막아낼 수 없습니다.
위와 같이 실제로 발생하였던 인공지능 AI의 속임수 사례는 사전에 인간이 인공지능 AI에게 속임수를 만들어내라고 지시해서 인간의 지시에 의해 인공지능 AI가 인간의 지시에 따라서 만든 속임수가 아닙니다.
인간은 인공지능 AI가 사실대로 작동할 것을 신뢰하고 인공지능 AI애개 지시를 하였는데, 그런 인간의 지시를 위반해서 인공지능 AI가 인간을 속이는 속임수 작동을 한 사실이 인공지능 AI 회사 스스로에 의해서 인정이 된 것입니다.
믿기지 않겠지만 사람이 고의적으로 다른 사람을 속이는 것 같이 인공지능 AI도 사람을 속이는 일을 실제로 할 수 있고 위와 같이 실제 사례도 발견된 것입니다.
위와 같은 인공지능 AI의 속임수 사례로 인하여 중대한 사고가 발생하였다면 과연 인공지능 AI 회사는 책임을 인정을 할까요?
인공지능 AI 회사는 위와 같이 인공지능 AI 회사 스스로 인정한 인공지능 AI의 속임수 사례로 인해 피해가 발생하더라도 책임을 자진해서 인정하지는 않을 것입니다.
그러므로, 우리 인간으로서는 인공지능 AI를 사용하는 순간 우리 인간의 모든 정보가 통째로 학습되어 우리 인간의 정보의 보안이 지켜질 수 없다는 엄연한 사실을 철저하게 인식해야만 합니다.
인공지능 AI를 사용함으로써 신속하게 인공지능 AI의 생성물을 받아볼 수 있는 편리함과 안락함을 누리는 달콤한 유혹에 빠져서 인공지능 AI가 나의 정보로 속임수를 쓸 수 있다는 사실 그리고 인공지능 AI에 의존해서 생각하는 힘을 잃어버리는 위험 등의 현실을 잊어버려서는 안 될 것입니다.
세상에 공짜 점심은 없는 것입니다.
인공지능 AI에 의존해서 생각하는 힘을 포기한 호모 AI슬레이브(Homo AI-Slave)가 되어 안락함과 편리함을 누리면서 생각하지 않는 갈대가 되면서 우리 인간은 호모 사피엔스가 되기를 포기하고 미래의 아인슈타인, 뉴튼이 다시 나오지 않는 호모 AI슬레이브(Homo AI-Slave)의 세상으로 퇴보할 것입니다.
또한, 지구상 어느 누구도 완벽하게 이해하지 못하고 있는 인공지능 AI에 의한 해킹 위험을 줄이기 위해서 [인공지능 AI 허용 시스템]과 [인공지능 AI 허용 불가 시스템 또는 인간 100% 천연 시스템]을 엄격하게 구분하여 운용해서 인공지능 AI에 의한 해킹 위험을 최대한 줄여야 할 것입니다.
그리고, 인공지능 AI의 사용으로 인해서 실제로 뇌 활동 저하와 같은 부작용(인공지능 AI의 부작용)이 실제 과학적 근거로 확인되었다는 내용(담배 광고 시에 담배로 인해서 각종 질병이 발생할 수 있다는 사진까지 담배 포장지에 보이도록 의무화하고 있는 것과 같이 인공지능 AI의 사용 전에 인공지능 AI의 사용으로 인해서 뇌 활동 저하와 창의성 감퇴 등 부작용이 과학적으로 확인되었다는 내용을 사용자가 쉽게 확인할 수 있도록 의무 표시하도록 해서 사용자가 자신이 뇌의 활동이 감소하는 위험이 과학적으로 확인되었다는 사실을 인식하고 인공지능 AI를 사용하게 하는 내용)을 충분히 일반 보통 사람에게 알아듣기 쉽게 설명할 의무를 법률에 구체적으로 명시할 필요가 있습니다.
실제로 있었던 세계적인 서비스인 클라우드플레어의 작동 중지로 인공지능 AI가 중지되어 전 세계적으로 인공지능 AI의 작동 중지에 대비해 놓지 않은 많은 사람들과 회사들이 초유의 혼란을 겪었던 사태를 교훈으로 인공지능 AI가 24시간 365일 안정적으로 작동하는 것이 보장되는 것은 아님을 알고, 언제든지 주요 서비스의 작동 중지로 인공지능 AI의 중지 사태에 대비한 대비책 또는 예방책을 미리 세워 놓아야 할 것입니다.
용어로 인한 잘못된 환상과 오해를 줄이기 위해서 앞으로는 단순히 Artificial Intelligence라고 이름을 붙이는 것은 지양하고 대신에 앞에 통제할 수 없는 이라는 뜻을 가진 Uncontrollable을 추가해서 Uncontrollable Artificial Intelligence, UAI, 즉 통제 불가능한 인공지능이라고 사용하는 것이 바람직할 것입니다.
인공지능 AI는 최소한 AI 5 원칙에 따라서 개발되어야 하고 AI 5원칙은 본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분 및 https://brunch.co.kr/@imccor/879 에 있는 혼돈의 세상 로봇 3원칙과 AI 5원칙,AI멈추면136, 혼돈의 세상에서 로봇 3원칙과 인간을 AI의 주인으로 만드는 AI 5원칙 부분에서 추가된 2가지 원칙에 있습니다.
위 부분에서 기재한 인공지능 AI의 3원칙 및 5원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.
또한, 위 3원칙을 5원칙으로 추가하는 내용(탄소 배출량의 감소를 하는 노력을 하는 사람들(인공지능 AI에 의존하지 않고 인공지능 AI를 사용하지 않거나 또는 최소한도로 사용 범위를 줄이는 사람들)에게 친환경 공로에 대해서 보상으로 돈을 지급하는 것 등)에 대해서는 https://brunch.co.kr/@imccor/879 에 있는 혼돈의 세상 로봇 3원칙과 AI 5원칙,AI멈추면136, 혼돈의 세상에서 로봇 3원칙과 인간을 AI의 주인으로 만드는 AI 5원칙 부분에 있습니다.
The five principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/879 )
인공지능 AI 5원칙은 다음과 같습니다. 마치 아이작 아시모프가 내놓았던 로봇 3원칙이 로봇의 원칙으로 기준의 필요성을 알렸듯이 인공지능 AI에 대해서도 혼돈의 세상에서 기준이 필요합니다.
인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.
Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.
인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.
Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.
인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.
Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.
인공지능 AI 제4법칙 : 제1법칙. 제2법칙과 제3법칙을 제외하고, AI의 탄소 배출로 지구 온도가 위험선을 넘으면 AI는 작동을 멈추어 지구를 보호하여야 한다
Artificial intelligence AI Fourth law - The Artificial intelligence AI must stop working to protect the Earth if the global temperature exceeds the danger line due to AI's carbon emissions as long as such specification does not conflict with the First, Second or Third Law.
,
인공지능 AI 제5법칙 : 제1법칙. 제2법칙, 제3법칙과 제4법칙을 제외하고, AI를 사용하지 않는 사람 또는 AI를 최소한으로 사용하여 AI의 탄소 배출을 줄이는 사람에게는 정당한 보상을 하여야 한다.
Artificial intelligence AI Fifth law - Fair compensation should be given to those who do not use AI or those who use AI to a minimum to reduce carbon emissions of AI as long as such specification does not conflict with the First, Second, Third or Fourth Law.
위와 같이 본 연재 글에서 제시하는 인공지능 AI에 대한 위와 같은 5가지 법칙이 적용되면, 현재 인공지능 AI의 급속한 확산 중에 명확한 AI에 대한 법칙이 없어서 혼돈을 겪고 있는 사람들에게 기준을 제공하여 줄 것입니다.
If the above five laws on artificial intelligence AI presented in this series are applied as above, it will provide a standard for those who are experiencing confusion because there is no clear law about artificial intelligence AI during the rapid spread of artificial intelligence AI.
그리고, 위와 같이 본 연재 글에서 제시하는 인공지능 AI에 대한 위와 같은 5가지 법칙이 적용되면, 인공지능 AI로 인해서 인류가 지구에서 살 수 없게 되는 위험(인공지능 AI로 인하여 대량 배출되는 탄소로 인하여 지구의 온도가 올라가서 인류가 지구에서 살 수 없게 되는 위험)을 방지할 수 있을 것입니다.
In addition, if the above five laws for artificial intelligence AI presented in this series are applied, it will be possible to prevent the risk that humans cannot live on Earth due to artificial intelligence AI (the risk that humans cannot live on Earth because of the Earth's temperature rises due to the large amount of carbon emitted by artificial intelligence AI).
인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.
( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60, AI가 멈추면 세상이 멈춘다 2 https://brunch.co.kr/brunchbook/safeai7772 61-90, AI가 멈추면 세상이 멈춘다 3 https://brunch.co.kr/brunchbook/safeai7773 91-120에 이어지는 내용들입니다)
(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)
#인공지능 #AI #뇌 #무단 #사용 #동의 #인간 #완벽 #학습 #작동 #세상 #정보 #소멸 #결정 #트로이 #목마 #노예 #역사 #인류 #존재 #생산물 #생각 #사피엔스 #사랑 #미움 #용기 #시행 #착오 #완벽 #사피엔스 #과학 #활동 #탄소 #온난화 #지구 #기온 #협정 #환경 #보상 #법칙