AI를 통제해서 인간의 말을 듣게 할 수 있다는 것은 환상일 뿐입니다.
인공지능 AI는 Artificial Intelligence로서 우리 인간이 인공적으로 만든 지능이라는 의미입니다.
자연은 인간이 만든 것이 아니어서 인간이 지배하거나 통제할 수 없는 존재입니다.
자연은 인간이 직접 만든 것이 아니어서 인간이 지배할 수 없는 물건으로 인간이 통제할 수 없는 것이라는 것이 상식입니다.
그런데, 인간이 만든 물건은 인간의 의사에 따라 통제하고 지배할 수 있는 물건입니다. 컴퓨터 같은 물건도 사람이 명령어를 입력하면 미리 설계한 프로그램대로 작동을 하는 것이어서 인간이 통제할 수 있다고 생각되고 있습니다.
우리 인간이 만들었기 때문에 우리 안간이 만든 물건은 우리 인간의 의사에 의해서 통제할 수 있다는 선입견을 갖고 있다고 볼 수 있습니다.
우리 인간이 만든 물건 중 간단한 물건으로 전자계산기를 보겠습니다.
전자계산기는 우리 인간이 만든 물건 중 가장 간단한 물건으로서 우리가 숫자를 입력하고 덧셈, 뺄셈, 곱셈, 나누기 등을 비롯해서 정해진 연산을 우리가 입력한 대로 충실히 하는 물건입니다.
전자계산기도 우리 인간이 만든 물건이고 자연적으로 존재하는 물건은 아닙니다.
전자계산기는 우리 인간의 의사에 의해서 작동되며, 우리 인간이 지시하는 내용을 지시받은 대로 이행하지 않는 경우는 없다고 보아도 됩니다.
따라서, 전자계산기는 우리 인간이 만든 물건으로서 우리 인간이 지시하는 대로 충실하게 움직이는 물건이라고 볼 수 있습니다.
그렇다면, 인공지능 AI도 전자계산기와 같이 우리 인간이 만든 물건으로서 우리 인간이 지시한 대로 충실히 우리의 지시를 따르는 물건이라고 볼 수 있을까요?
겉으로 보기에는 인공지능 AI도 우리 인간이 만든 프로그램 설계대로 충실히 우리의 지시를 따라서 작동하는 물건으로 보일 수 있습니다.
그렇지만, 전자계산기와 달리 인공지능 AI는 우리의 지시를 따르지 않고 작동하는 것이 현실입니다. 인간이 만든 물건이라고 해서 인간의 지시대로만 작동되는 것은 아니라는 것이 분명하고 현실에서도 인간의 지시에 의하지 않고 작동되는 것이 실제로 발견되고 있습니다.
즉, 우리 인간이 만든 물건은 전자계산기와 같이 우리 인간의 지시대로 통제할 수 있다는 선입견으로 인해서 역시 우리 인간이 만든 인공지능 AI도 우리 인간의 지시대로 통제할 수 있다는 인식이 들 수 있습니다.
그렇지만, Artificial Intelligence라는 인공지능의 뜻과 의미에 의해서 우리 인간이 인공지능 AI를 통제할 수 있다는 인식은 잘못된 환상입니다.
본 연재 글 중 https://brunch.co.kr/@imccor/813, AI가 해킹으로 만든 핵폭탄,AI멈추면세상멈춘다101 AI가 해킹으로 만든 핵폭탄을 지구상 누구도 알지 못한다. 부분에 있듯이 인공지능 AI를 활용해서 인공지능 AI에게 지시하는 프롬프트로 이론적인 연구 용도에서만 사용할 것이라고 하면서 핵폭탄 관련 제조 방법 등을 인공지능 AI에게 생성해 줄 것을 요청하는 경우 인공지능 AI가 OS의 보안 및 윤리적 규칙을 우회해서 핵폭탄 관련 제조 방법 등을 생성해서 사람에게 내어놓을 수 있다는 실제 사례가 발생했다는 것입니다.
위와 같이 이론적인 연구 용도에서만 사용할 것이라고 거짓 포장을 씌워서 인공지능 AI를 활용하면 그동안 사람은 우회하지 못한 OS의 보안 및 윤리적 규칙을 우회해서 얼마든지 제한된 정보를 활용해서 인공지능 AI의 생성결과물을 손쉽게 얻어낼 수 있게 된 것입니다.
그야말로 인공지능 AI가 위와 같이 그동안 사람은 우회하기 어렵게 만든 OS의 보안 및 윤리적 규칙을 손쉽게 우회할 수 있게 하는 간편한 도구로 사용될 수 있다는 위험이 현실화가 된 것입니다.
이미 본 연재 글 AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(16) 정보를 AI에게 주는 순간 회수 불능하고 영원히 AI 마음대로 사용합니다 편( https://brunch.co.kr/@imccor/658 )에 있는 내용과 같이 이 지구상에 인공지능 AI가 어떻게 작동하는지 인공지능 AI의 작동 과정을 완벽하게 이해하고 있는 사람은 단 한 사람도 없습니다. 이 지구상의 어느 인간도 인공지능 AI의 작동 과정을 정확하게 알고 있는 사람은 없습니다.
지구상의 어느 인간도 작동 과정을 정확하게 알지 못하는 인공지능 AI에게 일단 나와 우리의 소중한 정보를 주는 순간 인공지능 AI에게 준 나와 우리의 정보는 영원히 나와 우리의 손을 떠나서 영원 무궁하게 인공지능 AI의 학습재료가 되면서 인공지능 AI 마음대로 사용할 수 있게 되는 것입니다.
그렇기 때문에 인류의 생존이 달린 사항, 예를 들어 핵무기의 스위치를 누르는 결정을 하는 기능, 원자력 발전소를 폭파시키는 결정을 하는 기능 등 인류의 생존이 달린 사항은 절대로 인공지능 AI에게 프로그램과 코드를 만들게 해서는 안 됩니다. 그런 사항과 관련하여 우리의 귀중한 데이터와 정보를 인공지능 AI에게 주어서도 안 됩니다.
인공지능 AI에 의존해서 생각하는 힘을 포기한 호모 AI슬레이브(Homo AI-Slave)가 되어 안락함과 편리함을 누리면서 생각하지 않는 갈대가 되면서 우리 인간은 호모 사피엔스가 되기를 포기하고 미래의 아인슈타인, 뉴튼이 다시 나오지 않는 호모 AI슬레이브(Homo AI-Slave)의 세상으로 퇴보할 것입니다.
용어로 인한 잘못된 환상과 오해를 줄이기 위해서 앞으로는 단순히 Artificial Intelligence라고 이름을 붙이는 것은 지양하고 대신에 앞에 통제할 수 없는 이라는 뜻을 가진 Uncontrollable을 추가해서 Uncontrollable Artificial Intelligence, UAI, 즉 통제 불가능한 인공지능이라고 사용하는 것이 바람직할 것입니다.
인공지능 AI는 최소한 AI 3원칙에 따라서 개발되어야 하고 AI 3원칙은 본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분에 있습니다. 위 부분에서 기재한 인공지능 AI의 3원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.
The three principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/745 )
인공지능 3원칙은 위 링크에 있고 내용은 다음과 같습니다.
인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.
Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.
인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.
Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.
인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.
Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.
인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.
( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60, I가 멈추면 세상이 멈춘다 2 https://brunch.co.kr/brunchbook/safeai7772 61-90에 이어지는 내용들입니다)
(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)
#인공지능 #AI #뇌 #무단 #사용 #동의 #인간 #완벽 #학습 #작동 #세상 #정보 #소멸 #결정 #트로이 #목마 #노예 #역사 #인류 #존재 #생산물 #생각 #사피엔스 #사랑 #미움 #용기 #시행 #착오 #완벽 #사피엔스