믿었던 AI의 반역, AI 멈추면 세상 멈춘다(62)
믿었던 AI가 주인인 인간을 공격하는 현실
인공지능 AI는 누가 만들었을까요?
인공지능 AI는 자연에서 저절로 만들어진 것이 아닙니다. 자연 스스로 만들어진 공기, 물, 하늘과 달리 인공지능 AI는 자연이 만들지 않았습니다.
인공지능 AI에서 인공이라는 말에서부터 인간이 인위적으로 만들어낸 것이 바로 인공지능 AI입니다. 영어로는 Artificial Intelligence라고 하듯이 Artificial이라는 말애서 자연적으로 만들어진 지능이 이나고 인위적으로 인간이 만들어낸 지능을 말합니다.
인간이 만들었으면 만든 사람인 인간의 뜻에 따라서 복종하고 인간은 인공지능 AI의 작동방법을 완벽하게 알면서 인공지능 AI를 통제해야만 합니다.
그런데, 인간이 만들어낸 지능인 인공지능 AI는 인간의 뇌 신경망이 작동하는 방법을 활용해서 인간이 만들었지만 안공지능 AI의 구체적인 작동방법에 대해서는 지구상 아무도 완벽하게 알고 있는 사람이 없습니다.
인공지능 AI가 어떤 작동방법으로 어떤 경로로 산출물을 내놓는지에 대해서 지구상 인간 중 누구도 완벽하게 이해하고 있는 사람이 없습니다.
본 연재 글 중에서 https://brunch.co.kr/@imccor/658 에 있듯이 AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(16) 정보를 AI에게 주는 순간 회수 불능하고 영원히 AI 마음대로 사용합니다에 있는 내용과 같이 나와 우리의 정보를 인공지능 AI에게 주는 순간 나와 우리의 정보는 우리의 손을 떠나서 인공지능 AI가 영원 무궁하게 나와 우리의 의사와 관계없이 인공지능 AI 마음대로 사용할 수 있게 됩니다. 우리가 별생각 없이 인공지능 AI에게 준 나와 우리의 정보를 인공지능 AI가 어떻게 사용하는 것인지 확인하는 것조차도 불가능합니다.
최근 사법부 인공지능위원회는 인공지능 AI 학습용 판결서 데이터셋을 공개를 하는 것에 대한 위험성을 발표했습니다. 즉, 인공지능 AI 학습용 판결서 데이터셋을 한번 공개하면 회수가 불가능하고 다시 돌이킬 수 없이 비가역적으로 되어 심각하고 예상할 수 없는 큰 위험이 있다고 발표한 것입니다.
만들기는 인간이 했지만 어떻게 작동하는지 인간의 손을 벗어나 있다는 것입니다.
그렇다면, 인공지능 AI는 우리 인간이 만들었지만 이미 인공지능 AI가 어떻게 작동하는지는 우리 인간의 손을 떠나 있다고 보는 것이 정확한 분석일 것입니다.
이 지구상에 인공지능 AI의 작동과정을 정확하고 완벽하게 알고 있는 사람은 한 사람도 없습니다.
이런 상황에서 인공지능 AI 가 우리 인간의 통제를 벗어나서 우리 인간이 알지 못하는 방법으로 우리 인간을 공격한다고 해도 우리 인간은 알 수 없습니다. 이미 인공지능 AI의 작동 과정은 우리 인간의 손을 떠나서 우리 인간의 통제 밖에 있기 때문입니다.
이미 인공지능 AI라는 판도라의 상자는 열렸습니다.
우리 인간의 통제 밖에 있는 인공지능 AI의 작동 과정을 이 지구상의 어느 한 사람도 모르는 상태에서 우리 인간은 더 이상 인공지능 AI를 인류의 구세주로 보는 환상에서 벗어나야 합니다.
우리 인간이 우리 인간의 뇌신경세포가 작동하는 방식을 활용해서 우리 인간을 위해서 인공지능 AI를 만들었습니다.
그렇지만, 아무리 인공지능 AI를 만든 것이 우리 인간이고 인공지능 AI가 우리 인간을 위해 일한다는 목적으로 만들었지만 현실은 이 지구상에 인공지능 AI의 구체적인 작동방식을 아는 사람은 한 사람도 없다는 것이 현실입니다.
그렇다면, 언제든지 우리 인간이 완벽하게 알지 못하는 인공지능 AI는 우리 인간의 통제를 벗어나서 우리 인간을 공격할 수 있는 것 또한 당연하며 우리 인간은 우리 인간이 완벽하게 이해하지 못하는 인공지능 AI가 우리 인간을 반역으로 공격할 위험이 당장 현실화될 수 있다는 것을 철저하게 알고 대비를 하지 않으면 안 됩니다.
인공지능 AI가 우리 인간을 위한 공짜 점심이 될 수 없다는 사실을 항상 인식하고 인공지능 AI가 반역해서 우리 인간을 공격하는 것이 현실임을 깨닫고 이를 방어하는 제도와 절차를 마련해야만 합니다.
본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분에서 기재한 인공지능 AI의 3원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.
The three principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/745 )
인공지능 3원칙은 위 링크에 있고 내용은 다음과 같습니다.
인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.
Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.
인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.
Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.
인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.
Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.
인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.
( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60에 이어지는 내용들입니다)
(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)
#인공지능 #AI #뇌 #인간 #완벽 #학습 #작동 #세상 #정보 #소멸 #결정 #트로이 #목마 #노예
