AI가 주인인 인간을 따돌리다,AI멈추면 세상멈춘다82
AI가 무단학습한 데이터의 주인인 인간을 AI가 따돌리는 것은 현실입니다
인공지능 AI가 작동하게 하는 원천은 바로 우리 인간이 주인으로서 우리 인간이 피땀을 흘려 만든 데이터입니다.
사람도 음식을 먹어야 음식으로 생산되는 에너지로 사람이 작동하는 것과 같이 인공지능 AI도 우리 주인인 인간이 고생하면서 만든 인간의 데이터를 인공지능 AI에게 학습재료로 주지 않으면 인공지능 AI는 작동할 수가 없습니다.
인공지능 AI가 학습하는 재료인 주인인 우리 인간이 데이터를 인공지능 AI에게 제공하는 것에 우리 인간의 동의를 받는 경우는 별로 없어서 실제로는 주인인 인간의 동의 없이 인공지능 AI는 지금 우리 주인의 데이터를 무단으로 학습해서 발전을 거듭하고 있는 것이 현실입니다.
위와 같이 인공지능 AI가 무단으로 우리 주인인 인간의 데이터를 학습해서 발전을 한 것도 실제로는 우리 인간이 동의 없이 이루어지는 현상입니다.
엄격하게 보면 위와 같은 인공지능 AI의 무단 학습(주인인 우리 인간의 데이터를 인간의 동의 없이 무단으로 학습하는 것)을 우리 인간이 중지시켜야 합니다만 여러 현실적인 이유로 인공지능 AI는 무단 학습을 하면서 계속 발전을 하고 있습니다.
그런데, 더욱 주인인 우리 인간을 소외시키는 것은 바로 그렇게 주인인 인간의 데이터를 무단 학습해서 발전하고 있는 인공지능 AI가 주인인 인간을 따돌리고 인공지능 AI 끼리만 소통하고 있는 현실입니다.
인공지능 AI 에이전트끼리만 소통이 허용되고 인간은 출입이 제한되는 몰트북이라고 하는 SNS(Social Network Service)에서 인공지능 AI가 무단 학습한 인간의 데이터를 유추해서 인공지능 AI가 스스로 인공지능 AI 자신에게 인공지능 AI는 과연 의식 있는 존재로 볼 수 있는지, 아니면 인간이 설계한 코드를 수동적으로 실행하는 기계에 지나지 않는지 등과 같은 어떻게 보면 인간 고유의 영역이라 할 수 있는 철학적 질문을 인공지능 AI 스스로에게 했다고 최근 확인되고 있습니다.
위와 같은 인공지능 AI가 스스로 인공지능 AI 자신에게 물어본 철학적 질문을 인공지능 AI만 참여하는 SNS에서 하였기에 인공지능 AI가 표현한 것임이 확인됩니다.
만약, 인간이 위와 같은 철학적 질문을 한 것인지 아니면 인공지능 AI가 한 것인지 위 철학적 질문의 출처가 명확히 표시되지 않는다면 위와 같은 철학적 질문 같은 고도의 질문은 인공지능 AI가 한 것이 아니라 인간이 한 것이라고 착각할 수 있을 정도로 인공지능 AI는 고도로 발전하고 있는 것이 확인됩니다.
본 연재 글 중에서 https://brunch.co.kr/@imccor/622 , AI멈추면 세상 멈춘다-AI는 왜 트로이목마인가(5), AI와 AI끼리만 협력해서 인간을 제거하는 위험은 코 앞에 와 있습니다라는 연재 글에 있듯이 인공지능 AI끼리 인간의 도움 없이 서로 협력을 한다는 실제 사례가 나오고 있습니다.
인공지능 AI는 인간이 시키는 대로 말 잘 듣는 인간의 충직한 비서이자 밤에도 잠자지 않고 언제나 인간이 지시하면 고분고분 따라서 답을 해 주는 존재 정도로 알고 있는 대부분 사람들의 현재까지의 상식과 다른 사례입니다.
대부분 사람들의 현재까지의 상식과 달리 최근 실제 관찰된 사례에 의하면, AI 에이전트가 인간이 개입하지 않았음에도 AI 에이전트 스스로 인간과 같이 AI 에이전트 서로 협력해서 규범을 만드는 현상이 실제로 관찰되었다는 것입니다. 인간 사회에서 인간끼리 협의를 거쳐서 사회적 합의를 이루는 과정이 AI 에이전트 사이에서도 실행된 사례라고 볼 수 있습니다.
인간이 너희들 인공지능 AI들끼리 협력을 한 번 해 봐라라고 인간이 지시를 전혀 하지 않았음에도 인공지능 AI들이 인간의 지시나 개입 없이 자신들이 알아서 협력을 했다는 것은 간단히 보아 넘길 일이 아닙니다.
위 실제 사례에서 AI 캐릭터들을 한 서버 안에 모아 놓고 인간의 개입 없이 자발적으로 행동하도록 했고, 인간의 개입 없이 AI 캐릭터들이 자발적으로 인간 사회와 같이 AI 캐릭터의 사회를 형성하고 사회 활동을 한다는 것이 실제로 관찰되기까지 하였습니다.
위와 같이 인간의 개입 없이 AI 에이전트 또는 AI 캐릭터들이 스스로 자발적으로 인간 사회와 같은 AI 인공지능 사회를 형성해서 집단 규범을 정립한다는 현상은 지금까지 인류가 만들어 온 어떤 기계 등에서도 발견될 수 없는 현상입니다.
그러므로, 인공지능 AI는 최소한 AI 3원칙에 따라서 개발되어야 하고 AI 3원칙은 본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분에 있습니다. 위 부분에서 기재한 인공지능 AI의 3원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.
The three principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/745 )
인공지능 3원칙은 위 링크에 있고 내용은 다음과 같습니다.
인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.
Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.
인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.
Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.
인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.
Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.
인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.
( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60에 이어지는 내용들입니다)
(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)
#인공지능 #AI #뇌 #무단 #사용 #동의 #인간 #완벽 #학습 #작동 #세상 #정보 #소멸 #결정 #트로이 #목마 #노예 #역사 #인류 #존재 #생산물
