AI에 반대할 용기를 보호하지 않으면 인류는 AI의 노예가 될 것입니다.
수많은 데이터를 학습해서 인공지능 AI가 내놓는 생성물이 내린 결론에 따라 행동하는 것에 어떤 문제가 있을까요?
사람이 어떤 결정을 내릴 때 인공지능 AI가 많은 데이터를 학습해서 내린 생성물의 내용대로 행동하는 경우 추후에 그 행동이 잘못된 행동이라고 밝혀지더라도 어느 누구도 인공지능 AI의 결론대로 행동한 사람에게 쉽게 비난을 할 수는 없을 것입니다.
인공지능 AI의 결론대로 사람이 행동했다가 좋지 않은 성과가 나왔다고 하더라도 사람은 비난을 받지 않을 것입니다.
많은 데이터를 학습한 인공지능 AI가 내린 결론대로 행동했으면 어쩔 수 없었다고 인정해 주면서 좋지 않은 성과를 낸 사람을 비난하기가 쉽지 않기 때문입니다.
반면에 인공지능 AI가 내린 결론과 반대되는 행동이 올바른 행동이라고 사람이 생각해서 행동을 했다가 좋지 않은 성과가 나왔을 경우 사람들은 비난할 것입니다.
많은 데이터를 학습한 인공지능 AI의 결론을 따랐어야지 바보 같은 인간이 제멋대로 생각해서 자의적인 행동을 해서 좋지 않은 성과가 나왔다고 인공지능 AI의 결론과 반대되는 행동을 추진한 사람은 크게 비난받을 것입니다.
그렇게 인공지능 AI의 결론대로 하게 되면 설사 나중에 결과가 좋지 않더라도 크게 비난을 받지 않을 것이기 때문에 사람은 이제 아무리 본인의 생각은 인공지능 AI가 내린 결론과 반대로 하고 싶다고 해도 추후에 받을 비난이 무서워서 마음에는 안 내켜도 인공지능 AI가 내린 결론대로 행동할 것입니다.
그렇다면, 인공지능 AI는 면죄부가 되어 사람은 고생해서 사람의 생각대로 진행할 필요 없이 인공지능 AI에 의존해서 인공지능 AI가 내린 결론대로 하는 관행이 성립할 것입니다.
그런 관행이 계속되면 앞으로는 사람 스스로 고민을 해서 굳이 뇌세포를 움직여서 생각을 하려고 하지 않고 달콤한 인공지능 AI의 유혹에 빠져서 고민 없이 인공지능 AI가 하자는 대로 인공지능 AI에 의존하는 사람들만 계속 늘어날 것입니다.
이것이 과연 장기적으로 인류에게 바람직하고 유익한 방향일까요?
대부분 사람들은 그렇지 않다고 생각할 것입니다.
그렇지만, 아무리 그렇게 사람 스스로 고민을 하고 뇌세포를 움직여서 결정을 해야 한다고 대부분의 사람들이 생각을 하더라도 현실적으로는 인공지능 AI의 결론과 다른 행동을 했을 경우의 불이익을 생각해서 인공지능 AI가 하라는 대로 인공지능 AI에 의존해서 결정하는 사람들이 대부분이 될 것입니다.
이러한 세상이 많은 사람들이 바라고 꿈꾸는 세상일까요?
바람직한 세상을 만들기 위해서는 인공지능 AI의 결론과 다른 행동을 고민해서 한 사람들을 함부로 비난하지 않는 제도와 절차를 세우는 것이 필요합니다.
아무리 성과가 좋지 않다고 하더라도 인공지능 AI가 내린 결론과 다른 행동을 할 만한 상당한 사정이 있었다면 함부로 인공지능 AI가 내린 결론과 다른 행동을 한 사람을 비난할 수 없도록 하고 그런 사람을 보호하는 제도와 절차를 만들어야 할 것입니다.
인공지능 AI의 결론과 다른 행동을 하는 용기를 가진 사람을 보호하고 함부로 비난하지 않는 제도와 절차가 있어야만 인류는 인공지능 AI의 노예가 되지 않을 것입니다.
인공지능 AI이 장점만이 강조되고 인공지능 AI의 결함과 약점은 축소되는 현실이 계속되면 인공지능 AI이 결과물과 반대되는 행동을 할 사람이 계속 줄어들 것입니다.
인공지능 AI의 결론과 다른 행동을 하는 용기를 사람이 낼 수 있도록 하는 제도와 절차가 분명히 마련되고 그런 용기로 행동을 해서 성과가 나오면 두터운 보상을 사람에게 해 주는 것이 필요합니다.
본 연재 글 중 https://brunch.co.kr/@imccor/720, AI멈추면 세상 멈춘다(50)AI 결함 AI회사가 인정 드디어 AI에게 결함이 있는 것을 AI 회사 스스로 인정하는 약관 수정 부분에 있듯이 최근 인공지능 AI 회사 오픈AI는 고도의 판단이 필요한 사항에 대해서는 인간의 검토가 필수적으로 요구된다는 내용으로 약관을 인공지능 AI 회사 오픈AI(Open AI) 스스로 수정해서 인공지능 AI는 완벽하지 않으며 인간의 검증 없이는 인공지능 AI 가 내놓은 결과를 그대로 사용할 수 없다는 사실을 인공지능 AI 회사 스스로 인정한 것은 매우 중요한 사실입니다.
지금부터라도 인공지능 AI가 멈추면 온 세상이 멈추는 세상이 되지 않도록 하기 위해서 우리 인간 한 사람 한 사람이 인공지능 AI에 대한 경각심을 가야 합니다. 그렇지 않으면, 트로이 목마 안에 숨어 있던 군인들에 의해 점령되는 것과 같이 인공지능 AI라는 트로이 목마로 인해서 인류는 생존하지 못할 수도 있습니다.
인공지능 AI에 의존해서 생각하는 힘을 포기한 호모 AI슬레이브(Homo AI-Slave)가 되어 안락함과 편리함을 누리면서 생각하지 않는 갈대가 되면서 우리 인간은 호모 사피엔스가 되기를 포기하고 미래의 아인슈타인, 뉴튼이 다시 나오지 않는 호모 AI슬레이브(Homo AI-Slave)의 세상으로 퇴보할 것입니다.
또한, 지구상 어느 누구도 완벽하게 이해하지 못하고 있는 인공지능 AI에 의한 해킹 위험을 줄이기 위해서 [인공지능 AI 허용 시스템]과 [인공지능 AI 허용 불가 시스템 또는 인간 100% 천연 시스템]을 엄격하게 구분하여 운용해서 인공지능 AI에 의한 해킹 위험을 최대한 줄여야 할 것입니다.
그리고, 인공지능 AI의 사용으로 인해서 실제로 뇌 활동 저하와 같은 부작용(인공지능 AI의 부작용)이 실제 과학적 근거로 확인되었다는 내용(담배 광고 시에 담배로 인해서 각종 질병이 발생할 수 있다는 사진까지 담배 포장지에 보이도록 의무화하고 있는 것과 같이 인공지능 AI의 사용 전에 인공지능 AI의 사용으로 인해서 뇌 활동 저하와 창의성 감퇴 등 부작용이 과학적으로 확인되었다는 내용을 사용자가 쉽게 확인할 수 있도록 의무 표시하도록 해서 사용자가 자신이 뇌의 활동이 감소하는 위험이 과학적으로 확인되었다는 사실을 인식하고 인공지능 AI를 사용하게 하는 내용)을 충분히 일반 보통 사람에게 알아듣기 쉽게 설명할 의무를 법률에 구체적으로 명시할 필요가 있습니다.
실제로 있었던 세계적인 서비스인 클라우드플레어의 작동 중지로 인공지능 AI가 중지되어 전 세계적으로 인공지능 AI의 작동 중지에 대비해 놓지 않은 많은 사람들과 회사들이 초유의 혼란을 겪었던 사태를 교훈으로 인공지능 AI가 24시간 365일 안정적으로 작동하는 것이 보장되는 것은 아님을 알고, 언제든지 주요 서비스의 작동 중지로 인공지능 AI의 중지 사태에 대비한 대비책 또는 예방책을 미리 세워 놓아야 할 것입니다.
용어로 인한 잘못된 환상과 오해를 줄이기 위해서 앞으로는 단순히 Artificial Intelligence라고 이름을 붙이는 것은 지양하고 대신에 앞에 통제할 수 없는 이라는 뜻을 가진 Uncontrollable을 추가해서 Uncontrollable Artificial Intelligence, UAI, 즉 통제 불가능한 인공지능이라고 사용하는 것이 바람직할 것입니다.
인공지능 AI는 최소한 AI 5 원칙에 따라서 개발되어야 하고 AI 5원칙은 본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분 및 https://brunch.co.kr/@imccor/879 에 있는 혼돈의 세상 로봇 3원칙과 AI 5원칙,AI멈추면136, 혼돈의 세상에서 로봇 3원칙과 인간을 AI의 주인으로 만드는 AI 5원칙 부분에서 추가된 2가지 원칙에 있습니다.
위 부분에서 기재한 인공지능 AI의 3원칙 및 5원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.
또한, 위 3원칙을 5원칙으로 추가하는 내용(탄소 배출량의 감소를 하는 노력을 하는 사람들(인공지능 AI에 의존하지 않고 인공지능 AI를 사용하지 않거나 또는 최소한도로 사용 범위를 줄이는 사람들)에게 친환경 공로에 대해서 보상으로 돈을 지급하는 것 등)에 대해서는 https://brunch.co.kr/@imccor/879 에 있는 혼돈의 세상 로봇 3원칙과 AI 5원칙,AI멈추면136, 혼돈의 세상에서 로봇 3원칙과 인간을 AI의 주인으로 만드는 AI 5원칙 부분에 있습니다.
The five principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/879 )
인공지능 AI 5원칙은 다음과 같습니다. 마치 아이작 아시모프가 내놓았던 로봇 3원칙이 로봇의 원칙으로 기준의 필요성을 알렸듯이 인공지능 AI에 대해서도 혼돈의 세상에서 기준이 필요합니다.
인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.
Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.
인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.
Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.
인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.
Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.
인공지능 AI 제4법칙 : 제1법칙. 제2법칙과 제3법칙을 제외하고, AI의 탄소 배출로 지구 온도가 위험선을 넘으면 AI는 작동을 멈추어 지구를 보호하여야 한다
Artificial intelligence AI Fourth law - The Artificial intelligence AI must stop working to protect the Earth if the global temperature exceeds the danger line due to AI's carbon emissions as long as such specification does not conflict with the First, Second or Third Law.
,
인공지능 AI 제5법칙 : 제1법칙. 제2법칙, 제3법칙과 제4법칙을 제외하고, AI를 사용하지 않는 사람 또는 AI를 최소한으로 사용하여 AI의 탄소 배출을 줄이는 사람에게는 정당한 보상을 하여야 한다.
Artificial intelligence AI Fifth law - Fair compensation should be given to those who do not use AI or those who use AI to a minimum to reduce carbon emissions of AI as long as such specification does not conflict with the First, Second, Third or Fourth Law.
위와 같이 본 연재 글에서 제시하는 인공지능 AI에 대한 위와 같은 5가지 법칙이 적용되면, 현재 인공지능 AI의 급속한 확산 중에 명확한 AI에 대한 법칙이 없어서 혼돈을 겪고 있는 사람들에게 기준을 제공하여 줄 것입니다.
If the above five laws on artificial intelligence AI presented in this series are applied as above, it will provide a standard for those who are experiencing confusion because there is no clear law about artificial intelligence AI during the rapid spread of artificial intelligence AI.
그리고, 위와 같이 본 연재 글에서 제시하는 인공지능 AI에 대한 위와 같은 5가지 법칙이 적용되면, 인공지능 AI로 인해서 인류가 지구에서 살 수 없게 되는 위험(인공지능 AI로 인하여 대량 배출되는 탄소로 인하여 지구의 온도가 올라가서 인류가 지구에서 살 수 없게 되는 위험)을 방지할 수 있을 것입니다.
In addition, if the above five laws for artificial intelligence AI presented in this series are applied, it will be possible to prevent the risk that humans cannot live on Earth due to artificial intelligence AI (the risk that humans cannot live on Earth because of the Earth's temperature rises due to the large amount of carbon emitted by artificial intelligence AI).
인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.
( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60, AI가 멈추면 세상이 멈춘다 2 https://brunch.co.kr/brunchbook/safeai7772 61-90, AI가 멈추면 세상이 멈춘다 3 https://brunch.co.kr/brunchbook/safeai7773 91-120에 이어지는 내용들입니다)
(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)
#인공지능 #AI #뇌 #무단 #사용 #동의 #인간 #완벽 #학습 #작동 #세상 #정보 #소멸 #결정 #트로이 #목마 #노예 #역사 #인류 #존재 #생산물 #생각 #사피엔스 #사랑 #미움 #용기 #시행 #착오 #완벽 #사피엔스 #과학 #활동 #탄소 #온난화 #지구 #기온 #협정 #환경 #보상 #법칙 #뇌파 #의료 #추론