AI와 게임 확률 불공정,AI 멈추면 세상 멈춘다76
게임의 확률의 불공정 관련 환불 조치와 AI의 오류를 항상 의심하는 습관
인공지능 AI는 공정하고 중립적으로 어떤 선입견이나 편향 없이 작동되어야 합니다. 인공지능 AI가 어느 특정 부류의 사람들에게는 우호적으로 작동하고 다른 부류의 사람들에게는 불리하게 작동하는 등 편향적으로 작동한다면 그러한 인공지능 AI의 편향적이고 불공정환 작동은 중지되어야 합니다.
인공지능 AI와 유사하게 작동하는 컴퓨터 게임, 즉 게임 회사가 개발하는 게임에서 확률형 유료 아이템은 공정하고 투명하게 배분되어야 하는 것이 게임의 핵심입니다.
만약, 확률형 유료 아이템이 특정 사용자에게 유리하게 또는 불리하게 편향적으로 산출되도록 하는 것과 같은 프로그램의 오류가 있다면 그와 같은 불공정하고 편향된 게임은 즉시 중지되어야 할 것입니다.
그런데, 최근 게임 회사에서 제작한 신작으로 메이플 키우기라는 게임에서 확률형 유료 아이템이 불공정하고 편향적으로 산출된다는 논란이 발생하였습니다. 메이플 키우기라는 게임을 개발한 회사는 해당 논란이 발생하자 위 메이플 키우기 게임에서 그동안 결제된 금액을 게임회사가 자진해서 환불해 주기로 했다고 합니다.
게임 회사가 개발한 게임의 확률형 유료 아이템 계산 오류에 대해 게임 회사가 자진해서 결제 금액을 환불해 주기로 한 것은 매우 이례적인 것이라고 할 수 있습니다. 왜냐하면, 보통은 게임 회사 스스로 개발한 게임에는 아무런 문제가 없다고 책임을 인정하지 않는 것이 통상적이기 때문입니다.
마찬가지로 위와 같은 게임에서 확률형 유료 아이템이 특정 사용자에게 유리하게 또는 불리하게 편향적으로 산출될 수 있는 것과 같이 인공지능 AI에서도 포장만 인공지능 AI일 뿐 실제로는 인공지능 AI가 특정 부류의 사람들에게는 유리하게 작동하고 다른 부류의 사람들에게는 불리하게 작동해서 편향되고 불공정하게 작동될 수 있는 위험은 언제든지 현실화할 수 있습니다.
사람의 인생에서 중요한 여러 단계 시험이라든지 검사라든지 하는 단계에서 귀찮고 번거롭다고 인공지능 AI에게 의존하는 경우 위와 같은 편향되고 불공정한 인공지능 AI의 작동으로 실제로 피해를 입는 사람이 나올 수 있는 위험이 있는 것입니다.
본 연재 글 중 https://brunch.co.kr/@imccor/720, AI멈추면 세상 멈춘다(50)AI 결함 AI회사가 인정, 드디어 AI에게 결함이 있는 것을 AI 회사 스스로 인정하는 약관 수정 내용에 있듯이 그동안 인공지능 AI 회사들은 마치 인공지능 AI가 인류의 문제를 완벽하게 풀어주는 구세주 내지는 천사인 것 같이 포장하면서 홍보해 왔습니다.
그런데, 최근 대단한 일이 발생했습니다. 지금까지 그토록 인공지능 AI가 완벽하면서 결함이 없다고 주장해 온 인공지능 AI 회사들이 스스로 인공지능 AI에게 결함이 있다고 인정을 하면서 이용자 약관을 수정한 것입니다.
최근 인공지능 AI 회사 오픈AI(Open AI)는 고도의 판단이 필요한 사항에 대해서는 인간의 검토가 필수적으로 요구된다는 내용으로 약관을 인공지능 AI 회사 오픈AI 스스로 수정했습니다.
인간의 검토가 필요한 것으로 요구되는 분야는 법률 등 중요 분야가 있습니다.
인공지능 AI 가 완벽하고 결함이 없다면 인간의 검토를 필수적으로 요구할 이유가 없다는 측면에서 위와 같이 인공지능 AI 회사 오픈AI 스스로 약관을 수정한 이유는 바로 인공지능 AI 회사 오픈AI 스스로 인공지능 AI에게 결함이 있다는 것을 인정한 것이라고 볼 수 있습니다.
위와 같이 인공지능 AI의 결함을 인정하고 인공지능 AI 이용 약관을 인공지능 AI 회사 스스로 수정한 사실에 의해서 이제 인공지능 AI는 완벽한 존재가 아니고 결함이 있는 존재로서 인간의 검토가 없이 사용할 수 없는 불완전한 존재라는 사실이 명백하게 확인되었다고 볼 수 있습니다.
인공지능 AI 회사 오픈AI(Open AI)는 고도의 판단이 필요한 사항에 대해서는 인간의 검토가 필수적으로 요구된다는 내용으로 약관을 인공지능 AI 회사 오픈AI 스스로 수정한 사례와 본 글에서 위와 같이 메이플 키우기라는 게임을 개발한 회사는 해당 논란이 발생하자 위 메이플 키우기 게임에서 그동안 결제된 금액을 게임회사가 자진해서 환불해 주기로 한 사례 모두 인공지능 AI는 완전한 존재가 아닌 결함을 가진 존재라는 사실을 확인시켜 주고 있습니다.
위와 같은 사례에서 인공지능 AI 또는 게임의 오류가 어떤 식으로든 발견이 되어 위와 같은 오류가 시정될 수 있었지만, 만약 인간이 인공지능 AI를 전적으로 신뢰해서 인공지능 AI에 의존해서 인공지능 AI가 내놓는 결과를 의심하는 번거롭고 귀찮은 일을 포기하였다면 인공지능 AI의 오류는 발견되지 않고 계속 인공지능 AI의 오류가 누적되다가 어느 순간 커다란 위험이 발생하거나 인류가 소멸될 위험은 언제든지 현실화될 수 있습니다.
그러므로, 우리 인류는 귀찮고 번거로운 일이라고 모든 것을 인공지능 AI에 의존해서는 안 되며 항상 인공지능 AI의 작동에 오류가 있을 수 있다는 것을 인식하고 번거롭고 귀찮더라도 인공지능 AI를 항상 의심하고 점검하지 않으면 언제 어느 순간에 인류가 의존하는 인공지능 AI로 인해서 소멸될 수 있음을 알아야 합니다.
본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분에서 기재한 인공지능 AI의 3원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.
The three principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/745 )
인공지능 3원칙은 위 링크에 있고 내용은 다음과 같습니다.
인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.
Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.
인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.
Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.
인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.
Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.
인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.
( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60에 이어지는 내용들입니다)
(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)
#인공지능 #AI #뇌 #인간 #완벽 #학습 #작동 #세상 #정보 #소멸 #결정 #트로이 #목마 #노예
