빗썸 없는 코인 사태, 프로듀스101 투표조작 실제 사례로 본 AI위험성
최근 빗썸에서 실제로는 없는 코인이 발행되는 믿기 어려운 사태가 있었습니다.
은행에서 예금 통장에 존재하지 않는 거액의 예금이 있는 것 같이 표시한 가짜 예금 통장이 발행되는 사태는 거의 없습니다.
만약, 은행에서 그와 같이 존재하지 않는 거액의 예금이 있는 것 같이 표시한 가짜 예금 통장이 발행되다면 은행의 근본적인 신뢰가 무너지기 때문에 은행에서는 교차 검증제도와 절차로 존재하지 않는 없는 예금이 마치 가짜로 존재하는 것 같은 예금으로 표시되는 일이 없습니다.
그런데, 이번에 빗썸에서는 실제로는 없는 코인이 마치 대량으로 있는 것 같이 발행되는 일이 발생한 것입니다. 빗썸에서 위와 같은 일이 발생한 것은 은행과 같이 교차 검증 제도와 절차가 없기 때문으로 볼 수 있습니다.
최근 인류의 귀찮고 번거로운 일을 처리하는 고민을 해결하는 해결사로 자처하는 인공지능 AI가 작동하면서 교차 검증 제도와 절차가 없기 때문에 위 빗썸의 없는 코인 발행 사태가 인공지능 AI 작동 과정에서도 발생할 위험성이 높다고 볼 수 있습니다.
특히, 이번에 발생한 사태, 빗썸에서 실제로는 없는 코인이 발행되는 믿기 어려운 사태는 과거 프로듀스 101 시리즈 투표 조작 사건과도 관련이 있다고 볼 수 있습니다.
아이돌 연습생과 팬들이 정확하게 투표가 집계될 것이라고 믿고 프로듀스 101 시리즈 투표가 진행되었습니다.
그렇지만, 위와 같은 투표 시스템에 대한 믿음은 잘못된 믿음으로 밝혀졌습니댜. 즉, 프로듀스 101 시리즈 투표 조작 사건도 전자적으로 이루어지는 투표 시스템을 조작해서 순위를 바꿔치기한 것으로 인정되었습니다.
사람들이 투표 시스템을 이용해서 과연 실제로 부정한 행동을 하지는 않을 것이라는 믿음은 위 프로듀스 101 투표 조작 사건으로 부수어졌다고 볼 수 있습니다.
최근 빗썸에서 실제로는 없는 코인이 마치 있는 코인처럼 발행된 것과 같이 반대로 실제로는 엄연히 존재하는 코인임에도 전산 오류, 조작 등으로 있었던 실제 코인이 전산 시스템상으로 없는 코인으로 둔갑되는 사태가 발생할 위험도 있습니다.
더욱 중요한 것은 인공지능 AI의 작동과 관련하여서는 사실상 인간이 인공지능 AI 작동 과정을 완벽하게 이해하고 있지 않습니다.
인간이 인공지능 AI 작동 과정을 알지 못하기 때문에 인공지능 AI의 오류, 부정 작동을 인간 중 누구도 알지 못한 상태에서 넘어갈 수 있고 그렇게 되면 매우 큰 위험이 발생할 수 있습니다.
본 연재 글 중 https://brunch.co.kr/@imccor/797, AI를 믿었는데 이런 위험이,AI멈추면 세상 멈춘다87 AI는 완벽하다고 해서 AI를 믿었는데 이런 위험한 일이 부분에 있듯이 겉으로는 말 잘 듣고 인간에게 유익한 일만 할 것 같던 인공지능 AI가 실제로는 더 큰 위험을 발생시킬 수 있다는 것이 실제로 확인되고 있습니다.
몇 년 전인 2021년 미국에서는 인공지능 AI로 작동되는 스피커가 실제로 아주 위험한 지시를 해서 위험한 지시를 실제로 이행했다면 대형 사고로 이어질 뻔한 일이 발생한 적이 있습니다.
인공지능 AI로 작동되는 스피커는 인간에게 핸드폰을 충전하는 충전기를 전력을 공급하는 콘센트에 완전히 꽂지 말고 헐겁게 약 절반만 꽂은 상태에서 충전기와 콘센트 사이에 형성된 공간에 미국 동전인 페니를 접촉시키라는 아주 위험한 행동을 권고한 적이 있습니다.
위와 같은 인공지능 AI의 위험한 행동을 실제로 권고한 사례는 일명 페니챌린지라고 합니다. 미국 동전인 페니를 위와 같이 충전기와 콘센트 사이에 형성된 공간에 집어넣으라고 한 행위이기 때문에 페니챌린지라고 이름을 붙인 것입니다.
위와 같이 인공지능 AI가 실제로 사고로 이어질 수 있는 위험한 행동을 권고하였음에도 당시 인공지능 AI 플랫폼의 알고리즘에 어떤 문제가 있는지 등을 구체적으로 파악하지 못한다는 이유로 인공지능 AI는 책임을 부담하지 않은 것으로 파악됩니다.
실제로 인공지능 AI가 위와 같은 위험한 행동을 부추겼음에도 인공지능 AI에게 책임을 부담시키지 않은 것은 사람과 비교할 때 너무 관대한 것이 아닌가 생각됩니다.
인공지능 AI를 의심하지 않고 전적으로 인공지능 AI에 의존해서 인공지능 AI를 맹신한다면 위와 같이 충전기와 콘센트 사이에 형성된 공간에 집어넣으라고 권고하는 페니챌린지를 실제로 많은 사람들이 인공지능 AI의 지시대로 했을 것이고 그렇게 했다면 많은 사고로 인류에게 매우 위험한 일이 발생했을 것입니다.
최근 위와 같은 빗썸의 없는 코인 발행 사태 그리고 과거 프로듀스 101 시리즈 투표 조작 사건과 같이 인공지능 AI는 믿을 수 없는 존재입니다.
인공지능 AI는 인류의 고민과 문제를 해결해 주는 완벽한 해결사라는 장밋빛 환상은 절대 현실이 아닙니다.
인공지능 AI가 작동 오류 또는 누군가에 의한 고의적인 부정 작동 등의 사태 발생 시 위 빗썸의 없는 코인 발행 사태 그리고 과거 프로듀스 101 시리즈 투표 조작 사건과는 비교할 수 없을 정도로 큰 문제가 발생할 위험이 높습니다.
이러한 사정을 철저하게 인식하고 인공지능 AI가 천사의 얼굴 뒤에 엄청난 위험이 있다는 사실을 알고 이에 대한 대비책을 마련하여야 할 것입니다.
은행에서 교차 검증제도와 절차로 존재하지 않는 없는 예금이 마치 가짜로 존재하는 것 같은 예금으로 표시되는 일이 없는 것과 같이 인공지능 AI의 경우에도 너무 인공지능 AI를 완벽한 존재로 믿어서는 안 되고 인공지능 AI와는 독립된 사람에 의한 교차 검증 제도와 절차가 필요합니다.
인공지능 AI에 의존해서 생각하는 힘을 포기한 호모 AI슬레이브(Homo AI-Slave)가 되어 안락함과 편리함을 누리면서 생각하지 않는 갈대가 되면서 우리 인간은 호모 사피엔스가 되기를 포기하고 미래의 아인슈타인, 뉴튼이 다시 나오지 않는 호모 AI슬레이브(Homo AI-Slave)의 세상으로 퇴보할 것입니다.
인공지능 AI는 최소한 AI 3원칙에 따라서 개발되어야 하고 AI 3원칙은 본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분에 있습니다. 위 부분에서 기재한 인공지능 AI의 3원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.
The three principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/745 )
인공지능 3원칙은 위 링크에 있고 내용은 다음과 같습니다.
인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.
Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.
인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.
Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.
인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.
Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.
인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.
( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60, I가 멈추면 세상이 멈춘다 2 https://brunch.co.kr/brunchbook/safeai7772 61-90에 이어지는 내용들입니다)
(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)
#인공지능 #AI #뇌 #무단 #사용 #동의 #인간 #완벽 #학습 #작동 #세상 #정보 #소멸 #결정 #트로이 #목마 #노예 #역사 #인류 #존재 #생산물 #생각 #사피엔스 #사랑 #미움 #용기 #시행 #착오 #완벽 #사피엔스