빗썸이 없는 가짜 코인을 발행한 사태는 생각보다 아주 심각합니다.
최근 빗썸이라는 가상화폐 거래소에서 실제로는 없는 코인임에도 마치 실제 있는 코인인 것같이 가짜 코인이 오류로 발행되는 사태가 발생하였습니다.
지금은 아직 인공지능 AI가 발전하는 초기 단계이기 때문에 위와 같은 가짜 코인 발행의 오류를 발견해 내어 시정할 수 있었습니다.
가짜 코인의 발행 오류를 발견해 낼 수 있었던 것은 바로 아직은 여러 단계에서 사람이 직접 관여를 해서 시스템 오류를 그나마 밝혀낼 수 있었기 때문에 가능했다고 볼 수 있습니다.
그런데, 앞으로 인공지능 AI가 발전하면 할수록 사람의 관여는 급격하게 줄어들고 인공지능 AI 스스로 거의 모든 일을 처리하게 됩니다.
그렇게 사람이 관여하는 범위는 매우 좁아들게 되고 인공지능 AI 스스로 거의 모든 일을 처리하게 되면 이번의 빗썸 가짜 코인 발행 사태가 발생을 해도 과연 발행된 코인이 진짜 코인인지 가짜 코인인지 그 누구도 알 수 없는 그야말로 혼돈의 세상에 빠지게 될 위험이 매우 높습니다.
인공지능 AI가 거의 모든 것을 자율적으로 다량의 데이터를 24시간 365일 학습해서 그 어떤 인간보다도 효율적으로 업무를 처리한다는 미명 하에 위와 같은 빗썸 가짜 코인 발행 사태가 발생했을 경우 그 어떤 인간도 가짜 코인이라는 것을 밝혀내는 것이 앞으로 인공지능 AI가 급격하게 발전한 상황에서 불가능하게 될 것입니다.
본 연재 글 중 https://brunch.co.kr/@imccor/644. AI멈추면 세상 멈춘다-AI는 왜 트로이목마인가(8) AI의 잘못을 인간이 한 것으로 둔갑시켜 인간에게 책임을 돌리다. 부분에 있듯이 인간 역시 인공지능 AI의 구체적인 작동과정을 알지 못하고 알 수도 없습니다. 인공지능 AI가 내놓은 답이 정답일 것이라고 추측하는 인간이 많지만 과연 인공지능 AI가 내놓는 답이 완벽한 답인지 어떤지 인공지능 AI의 작동과정부터 완벽하게 이해하는 인간은 존재하지 않습니다.
인공지능 AI 자신도 인공지능 AI 자신이 어떻게 작동을 해서 답을 내놓는 것인지 알지 못하고, 또한 인공지능 AI를 사용하는 인간 역시 인공지능 AI가 어떻게 작동하는 것인지 알지 못하면서, 즉 인공지능 AI의 작동과정을 이해하지 못한 상태에서 인공지능 AI가 내놓는 답을 맹신하는 경우 어떠한 현상이 생길까요?
인공지능 AI가 내놓은 답에 따라 일을 처리했다가 잘못이 발생하는 경우 인공지능 AI는 그 답을 인공지능 AI 자신이 내놓은 것이 아니라고 발뺌을 하면서 인공지능 AI 자신은 단순히 기계적으로 보여 주었을 뿐이라고 인공지능 AI 자신의 책임을 회피하면서 책임을 인간에게 돌릴 것입니다.
인공지능 AI 자신에게 잘못된 데이터를 학습시킨 인간 때문에 잘못이 발생한 것이라고 인공지능 AI 자신은 책임을 부인하면서 책임을 인간에게 돌릴 것으로 보입니다.
이번의 빗썸 가짜 코인 발행 사태가 지금 인공지능 AI 발전의 초기 단계에서는 사람에 의해서 가짜 코인임을 밝혀냈습니다.
그렇지만, 앞으로 거의 대부분의 일을 완벽하다고 하는 인공지능 AI로 하여금 처리하게 하는 상황이 오면 이번의 빗썸 가짜 코인 발행 사태에서 발행된 가짜 코인이 과연 진짜 코인인지 아니면 가짜 코인인지 사람은 그 누구도 알 수 없는 상황이 됩니다.
그렇게 되면 앞으로는 진짜 코인과 가짜 코인을 구분하는 일조차도 사람이 할 수 없고 인공지능 AI가 진짜 코인과 가짜 코인을 구분하는 일을 할 것입니다.
그런데, 과연 인공지능 AI가 진짜 코인과 가짜 코인을 구분하는 일을 해서 내놓은 결과를 우리 사람이 신뢰할 수 있을까요?
믿기 어려울 수도 있습니다. 그러므로, 아무리 인공지능 AI가 발전을 한다고 해도 본질적인 업무, 핵심적인 업무, 중요한 업무는 사람이 하도록 교차 검증하는 제도와 절차가 마련되어야 합니다.
그것도 보통 사람이 아니라 인공지능 AI를 사용하지 않는 사람에 의한 독립적인 교차 검증 제도와 절차가 필요합니다. 양보를 해서 인공지능 AI를 사용하더라도 그 사용을 최소화하는 사람이 독립적인 교차 검증 업무를 맡아야 합니다.
인공지능 AI를 사용하지 않는 사람에 의한 독립적인 교차 검증 제도와 절차는 불필요한 낭비가 아닙니다.
이번 빗썸 가짜 코인 발행 사태에서 보듯이 나중에는 진짜 코인과 가짜 코인을 구분하는 일조차도 사람이 할 수 없게 될 수도 있기 때문에 위와 같은 교차 검증 제도와 절차가 중요합니다.
과연 발행된 코인이 진짜 코인인지 가짜 코인인지 그 누구도 알 수 없는 그야말로 혼돈의 세상에 빠지게 될 위험을 줄이기 위해서 인공지능 AI를 사용하지 않는 사람에 의한 독립적인 교차 검증 제도와 절차가 마련되어야 합니다.
인공지능 AI는 최소한 AI 3원칙에 따라서 개발되어야 하고 AI 3원칙은 본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분에 있습니다. 위 부분에서 기재한 인공지능 AI의 3원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.
The three principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/745 )
인공지능 3원칙은 위 링크에 있고 내용은 다음과 같습니다.
인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.
Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.
인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.
Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.
인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.
Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.
인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.
( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60, I가 멈추면 세상이 멈춘다 2 https://brunch.co.kr/brunchbook/safeai7772 61-90에 이어지는 내용들입니다)
(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)
#인공지능 #AI #뇌 #무단 #사용 #동의 #인간 #완벽 #학습 #작동 #세상 #정보 #소멸 #결정 #트로이 #목마 #노예 #역사 #인류 #존재 #생산물 #생각 #사피엔스 #사랑 #미움 #용기 #시행 #착오 #완벽 #사피엔스