사람이 개입하지 않았다면 빗썸 비트코인 사태는 밝혀지지 않고 넘어갔을 것
최근 가상화폐 거래소인 빗썸에서 랜덤박스 이벤트 지급과정에서 엄청난 실수가 발생했습니다.
당첨자에게 지급하는 과정에서 원을 비트코인으로 착오로 잘못 입력한 관계로 비트코인 62만 개가 지급되는 엄청난 사태가 발생한 것입니다.
62만 개의 비트코인은 발행될 수 없음에도 존재하지 않는 코인이 발행되는 그야말로 중대한 실수가 발생한 것입니다.
위와 같은 사태가 발생한 것은 잘못이지만 이벤트 시작 후 약 20분 만에 사고를 인지해서 잘못 지급된 관련 게좌의 거래와 출금을 중지시켜서 더 큰 사태로 확대되지는 않았습니다.
위와 같은 이벤트 당첨자에게 지급하는 거래 과정에서 사람이 개입하였기 때문에 위와 같이 실수가 발생한 후 20분 정도 경과하여 그래도 사고를 인지할 수 있었습니다.
그런데, 만약 가정을 해서 위와 같은 이벤트 지급 과정이 인공지능 AI를 이용한 완전 자동화된 거래로 알고리즘을 수행했다면 어떻게 되었을까요?
인공지능 AI가 알고리즘으로 완전 자동화된 거래 구조 하에서 위와 같이 발행되어서는 안 되는 비트코인을 지급한다는 거래가 형성된 경우 사람이 개입되지 않았기 때문에 인공지능 AI로 인한 비트코인 지급이 된 후 발견되지 않고 그대로 위와 같은 62만 개의 비트코인 발행된 것이 정상 거래로 처리되어 그대로 진행되었을 것입니다.
그렇게 사람의 개입 없이 이벤트 거래가 인공지능 AI 알고리즘으로 수행되는 완전 자동화 거래로 진행되었다면 발행되어서는 안 되는 비트코인 62만 개만큼의 대금이 결제되어야 하는 사태로 사실상 크나큼 경제 위기를 초래할 만한 사태가 발생했을 것입니다.
바로 이러한 점 때문에 인공지능 AI에 100% 의존해서 모든 거래를 진행시켜서는 안 된다는 교훈을 얻을 수 있습니다.
비용 측면에서만 보면 고비용의 사람의 개입을 없애고 저비용의 효율적인 인공지능 AI 100%만으로 이벤트 거래를 진행시키는 것이 훨씬 신속하고 저렴하였을 것입니다.
그렇지만, 아무 사고가 일어나지 않으면 인공지능 AI 100%만으로 이벤트 거래를 진행시키는 것이 유리하지만, 문제는 바로 위와 같이 거래 과정에서 착오, 실수 등이 발생할 수 있다는 것입니다.
인공지능 AI 100%만으로 이벤트 거래를 진행시키는 경우 위와 같은 착오, 실수 등을 발견하지 못하고 그대로 거래를 진행하게 해서 위와 같이 커다란 사태로까지 발전될 수 있습니다.
반면에 비용적으로는 사람이 개입해서 인건비가 들어가더라도 위와 같은 착오, 실수 등을 발견해 내어서 위 62만 개 잘못된 비트코인 발행 사태에서 더 이상 큰 문제로 확대되는 것을 20분 만에 막음으로써 인공지능 100%에 의한 완전 자동화 거래가 얼마나 위험한 거래인지 알 수 있게 된 것입니다.
본 연재 글 중 https://brunch.co.kr/@imccor/646, AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(10) AI에게 평가를 잘해 달라는 비밀명령 사례 발견과 AI 신뢰성의 파괴 부분에 있듯이 최근 세계적으로 14개 대학의 연구 논문에서 인공지능 AI에게 평가를 잘해 달라는 비밀명령문이 논문에 숨겨져 있던 사실이 밝혀졌습니다. 우리나라 KAIST 대학, 일본의 와세다 대학 등 1, 2개 대학도 아니고 14개 대학이라는 세계 여러 대학의 논문에 위와 같이 AI에게 평가를 잘해 달라고 부탁하는 비밀명령문이 실제로 숨겨져 사용된 사례가 실제로 발견되었다는 것입니다.
인공지능 AI는 어떤 인간의 개입이나 영향 없이 중립적이고 공정하게 작동할 것이라고 철석같이 믿어 왔던 일반인들에게 위 사례는 놀라움을 안겨주었고, 일반인들은 이제 인공지능 AI에 대한 긍정적인 신뢰를 할 수 없게 되었습니다.
그리고, 더욱 중요한 것은 인공지능 AI에게 평가를 잘해 달라는 비밀명령문을 사용하는 것이 효과가 있어서 위 비밀명령문이 사람들 모르게 숨겨 있는 논문은 그렇지 않은 비밀명령문이 없는 논문에 비해서 더 우수한 평가를 받았을 것이라는 점입니다. 그렇지 않으면, 1, 2개 대학도 아니고 14개 대학에 걸쳐서 위와 같이 광범위하게 인공지능 AI에 대한 비밀명령문이 사용되지 않았을 것이기 때문입니다.
위 인공지능 AI에 대한 비밀명령문이 효과가 있었기 때문에 1, 2개 대학도 아니고 전 세계적으로 무려 14개 대학에 걸쳐서 위와 같은 인공지능 AI에 대한 비밀명령문이 실제로 사용되었던 것입니다.
그러므로, 이제 인공지능 AI 인간보다 공정하고 중립적으로 작동할 것이라는 신뢰는 중대하게 파괴되었다고 볼 수 있습니다.
위 빗썸 비트코인 사태에서 인공지능 AI 100%만으로 이벤트 거래를 진행시켰다면 위 비밀명령문의 사례와 같이 비트코인 대금이 지급 완료된 후에 착오로 비트코인 발행 사실을 알게 되더라도 너무 뒤늦게 알게 된 후에는 더 이상 수습할 수 없는 상황이 될 것입니다.
신속하고 효율적으로 일을 처리하는 것도 중요하지만 더욱 중요한 것은 이 빗썸 비트코인 사태에서 보듯이 착오나 실수로 인한 사태를 얼마나 빨리 발견해서 시정할 수 있는가 하는 것입니다.
사람의 개입 없이 인공지능 AI 100%만으로 완전 자동화를 하게 되면 신속성과 효율성은 높아지겠지만 위와 같이 착오나 실수로 인한 사태 발생 시 속수무책으로 위험이 커질 수 있는 것입니다.
인공지능 AI 100%만으로 이벤트 거래를 진행시키는 경우 위와 같은 착오, 실수 등을 발견하지 못하고 그대로 거래를 진행하게 해서 위와 같이 커다란 사태로까지 발전될 수 있습니다.
위 인공지능 AI에 대한 비밀명령 사례와 같이 인공지능 AI 100%만으로 이벤트 거래를 진행시키는 경우 비밀명령문으로 잘못 지급된 비트코인을 그대로 방치하도록 명령할 수 있고 이 명령에 따라서 인공지능 AI가 잘못 지급된 비트코인을 눈감아 주는 사태가 되는 경우 인공지능 AI 100% 완전 자동화 거래에서는 눈덩이 같이 사태가 커질 수 있는 것입니다.
지금부터라도 인공지능 AI가 멈추면 온 세상이 멈추는 세상이 되지 않도록 하기 위해서 우리 인간 한 사람 한 사람이 인공지능 AI에 대한 경각심을 가야 합니다. 그렇지 않으면, 트로이 목마 안에 숨어 있던 군인들에 의해 점령되는 것과 같이 인공지능 AI라는 트로이 목마로 인해서 인류는 생존하지 못할 수도 있습니다.
실제로 있었던 세계적인 서비스인 클라우드플레어의 작동 중지로 인공지능 AI가 중지되어 전 세계적으로 인공지능 AI의 작동 중지에 대비해 놓지 않은 많은 사람들과 회사들이 초유의 혼란을 겪었던 사태를 교훈으로 인공지능 AI가 24시간 365일 안정적으로 작동하는 것이 보장되는 것은 아님을 알고, 언제든지 주요 서비스의 작동 중지로 인공지능 AI의 중지 사태에 대비한 대비책 또는 예방책을 미리 세워 놓아야 할 것입니다.
용어로 인한 잘못된 환상과 오해를 줄이기 위해서 앞으로는 단순히 Artificial Intelligence라고 이름을 붙이는 것은 지양하고 대신에 앞에 통제할 수 없는 이라는 뜻을 가진 Uncontrollable을 추가해서 Uncontrollable Artificial Intelligence, UAI, 즉 통제 불가능한 인공지능이라고 사용하는 것이 바람직할 것입니다.
인공지능 AI는 최소한 AI 3원칙에 따라서 개발되어야 하고 AI 3원칙은 본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분에 있습니다. 위 부분에서 기재한 인공지능 AI의 3원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.
The three principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/745 )
인공지능 3원칙은 위 링크에 있고 내용은 다음과 같습니다.
인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.
Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.
인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.
Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.
인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.
Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.
인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.
( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60, AI가 멈추면 세상이 멈춘다 2 https://brunch.co.kr/brunchbook/safeai7772 61-90, AI가 멈추면 세상이 멈춘다 3 https://brunch.co.kr/brunchbook/safeai7773 91-120에 이어지는 내용들입니다)
(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)
#인공지능 #AI #뇌 #무단 #사용 #동의 #인간 #완벽 #학습 #작동 #세상 #정보 #소멸 #결정 #트로이 #목마 #노예 #역사 #인류 #존재 #생산물 #생각 #사피엔스 #사랑 #미움 #용기 #시행 #착오 #완벽 #사피엔스 #과학 #활동 #탄소 #온난화 #지구 #기온 #협정 #상대성 #원리 #수학 #알고리즘 #철학