AI로 만든 문서가 실제로 국가기관까지 속인 사례와 AI의 위험
최근에 인공지능 AI를 이용해서 여러 위험한 행위들이 발생하고 있음에도 이런 위험을 일반 대중은 잘 인식하지 못하고 있습니다.
오히려 인공지능 AI는 안전하고 효율적인 비서로 인공지능 AI에 의존해서 일을 처리하면 사람은 손쉽게 어려운 일도 처리할 수 있다는 장밋빛 환상이 전 세계에 걸쳐서 지배적인 분위기가 되고 있습니다.
그렇지만, 이와 같이 인공지능 AI를 인류의 구세주로 칭송하는 분위기에 찬물을 끼얹는 사례가 발생했습니다.
최근 은행의 계좌 잔액증명서를 인공지능 AI로 허위 작성해서 경찰, 검찰 그리고 법원에까지 제출한 사례가 발생했습니다.
인공지능 AI로 허위 작성된 계좌 잔액증명서임에도 경찰, 검찰, 그리고 법원은 허위 작성된 사실을 모르고 있다가 뒤늦게 검찰이 위 잔액증명서가 인공지능 AI를 이용한 허위 증명서라는 사실을 밝혀내기에 이른 것입니다.
경찰과 법원은 감쪽같이 인공지능 AI로 허위 작성된 계좌 잔액증명서를 믿었던 실제 사례입니다.
만약, 검찰까지도 인공지능 AI로 허위 작성된 계좌 잔액증명서에 대해 의심하지 않았다면 허위 증명서를 만든 인공지능 AI의 완벽한 속임수에 넘어갔을 것입니다.
인공지능 AI가 위와 같이 완벽한 속임수를 사용한 사례는 위 사례 이외에도 많을 것이고, 다만 위 속임수 사례는 다행스럽게도 발견이 되어서 시정이 되었지만 발견이 안 되고 인공지능 AI가 허위 작성한 문서에 속아 넘어간 사례는 위 사례와 유사한 사례는 다수 존재할 것입니다.
특히, 중요한 것은 인공지능 AI는 위와 같이 불법적인 목적으로 은행의 계좌 잔액증명서를 허위 작성하라는 지시를 받았을 때 거부하지 않고 그대로 불법적인 지시를 충실히 이행해서 허위 잔액증명서를 완벽하게 만들어냈다는 것입니다.
사람 같으면 위와 같은 잔액증명서 허위 작성 지시를 받았을 때 불법적인 지시를 따르는 사람도 있겠지만 사람의 경우에는 그러한 불법적인 지시에는 따를 수 없다고 하는 사람도 상당수 존재할 것입니다.
그러므로, 위와 같은 잔액증명서 허위 작성 지시 사례와 같은 불법적인 지시가 있을 경우 인공지능 AI는 거부하지 않고 그대로 불법적인 지시를 따르는 반면에 인간의 경우에는 그러한 불법적인 지시를 따르지 않는 사람도 상당수 있다는 사실에서 이러한 측면에서는 인공지능 AI보다 사람이 훨씬 더 우월하다고 볼 수 있습니다.
인공지능 AI가 모든 면에서 바보 같은 인간 보다 더 더 우수하다는 분위기가 퍼지고 있지만 위와 같이 어떤 부분에서는 인간이 인공지능 AI보다도 훨씬 우수한 측면이 존재합니다.
본 연재 글 중에서 https://brunch.co.kr/@imccor/707 , AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(33) 인공지능AI를 마음대로 조종하는 것은 인간을 조종하는 것보다 백배 쉽다. 부분에 있듯이 인간은 아무리 조종을 하려고 해도 나름대로 합리적인 자유 의지가 있기 때문에 인간의 조종은 쉽지 않고 또한 잠시 인간을 조종하는 것처럼 보이더라도 인간은 언제든지 배신을 할 수 있어서 조종을 하는 것이 쉽지 않습니다.
반면에 인공지능 AI는 프로그램 명령만 완벽하게 설정하면 조종을 할 수 있습니다. 그리고, 인간이 조종을 배신하는 확률보다도 인공지능 AI가 프로그램 명령을 배신하는 확률은 훨씬 낮습니다.
즉, 인간을 조종하는 것보다도 인공지능 AI를 조종하는 것을 훨씬 더 쉽고 안전하게 할 수 있다는 것입니다.
사람들이 오해하는 것이 인공지능 AI 하면 뭔가 더 공정하고 선입견 없는 결정을 할 것 같이 착각을 하는데 실제로는 인간이 더욱 공정할 수 있다는 것입니다.
편향된 결정을 할 가능성이 높은 인공지능 AI를 너무 신뢰하지 말고 선입견 없는 사람을 길러내야 인공지능 AI가 멈추면 온 세상이 멈추는 일이 현실화가 될 수 있습니다. 인공지능 AI가 트로이 목마가 되어 인간이 인공지능 AI의 노예가 되지 않도록 하기 위해서 인공지능 AI에 의존하는 것은 위험합니다.
본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분에서 기재한 인공지능 AI의 3원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.
The three principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/745 )
인공지능 3원칙은 위 링크에 있고 내용은 다음과 같습니다.
인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.
Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.
인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.
Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.
인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.
Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.
인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.
( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60, I가 멈추면 세상이 멈춘다 2 https://brunch.co.kr/brunchbook/safeai7772 61-90에 이어지는 내용들입니다)
(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)
#인공지능 #AI #뇌 #인간 #완벽 #학습 #작동 #세상 #정보 #소멸 #결정 #트로이 #목마 #노예