AI와 거짓말탐지기, AI 멈추면 세상멈춘다74
거짓말 탐지기를 100% 믿을 수 없듯이 AI도 믿을 수 없는 존재입니다
인공지능 AI와 거짓말탐지기가 서로 어떤 관계에 있는지 의아해 할 수도 있지만, 다음과 같은 공통점이 있습니다.
인공지능 AI도 인간이 만든 지능으로 인간의 귀찮을 일을 해결해 주는 만능기계가 되는 것을 목표로 하고 있습니다.
거짓말탐지기도 사람이 거짓말을 한다는 것을 객관적인 지표로 혈압, 맥박수 등 생체적인 증거들로 구분해 낼 수 있는 것을 목표로 하고 있습니다.
인공지능 AI가 모든 일을 오류 없이 정확하게 처리해서 인류의 고민인 문제를 실수 없이 해결할 수 있다면 인공지능 AI로 인한 유토피아(UTOPIA)가 금방 도래할 수 있을 것입니다.
거짓말탐지기 역시 과연 어떤 사람이 하는 말이 사실인지 거짓인지를 누구도 열 길 물속은 알아도 한 길 사람 속은 모르기 때문에 정확하게 알 수 없다는 고민을 해결하고자 인류의 고민을 해결하고자 개발된 것입니다. 거짓말탐지기가 사람의 말이 진실인지 혹은 거짓인지 100% 정확하게 판별해 낼 수 있다면 어느 분야에서든지 거짓말탐지기를 활용해서 사실과 거짓을 오차 없이 밝혀 내어 분쟁이 발생하지 않도록 하는 유토피아(UTOPIA) 사회가 금방 도래할 수 있을 것입니다.
그렇지만, 인공지능 AI도 완벽하지 않은 결함이 존재하고 거짓말탐지기 역시 거짓말을 진실로 또는 진실을 거짓말로 착오로 판정할 수 있는 결함이 존재합니다.
한국 법원이나 미국 법원 모두 거짓말탐지기의 결과(사실 판정 결과 또는 거짓 판정 결과)에 대해 법적인 증거능력을 부정하고 있습니다. 즉, 거짓말탐지기의 결과를 그대로 믿을 수 없다는 것입니다.
거짓말탐지기의 결과가 거짓 판정 결과로 나왔다는 것만을 직접 증거로 해서 사람을 처벌할 수 없다는 이야기입니다.
위와 같이 보는 이유는 거짓말탐지기의 판정에 오류(거짓말인데도 사실인 것으로 판정하거나 또는 사실인데도 거짓말로 판정하는 거짓말탐지기의 오류)가 존재할 수 있다는 것이 과학적으로 증명되었기 때문입니다.
거짓말탐지기가 만들어진 것이 아무리 올바른 목적(사실과 거짓을 정확하게 밝혀서 억울한 사람을 보호하거나 또는 악의적으로 거짓말을 하는 사람을 가려내기 위한 목적)을 위한 것이라고 하더라도 올바른 목적이 있다고 해서 거짓말탐지기에 오류가 있을 수밖에 없다는 사실은 엄연히 현실이고 거짓말탐지기의 오류로 인해서 피해가 발생하는 것은 방지해야 합니다.
마찬가지로 인공지능 AI 역시 인류를 번거롭고 귀찮은 일에서 해방시켜 준다는 올바른 목적을 위해서 개발되었다고 하더라도 인공지능 AI의 결함이나 오류가 있을 수밖에 없다는 사실은 엄연히 현실입니다.
인공지능 AI가 아무리 좋은 효과가 있고 인류를 위해서 상당 부분 긍정적인 일을 해 준다고 하더라도 인공지능 AI의 결함이나 오류가 항상 존재한다는 사실을 가릴 수는 없습니다.
오류가 존재하는 거짓말탐지기를 직접 증거로는 사용할 수 없지만 다른 증거들이 있는 상태에서는 정황증거의 하나로 활용할 수 있듯이 거짓말탐지기는 만능의 해결사가 아니고 어디까지나 보조적인 자료가 될 수 있을 뿐이고 제한적인 범위에서 사용하는 것이 적절합니다.
인공지능 AI의 경우 역시 사람이 인공지능 AI에게만 의존해서 사람으로서의 기본적인 고민과 통찰을 하지 않는 것은 바람직하지 않습니다. 전자계산기를 보조수단으로 사용하듯이 주된 결정 등은 사람이 직접 뇌세포를 움직이는 고민과 성찰을 통해서 결정해야만 하고 결함이나 오류가 있을 수밖에 없는 인공지능 AI는 사람의 결정에 보조가 되는 보조수단으로 엄격하게 제한적으로만 사용되는 것이 적절합니다.
인공지능 AI가 아무리 많은 데이터를 인간의 동의 없이 무단으로 학습해서 정확도가 높은 생성결과를 내놓는다고 하더라도 인공지능 AI의 생성 결과에는 오류나 결함이 존재하는 것은 부인할 수 없습니다.
인공지능 AI의 도움 없이는 결정과 판단을 할 수 없는 사람이 늘어간다면 인간이 땀냄새는 사라져 갈 것입니다. 인간 모두가 인공지능 AI에 의존해서 생활을 하고 인공지능 AI의 도움 없이는 생활하기 어려운 상황이 된다면 그 상태는 바로 인공지능 AI가 인류를 정복한 상황이라고 할 수 있을 것입니다.
본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분에서 기재한 인공지능 AI의 3원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.
The three principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/745 )
인공지능 3원칙은 위 링크에 있고 내용은 다음과 같습니다.
인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.
Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.
인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.
Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.
인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.
Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.
인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.
( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60에 이어지는 내용들입니다)
(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)
#인공지능 #AI #뇌 #인간 #전자상거래 #철회권 #원칙 #완벽 #학습 #작동 #세상 #정보 #소멸 #결정 #트로이 #목마 #노예
