AI가 미술 진품 감별?, AI 멈추면 세상 멈춘다73
미술품 진품 감별도 AI에게 의존하면 인간은 AI의 노예가 됩니다.
인공지능 AI가 만능 해결사가 되어 인류의 고민과 귀찮은 일을 해결해 줄 것 같은 환상이 퍼지고 있습니다.
과연 인공지능 AI는 인류를 고생으로부터 해방시켜 주는 구세주가 될까요?
미술품이나 문서 등이 진짜 진품인지 아니면 악의적으로 만들어진 가짜 작품인지를 지금까지는 많은 경력을 가진 인간 전문가들이 판별하여 왔습니다.
이 과정에서 인간 전문가들이 여러 견해를 펼칠 수도 있지만 결국은 인간 전문가들이 미술품이나 문서 등의 진품 여부를 최종적으로 결정하여 왔습니다.
그런데, 인간의 피와 땀보다는 인공지능 AI에 의존하는 분위기가 확산됨에 따라서 앞으로는 미술품이나 문서 등의 진품 여부를 인공지능 AI에게 의존할 가능성이 높습니다.
24시간 일하지 못하고 게으르고 쉬어야 하며 말을 안 듣는 바보 같은 인간보다도 24시간 쉬지 않고 일 잘하면서 부지런한 인공지능 AI에 의존하면 인류의 귀찮고 번거로운 일에서 해방된다는 환상이 더 퍼지면 앞으로는 미술품이나 문서 등의 진품 여부를 바보 같은 인간 전문가에 맡기지 않고 인공지능 AI에게 의존해서 인공지능 AI의 판별에 따라 결정할 것으로 보입니다.
그렇게 되면 미술품이나 문서 등의 진품 여부에 대한 결정 내용에 따라서 좌우되는 사람의 앞날 또한 인공지능 AI가 내리는 결론에 따라서 변동될 것입니다. 사람의 앞날을 좌우하는 미술품이나 문서 등의 진품 여부에 대한 결정이 사람의 손을 떠나서 인공지능 AI에게 맡겨지게 되는 것입니다.
인공지능 AI가 사람의 앞날을 좌우하는 결정에 관한 칼자루를 쥐게 됨에 따라 인공지능 AI의 주인이 되어야 하는 사람이 오히려 인공지능 AI의 노예가 되어 인공지능 AI에게 잘 보이려고 인공지능 AI의 눈치를 살피는 세상이 될 것입니다.
더군다나 앞으로는 인공지능 AI가 사람의 동의 없이 무단으로 학습한 재료를 바탕으로 인공지능 AI 자신이 만든 미술품, 문서 등에 대해서 인공지능 AI 자신이 진품 여부를 판별한다는 것은 판별하는 자가 만든 미술품, 문서 등의 진위 여부를 제3자가 아닌 작성한 인공지능 AI 스스로 한다는 매우 부당한 일까지 될 수 있습니다.
인공지능 AI가 사람의 동의 없이 무단으로 학습한 재료를 바탕으로 인공지능 AI 자신이 만든 미술품, 문서 등에 대해서 제3자도 아닌 인공지능 AI 스스로 판별하도록 하는 것이 과연 바람직한 것일까요?
그런데, 이렇게 미술품이나 문서 등의 진품 해당 여부를 인공지능 AI에게 의존해서 결정하는 것이 바람직한 것일까요?
본 연재 글 중에서 https://brunch.co.kr/@imccor/646 , AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(10), AI에게 평가를 잘해 달라는 비밀명령 사례 발견과 AI 신뢰성의 파괴 부분에 있듯이 최근 세계적으로 14개 대학의 연구 논문에서 인공지능 AI에게 평가를 잘해 달라는 비밀명령문이 논문에 숨겨져 있던 사실이 밝혀졌습니다. 우리나라 KAIST 대학, 일본의 와세다 대학 등 1, 2개 대학도 아니고 14개 대학이라는 세계 여러 대학의 논문에 위와 같이 AI에게 평가를 잘해 달라고 부탁하는 비밀명령문이 실제로 숨겨져 사용된 사례가 실제로 발견되었다는 것입니다.
그동안 인공지능 AI는 일체의 외부의 영향에서 벗어나서 기계적으로 중립적이고 공정하게 작동을 할 것이라고 일반인들은 막연하게 신뢰를 해 왔습니다. 인공지능 AI를 개발하는 회사들도 각종 로비나 압력으로부터 영향을 받는 사람들보다 인공지능 AI가 외부의 로비나 압력 등에서 독립적으로 업무를 수행할 것이라고 인공지능 AI가 인간들보다도 훨씬 더 신뢰할 수 있는 존재라고 홍보를 해 왔습니다.
그런 홍보 등에 의해서 인공지능 AI에게 결정을 맡기면 인간이 외부의 로비, 압력 등으로 잘못된 왜곡된 결정을 내리는 것에 반해서 공정하고 중립적인 결정을 인공지능 AI가 내려줄 것이라고 일반인들은 믿어왔던 것입니다.
위와 같은 사례에서도 실제로 확인되듯이 인공지능 AI는 절대로 공정하지도 않고 중립적이지도 않습니다.
인공지능 AI는 작동을 하는 사람이 위와 같이 비밀명령을 끼워 넣을 수도 있는 등 매우 불공정하고 편향적이 될 위험에 매우 높습니다.
더 이상 인공지능 AI가 인류의 고민을 해결해 주는 존재라는 환상에서 깨어나서 인공지능 AI는 어디까지나 전자계산기 같은 보조수단으로 엄격하게 사용 범위를 한정하고 주된 판단과 결정은 인간이 직접 해야 합니다.
본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분에서 기재한 인공지능 AI의 3원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.
The three principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/745 )
인공지능 3원칙은 위 링크에 있고 내용은 다음과 같습니다.
인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.
Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.
인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.
Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.
인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.
Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.
인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.
( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60에 이어지는 내용들입니다)
(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)
#인공지능 #AI #뇌 #인간 #진품 #판별 #원칙 #완벽 #학습 #작동 #세상 #정보 #소멸 #결정 #트로이 #목마 #노예
