본래 주인인 인간을 받들어야 하는 AI를 인간이 주인으로 모시는 현실
아주 당연한 질문이 있습니다.
돈 나고 사람 난 것이 아니고 사람 나고 돈이 나왔다는 말이 있습니다.
세상의 돈보다도 인간 한 사람이 더 귀중하다는 이야기입니다.
그런데, 현실에서는 돈이 우선이고 사람은 돈 보다도 덜 중요한 존재로 여겨지는 경우가 있는 것이 현실입니다.
인공지능 AI의 경우는 어떨까요?
이론적으로는 사람이 주인이고 인공지능 AI는 사람을 받들여 모셔야 하는 인간의 하인이자 머슴 같은 존재라고 볼 수 있습니다.
그런데, 현실은 이와 달리 흘러가고 있습니다.
극명한 한 가지 사례가 은행에서 대출을 받기 위한 심사를 받는 절차입니다.
과거에는 사람이 대출을 신청한 사람의 신용 등급이나 재무 상태 등을 검토하고 대출을 할 것인가 아니면 대출을 하지 않을 것인가를 사람이 결정하여 왔습니다.
그렇지만, 최근에는 이러한 대출 신청에 있어서 대출을 하기로 할지 아니면 대출을 하지 않을지 하는 결정권을 사실상 인공지능 AI 가 결정하는 시대로 변하고 있는 것입니다.
은행들은 인건비 절약과 시간의 단축 등을 이유로 해서 시간이 많이 소요되고 인건비도 많이 소요되는 사람에 의한 대출 심사를 최대한 줄이고 대부분의 대출 심사 과정을 인공지능 AI에게 맡기는 추세입니다.
대출을 결정하는 은행 입장에서야 인건비도 줄이고, 시간도 절약해 주는 인공지능 AI로 하여금 대출 과정을 진행하도록 하고 대출 여부의 결정까지도 인공지능 AI의 알고리즘으로 결정하도록 하면 비용도 절약하고 시간도 줄이는 일석이조의 효과를 인공지능 AI를 통해서 달성할 수 있으므로 이러한 인공지능 AI의 대출 심사 과정에서의 사용은 급속하게 늘어날 것으로 보입니다.
그리고 우리 인간이 위와 같은 인공지능 AI의 알고리즘에 의한 대출 심사에 동의해서 우리의 귀중한 정보들을 무심코 인공지능 AI에게 건네는 순간 우리는 인공지능 AI를 훈련시켜 주는 존재로 전락하는 것입니다.
그렇지만, 과연 인공지능 AI를 통한 대출심사 과정 진행 및 대출 여부 결정을 하는 것이 장기적으로 은행과 소비자인 인간에게 바람직한 것일까요?
대출을 신청하는 사람들로서도 초기에는 시간도 줄이고 자동화된 절차를 통해서 대출 여부를 신속하게 알 수 있는 인공지능 AI에 의한 대출 심사에 거부감이 별로 들지 않을 것입니다.
그렇지만, 이런 방향으로 계속 가게 되면 나중에는 과연 인공지능 AI가 어떤 이유로 대출을 신청한 인간의 대출 신청을 거부하였는지 명확한 이유도 설명받지 못하고 대출이 거부되는 사례가 증가하게 될 것입니다.
우리 인간이 위와 같은 인공지능 AI의 알고리즘에 의한 대출 심사에 동의해서 우리의 귀중한 정보들을 무심코 인공지능 AI에게 건네는 순간 우리는 인공지능 AI를 훈련시켜 주는 존재로 전락하는 것도 바람직하지 않습니다.
거기에다가 우리 인간이 건네주는 우리의 개인정보로 학습 훈련을 해서 고도화된 인공지능 AI가 나중에는 우리의 상전이 되어서 우리 인간의 대출 신청을 거부해도 우리 인간은 대출 신청 거부의 이유도 모른 채 인공지능 AI의 결정을 받아들여야 하는 존재, 사실상 우리 인간이 인공지능 AI를 주인으로 받들어 모셔야 하는 존재가 될 것입니다.
대출이 거부된 경우 신청한 사람은 어떤 사유로 대출이 거부된 것인지를 은행에 문의할 것입니다. 은행은 인공지능 AI가 수많은 데이터를 학습해서 공정하고 객관적으로 알고리즘에 의한 절차로 대출을 거부한 것이라는 명분을 들어서 인공지능 AI의 대출 심사 절차가 공정하고 투명하다는 주장을 하면서 인공지능 AI의 결정은 중립적인 결정이라고 하면서 대출이 거부된 사람의 민원을 반려할 것입니다.
그렇게 되면 대출이 거부된 사람은 어디에도 하소연할 데가 없습니다.
사람에 의한 대출 심사라면 대출 심사를 진행한 사람을 상대로 책임을 추궁할 수도 있지만 수많은 데이터 학습을 통해서 공정하고 투명하다는 포장으로 보호막이 두껍게 쳐져 있는 인공지능 AI에 의한 대출 심사에서는 대출이 거부되더라도 인공지능 AI를 상대로 책임을 추궁하는 것이 현실적으로 계란으로 바위를 치는 것 같이 불가능한 일이 될 것입니다.
위의 사례는 은행에서 인공지능 AI를 통한 대출 심사 자동화를 예로 들었습니다.
이외에도 모든 사회 분야에서, 즉 학교에서 인공지능 AI를 통한 시험의 채점, 각종 회사에서 인공지능 AI를 통한 채용 등 거의 모든 사회 분야에서 이제 인공지능 AI가 주체가 되는 심사가 급속하게 늘어나고 위 인공지능 AI를 통한 대출 심사 자동화 사례와 같이 이제 인공지능 AI라는 두터운 보호막을 걸친 심사에 대해 일반 보통 사람이 문제 제기를 하는 것은 불가능하게 될 것입니다.
그렇게 되면 본래 주인인 인간을 받들어야 하는 인공지능 AI를 인간이 주인으로 모시는 현실이 될 것입니다.
이러한 세상, 즉 인간이 인공지능 AI가 주체가 되는 심사 절차가 늘어나서 인공지능 AI의 눈치를 보면서 인공지능 AI의 인간 평가를 수용할 수밖에 없는 미래의 세상 이것이 정말로 최선의 세상이라고 볼 수 있을지 의문스럽습니다.
늦었지만 아직 시간은 남아 있습니다.
우리 보통 인간이 정신을 차려야 합니다.
은행의 경우 인공지능 AI가 심사 주체가 되는 대출 심사를 확장하는 은행에 대해서는 예금 등 거래를 하지 말고 사람이 주체가 되는 대출 심사를 진행하는 은행에 새로 계좌를 개설하는 운동을 벌여야 합니다.
우리 보통 인간이 인공지능 AI의 사용을 확산시키는 은행, 회사와의 거래를 중지하고 사람의 땀으로 일을 하는 은행, 회사와의 거래를 늘린다면 우리 인간은 계속 주인이 될 수 있을 것입니다.
더 늦기 전에 우리 보통 사람이 인공지능 AI를 주인으로 모시고 살아야 하는 세상이 오기 전에 우리 보통 사람이 정신을 차려서 인간이 주인이 되고 인공지능 AI는 우리 인간을 모시도록 하는 세상이 되도록 정신을 바짝 차리고 노력을 하여야 할 것입니다.
더 이상 당장 불편하지 않다고 해서 인공지능 AI가 주체가 되는 심사 절차가 늘어나는 것을 우리 인간이 방관하는 경우 인공지능 AI가 주체가 되는 심사 절차가 늘어나서 우리 인간은 인공지능 AI를 받들어 모시면서 인공지능 AI의 눈치를 보고 살아야 하는 세상이 어느새 우리 눈앞의 현실이 될 것입니다.
제도와 절차도 바뀔 수 있도록 우리 보통 사람이 노력해야 할 것입니다.
우리 보통 사람이 일상생활에서 사용하는 모든 상품, 용역, 프로세스(process), 절차 등에 있어서 인공지능 AI가 수행하는 구체적인 비율과 내용 등을 명확하게 표시하도록 의무화하는 제도와 절차가 마련되도록 압박을 해야 합니다.
인공지능 AI가 수행하는 구체적인 비율과 내용 등을 명확하게 표시하도록 의무화하는 제도와 절차가 마련되어야 우리 인간은 선택을 할 수 있기 때문입니다.
사람이 많은 부분을 땀을 흘려 수행하는 상품, 용역, 프로세스(process), 절차 등을 선택할 것인지 아니면 인공지능 AI가 대부분의 일을 수행하는 상품, 용역, 프로세스(process), 절차 등을 선택할 것인지를 구체적인 비율과 내용을 우리 보통 사람이 알고 어느 것을 선택할지 선택하도록 해야 합니다.
그렇지 않고 우리 보통 사람이 구체적인 비율과 내용을 파악하지 못하고, 즉 과연 사람이 대부분을 수행한 것을 우리 보통 사람이 선택하는 것인지 아니면 인공지능 AI가 대부분을 수행한 것을 선택하는 것인지 조차 알지 못한다면 우리 보통 사람은 선택권을 행사할 수 없기 때문입니다.
지금부터라도 인공지능 AI가 멈추면 온 세상이 멈추는 세상이 되지 않도록 하기 위해서 우리 인간 한 사람 한 사람이 인공지능 AI에 대한 경각심을 가야 합니다. 그렇지 않으면, 트로이 목마 안에 숨어 있던 군인들에 의해 점령되는 것과 같이 인공지능 AI라는 트로이 목마로 인해서 인류는 생존하지 못할 수도 있습니다.
실제로 있었던 세계적인 서비스인 클라우드플레어의 작동 중지로 인공지능 AI가 중지되어 전 세계적으로 인공지능 AI의 작동 중지에 대비해 놓지 않은 많은 사람들과 회사들이 초유의 혼란을 겪었던 사태를 교훈으로 인공지능 AI가 24시간 365일 안정적으로 작동하는 것이 보장되는 것은 아님을 알고, 언제든지 주요 서비스의 작동 중지로 인공지능 AI의 중지 사태에 대비한 대비책 또는 예방책을 미리 세워 놓아야 할 것입니다.
용어로 인한 잘못된 환상과 오해를 줄이기 위해서 앞으로는 단순히 Artificial Intelligence라고 이름을 붙이는 것은 지양하고 대신에 앞에 통제할 수 없는 이라는 뜻을 가진 Uncontrollable을 추가해서 Uncontrollable Artificial Intelligence, UAI, 즉 통제 불가능한 인공지능이라고 사용하는 것이 바람직할 것입니다.
인공지능 AI는 최소한 AI 3원칙에 따라서 개발되어야 하고 AI 3원칙은 본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분에 있습니다. 위 부분에서 기재한 인공지능 AI의 3원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.
The three principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/745 )
인공지능 3원칙은 위 링크에 있고 내용은 다음과 같습니다.
인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.
Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.
인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.
Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.
인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.
Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.
인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.
( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60, AI가 멈추면 세상이 멈춘다 2 https://brunch.co.kr/brunchbook/safeai7772 61-90, AI가 멈추면 세상이 멈춘다 3 https://brunch.co.kr/brunchbook/safeai7773 91-120에 이어지는 내용들입니다)
(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)
#인공지능 #AI #뇌 #무단 #사용 #동의 #인간 #완벽 #학습 #작동 #세상 #정보 #소멸 #결정 #트로이 #목마 #노예 #역사 #인류 #존재 #생산물 #생각 #사피엔스 #사랑 #미움 #용기 #시행 #착오 #완벽 #사피엔스 #과학 #활동 #탄소 #온난화 #지구 #기온 #협정 #상대성 #원리 #수학 #알고리즘 #철학