모든 절차 특히 입사 면접 절차에서 AI 또는 사람을 선택할 수 있어야
최근 인건비의 절약을 위해서 거의 모든 사회 분야가 사람 대신 인공지능 AI로 대체하는 흐름이 가속화되고 있습니다.
은행에 가서 대출 심사를 받는 절차도 인공지능 AI가 심사를 하고 있습니다. 사람이 대출을 심사하게 되면 인건비가 많이 들기 때문에 인공지능 AI를 이용하여 인건비를 절약하려고 하는 것입니다.
채용을 위한 면접 절차에서도 사람이 면접을 보지 않고 응시자가 인공지능 AI로부터 면접을 보게 되는 경우가 급속도로 늘어가고 있습니다.
응시하는 사람 입장에서는 면접을 시행하는 회사의 눈치를 볼 수밖에 없기 때문에 회사가 인공지능 AI를 통한 면접을 하기로 하면 응시자는 인공지능 AI를 통한 면접을 수용할 가능성이 높습니다.
인공지능 AI가 주체가 되는 면접은 과연 공정하고 투명하게 중립적으로 이루어지는 것일까요?
오프라인이 아닌 온라인에서 가르치는 일을 하는 회사인 iTurorGroup이라는 회사가 응시자에 대해 인공지능 AI에 의한 면접을 시행하였습니다.
그런데, 중요한 문제는 면접을 시행하는 인공지능 AI 프로그램의 알고리즘에 일정 연령 이상의 응시자를 자동으로 탈락시키는 내용을 포함시켰다는 것입니다. 여상은 55세 이상, 남성은 60세 이상이기만 하면 연령을 이유로 자동 탈락시키는 내용을 인공지능 AI 프로그램의 알고리즘에 포함시킨 것입니다.
이러한 연령을 기반으로 한 차별행위에 대해서 미국에서 소송이 제기되었고, iTurorGroup이라는 회사는 인공지능 AI에 의한 면접에서 위와 같이 연령을 기준으로 차별행위를 한 사실을 인정한 사례가 미국에서 있었습니다.
위 실제 사례에서도 발견되듯이 인공지능 AI는 공정하고 중립적일 것이라는 보통 사람의 선입견과 달리 실제로는 주입한 알고리즘에 따라서 얼마든지 차별적이고 편향적이 될 수 있다는 것입니다.
오히려 사람이 주체가 되는 면접이 더 공정하고 중립적이며 투명한 면접이 될 수가 있는 것입니다.
본 연재 글 중 https://brunch.co.kr/@imccor/646, AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(10) AI에게 평가를 잘해 달라는 비밀명령 사례 발견과 AI 신뢰성의 파괴 부분에 있듯이 최근 세계적으로 14개 대학의 연구 논문에서 인공지능 AI에게 평가를 잘해 달라는 비밀명령문이 논문에 숨겨져 있던 사실이 밝혀졌습니다. 우리나라 KAIST 대학, 일본의 와세다 대학 등 1, 2개 대학도 아니고 14개 대학이라는 세계 여러 대학의 논문에 위와 같이 AI에게 평가를 잘해 달라고 부탁하는 비밀명령문이 실제로 숨겨져 사용된 사례가 실제로 발견되었다는 것입니다.
그리고, 더욱 중요한 것은 인공지능 AI에게 평가를 잘해 달라는 비밀명령문을 사용하는 것이 효과가 있어서 위 비밀명령문이 사람들 모르게 숨겨 있는 논문은 그렇지 않은 비밀명령문이 없는 논문에 비해서 더 우수한 평가를 받았을 것이라는 점입니다. 그렇지 않으면, 1, 2개 대학도 아니고 14개 대학에 걸쳐서 위와 같이 광범위하게 인공지능 AI에 대한 비밀명령문이 사용되지 않았을 것이기 때문입니다.
인공지능 AI에게 평가를 잘해 달라는 비밀명령문(사람이 알지 못하게 하얀 배경에 흰 글씨로 기재한 비밀명령문 또는 사람이 알기 어려울 정도로 작게 기재한 비밀명령문)을 사용한 대학이 전 세계적으로 실제 발견된 사례만 14개 대학이라는 적지 않은 대학에 이르는 것으로 보면 위와 같은 인공지능 AI에 대한 비밀명령문은 인공지능 AI에게 충분히 효과가 있었고, 위와 같은 비밀명령문이 기재된 논문을 인공지능 AI는 위 비밀명령에 의해서 우수하게 평가해 주었다고 볼 수 있습니다.
인공지능 AI는 외부의 개입 없이 철저하게 기계적으로 작동해서 믿을 만한 것이라고 믿어왔던 일반인들에게 위 내용은 기존의 고정관념을 바꾸기에 충분한 것이라고 볼 수 있습니다.
위 인공지능 AI에 대한 비밀명령문이 효과가 있었기 때문에 1, 2개 대학도 아니고 전 세계적으로 무려 14개 대학에 걸쳐서 위와 같은 인공지능 AI에 대한 비밀명령문이 실제로 사용되었던 것입니다.
그러므로, 이제 인공지능 AI가 인간보다 공정하고 중립적으로 작동할 것이라는 신뢰는 중대하게 파괴되었다고 볼 수 있습니다.
위 비밀명령문이 실제로 사용된 사례에서 보듯이 인공지능 AI에 대한 지나친 낙관과 신뢰를 하여서는 안 됩니다. 인공지능 AI가 멈추면 온 세상이 멈추는 세상이 되는 것을 수수방관하면서 보고만 있을 수는 없습니다.
지금부터라도 인공지능 AI가 멈추면 온 세상이 멈추는 세상이 되지 않도록 하기 위해서 우리 인간 한 사람 한 사람이 인공지능 AI에 대한 경각심을 가야 합니다. 그렇지 않으면, 트로이 목마 안에 숨어 있던 군인들에 의해 점령되는 것과 같이 인공지능 AI라는 트로이 목마로 인해서 인류는 생존하지 못할 수도 있습니다.
위와 같이 인공지능 AI가 시행하는 면접 절차에서 연령을 이유로 차별을 한 행위가 실제로 발견되기까지 하였습니다.
그렇다면, 응시자가 누구에게 면접을 받을 것인지를 선택할 수 있는 권리가 보장되어야 합니다.
응시자로서는 면접을 주관하는 회사의 눈치를 볼 수밖에 없기 때문에 법이나 제도로 사람에 의한 면접 절차 또는 인공지능 AI에 의한 면접 절차 중 한 가지를 응시자가 선택할 수 있는 권리를 명시해서 보장해야 응시자가 차별을 받지 않도록 하는데 도움이 될 것입니다.
법이나 제도로 사람에 의한 면접 절차 또는 인공지능 AI에 의한 면접 절차 중 선택할 수 있는 권리를 반드시 보장하도록 명시한다면 위와 같이 인공지능 AI가 시행하는 면접 절차에서 연령을 이유로 차별을 한 행위가 더 이상 발생하지 않도록 할 수 있을 것입니다.
만약, 위와 같은 선택에 관한 보장 조항이 법이나 제도에 없다면 면접을 주관하는 회사의 눈치를 보야야 하는 응시자로서는 회사가 정하는 대로 인공지능 AI에 의한 면접을 볼 수밖에 없고 와 같이 인공지능 AI가 시행하는 면접 절차에서 연령을 이유로 차별을 한 행위가 앞으로도 계속 발생할 것입니다.
인공지능 AI에 의존해서 생각하는 힘을 포기한 호모 AI슬레이브(Homo AI-Slave)가 되어 안락함과 편리함을 누리면서 생각하지 않는 갈대가 되면서 우리 인간은 호모 사피엔스가 되기를 포기하고 미래의 아인슈타인, 뉴튼이 다시 나오지 않는 호모 AI슬레이브(Homo AI-Slave)의 세상으로 퇴보할 것입니다.
또한, 지구상 어느 누구도 완벽하게 이해하지 못하고 있는 인공지능 AI에 의한 해킹 위험을 줄이기 위해서 [인공지능 AI 허용 시스템]과 [인공지능 AI 허용 불가 시스템 또는 인간 100% 천연 시스템]을 엄격하게 구분하여 운용해서 인공지능 AI에 의한 해킹 위험을 최대한 줄여야 할 것입니다.
그리고, 인공지능 AI의 사용으로 인해서 실제로 뇌 활동 저하와 같은 부작용(인공지능 AI의 부작용)이 실제 과학적 근거로 확인되었다는 내용(담배 광고 시에 담배로 인해서 각종 질병이 발생할 수 있다는 사진까지 담배 포장지에 보이도록 의무화하고 있는 것과 같이 인공지능 AI의 사용 전에 인공지능 AI의 사용으로 인해서 뇌 활동 저하와 창의성 감퇴 등 부작용이 과학적으로 확인되었다는 내용을 사용자가 쉽게 확인할 수 있도록 의무 표시하도록 해서 사용자가 자신이 뇌의 활동이 감소하는 위험이 과학적으로 확인되었다는 사실을 인식하고 인공지능 AI를 사용하게 하는 내용)을 충분히 일반 보통 사람에게 알아듣기 쉽게 설명할 의무를 법률에 구체적으로 명시할 필요가 있습니다.
실제로 있었던 세계적인 서비스인 클라우드플레어의 작동 중지로 인공지능 AI가 중지되어 전 세계적으로 인공지능 AI의 작동 중지에 대비해 놓지 않은 많은 사람들과 회사들이 초유의 혼란을 겪었던 사태를 교훈으로 인공지능 AI가 24시간 365일 안정적으로 작동하는 것이 보장되는 것은 아님을 알고, 언제든지 주요 서비스의 작동 중지로 인공지능 AI의 중지 사태에 대비한 대비책 또는 예방책을 미리 세워 놓아야 할 것입니다.
용어로 인한 잘못된 환상과 오해를 줄이기 위해서 앞으로는 단순히 Artificial Intelligence라고 이름을 붙이는 것은 지양하고 대신에 앞에 통제할 수 없는 이라는 뜻을 가진 Uncontrollable을 추가해서 Uncontrollable Artificial Intelligence, UAI, 즉 통제 불가능한 인공지능이라고 사용하는 것이 바람직할 것입니다.
인공지능 AI는 최소한 AI 5 원칙에 따라서 개발되어야 하고 AI 5원칙은 본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분 및 https://brunch.co.kr/@imccor/879 에 있는 혼돈의 세상 로봇 3원칙과 AI 5원칙,AI멈추면136, 혼돈의 세상에서 로봇 3원칙과 인간을 AI의 주인으로 만드는 AI 5원칙 부분에서 추가된 2가지 원칙에 있습니다.
위 부분에서 기재한 인공지능 AI의 3원칙 및 5원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.
또한, 위 3원칙을 5원칙으로 추가하는 내용(탄소 배출량의 감소를 하는 노력을 하는 사람들(인공지능 AI에 의존하지 않고 인공지능 AI를 사용하지 않거나 또는 최소한도로 사용 범위를 줄이는 사람들)에게 친환경 공로에 대해서 보상으로 돈을 지급하는 것 등)에 대해서는 https://brunch.co.kr/@imccor/879 에 있는 혼돈의 세상 로봇 3원칙과 AI 5원칙,AI멈추면136, 혼돈의 세상에서 로봇 3원칙과 인간을 AI의 주인으로 만드는 AI 5원칙 부분에 있습니다.
The five principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/879 )
인공지능 AI 5원칙은 다음과 같습니다. 마치 아이작 아시모프가 내놓았던 로봇 3원칙이 로봇의 원칙으로 기준의 필요성을 알렸듯이 인공지능 AI에 대해서도 혼돈의 세상에서 기준이 필요합니다.
인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.
Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.
인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.
Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.
인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.
Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.
인공지능 AI 제4법칙 : 제1법칙. 제2법칙과 제3법칙을 제외하고, AI의 탄소 배출로 지구 온도가 위험선을 넘으면 AI는 작동을 멈추어 지구를 보호하여야 한다
Artificial intelligence AI Fourth law - The Artificial intelligence AI must stop working to protect the Earth if the global temperature exceeds the danger line due to AI's carbon emissions as long as such specification does not conflict with the First, Second or Third Law.
,
인공지능 AI 제5법칙 : 제1법칙. 제2법칙, 제3법칙과 제4법칙을 제외하고, AI를 사용하지 않는 사람 또는 AI를 최소한으로 사용하여 AI의 탄소 배출을 줄이는 사람에게는 정당한 보상을 하여야 한다.
Artificial intelligence AI Fifth law - Fair compensation should be given to those who do not use AI or those who use AI to a minimum to reduce carbon emissions of AI as long as such specification does not conflict with the First, Second, Third or Fourth Law.
위와 같이 본 연재 글에서 제시하는 인공지능 AI에 대한 위와 같은 5가지 법칙이 적용되면, 현재 인공지능 AI의 급속한 확산 중에 명확한 AI에 대한 법칙이 없어서 혼돈을 겪고 있는 사람들에게 기준을 제공하여 줄 것입니다.
If the above five laws on artificial intelligence AI presented in this series are applied as above, it will provide a standard for those who are experiencing confusion because there is no clear law about artificial intelligence AI during the rapid spread of artificial intelligence AI.
그리고, 위와 같이 본 연재 글에서 제시하는 인공지능 AI에 대한 위와 같은 5가지 법칙이 적용되면, 인공지능 AI로 인해서 인류가 지구에서 살 수 없게 되는 위험(인공지능 AI로 인하여 대량 배출되는 탄소로 인하여 지구의 온도가 올라가서 인류가 지구에서 살 수 없게 되는 위험)을 방지할 수 있을 것입니다.
In addition, if the above five laws for artificial intelligence AI presented in this series are applied, it will be possible to prevent the risk that humans cannot live on Earth due to artificial intelligence AI (the risk that humans cannot live on Earth because of the Earth's temperature rises due to the large amount of carbon emitted by artificial intelligence AI).
인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.
( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60, AI가 멈추면 세상이 멈춘다 2 https://brunch.co.kr/brunchbook/safeai7772 61-90, AI가 멈추면 세상이 멈춘다 3 https://brunch.co.kr/brunchbook/safeai7773 91-120에 이어지는 내용들입니다)
(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)
#인공지능 #AI #뇌 #무단 #사용 #동의 #인간 #완벽 #학습 #작동 #세상 #정보 #소멸 #결정 #트로이 #목마 #노예 #역사 #인류 #존재 #생산물 #생각 #사피엔스 #사랑 #미움 #용기 #시행 #착오 #완벽 #사피엔스 #과학 #활동 #탄소 #온난화 #지구 #기온 #협정 #환경 #보상 #법칙