AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(31)

인간이 인공지능 AI에게 평가되는 세상을 누가 원하는가

이제 인공지능 AI가 사람이 어느 회사에서 얼마나 잘 근무했는가를 평가한다고 합니다. 그야말로 인간이 인공지능 AI에게 잘 보여야 좋은 인사 평가를 받는 세상이 도래한 것입니다.

사람 위에 돈이 있는 것이 아니고 돈 위에 사람이 있다는 말이 있습니다. 돈 보다 사람이 더 귀중하다는 말입니다, 그런데, 현실에서는 반대로 사람보다도 돈이 더 중요한 것처럼 취급을 받고 있습니다.

마찬가지로 인공지능 AI 보다 사람이 더욱 중요합니다. 그렇지만 인공지능 AI가 발달할수록 사람보다도 인공지능 AI가 더 중요하게 취급받을 것입니다. 그야말로 인간이 인공지능 AI의 노예가 되는 현실이 멀지 않았습니다.

관련하여, 과연 인공지능 AI가 직원들의 인사고과를 평가한다고 해서 정말 공정한 인사고과가 매겨질까요?

오히려 인공지능 AI라는 방패막이를 이용해서 회사는 맘에 안 드는 직원을 인공지능 AI의 "공정한' 인사고과를 근거로 해고할 수 있는 수단으로 악용되지 않을까요?

회사에서 맘에 안 드는 직원은 의도적으로 인공지능 AI의 프로그램에 낮은 점수가 기재되도록 사전에 입력해 놓으면 당연히 맘에 안 드는 직원은 인공지능 AI의 "중립적인" 평가로 회사는 맘에 안 드는 직원을 해고할 수 있는 합법적인 무기로 활용할 수 있게 됩니다.

반면에 게으르고 나태한 직원이라도 회사에서 좋은 평가를 주도록 인공지능 AI에게 입력시켜 놓으면 회사는 게으르고 나태한 직원을 좋은 인사고과 점수로 "중립적인" 평가로 게으르고 나태한 직원을 좋은 자리에 배치할 수 있는 합법적인 근거를 마련할 수 있게 됩니다.

사람이 사람을 평가하는 것에 불공정하고 선입견이 작용되는 부작용이 있다는 것은 널리 알려진 사실입니다.

그렇지만, 사람이 판단을 하고 결정하는 것에 선입견과 고정관념 등이 많이 작용하지만 그래도 사람이 여러 사장을 종합적으로 반영해서 하는 결정은 인간의 눈물과 땀이 어려 있는 현명한 결정일 때가 많습니다.

그런데, 인공지능 AI가 사람을 평가하게 되면 언뜻 보기에는 일체의 선입견과 영향을 배제하고 기계적인 중립적인 결정을 할 것 같이 보입니다. https://brunch.co.kr/@imccor/646 에 있는 것 같이 본 연재 글 중에서 AI 멈추면 세상 멈춘다-AI 왜 트로이목마인가(10)으로 작성된 [AI에게 평가를 잘해 달라는 비밀명령 사례 발견과 AI 신뢰성의 파괴]라는 내용과 같이 최근 세계적으로 14개 대학의 연구 논문에서 인공지능 AI에게 평가를 잘해 달라는 비밀명령문이 논문에 숨겨져 있던 사실이 밝혀졌습니다.

위와 같이 세계 유수의 대학에서 비밀 명령문이 실제로 사용되어 공정하지 않은 AI의 평가가 이루어진 사실이 실제로 발견된 바 있습니다.

인공지능 AI의 사람에 대한 인사고과 평가에서는 위와 같은 비밀명령문이 없다고 장담할 수 있을까요?

인공지능 AI를 이용해서 사람의 평가를 할 때는 보조적인 수단으로만 인공지능 AI를 사용해야 합니다. 인공지능 AI가 산출한 내용이 과연 편향되지 않은 내용인지에 대해서 사람이 인공지능 AI와는 독립적으로 검토하고 검증을 해야 합니다. 그렇지 않으면 위 비밀명령문과 같이 인공지능 AI를 이용한 합법적인 부정한 절차에 악용될 위험이 매우 높습니다.

(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)

#인사 #부정 #인공지능 #AI #평가 #중립 #천연 #사용 #성과 #고과 #공정 #논문 #회사 #사용 #명령 #설계 #연재 #판단 #회사 #부정 #결정 #인간 #위험 #사실 #대학 #선입견 #고정관념 #현명 #눈물 #종합 #반영 #점수 #직원 #당연 #근무 #세상 #도래