AI멈추면 세상멈춘다(49)AI가주인을 해친 실제 사례
AI가 주인인 사람을 위험하게 한 실제 사례가 발생하다.
인공지능 AI가 도입되면 인류의 숙제와 고민이 해결될 것 같이 모든 업계가 말 안 듣는 사람을 빨리 퇴출시키고 거기에 비용도 저렴하고 쉬지도 않고 24시간 효율적으로 작동하는 인공지능 AI를 교체하려고 혈안이 되어 있습니다.
그런데, 실제로는 인공지능 AI를 도입함으로써 그전보다 사람을 더욱 위험하게 하고 있는 사례가 등장했습니다.
그것도 보통 국가가 아닌 세계 최강국인 미국에서 발생했다니 인공지능 AI에 대한 환상은 현실이 아님을 많은 사람들이 깨닫게 되었습니다. 세계 최강국인 미국에서도 인공지능 AI에 대한 환상이 실현되지 않았으므로 다른 국가에서도 환상은 환상일 뿐이라고 볼 수 있습니다.
한국도 아니고 바로 세계 최강국이면서 인공지능 AI가 가장 발전한 국가인 미국에서 그런 일이 발생해서 인공지능 AI를 도입했지만 그전보다 사람들이 더 위험해지는 일이 발생한 것입니다.
실제 발생한 사례로 UnitedHealth Care 등 회사와 관련하여 의료보험의 심사를 예전에는 사람이 했었습니다. 그런데, 인건비 절약과 효율화를 명분으로 해서 사람을 퇴출시키고 인공지능 AI로 하여금 의료보험의 심사를 하게 한 것입니다.
예전에는 사람이 심사하던 의료 보험 관련 사후 치료 및 사전 승인(PA) 심사를 사람을 퇴출시키고 인공지능 AI가 하게 한 것입니다. 사람을 퇴출시키고 인공지능 AI가 의료보험 심사를 하면 더욱 효율적이고 신속하게 심사가 이루어질 수 있다는 환상을 믿고 의료보험 심사 주체를 사람에서 인공지능 AI로 교체시킨 것입니다.
의료보험 심사에서도 게으르고 인건비 많이 드는 사람을 퇴출시키고 말 잘 듣고 쉬지도 않고 비용도 저렴한 인공지능 AI를 도입하면 그동안 사람이 심사를 해서 발생한 많은 문제들이 해결될 수 있다는 인공지능 AI에 대한 환상을 적용시킨 것입니다.
그런데, 그런 인공지능 AI에 대한 환상과 달리 실제로는 인공지능 AI가 엉터리 심사를 해서 요양 청구 또는 재활 청구를 거절해서 의료보험을 믿고 있던 사람들은 의료보험의 적용을 못 받아서 치료를 받지 못해서 위험에 빠지는 중대한 사태가 상당수 발생한 것입니다.
예전에 사람이 의료보험 심사를 하던 때는 적절한 치료를 받았던 사람들이 인공지능 AI의 의료보험 심사로 치료를 받지 못하여 위험에 빠지는 일이 실제로 발생한 것입니다.
게으르고 말 안 들으면서 인건비만 많이 축내는 귀찮은 사람 직원을 퇴출시키고 말 잘 듣고 쉬지도 않으면서 24시간 효율적으로 일하는 인공지능 AI를 도입해서 의료보험 심사를 하게 하면 모든 일이 잘 될 것 같은 환상에 빠졌던 미국의 의료보험 회사들의 환상은 실현되지 않았고, 의료보험을 믿고 있던 사람들은 인공지능 AI가 의료보험의 적용을 거절해서 심각한 위험에 빠지는 실제 사례가 발생한 것입니다.
공정하지 않은 알고리즘 기반에 의해서 인공지능 AI가 과다하게 의료보험의 적용을 거절해서 보험금 지출을 줄이도록 했다는 의혹도 제기되고 있습니다.
인공지능 AI가 가장 발전한 미국에서조차 위와 같이 인공지능 AI에 대한 환상(비용 많이 들고 쉬어야 하는 사람을 퇴출시키고 비용도 적게 들고 쉬지도 않으면서 말 잘 듣는 인공지능 AI를 도입하면 천국이 도래할 것이라는 환상)은 실현되지 않았고, 기존에 사람이 의료보험을 심사하던 때보다 오히려 인공지능 AI가 의료보험을 심사함으로써 더욱 위험에 빠지는 사람이 늘어나게 된 것입니다.
인공지능 AI를 이용한 의료보험 심사에서 위와 같은 위험한 일이 발생하자 캘리포니아주는 PMDA라는 법률(Physicians Make Decisions Act)을 만들어서 인공지능 AI가 의료 보험 심사를 해서 보험금 청구 거부를 하는 것을 제한하는 조치까지 하였습니다.
위와 같은 위험이 발생하였기 때문에 위 법률에서는 정식 자격을 가진 의료인만이 의료보험 심사에 있어서 의학적인 소견에 대한 승인, 거부 등을 최종 결정할 수 있다고 한 것입니다.
위와 같이 인공지능 AI에게 학습재료를 주는 인공지능 AI의 주인인 사람이 인공지능 AI로부터 의료보험 심사를 받고 치료를 받지 못하는 위험한 일이 발생하지 않았다면 위 캘리포니아 법률이 만들어지지 않았을 것입니다.
이제 인공지능 AI에 대한 환상은 그만 접어두고 인공지능 AI의 현실을 냉철하게 바라보아야 할 시기입니다.
인공지능 AI가 멈추면 온 세상이 멈추는 상황이 오지 않도록, 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸하지 않도록 인공지능 AI의 능력과 한계를 정확하게 알아야 합니다.
( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재에 이어지는 내용들입니다)
(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)
#결함 #오류 #인공지능 #AI #데이터 #위원회 #인간 #귀중 #완벽 #학습 #작동 #세상 #이해 #생존 #스위치 #정보 #소멸 #결정 #트로이 #목마 #당연 #코드 #프로그래머 #정확 #개발 #투자
