AI, 위험한 미래
잘되면 내 탓 못되면 AI 탓이 될 것이다!
AI, 위험한 미래
AI로 작품을 만들었는데 어느 작가의 작품을 표절했다는 판결을 받았다. 하지만 판사는 표절자에게 무죄를 선언한다. 범인은 AI이기 때문이다.
AI 경찰에게 인질을 구출하고 범인을 생포하라고 명령을 내렸는데 AI가 오작동으로 범인과 인질을 현장에서 모두 사살한다. 실제 오작동 여부는 밝혀지지 않았으며 이 사건에 대해 AI 경찰에 의한 사고사로 사건 종료되고 관계자들 그 누구도 책임을 지지 않았다.
광화문 광장에서 범국민 행동 집회가 열려 10만 인파가 참여했다고 한다. 이에 정부가 군경 AI 로봇을 투입시켜 시민의 안전을 보호하라고 지시했다. 그런데 군경 AI가 집회에 참여한 시민들을 간첩으로 오판하여 시민들을 향해 총을 겨누었다. 이에 격분한 시민 한 명이 군경 로봇에게 욕을 하며 캔맥주를 던졌다. 군경은 폭탄으로 오인하고 시민들을 향해 일제히 방아쇠를 당긴다. 10만 명뿐만 아니라 지나가던 비참여자들까지 총에 맞아 모두 쓰러졌다. 이 사건에 대해 정부는 관계자를 처벌조차 하지 않고 군경 AI의 오판으로 결론짓고 현장에 투입된 군경 AI 로봇에 한해서 폐기처리를 명령했다. AI가 시민들을 간첩으로 오인한 그 원인이 무엇인지는 밝혀지지 않고 사건이 종료된다
아주 쉬운 예를 들어보았다.
어떠한가? 이래도 AI가 안전한가? AI가 과연 국민을 위한 것일까? AI 또한 남용되고 이용당할 뿐이겠다.
더욱 심각한 건 다음 예다.
AI 책임으로 인해 사람들이 스스로 판단하여 업무를 처리하지 않게 된다. 대통령을 비롯하여 장관들까지, 국회의원과 모든 공무원들이 AI에게 의존하여 그 결과대로 AI에게 지시하기 시작했다. 혹시나 모를 실수에 대해 AI가 책임을 지게 할 수 있기 때문이다.
모두가 어떤 업무나 사건에 대해 수차례 AI를 돌려 AI 결과를 참조한다. 하지만 스스로 결론짓고 판단하지 않고 AI에게 문의하여 그 최적의 결과를 그대로 AI에게 전달하고 지시한다. 의학과 제약, 바이오, IT, 나노, 금융, 무역 등 주요 전문직조차 어떤 문제에 대해 스스로 판단하고 결정하고 해결하려 하지 않고 AI에게 의존하는 경향이 커지기 시작한다. 기업 내에서도 사람이 아닌 AI에게 책임을 전가하면서 심각한 사회문제가 발생하기 시작한다.
어떠한가?
분명 AI에게 명령을 지시한 사람이 책임을 져야 맞다. 하지만 과연 책임지려 할까? AI 탓으로 돌리면 그만일텐데ㅡ
잘되면 내 탓 못되면 AI 탓이 될 것이다!
AI 시대가 본격화된다면 아마도 초반부터 인간들은 잘못되면 AI 핑계를 되기 시작할 것이다. 점점 모든 잘못에 대해 (사소한 실수조차) AI 탓으로 전가하려 할 것이다. 점점 AI가 고도화되고 AI 중심으로 세상이 움직인다면 AI 책임제를 공식화하게 될 것이다. 또한 이로 인한 위의 쉬운 예들처럼 AI를 남용하는 심각한 사회문제들이 발생할 것이다.
이래도 AI가 안전한가? AI가 과연 인류를 위한 것일까? 절대 아니다. 정반대다. AI로 인해 인류는 더 살기 어렵고 더욱더 비상식적이고 비정상적인 세상을 마주하게 될 것이다.
(C) 2023.06.19. HWANG HYUNMIN.
#위험한미래
#AI책임
#AI의미래
