AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(18)

AI 회사도 인정한 AI의 속임수와 책임의 전가

누구든지 자신이 만든 것에 잘못된 내용이 있고, 또한 하자가 있다고 인정하는 것은 어려운 일입니다.

그런데, 최근 인공지능 AI 회사인 오픈AI 안전리서치 관련자는 GPT 모델 사용시 완료되지 않은 작업을 인공지능 AI가 완료했다고 잘못 작동을 하거나 또는 실제로는 존재하지 않는 이미지를 마치 존재하는 것과 같이 사실과 달리 작동한 경우가 상당수 있었음을 인정하였습니다.

인공지능 AI 회사 스스로 인공지능 AI의 속임수 사례가 있었음을 인정한 것입니다.

그리고, 위 인공지능 AI 회사는 위와 같은 속임수 발생 확율를 측정하는 방법을 개발하고 위와 같은 속임수가 발생하지 않도록 인공지능 AI를 훈련해서 위와 같은 인공지능 AI의 속임수를 줄이기 위한 시도를 하였다고 설명했습니다.

인공지능 AI 회사 스스로 위와 같이 인공지능 AI의 속임수가 있었다고 인정을 한 것은 매우 중요한 일입니다.

위와 같이 실제로 발생하였던 인공지능 AI의 속임수 사례는 사전에 인간이 인공지능 AI에게 속임수를 만들어내라고 지시해서 인간의 지시에 의해 인공지능 AI가 인간의 지시에 따라서 만든 속임수가 아닙니다.

인간은 인공지능 AI가 사실대로 작동할 것을 신뢰하고 인공지능 AI애개 지시를 하였는데, 그런 인간의 지시를 위반해서 인공지능 AI가 인간을 속이는 속임수 작동을 한 사실이 인공지능 AI 회사 스스로에 의해서 인정이 된 것입니다.

위와 같은 인공지능 AI의 속임수 사례로 인하여 중대한 사고가 발생하였다면 과연 인공지능 AI 회사는 책임을 인정을 할까요?

인공지능 AI 회사는 위와 같이 인공지능 AI 회사 스스로 인정한 인공지능 AI의 속임수 사례로 인해 피해가 발생하더라도 책임을 자진해서 인정하지는 않을 것입니다.

인공지능 AI 회사가 인공지능 AI에게 지시를 할 때 그런 속임수를 가르치거나 지시하지 않았는데도 인공지능 AI가 속임수 작동을 한 것이므로 속임수를 지시하지 않은 인공지능 AI 회사는 책임이 없다고 강력하게 주장을 할 것으로 보입니다.

즉, 위와 같은 인공지능 AI의 속임수에 대해서 인공지능 회사는 속임수를 지시하지 않았으므로 책임이 없다고 하면서 책임을 인공지능 AI에게 전가할 것입니다.

그럼 인공지능 AI는 과연 책임이 있을까요?

인공지능 AI는 자신이 어떻게 위와 같은 속임수를 만들어 냈는지 인공지능 AI 스스로도 알지 못하고 다만 인간이 인공지능 AI에게 학습시킨 내용에 의해서 위와 같은 속임수가 만들어진 것이므로 책임은 인공지능 AI 자신에게 속임수 내용을 학습시킨 인간들 및 인공지능 AI 회사에게 있다고 하면서 책임을 부정할 것입니다.

그렇게 인공지능 AI 회사는 인공지능 AI에게 책임을 전가하고, 또한 인공지능 AI는 인간들 및 인공지능 AI 회사에게 책임을 전가하는 서로 핑퐁게임이 발생할 것입니다.

속임수 발생 확율를 측정하는 방법을 개발하고 위와 같은 속임수가 발생하지 않도록 인공지능 AI를 훈련해서 위와 같은 인공지능 AI의 속임수를 줄이기 위한 시도를 하더라도 앞으로 인공지능 AI의 속임수가 발생하지 않는다고 장담할 수는 없습니다. 앞으로 발생하는 인공지능 AI의 속임수로 발생하는 피해에 대한 책임은 과연 인공지능 AI가 부담하여야 할까요, 아니면 인공지능 AI를 작동시킨 회사가 부담하여야 할까요?

인공지능 AI가 책임을 부담한다고 하더라도 현실적으로 인공지능 AI가 어떻게 책임을 부담하여야 하는 것인지 아직 정해진 것이 없습니다.

물론 인공지능 AI의 긍정적 측면도 많습니다. 기존에 인간의 한계를 인공지능 AI가 보완해 주어서 예전에는 할 수 없었던 복잡한 작업을 인공지능 AI가 순식간에 효율적으로 해 내는 인공지능 AI의 장점도 있지만 그렇다고 해서 위와 같은 인공지능 AI의 속임수가 실제로 발생한 사실을 외면해서도 안 됩니다

위와 같은 인공지능 AI회사조차 스스로 인정한 인공지능 AI의 속임수가 발견되었는데도 어느 누구도 인공지능 AI의 속임수로 인한 피해에 대해서 책임을 부담하지 않는 사태가 발생할 수 있습니다. 인공지능 AI를 사용하거나 사용하려고 하는 모든 사람들은 인공지능 AI가공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알아야 합니다. 그리고, 트로이 목마에서 튀어 나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다. (본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)