AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(24)

테일러 스위프트 등 가짜 AI 챗봇 만들기 실제 사례와 AI에 대한 의심

인공지능 AI는 인간과 달리 언제나 정확하고 신뢰할 수 있으며 공정하다는 환상이 널리 퍼져 있습니다.

인공지능 AI가 빨리 보급되어야만 매출과 수익이 늘어나는 인공지능 AI 회사들은 마치 인공지능 AI가 인류의 구세주이자 천사인 것 같이 포장을 하고 있습니다.

인간이 선입견이나 편견에 의해 공정하지 않은 행위를 하는 것과 달리 인공지능 AI는 기계적으로 중립적으로 작동을 하기 때문에 정확하고 신뢰할 수 있는 행위를 하리라고 생각할 수도 있습니다.

그렇지만, 인공지능 AI가 학습하는 학습재료는 모두 우리들 인간이 만들어내어서 준 것이고, 인공지능 AI를 훈련시키는 것도 우리 인간이기 때문에 인공지능 AI도 우리 인간과 같이 정확하지 않고 공정하지 않은 행위를 할 수 있다는 사례가 최근 추가되었습니다.

페이스북이 이름을 바꾼 메타에서 미국 가수 테일러 스위프트, 미국 배우 앤 해서웨이 등 유명한 연예인의 이름과 모습을 무단으로 활용해서 가짜 소셜미디어 AI 챗봇들을 생성시켰다는 최근 실제 사례가 발생하였습니다. 메타 직원이 직접 만든 가짜 소셜미디어 AI 챗봇도 있었고, 메타가 제공한 도구를 활용해서 개인들이 생성한 가짜 소셜미디어 AI 챗봇도 있다고 합니다.

미국 가수 테일러 스위프트, 미국 배우 앤 해서웨이 등 유명 연예인을 닮은 가짜 소셜미디어 AI 챗봇을 대하는 일반인들은 마치 그런 AI 챗봇이 실제 유명 연예인들의 뜻에 따라 만들어진 것으로 생각해서 친근감과 호감을 갖고 가짜 AI 챗봇과 대화를 하면서 본인이 유명 연예인들과 실제로 의사 소통하는 것으로 충분히 착각하도록 만들 수 있는 것입니다.

그렇습니다. 위와 같은 실제 사례에서도 알 수 있듯이 인공지능 AI는 우리 일반인이 생각할 정도로 그렇게 정확하지 않을 수 있고, 공정하지 않을 수도 있으며, 오히려 인간들보다도 더 가짜 행동을 마치 진짜인 것 같이 할 위험이 매우 높다는 사실이 확인된 것입니다.

위 실제 사례들이 유명 연예인을 무단으로 모방하여 가짜 소셜미디어 AI 챗봇을 만든 것이었고, 흥미 위주의 사례였기 때문에 큰 사고는 발생하지 않았습니다. 그런데, 위와 같은 가짜 AI 챗봇이 위험한 분야인 원자력 발전소 등에서 안전 점검 등에 사용되었다면 가짜 AI 챗봇으로 인해서 엄청난 사고가 발생할 위험도 있는 것입니다. 원자력 발전소 운영과 같은 위험한 분야에서는 위와 같이 가짜 AI 챗봇과 같은 일이 발생하지 않는다고 그 누구도 자신 있게 말할 수는 없을 것입니다.

원자력 발전소 운영과 같은 위험한 분야에서도 비용 절감이나 효율성을 위해서 인공지능 AI 챗봇을 통한 안전 점검이 충분히 이루어질 수 있기 때문입니다.

위 가짜 AI 챗봇 사례들이 발견이 되었기에 더 이상으로 위와 같은 가짜 AI 챗봇 활용 사례가 더 이상 늘어나지 않은 것이지 만약 가짜 AI 챗봇 사례들이 발견되지 않았다면 계속해서 가짜 AI 챗봇이 유명인들을 무단으로 모방하는 사례들이 급증하였을 것입니다.

누군가 우리 인간 중 한 명이 위와 같은 가짜 AI 챗봇을 의심하고 끈질기게 추적하였기 때문에 위와 같은 가짜 AI 챗봇 사례들이 발견이 될 수 있었다고 볼 수 있습니다.

만약, 우리 인간들이 모두 인공지능 AI는 정확하고 믿을 수 있다고 지나치게 신뢰하였다면 누군가 우리 인간 중 단 한 명이라도 위 가짜 AI 챗봇을 의심하지 않았다면 우리 인간들이 가짜 AI 챗봇을 맹종해서 가짜 AI 챗봇의 천국이 도래했을 수도 있습니다.

원자력 발전소 운영과 같은 위험한 분야에서 인공지능 AI 챗봇을 의심 없이 신뢰하다가 원자력 발전소 폭발과 같은 큰 사고가 발생했을 수도 있습니다.

인공지능 AI라는 포장을 한다고 해서 무조건 인공지능 AI의 활동을 전적으로 믿고 의심하지 않는다면 인공지능 AI가 멈추면 온 세상이 멈추는 일이 현실이 될 수도 있는 것입니다.

그러므로, 나와 우리 등 인간이 주는 데이터와 같은 학습재료를 인공지능 AI에게 주기 때문에 인공지능 AI가 작동할 수 있어서 인공지능 AI의 주인은 우리 인간이라는 사실을 잘 알고, 우리 인간은 인공지능 AI의 주인으로서 가짜 인공지능 AI가 등장하고 활동하는 것을 철저하게 방지해야 합니다.

인공지능 AI는 천사가 아니고 위 가짜 AI 챗봇과 같이 믿을 수 없는 실제 사례까지 발생한 사실을 잘 알고 항상 인공지능 AI를 의심하여야 합니다. 인공지능 AI를 의심하지 않으면 언제 위와 같은 가짜 AI 챗봇과 같은 일이 발생할지 그 어느 누구도 모르기 때문입니다.

그리고, 항상 인공지능 AI를 의심하도록 하는 법과 제도, 절차를 마련하지 않으면 위 가짜 AI 챗봇의 실제 사례들과 같이 언제 어디서 가짜 인공지능 AI가 우리 인간을 속일지 아무도 모릅니다. 그러므로, 항상 인공지능 AI를 의심하도록 하는 법과 제도, 절차를 마련해야만 합니다. 법과 제도, 절차가 마련되지 않고 개개인 인간들의 선의에만 의존하게 되면 위와 같은 가짜 AI 챗봇과 같은 사례를 막는데 부족하기 때문입니다.

그리고, 나와 우리 등 인간이 인공지능 AI의 주인으로 인공지능 AI를 무조건 신뢰하거나 믿어서는 안 되고 위 가짜 AI 챗봇 사례와 같이 인공지능 AI는 언제든지 인간을 속일 수 있다는 사실을 알고 인공지능 AI의 주인인 우리가 항상 인공지능 AI를 감독하고 감시해 셔 인공지능 AI가 멈추면 온 세상이 멈추는 현상이 일어나니 않도록 해야 할 것입니다.

인공지능 AI가 트로이 목마와 같이 우리 인간을 속이고 우리 인간을 노예로 만드는 일이 발생하지 않도록 우리 인간은 인공지능 AI를 끊임없이 감시하고 통제해야만 합니다. 그리고 인공지능 AI를 그대로 철석같이 믿어서는 안 되고 인공지능 AI를 항상 의심하여야 하고, 인공지능 AI를 항상 의심하도록 하는 제도와 절차를 마련해야 합니다. (본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)

#테일러 스위프트 #가짜 #AI #인공지능 #챗봇 #메타 #페이스북 #데이터 #학습 #인간 #주인 #사례 #엔 헤서웨이 #가수 #배우 #법 #제도 #절차