AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(35)

AI가 만들어낸 환각에 대해 AI 회사들이 무조건 책임을 부담해야 한다.

완벽할 것만 같은 인공지능 AI에게는 근본적인 결함이 있습니다. 즉, 인공지능 AI의 환각(Hallucination)이라는 것입니다.

모든 일을 빠르고 효율적으로 처리할 것 같은 인공지능 AI는 있지도 않은 가공의 내용을 마치 사실인 것 같이 내놓아서 사용자를 속게 하는 현상이 바로 인공지능 AI의 환각(Hallucination)입니다.

인공지능 AI의 환각(Hallucination)에 사용자인 인간의 책임이 있을까요? 그렇지 않습니다. 사용자는 단순히 인공지능 AI가 빠르고 완벽하게 잘 일을 해서 정확한 결과를 도출할 것이라고 믿고 인공지능 AI를 이용하게 됩니다.

인공지능 AI가 완벽하다고 해서 인류의 불편함을 해소하고 천국으로 안내하는 것이 바로 인공지능 AI라고 해서 인공지능 AI를 사용하다가 발생하는 환각(Hallucination)에 대해서는 마땅히 인공지능 AI 프로그램을 만든 회사가 책임을 부담해야 할 것입니다.

위와 같은 인공지능 AI의 환각(Hallucination)은 인공지능 AI는 실제로 존재하지도 않는 내용을 마치 존재하는 것 같이 사용자로 오도하게 하는 것입니다. 아동 학대 사건에 대해서 존재하지 않는 판례를 마치 존재하는 것 같이 사용자인 경찰에게 내놓아서 경찰이 그런 가짜 판결을 믿고 혐의가 없다는 불송치 결정을 한 실제 사례가 최근 발생하였습니다.

존재하지도 않는 판례를 마치 존재하는 것 같이 인공지능 AI가 환각(Hallucination)으로 꾸며내어서 가공의 판례가 실제 판례인 것 같이 제출된 경우도 국내에서 뿐만 아니라 해외에서도 다수 발견되고 있습니다.

그럼, 위와 같은 사례에서 존재하지 않는 판례를 믿은 사람이 책임을 부담해야 할까요? 아니면 인공지능 AI를 운영하는 회사들이 책임을 부담해야 할까요?

물론 사회적 합의를 거쳐서 정책적으로 결정할 문제입니다.

인공지능 AI 회사들이 인간에게 많은 편의를 제공해 주므로 과도하게 인공지능 AI 회사들에게 책임을 묻는다면 인공지능 AI의 발전에 저해가 될 수 있으니 사용자인 인간이 그런 환각(Hallucination)이 있는지 여부에 대해 검토할 책임이 있으므로, 인공지능 AI를 사용하는 소비자인 인간의 책임으로 보자는 견해도 가능합니다.

반면에 인간은 인공지능 AI가 내놓은 결과 중에 환각(Hallucination)이 나올 것인지를 예상할 수 없으므로 인공지능 AI를 운영하는 회사들이 환각(Hallucination)에 대한 책임을 부담하도록 해야 인공지능 AI 회사들이 보다 더 신경을 써서 오류가 적은 인공지능 AI를 개발할 수 있다는 견해도 가능합니다.

어느 견해나 논의와 협의를 통해서 각 나라별로 정해야 할 것입니다.

개인적인 견해로는 환각(Hallucination)이 발생하지 않도록 주의를 기울일 책임은 1차적으로 인공지능 AI를 운영하는 회사들이 되어야 한다는 견해입니다. 그렇게 인공지능 AI 운영회사들이 환각(Hallucination)에 대해 책임을 부담하도록 해야 인공지능 AI 운영회사들이 보다 더 신경을 쓰고 정신을 차려서 환각(Hallucination) 현상이 발생하지 않도록 인공지능 AI 개발 단계 및 운영, 관리 단계에서 철저한 주의를 기울일 것으로 보기 때문입니다.

인공지능 AI가 마치 천국이나 유토피아를 인류에게 선물할 것 같은 환상에 빠져 있는데 과연 그럴까요? 인공지능 AI로 인해서 오히려 단기간의 편리함을 추구하다가 인류가 진정한 가치나 철학을 상실해서 바벨탑이 무너지는 것처럼 인류가 소멸할 위험도 있음을 알아야 합니다.

(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)

#운영 #환각 #인공지능 #AI #이용 #결과 #인간 #회사 #세상 #보호 #가공 #실제 #합의 #인류 #사용자 #천사 #공짜 #점심 #발생 #천국 #완벽 #해소 #신경 #단계