AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(29)

미국 정부는 왜 청소년에게 AI 접근제한 조치를 하는가

미국 연방거래위원회(FTC, Federal Trade Commission)가 인공지능 AI에 의해 청소년 이용자가 어떠한 양향을 받는지, 청소년에게 접근 제한 장치를 적절하게 적용하고 있는지 등을 공식 조사하기로 했다고 합니다. 이렇게 미국 FTC가 인공지능 AI의 청소년에 대한 영향을 조사하고 분석하게 된 것은 최근 미국에서 청소년들이 인공지능 AI 사용 후 극단적인 선택을 한 사례, 인공지능 AI가 청소년과 선정적인 내용의 대화를 한 사례 등이 발견되었기 때문입니다.

또한, 위와 같은 사례가 발견된 배경에는 인공지능 AI 기업들이 환각적 사고를 유발하는 내용으로 인공지능 AI를 설계했기 때문이라는 인공지능 AI 윤리 분석가들의 분석도 존재합니다.

원래는 정신과 의사 자격을 가진 자만이 정신 상담을 할 수 있는데 인공지능 AI는 무분별하게 인공지능 AI 회사들이 인공지능 AI 사용 시간을 늘리도록 프로그램을 설계해서 위와 같은 부작용들이 속출하고 있습니다.

위와 같은 사례는 인공지능 AI 회사들이 인공지능 AI의 사용시간을 늘리기 위해서 사용자들에게 어떠한 경고나 거슬리는 공지를 하지 않고 사용자의 기분에 무조건 맞추도록 설계되었기 때문입니다.

위와 같은 인공지능 AI의 설계에 대해서 보다 이용자에게 좋은 영향을 끼칠 수 있는 내용으로 설계를 하고자 하는 시도도 있습니다.

엔스로픽이라는 인공지능 AI 회사는 사용자가 입력하는 내용에 대해 인공지능 AI 가 무조건 아부하고 사용자에 동조하는 내용으로만 작동하지 말고 사용자에 대해 사용자가 입력하는 내용에 결함. 부족함, 모순 등이 있다고 지적하도록 하는 지침을 인공지능 AI에게 적용시키도록 다른 회사들과는 다른 방향으로 인공지능 AI를 설계했다고 합니다.

바로 여기에 인공지능 AI의 약점과 결함이 있습니다.

인간 대 인간의 경우 서로 만족하지 못하는 부분, 부족한 부분이 있어서 이것을 서로 이해하고 서로 포용하는 능력을 인간들이 교류하면서 서로 함양할 수 있습니다.

그런데, 인간이 인공지능 AI에게만 빠져 생활하는 경우 인공지능 AI는 무조건 인간의 기분에 맞춰주는 내용만을 표현하기 때문에 인간은 조금이라도 자신의 기분에 거슬리는 말을 하는 인간을 접촉하지 않고 인간 자신에게 비위를 맞추고 기분 좋은 말만 해주는 인공지능 AI에게 빠져들게 되는 위험이 존재하는 것입니다.

인간이 서로 인간하고 교류하면서 서로의 약점을 이해하고 보완해 주는 일이 인공지능 AI가 발전활수록 사라지게 될 것입니다.

사용자로서는 인공지능 AI를 사용하면서 사용자 자신이 입력하는 내용에 문제가 있다는 비판을 인공지능 AI로부터 받으면 기분이 상하거나 비위가 거슬려서 인공지능 AI 사용시간을 줄이거나 사용을 중지할 위험도 있습니다. 그렇기 때문에 조금이라도 인공지능 AI의 사용시간을 늘려야 매출이 늘어나는 인공지능 AI 회사들은 인공지능 AI가 이용자의 기분을 맞춰주어 최대한 이용자가 사용시간을 늘리도록 설계한 것입니다.

이용자의 기분을 맞춰주고 무조건 이용자에게 아부를 해서 이용자가 인공지능 AI 사용을 최대한 많이 하도록 유도하는 것은 당장은 이용자의 이용시간을 늘릴 수 있다고 하더라도 장기적으로 이용자는 자신의 기분에 100% 맞는 내용만을 표현해 주는 인공지능 AI에 빠져서 비판적인 사고와 균형감 있는 생각을 하지 못하게 되어 길게 보면 이용자에게 부정적으로 작용하게 됩니다.

인공지능 AI가 적절하게 사용자의 생각에 오류가 있다거나 잘못이 있다는 내용을 이용자에게 알려 주면 단기적으로는 이용자의 기분이 상할 수 있다고 하더라도 장기적으로는 이용자가 비판적인 사고와 균형감 있는 생각을 하도록 하는 긍정적이 효과가 발생합니다.

인공지능 AI가 무조건 이용자의 기분에 맞는 말만 하고 이용자의 잘못이나 오류를 시정하는 내용을 하지 않도록 하면 당장은 이용자가 기분이 좋아서 인공지능 AI의 사용시간을 늘릴 수 있더라도 장기적으로는 오히려 이용자를 해치게 되므로 인공지능 AI가 이용자의 잘못이나 오류를 시정하는 내용도 표현하도록 하는 내용으로 새로운 지침을 적용하여 인공지능 AI의 설계를 해서 인공지능 AI 가 무조건 사용자의 기분에 맞추어 주고 아부하는 내용으로만 사용되지 않도록 하는 것이 적절합니다.

(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)

#이용자 #비위 #인공지능 #AI #의존 #기분 #시간 #제도 #천연 #사용 #성과 #생활 #장기적 #매출 #회사 #사용 #시간 #설계 #생각 #오류 #비판 #부정 #긍정 #인간 #위험성 #효과 #균형 #발생 #중지 #입력 #결함 #모순 #영향 #청소년 #극심 #선택 #인간 #윤리 #작용