AI가 직면한 문제들
저작권, 보안, 정보의 정확성
출처 : RunsystemOpenAI의 GPT Store는 스팸과 모호한 콘텐츠의 폭풍의 도전에 맞닥뜨렸다고 TechCrunch가 보고 했습니다.
*아래 원문 참조
OpenAI’s chatbot store is filling up with spam | TechCrunch
우선 가장 심각한 문제를 정리해 보면
빠른 확장 속도에 비해 관리를 최소한으로 이루어짐
저작권 및 윤리적 문제
혁신과 침해의 모호한 경계
위와 같은 문제가 AI의 향후 방향을 결정할 숙제로 떠오르고 있습니다.
생산적인 AI 도구를 제공하겠다는 야망으로 시작된 GPT 스토어는 이제 스팸, 저작권 침해, 윤리적으로 의심스러운 콘텐츠로 혼란스러운 모습을 보이고 있습니다.
유명한 작품들과 캐릭터들을 변형하여 만들어진 수많은 콘텐츠들이 존재하지만 AI의 생성물은 어떠한 저작권의 보호도 받지 못하지만 하나의 창작물로 인정받는 모호한 경계 속에서 학문과 예술 등 창의성이 강조되는 분야에서의 앞으로의 방향성이 흔들리기 시작했습니다.
AI의 선두주자로 떠오른 OpenAI는 앞으로 발표할 최강의 영상 생성기라 자부하는 SORA까지 발표가 된다면 기술적으로는 혁신적인 기업이 될 것이라는 것은 누구도 의심하지 않을 것입니다.
하지만 AI를 혁신적으로 끌어올린 만큼 도덕적으로 윤리적으로 그리고 인간의 창조성을 무시하는 첫 기준이 세워지는 이 시기에 위와 같은 문제는 절대로 무시하고 지나갈 수 없는 심각한 사항이라 생각합니다.
과연 OpenAI와 AI를 이끌어 가는 선두 업체들과 각 분야의 산업은 어떻게 조화로운 하모니를 만들어낼 수 있을까요? 아니면 단순히 인간의 양심과 윤리에 맞기는 자유를 선택하게 될까요?
출처 : technologysolutionsAI의 보안에 대한 문제가 떠오르고 있습니다.
IT 리더의 97%가 AI 보안이 중요하다 말을 하지만, 자금을 확보할 수 있다고 말하는 비율은 61%뿐임
77%는 AI 관련 침해를 경험하였지만 30%만 이에 대한 방어 능력을 갖추고 있음
평균 1,689개의 모델이 생산되고 있는 가운데, 앞으로 산업에 있어 AI는 필수임
모든 IT 리더는 AI 시스템의 보안의 중요성을 인식하지만 그에 대한 기술력이나 자금을 확보하는 데 어려움을 겪고 있거나 당장에 개발에 집중하는 경우가 더 많습니다.
이의 위험성은 다음과 같습니다.
우선 적대적 AI라는 말을 알고 가야 하는데 이는 AI는 필수적으로 머신러닝 과정을 거쳐야 합니다.
올바른 데이터를 학습시켜 인공지능이 올바른 판단을 하게 만들어주는 과정입니다.
이 과정에 악의적으로 잘못된 정보와 경쟁사 혹은 인류에 위험하거나 불리한 정보를 끼워 넣어 학습시키는 것을 말합니다. 이렇게 되면 우리 생활에서는 딥페이크나 사람들에게 잘못된 정보들을 전달하는 등의 일상적인 위험을 만들 수도 있지만 이는 군사적으로도 산업적으로도 잘못 학습된 AI는 큰 문제를 일으킬 수 있는 큰 문제입니다.
실질적으로 이제 모든 산업과 모든 기술에 AI가 적용되는 만큼 IT 리더들의 보안에 관한 심각한 문제에 더 신경을 써야 할 때가 아닐까 합니다.
