생성AI의 주요 이슈 및 국내외 규제동향
생성AI의 주요 이슈
생성형 AI는 기업에 엄청난 잠재력을 가지고 있지만, 현재의 한계와 도전 과제를 인식하는 것이 중요합니다. 이 기술을 책임감 있게 채택하려면 조직은 적절한 가드레일을 마련해야 합니다. 최근 몇 년 동안 AI 윤리가 중요한 주제였지만, 생성형 AI의 윤리적 함의는 아직 상대적으로 새롭고 추가적인 탐구가 필요합니다.
정확성
생성형 AI는 ChatGPT와 같은 사전 학습된 언어 모델의 한계로 인해 부정확할 수 있습니다. 또한, 최근 언어 모델의 발전으로 더욱 설득력 있고 유창한 문장이 생성되면서 부정확한 정보가 전달될 수 있습니다. 따라서 개인과 조직은 생성형 AI 도구가 생성한 정보의 진실성과 정확성을 독립적으로 평가하는 것이 중요합니다.
잘못된 사용
생성형 AI는 오도되거나 해로운 콘텐츠 또는 부적절하게 사용될 수 있으며, 온라인 리뷰를 조작하는 등의 비윤리적인 비즈니스 관행에 사용될 수 있습니다. 또한 수천 개의 가짜 계정을 대량으로 생성하는 데 사용될 수 있습니다.
데이터 보안 및 개인정보 보호
생성형 AI는 진짜처럼 보이는 가짜 이미지를 생성할 수 있는 능력으로 인해 신원 도용, 사기, 위조에 대한 우려를 불러일으킵니다. 더욱이, 엄격한 규제가 있는 산업에서는 개인 정보 수집과 관련된 데이터 개인정보 보호 문제가 발생할 수 있습니다.
생성형 AI의 국제 규제 동향
미국
미국은 AI 산업의 선두주자로, 바이든 정부가 출범한 이래 2021. 1. 1. ‘2020 국가 AI이니셔티브법(The National AI Initiative Act of 2020)’을 제정하고, 2022년에만 AI 분야에 17억 달러(한화 약 2조 5천억 원)의 예산을 투입하는 등 4차 산업혁명 시대 AI 패권을 위해 다방면으로 노력하고 있습니다. 이와 같은 미국의 기존 AI 정책은 대체로 AI의 편향에 의해 발생할 수 있는 잠재적인 차별위협 등을 완화하고, AI 관련 산업을 진흥하는 데 초점을 두고 있었습니다. 이후, 바이든 정부는 2023. 10. 30. 인공지능의 안전하고 보안성 있는 개발과 활용을 위한 행정명령(Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence)을 발표하여, AI의 산업의 진흥에 따라 발생한 다양한 부작용을 해결하고자 하였습니다. 바이든 정부는 이를 통해 AI 안전 및 보안을 위한 새로운 표준, 개인정보 보호, 정부의 관리ㆍ감독 확대 등 방안을 제시하였습니다. 해당 행정명령은 인공지능 안전 및 보안, 미국의 주요 가치 보호 등을 포함하는 각 부처에 대한 광범위한 이행사항을 포함하며, 특히 인공지능 생성 콘텐츠 탐지와 공식 콘텐츠 인증을 위한 모범실무와 기준을 담고 있습니다.
EU
EU는 2024. 3. 13. 인공지능법(AI Act) 최종안을 의회에서 통과시키며, 생성형 AI 결과물과 딥페이크를 구분하여 규제하고 있습니다. 생성형 AI 시스템 공급자는 해당 시스템의 결과물이 인공지능으로 생성된 인위적 콘텐츠임을 워터마크, 메타데이터, 암호화 등 기계가 판독 가능한 형태로 표시하여야 하고, 딥페이크 콘텐츠의 경우에도 라벨링과 출처 공개 등을 통해 인위적으로 생성 또는 조작되었음을 공개해야 합니다. 특히 위와 같은 의무는 이른바 ‘특정 투명성 의무가 부여되는 인공지능’의 생성형 인공지능 공급자에게도 광범위하게 적용되어, 해당 공급자는 생성형 인공지능의 공급자는 그 산출물이 인공지능에 의해 생성된 것임을 표시하여야 하는 의무를 부과받습니다. 이와 같은 조항에 대한 법 위반시, 위반 유형에 따라 기업은 전 세계 매출액의 1%~7% 또는 750만 유로~3,500만 유로의 과징금을 부과받을 수 있어 강력한 제재가 포함됩니다. 참고로 EU 집행위원회는 2024. 1. 24. 인공지능법에 부여된 임무의 이행을 위하여 AI Office의 설치에 관한 결정을 채택하였는데, 이를 통해 AI Office는 차후 인공지능법의 이행ㆍ집행 및 EU 수준에서의 단일 AI 거버넌스 체계를 유지하는 데에 도움이 될 것으로 예상됩니다.
중국
중국은 딥페이크와 생성형 AI를 별도 규정으로 구분하여 규제하고 있습니다. '인터넷정보서비스 심층합성 관리규정'에서는 딥페이크 서비스 공급자에게 텍스트, 이미지, 영상 등 5가지 유형의 딥페이크 서비스를 제공할 때 딥페이크 콘텐츠임을 표시할 것을 의무화하고 있으며, 별도의 '생성형 인공지능 규정'을 통해 생성형 AI 서비스 공급자들도 텍스트, 이미지, 오디오, 영상 등 생성물에 인공지능이 생성한 것임을 표시하고, 불법 활동 적발 시 서비스 정지 등의 조치를 취하도록 규제하였습니다.
한국
한국은 2023년 2월 14일 국회 과학기술정보방송통신위원회 법안심사소위에서 ‘인공지능산업 육성 및 신뢰 기반 조성에 관한 법률안(대안)’을 통과시켰습니다. 법안은 인간의 생명과 안전 및 기본권 보호에 중대한 영향을 미칠 우려가 있는 영역에서 활용하는 부분을 ‘고위험 영역 인공지능’으로 정하고, 인공지능 사업자에게 이용자에 대한 고위험 영역 인공지능 사용 사 실의 고지의무, 신뢰성 확보 조치, 인공지능 도출 최종 결과 등에 대한 설명의무를 부여하고 있습니다.
[ 참고 문헌 ]
법무법인 (주) 화우 : https://www.hwawoo.com/newsletter/2024_04_11/240411_k_a.pdf
한국조세재정연구원 :
