[AI] AI 규제, EU 인공지능법
EU는 1년 전인 2021. 4. 21. 세계 최초로 AI를 전면적으로 규제하는 인공지능법(Artificial Intelligence Act) 초안을 발의했습니다. 현재 인공지능법 초안은 유럽 의회와 이사회의 검토를 거치고 있는 중인데, 여전히 활발하게 논의가 진행되고 있습니다. 그래서 오늘은 위 법안이 어떤 내용인지 살짝 열어 보려 합니다.
EU의 인공지능법 (Artificial Intelligence Act) 초안은 “인공지능”을 기계학습 또는 논리·지식·통계 기반의 방식으로 개발되고 인간이 정의한 목적에 따라서 상호작용하는 환경에 영향을 미치는 콘텐츠를 생산·예측·추천·의사결정을 할 수 있는 소프트웨어로 정의하고, 인공지능을 위험의 수준에 따라 ①허용불가 위험(Unacceptable Risk) ②고위험(High-Risk) ③저위험(low or Minimal Risk)로 구분합니다.
먼저, ① 허용불가 위험(Unacceptable Risk) 인공지능은 인간이 인식할 수 없는 방식으로 인간의 취약성을 파고들어 행동·결정 등에 영향을 미치게 하거나, 실시간(real-time) 생체인식시스템을 사용하거나 특정 개인의 행동이나 신뢰를 예측하는 경우 등 인간의 존엄성과 기본권을 침해할 위험이 있는 경우로 금지됩니다. 다만, 미아 찾기, 잠재적 범죄 피해자 위치 파악, 테러 공격 또는 임박한 생명 위험에 대한 방지, 유럽연합 규정에 따른 용의자 추적에 사용되는 인공지능은 제외됩니다.
② 고위험(High-Risk) 인공지능은 인공지능이 상품의 안전이나 인간의 기본권에 영향을 미칠 수 있는 인공지능으로서, 항공기·자동차·열차·기계·장난감 등에 탑재되거나 교통·수도·가스·전기 등 중요인프라 시스템에 탑재되어 오동작을 일으킬 위험이 발생하는 경우를 말합니다.
고위험 인공지능 사업자는 유럽연합 회원국마다 별도로 설치된 인증기관에서 적합성 평가를 받고, 해당 인공지능을 등록하여야 합니다. 사업자는 인증·등록 이후에도 자체적으로 적합성 평가를 지속하여 품질을 유지하여야 합니다. 또한, 예측 가능한 위험의 식별·분석, 예측 가능한 오남용의 추정·평가, 사후 모니터링 등 인공지능의 위험관리시스템을 구축하여 관리하여야 하고, 기술문서를 작성해야 합니다. 뿐만 아니라, 인공지능이 학습·검증·테스트를 위한 데이터셋이 적절한 관련성과 대표성을 갖추고 오류가 없고 편향되지 않도록 관리해야 하며, 인공지능의 결과물이 어떻게 만들어졌는지 이용자가 이해하고 적절하게 사용할 수 있도록 설계·개발되어야 하며, 기능과 한계 등이 명확한 사용안내서가 제공되어야 합니다. 특히 사람이 효과적으로 인공지능을 감독할 수 있도록 설계되어야 하지요.
③ 저위험(low or Minimal Risk) 인공지능은 사람과 채팅을 하거나 바이오 신호를 감지해서 상호작용을 하는 경우, 또는 사진·음성·영상 등을 실제와 같이 만들어내는 경우에는 별도로 공시의무가 부과됩니다. 그 외에는 별다른 규제가 없습니다.
위반시 제재
금지된 인공지능 서비스를 하거나 인공지능 데이터셋 관리 규정을 위반한 경우 최대 3천만 유로(약 400억 원) 또는 전 회계연도의 연간 총 매출액 6% 중 큰 액수의 벌금이 부과됩니다. 나머지 규정을 위반한 경우 최대 2천만 유로(약 270억 원) 또는 전 회계연도의 연간 총 매출액 4% 중 큰 액수의 벌금이 부과됩니다. 다만, 사업자가 인증기관 또는 유럽연합 회원국에 부정확·불완전한 정보를 제공하거나 오해의 소지가 있는 정보를 제공한 경우에는 최대 1천만 유로(약 135억 원) 또는 연간 총 매출액의 4% 중 큰 액수의 벌금이 부과됩니다.
현재상황
EU의 일반입법절차는 EU집행위원회의 의안 제출 → EU의회 위원회의 의견 표명 → EU의회 및 EU이사회의 결정으로 이루어지는데요, 현재 EU의회 내의 주요 위원회인 경제사회위원회, 지역위원회의 의견 표명이 이루어진 상황이지만, EU의회 및 EU이사회가 여전히 논쟁하고 있는 상황이어서 올해 안에 통과될지 여부는 불투명합니다.
EU의 인공지능법이 통과될 경우, EU에 소재한 기업들 뿐 아니라 EU 시장에서 사업을 하는 모든 사업자들이 법을 준수해야 하기 때문에 파급력이 있을 것으로 예상되며, 무엇보다 GDPR이 그랬던 것처럼 다른 국가들로 입법이 확대될 가능성이 있습니다. 인공지능산업을 위축시키지 않으면서도 인간과 인공지능의 공존을 이룰 수 있어야 하기에, 우리나라도 구성원들의 많은 논의가 이루어져야 할 것입니다.
