brunch

You can make anything
by writing

C.S.Lewis

by 금빛나무 Jun 12. 2021

유럽연합 위원회 인공지능 규제

유럽연합 인공지능 규제 및 발전전략과 우리 사회 방향성에 대해

인공지능 시대에 접어든 한국사회 


불과 몇 년 전 이세돌과 알파고의 바둑 대결을 접하고 전 세계와 한국 사회는 충격에 휩싸였다.

그러던 우리 사회는 이제 급속한 인공지능 시대로 진입하게 되었다.


인공지능을 활용한 다양한 서비스 상품이 봇물 터지듯 나오면서 사회 곳곳에서 인공지능에 대한 실용화 흐름을 몸으로 느낄 수 있게 되었다.  


실제로 많은 가정집에 빠르게 대화용 인공지능 스피커가 확산되었고, 고객센터는 인공지능 상담원이 적용되기 시작했다.


특히 코로나19로 인한 비대면 문화 확산으로 인해 여러 변화가 급속하게 나타나고 있다.

 인공지능 로봇 기반 호텔서비스적용되었고  자율주행 자동차 또는 배달 로봇시범적으로 운영되고 있다.

호텔 안내 서비스 로봇


한편으로 인공지능 위험성에 대해 실감하지 못한 상황에서 사회적 악영향을 미치는 경우도 발생하고 있다.


하지만 지극히 사회적 위험성이 보이는 인공지능 적용사례와 부작용들도 나타나고 있다.

이러한 시점 유럽연합은 인공지능 발전과 함께 제약되어야 하는 사항을 정리했다.

사실 기술에 대한 규제는 기술이 본질적으로 발전시키는 촉매제 역할을 하기도 한다.


얼마 전 한국사회도 교통 플랫폼인 타다 논쟁에서도 유사한 이슈가 있었다.

IT기술을 통해 시장 독점을 하려는 플랫폼 기업은 모든 규제를 없애야 한다는 논리였지만 반대로 기존 규제를 포함한 혁신이 필요하다는 논리가 대치되면서 많은 논쟁이 있었다.


인공지능 산업에서도 우리 사회는 비슷한 논쟁이 필요한 시점으로 유럽연합에서 제시한 인공지능에 대한 규제와 발전방향은 유럽연합의 문제의식을 이해할 수 있고 우리 문제이기도 하다는 것을 이해하게 된다.


다음 주제로는 한국사회 인공지능 적용과 전 세계적 문제의식을 함께 연관 지어 생각해보고자 한다.

다음은 유럽연합에서 인공지능에 대한 규제와 산업 활성화를 위한 방안으로 번역 중 일부 어감이 이상한 부분은 아래 원본 페이지를 통해 확인하기 바란다.


출처 : 유럽연합 내부 시장, 산업, 기업가 정신 및 중소기업 관련  공식 웹사이트

https://ec.europa.eu/growth/content/europe-fit-digital-age-commission-proposes-new-rules-and-action s-excellence-and-trust_en



디지털 시대에 적합한 유럽 :

 

위원회, 인공 지능의 우수성과 신뢰를 위한 새로운 규정과 실행방안 제안


브뤼셀, 2021  4  21


위원회는 유럽을 신뢰할 수 있는 인공 지능(AI)의 글로벌 허브로 만들기 위한 새로운 규칙과 조치를 오늘 제안합니다. 인공지능에 대한 최초의 법적 프레임 워크와 회원국 간 새로 조정된 계획의 결합은 EU 전역에서 인공지능 기술 활용, 투자 및 혁신을 강화하는 동시에 사람과 기업의 안전과 기본권을 보장합니다.


기계에 적용되는 새로운 규칙은 안전 규칙을 적용하여 새로운 다용도 제품에 대한 사용자의 신뢰를 높임으로써 접근 방식을 보완할 것입니다.


유럽의 수석 부사장 인 마그렛 베스 타거 (Margrethe Vestager)는 디지털 시대에 적용에 대해 다음과 같이 말했습니다. “인공 지능에 대한 신뢰는 반드시 가져야 하는 것이 아니라 필수입니다. 이러한 획기적인 규칙을 통해 EU는 인공지능에 대해 신뢰할 수 있도록 새로운 글로벌 규범 개발에 앞장서고 있습니다. 표준을 제정함으로써 우리는 전 세계적으로 윤리적 인공지능 기술 활용의 길을 열 수 있고 그 과정에서 EU가 경쟁력을 유지할 수 있습니다.


미래에 대비하고 혁신 친화적인 우리 규칙은 EU 시민의 안전과 기본권이 위태로울 때 엄격하게 필요한 곳에 개입할 것입니다.”


유럽연합 내부 시장 위원 티어리 브레톤(Thierry Breton)은 다음과 같이 말했습니다 :
 “인공지능은 목적이 아니라 수단입니다. 수십 년 동안 사용되어 왔지만 컴퓨팅 성능으로 인해 새로운 용량에 도달했습니다. 이는 건강, 교통, 에너지, 농업, 관광 또는 사이버 보안과 같은 다양한 분야에서 엄청난 잠재력을 제공합니다.


또한 여러 가지 위험이 있습니다. 오늘의 제안은 연구실에서 시장에 이르기까지 인공지능 우수성의 글로벌 허브로서 유럽 입지를 강화하고, 유럽 인공지능이 우리의 가치와 규칙을 존중하도록 보장하며, 산업용 인공지능의 잠재력을 활용하는 것을 목표로 합니다.”


새로운 인공지능 규정은 유럽인들이 인공지능이 제공하는 것을 신뢰할 수 있도록 할 것입니다. 비례하고 유연한 규칙은 AI 시스템이 제기하는 특정 위험을 해결하고 전 세계에서 가장 높은 표준을 설정합니다. 조정된 계획의 핵심은 인간 중심적이고 지속 가능하며 안전하고 포용 적이며 신뢰할 수 있는 AI 개발에 있어 유럽의 선도적 위치를 강화하기 위해 회원국 수준에서 필요한 정책 개선 및 투자를 요구합니다.




신뢰할 수 있는 인공지능 AI에 대한 유럽의 접근 방식


새로운 규칙은 인공지능에 대한 미래 보장형 정의를 기반으로 모든 회원국에 동일한 방식으로 직접 적용됩니다.  그들은 위험 기반 접근 방식을 따릅니다.


허용할 수 없는 위험 : 인공지능 시스템은 사람들의 안전, 생계 및 시민의 권리에 대한 명백한 위협으로 간주되는 경우 금지될 필요가 있습니다.


여기에 포함되는 인공지능시스템 또는 애플리케이션은 사용자의 자유 의지를 회피하기 위해 인간의 행동을 조작하는 인공지능 시스템 또는 애플리케이션 (예 : 미성년자의 위험한 행동을 조장하는 음성인식을 사용하는 장난감) 및 정부에서 '사회적 평가'로 허용하는 시스템이 포함됩니다.


고위험 : 고위험으로 정의된 인공지능 시스템은 다음과 같이 사용되는 인공지능 기술이 포함됩니다.


  - 시민의 생명과 건강 위험에 빠뜨릴 수 있는 중대한 인프라 (예 : 운송)

  - 누군가의 삶에 영향을 미칠 수 있는 교육 및 전문적 교육과정에 대한 있는 교육 또는 직업 훈련 (예 : 시험 채점)  , 안전이 요구되는 기구 요소  (예 : 로봇 보조 수술의 인공지능 애플리케이션)

  - 고용, 노동자 관리 및 자영업에 대한 접근 (예 : 채용 절차를 위한 이력서 분류 소프트웨어) 필수 민간 및 공공 서비스 (예 : 시민의 대출 기회를 거부하는 신용 점수)

  - 사람들의 기본권을 침해할 수 있는 법 집행 (예 : 증거의 신뢰성 평가) 이주, 망명 및 국경 통제 관리 (예 : 여행 문서의 진위 확인)

  - 정의 및 민주적 프로세스의 관리 (예 : 구체적인 사실에 법 적용).


고위험 인공지능 시스템은 시장 출시 전에 엄격한 의무가 적용됩니다.


적절한 위험 평가 및 완화 시스템들 ; 위험을 최소화하기 위해 시스템에 공급하는 높은 품질의 데이터셋 및 차별적 결과 등;  결과가 나온 원인을 추적 보장을 위한 활동 로그 데이터;

시스템에 필요한 모든 정보를 제공하는 상세한 문서가 준비되어야 하며 당국이 규정 준수를 평가하기 위한 목적으로 활용된다.


사용자에게 명확하고 적절한 정보 제공 : 적절한 관리감독자 위험을 측정하고 최소화 ; 높은 수준의 견고성, 보안 및 정확성.


특히 모든 원격 생체 인식 시스템은 높은 위험으로 간주되며 엄격한 요구 사항이 적용됩니다. 법 집행 목적으로 공개적으로 접근 가능한 공간에서의 실시간 사용은 원칙적으로 금지됩니다. 예외사항은 좁고 엄격하게 정의되고 규제됩니다 (예 : 실종된 아동을 수색하고, 특정 임박한 테러 위협을 방지하거나, 가해자 또는 심각한 범죄 용의자를 탐지, 찾기, 식별 또는 기소하기 위해 엄격하게 필요한 경우). 이러한 사용은 사법 기관 또는 기타 독립 기관의 승인을 받아야 하며 시간, 지리적 범위 및 검색되는 데이터베이스에 대한 적절한 제한이 적용됩니다.


제한된 위험, 즉 특정 투명성 의무가 있는 인공지능 시스템 : 챗봇과 같은 인공지능 시스템을 사용할 때 사용자는 기계와 상호 작용하고 있음 을 인식해야 하며, 사용을 계속 또는 중지하기 위한 결정을 내릴 수 있도록 정보를 주어야 한다.


최소 위험 : 법률이 제안하는 자유롭게 사용하는 허용범위는 인공지능 기반 비디오 게임 또는 스팸 필터와 같은 애플리케이션입니다. 대부분의 주요 AI 시스템이 이러한 범주에 속합니다. 이러한 인공지능 시스템은 시민의 권리 또는 안전에 대한 위험을 최소화하거나 전혀 나타내지 않기 때문에 규정 초안은 이러한 분야에 개입하지 않습니다.

거버넌스 측면에서 위원회는 시장 경쟁력이 있도록 당국이 새로운 규칙을 관리하고 유럽 인공 지능위원회의 창설은 인공지능 표준 개발과 구현을 촉진할 것이라고 제안합니다.  또한 책임 있는 혁신을 촉진하기 위해 비 위험성 인공지능과 규제 샌드 박스에 대한 자발적 행동 강령을 제안합니다.





인공지능의 우수성에 대한 유럽의 접근 방식


인공지능 분야에 대한 조정은 인간 중심적이고 지속 가능하며 안전하고 포용적이며 신뢰할 수 있는 인공지능에 대한 유럽의 선도적 위치를 강화할 것입니다. 전 세계적으로 경쟁력을 유지하기 위해 위원회는 모든 회원국의 모든 산업에서 인공지능 기술 개발 및 사용에 대한 혁신을 촉진하기 위해 최선을 다하고 있습니다.


2018년 최초 정의된 인공지능 개발 및 활용을 위한 과제 및 자금 조달 관련 조정 계획과 EU 자금 지원으로 활기찬 민관 파트너십과 연구 및 혁신 네트워크를 위한 국가 전략을 가능하게 했습니다.


조정된 계획의 포괄적 업데이트는 모든 노력이 코로나 바이러스 전염병으로 인한 새로운 과제를 고려하면서 인공지능에 대한 유럽 전략 및 유럽 그린 뉴딜 정책에 부합하도록 협력을 위한 구체적인 공동 조치를 제안하며 인공지능에 대한 투자를 가속화로 회복에 도움이 될 수 있는 비전을 제시합니다.

또한 국가 AI 전략의 구현을 촉진을 통해 분열됨 제거하며 글로벌 문제 해결을 목표로 합니다.


업데이트된 협의 안은 디지털 유럽 및 수평적 유럽 프로그램으로 20 % 디지털 소비 목표로 예측한 회복과 탄력 프로그램을 통해 할당된 자금을 사용하여 다음을 수행합니다.


정책 통찰력, 데이터 공유 및 중요한 컴퓨팅 용량에 대한 투자의 교환을 통해 인공지능의 개발 및 활용을 위한 활성화 조건을 만듭니다.


공공-민간 파트너십을 구축하고 연구, 개발 및 혁신 역량을 구축 및 동원하고 테스트 및 실험 시설과 중소기업 및 공공 행정이 사용할 수 있는 디지털 혁신 허브를 만들어 '실험실에서 시장까지’ 인공지능의 우수성을 촉진합니다.


인공지능은 사람을 위해 일하고 신뢰할 수 있는 인공지능 개발 및 배포에 앞장서고 디지털 영역에서 교육, 박사 네트워크 및 박사 후 펠로우 십을 지원하여 재능과 기술을 육성하고 신뢰를 인공지능 정책에 통합하여 사회에서 선한 영향력이 미치도록 해야 합니다. 이로서 지속 가능하고 신뢰할 수 있는 인공지능에 대한 유럽의 비전을 전 세계적으로 홍보하고자 합니다.


공공 부문, 이동성, 가정 업무 및 농업, 로봇 공학은 물론 국경 간 정보 교환을 확대하여 지속 가능한 생산, 건강에 대한 인공지능 기여에 초점을 맞춰 환경을 포함한 영향력이 큰 분야에서 전략적 리더십을 구축해야 합니다.



새로운 기계 제품에 대한 유럽의 접근 방식


기계 제품은 로봇에서 잔디 깎는 기계, 3D 프린터, 건설 기계, 산업 생산 라인에 이르기까지 광범위한 소비자 및 전문 제품을 포함합니다.

새로운 기계류 규정으로 대체된 기계류 지침은 기계류에 대한 안정성 및 안전 요구 사항을 정의했습니다.

이 새로운 기계 규정은 새로운 세대의 기계가 사용자와 소비자의 안전을 보장하고 혁신을 장려하도록 보장합니다.


이때 인공지능 규정은 인공지능시스템의 안전 위험을 다루지 만 새로운 기계 규정은 인공지능 시스템이 전체 기계에 안전하게 통합되도록 보장합니다. 기업은 단 하나의 적합성 평가만 수행하면 됩니다.


또한 새로운 기계류 규정은 현재 조항에 대한 법적 명확성을 높이고, 문서화를 위한 디지털 형식을 허용하고 중소기업에 대한 적합성 평가 수수료를 적용함으로써 기업의 관리 부담과 비용을 단순화 함과 동시에 EU 제품에 대한 입법 체계와 일관성을 보장함으로써 시장 요구에 대응할 것입니다.



향후 단계


유럽 의회와 회원국은 일반적인 입법 절차에서 인공 지능 및 기계 제품에 대한 유럽 접근 방식에 대한 위원회의 제안을 채택해야 합니다. 일단 채택된 규정은 EU 전역에 직접 적용됩니다. 동시에, 위원회는 조정 계획에 발표된 조치를 이행하기 위해 회원국과 계속 협력할 것입니다.


배경


수년 동안 위원회는 인공지능의 경쟁력을 높이고 EU 가치에 기반한 신뢰를 보장하기 위해 EU 전역에서 인공지능에 대한 협력을 촉진하고 강화해 왔습니다.


2018 년 인공지능에 관한 유럽 전략이 발표된 후 광범위한 이해 관계자 협의 끝에 HLEG (High-Level Expert Group on AI)는 2019 년에 신뢰할 수 있는 인공지능에 대한 지침을, 2020 년에 신뢰할 수 있는 인공지능에 대한 평가 목록을 개발했습니다. 인공지능에 대한 첫 번째 조정 계획은 회원국과의 공동 공약으로 2018 년 12 월에 발표되었습니다.


2020년 발행된 위원회의 인공지능 백서는 유럽의 인공지능에 대한 명확한 비전, 즉 탁월함과 신뢰의 생태계를 제시하여 오늘의 제안을 위한 상황이 되었습니다.

인공지능 백서에 대한 공개 협의는 전 세계에서 광범위한 참여를 이끌어 냈습니다. 백서는 '인공 지능, 사물 인터넷 및 로봇 공학의 안전 및 책임 영향에 대한 보고서'와 함께 현재 제품 안전 법규에 특히 기계류 지침에서 해결해야 할 여러 공백이 포함되어 있다는 결론을 내렸습니다.





유럽의 인공지능에 대한 규제사항은 주로 판단의 결과가 누군가의 삶에 영향을 미치거나 기본권에 영향을 미치는 사안에 대한 제약사항이 있음을 보여주고 있다. 즉 인간을 위한 인공지능이어야 하고 검증 가능한 인공지능이어야 함을 강조하고 있다.


매거진의 이전글 세월호, 광장에서 만난 사람들
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari