brunch

매거진 와이파이레터

라이킷 11 댓글

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 샤인웨이 Mar 18. 2024

AI 규제 주도권 경쟁의 서막

[3월 4주차]#인공지능 #EU #미국

안녕하세요. 서진욱 기자입니다.

유럽연합(EU)이 전 세계에서 처음으로 포괄적인 인공지능(AI) 규제를 위한 법률 제정을 최종 확정했습니다. AI 규제 주도권을 쥐려는 EU의 의지가 반영된 행보로, AI 시장을 선도하는 미국 빅테크 기업들이 주요 규제 대상이 될 전망입니다.

미국은 지난해 조 바이든 대통령이 서명한 AI 행정명령에 따라 AI를 규율하고 있는데요. EU처럼 AI 규제의 글로벌 스탠다드를 주도하기 위한 움직임에 나섰습니다. 우리나라의 AI 규제 논의는 어디까지 진행됐는지도 살펴봤습니다.

※뉴스레터를 이메일로 받아보려면 아래 링크를 눌러주세요!

와이파이레터

ictwifi.stibee.com

EU, 세계 최초 'AI법' 최종 승인

AI법 타깃은 미국 빅테크, EU 의도는?

미국은 행정명령 규율 체제… UN 'AI 결의안' 주도

국회 논의 중단된 AI육성법… '우선허용' 조항 논란

EU, 세계 최초 'AI법' 최종 승인

유럽연합(EU)이 세계 최초 인공지능(AI) 입법 규제인 'AI 법안'을 최종 승인했습니다. AI 법안은 지난 13일 열린 유럽 의회 본회의에서 압도적 찬성으로 통과됐는데요. 이제 AI 법은 EU 소속 27개 국가별 승인을 거쳐 발효됩니다. 일부 조항이 6개월 뒤부터 시행되기 때문에 올해가 AI 입법 규제의 원년이죠.

AI 법은 AI를 위험 수준에 따라 4가지(①허용될 수 없는 위험 ②고위험 ③제한된 위험 ④저위험)로 구분해 차등적으로 규제하는 게 핵심인데요. 사람의 잠재의식과 관련됐거나 의사결정 능력에 손상을 입히는 AI 기술은 금지합니다. 사람이나 특정 단체의 취약성을 활용하거나 불공정한 처우를 위한 행위도 허용하지 않죠. AI를 활용해 실시간으로 생체를 식별하는 시스템도 EU 내에선 운용할 수 없습니다.

주요 규제 대상은 고위험 등급의 AI 기술입니다. 공공·의료·교육·선거·자율주행·핵심 인프라 등과 관련됐거나 영향을 미치는 AI 기술이 여기에 해당하는데요. 고위험 AI 기술을 운용하려면 위험관리시스템을 구축하고, 반드시 사람이 감독해야 합니다. AI에서 문제가 생겼을 때 책임질 사람을 정해놓으라는 거죠. 각국 정부는 고위험 AI 시스템의 데이터 공개와 위험 평가를 요구할 수 있는 권한을 갖습니다.

AI 법은 AI가 생성한 이미지, 동영상 등을 식별할 수 있도록 라벨 부착 의무도 부과합니다. 범용 AI의 경우 기술문서와 사용지침, 시스템 학습에 활용된 데이터를 공개해야 합니다. 범용 AI 개발자는 저작권법을 포함한 EU 법을 준수해야 하는데요. 학습 데이터의 저작권 침해 여부를 따져볼 수 있는 근거 조항으로 기능할 전망입니다.

법 위반 시 최대 3500만유로(508억원) 또는 전 세계 매출의 7%에 해당하는 과징금을 부과합니다.

AI법 타깃은 미국 빅테크, EU 의도는?

AI 법은 고위험 AI를 중심으로 다각적 감독, 정보공개 의무, 관리책임 부과 등 방대한 규제 근거를 담았습니다. EU 내에서조차 너무 센 규제라는 지적이 나오기도 했죠. 프랑스와 독일 정부는 EU 내 스타트업들의 성장을 저해할 수 있는 우려를 표명했습니다. 반면 범용 AI에 대한 규제가 너무 약하다는 시민사회단체의 비판도 있었죠.

EU가 선도적인 AI 규제를 단행한 데에는 AI 규제 주도권을 쥐겠다는 의지가 반영됐습니다. 앞서 개인정보보호법(GDPR), 탄소국경세 사례처럼 EU가 제정한 규제가 글로벌 스탠다드로 정립될 수 있도록 발빠르게 움직였죠. 실제로 세계 각국에서 AI 법을 차용한 사례가 이어질 가능성이 큽니다. 독일, 프랑스, 이탈리아 등 주요 선진국들이 채택한 표본이기 때문이죠. AI 법에 따른 소송 판례는 전 세계적인 참고자료로 활용될 겁니다.

DSA(디지털서비스법), DMA(디지털시장법)에 이은 미국 빅테크 기업들을 겨냥한 EU의 규제 행보이기도 합니다. AI 기술력은 뒤처졌지만 규제 주도권만큼은 미국에 내줄 수 없다는 의지가 반영됐죠. 현재 AI 시장은 오픈AI, 마이크로소프트, 구글, 아마존 등 미국 기업들이 주도하고 있습니다. AI 법에 따라 미국 기업들은 광범위하고 강도 높은 규제를 준수해야 유럽에서 사업을 펼칠 수 있습니다. EU는 AI 알고리즘을 공개하라는 명령을 내릴 수도 있죠.

프랑스와 독일 정부의 우려처럼 유럽 기업들의 규제 부담도 커질 수밖에 없습니다. 다만 EU의 빅테크 규제가 디지털 자주성 확보를 목표로 한다는 점을 고려하면 미국 기업들이 AI 법의 타깃이 될 가능성이 큽니다. 주요 외신 보도에 따르면 미국 기업들은 AI 법이 미국의 첨단 기술을 과도하게 제한하는 조치라며 반발하고 있습니다. 아직까지 개별 기업의 공식적인 입장 표명은 없는데요. 미국 경제계 단체나 싱크탱크 차원에서 AI 법을 비판하면서 단체 행동에 나설 수도 있습니다.

미국은 행정명령 규율 체제… UN 'AI 결의안' 주도

아직 미국은 EU처럼 포괄적인 AI 규제를 담은 법을 제정하진 않았습니다. 지난해 10월 바이든 정부가 발령한 'AI 행정명령'에 따라 AI 규율을 시작했죠. 행정명령은 AI 안전성 평가 의무화, AI 도구의 안전성 표준 마련, 개인정보 보호 등 내용을 골자로 합니다. 국가안보와 공공의 안전을 위협할 수 있는 AI 모델의 경우 개발 단계부터 정부에 보고하고, 정부 레드팀(전문가 검증)의 안전 검사를 필수적으로 받아야 하죠. 향후 AI 법 제정 논의에 본격 착수하면 행정명령 내용을 주요하게 반영할 것으로 보입니다.

최근 미국은 50개국 이상이 참여한 AI 결의안을 유엔에 제출했습니다. 구체적인 내용은 아직 공개되지 않았지만 AI 사용으로 벌어질 수 있는 문제들에 대한 안전장치를 마련하자는 의지를 담은 것으로 알려졌죠. 선진국과 개발도상국 간 AI 기술 격차를 줄이기 위해 노력하자는 내용도 포함됐습니다. UN 결의는 법적 구속력은 없습니다. 다만 AI에 대한 국제적 규범 설정을 주도하려는 미국의 의지가 반영된 점을 주목해야 합니다.

미국은 EU에 비해 AI 규제에 신중한 입장을 취할 수밖에 없습니다. AI 시장을 선도하는 주체가 미국 기업들이기 때문에 과도한 규제가 불러올 후폭풍을 의식해야 합니다. 만약 미국 내에서 강력한 규제를 시행한다면 EU를 포함한 해외의 미국 빅테크 타깃 규제에 이의를 제기할 명분이 떨어지겠죠. 국가 차원에서 이뤄지고 있는 중국의 AI 경쟁력 강화 노력도 신경쓸 수밖에 없습니다. AI 규제 주도권을 쥐려는 미국 정부의 움직임은 미국 기업들의 AI 지배력을 잃지 않으려는 행보이기도 합니다.

국회 논의 중단된 AI육성법… '우선허용' 조항 논란

우리나라에서는 규제보다 진흥에 초점을 맞춘 AI 입법 논의가 이뤄지다가 중단됐습니다. 지난해 2월 AI산업육성법 제정안이 과방위 소위를 통과했는데, 1년 넘게 전체회의에 상정되지 못했습니다. AI 법안의 핵심인 '우선 허용-사후 규제' 원칙 조항에 반대하는 목소리가 나왔는데, 과방위 차원에서 대안을 만들지 못했기 때문입니다. 여야의 이목이 4·10 총선에 쏠리면서 법안을 방치한 결과이기도 합니다.

해당 조항은 '누구든지 AI 기술 및 알고리즘의 연구·개발 및 AI 제품 또는 서비스 출시 등과 관련된 행위를 할 수 있다. 이 경우 AI 기술, 제품, 서비스가 국민 생명·안전·권익에 위해가 되거나 공공의 안전 보장, 질서 유지, 복리 증진을 현저히 저해할 우려가 있는 경우가 아니라면 제한해선 안 된다'는 내용인데요. AI 기술 육성이 시급한 상황을 감안하더라도 너무 지나친 규제 유보 조항이라는 비판에 휩싸였죠.

그동안 과방위의 입법 방관 행태를 고려하면 21대 국회에서 AI 법안이 통과될 가능성은 낮습니다. 광범위한 사전 규제에 초점을 맞춘 EU의 AI 법이 제정된 점을 고려하면 AI 법안의 입법 당위성이 크게 흔들릴 수 있는 상황이죠. 딥페이크 가짜뉴스와 같은 AI 부작용을 차단하기 위한 규제가 필요하다는 여론도 무시하기 어렵습니다. 다만 미국과 중국에 비해 한참 뒤쳐진 국내 AI 경쟁력을 빠르게 끌어올리려면 과감한 지원이 필요하다는 주장에도 일리는 있습니다.

과기정통부는 AI 안전 평가와 연구를 위한 전담 조직인 'AI 안전연구소' 설립과 민간 AI 검·인증 제도 활성화를 추진하고 있습니다. 이런 노력이 실효성 있는 AI 기술 감독과 부작용 예방으로 이어질진 지켜봐야 합니다. 올해 5월 영국과 함께 국내에서 개최할 예정인 'AI 안전성 정상회의'도 중요한 이벤트죠. 전문가들은 우리나라 역시 글로벌 AI 규범 논의에서 주도적인 역할을 맡으려는 노력이 필요하다고 제언합니다.