'AI 규제법', 이거 아나?

뉴스레터 '뭐라노'의 마스코트 라노입니다. 라노는 이번 주 이거아나에서 소개할 시사상식 용어를 'AI 규제법'으로 정했어요. 요즘 AI 사용이 점점 더 광범위해지고 있어요. 유튜브에서는 AI 커버곡을 심심찮게 찾아볼 수 있고요, 대학생들은 AI를 활용해 과제를 하고 있어요. 처음 AI가 등장했을 때는 우리 생활에 직접적으로 적용되기까지는 한참 걸릴 것이라고 생각했는데요, AI는 어느 순간부터 우리 생활에 잔잔하게 스며들어 있었어요.

이제 막 도입되기 시작한 AI는 특별한 규제 방안이 없어 무분별하게 사용되고 있는데요. AI로 생성한 딥페이크가 대선에 영향을 주는 등 부작용을 낳고 있습니다. 그래서 유럽연합(EU)이 세계 최초 포괄적 성격의 'AI 규제법'을 최종 승인했습니다. 내년엔 인간 수준의 사고력을 지닌 범용인공지능(AGI)에 대한 규제도 시행될 예정이죠.

EU 교통·통신·에너지이사회는 지난 21일(현지시간) 벨기에 브뤼셀에서 열린 회의에서 AI법을 최종 승인했다고 밝혔습니다. 이 법은 AI 기술을 위험 수준에 따라 4단계로 나눠 규제하는데 ▷허용될 수 없는 위험 ▷고위험 ▷제한적 위험 ▷저위험 등으로 나눠 차등 규제합니다.

인권을 위협하는 일부 기술은 '허용될 수 없는 위험'으로 분류돼 법 시행 6개월 뒤인 11월부터 전면 금지됩니다. 이용자의 정치·종교적 신념, 인종, 성적 취향과 같은 특정 범주에 따라 사람을 분류하기 위해 생체 인식 데이터를 사용하는 것이 대표적인 금지 행위입니다. 테러 납치 등 중범죄를 제외하고는 프로파일링을 기반으로 한 치안 업무에 AI를 사용하는 것도 금지되죠. 이 외에 ▷어린이에게 위험한 행동을 조장하는 음성 인식 장난감 같은 인지 조작 시스템 ▷생체 인식과 사람 분류 시스템 ▷실시간·원격 생체 정보 인식 시스템 등이 여기에 해당합니다.

'고위험' 기술로 분류된 시스템들은 판매 전과 사용 기간 중 지속적인 위험 평가를 해야 합니다. 시민들이 이런 시스템에 대해 불만을 제기하고 인공지능 시스템에 근거해 이뤄진 결정에 대한 해명을 요구하는 것도 가능해지죠. ▷중요 기반 시설 관리·운영 시스템 ▷교육 시스템 ▷고용 관리 시스템 ▷이주·국경 통제 시스템 ▷법률 지원 시스템 등이 고위험 기술로 분류됐습니다.

AI법은 이달 중 관보 게재를 거쳐 다음 달 27개 회원국 역내에서 정식 발효됩니다. 발효 6개월 뒤부터 금지 대상 AI 규정을 우선 시행한 후, 1년 뒤부터 AGI에 대한 규제가 시행되죠. 전면 시행 시점은 2026년 중반 이후입니다.

강력한 처벌 규정도 함께 마련됐습니다. EU 집행위원회는 AI법을 위반하는 기업에 3500만 유로(한화 약 518억 원) 또는 글로벌 매출의 7%에 해당하는 금액 중 더 높은 금액의 벌금을 부과할 수 있다고 밝혔습니다. EU는 집행위 연결총국 산하에 'AI 사무소'를 신설해 법 집행을 총괄하도록 한다는 계획을 세웠죠.

미국 빅테크 기업들은 AI법이 불러올 파장에 촉각을 곤두세우고 있습니다. 이 법은 2021년 초안이 발의된 후 2022년 '챗GPT'가 출시되면서 발의에 속도가 붙었습니다. 생성형 AI 활용 확산에 따라 여러 부작용이 발생할 수 있다는 우려를 반영한 것. 대중을 대상으로 하는 생성형 AI 시스템에 많은 자금을 투입한 미국 빅테크 기업들 입장에서는 부담스러울 수밖에 없습니다.