AI 빅테크 기업들의 제동
유럽연합 EU의 획기적인 AI 규제법이 8월 1일 발효됐습니다.
지난 5월 21일 최종 승인을 받았구요, 기업의 AI 개발과 사용 및 적용 방식에 대한 광범위한 규제를 담고 있는 세계 최초의 AI에 관련된 법안입니다.
AI 기술이 폭발적으로 발전하고 막대한 투자가 이뤄지는 과정에서 여러가지 부작용도 드러나고 있죠
사실 AI 개발의 경쟁이 너무 과도하게 진행되는 측면도 많습니다.
막대한 투자도 그렇지만, AGI (인공일반지능)를 향한 무분별한 개발이 자칫 인류에게 재앙이 될 수도 있을 거란 불안감도 있습니다.
AI 학습에 사용되는 막대한 데이터들이 불법으로 사용된 정황들이 나오면서 저작권과 개인정보 유출에 대한 문제점이 요즘 많이 드러나고 있기도 합니다.
오픈AI의 공동창업자이자 핵심 개발자였던 일리야 수츠케버가 오픈AI를 비판하면서 회사를 떠나게 된 이유가 바로 이런 문제점들 때문이었죠.
그래서 현 시점에서 EU에서 발표된 세계 최초의 AI 법이 전달하는 시사점과 의미는 매우 크다고 볼 수 있습니다.
오늘 수요레터에서는 이번에 발효된 AI법의 핵심적인 내용과 앞으로의 영향에 대해 살펴보겠습니다.
AI 법에는 대체 어떤 내용이 있는거야?
AI 법은 인공지능을 규제하는 EU의 법안입니다. 2020년 유럽연합 집행위원회가 처음 제안했고, AI의 부정적 영향을 해결하기 위한 목적으로 준비되었습니다.
AI의 위험도에 따라 4가지 등급으로 분류하고 분류에 따른 규정을 명시하는 것이 이번 AI 법의 가장 핵심적인 부분입니다.
4가지 등급은 아래와 같습니다.
AI 법에 영향 받는 분야는 뭐가 있지?
고위험과 허용 불가 위험군에 대해서 좀 더 살펴볼 필요가 있습니다. 특히나 고위험 군에 해당되는 AI가 가장 큰 영향을 받게 될 것입니다.
먼저 고위험군에 속하는 영역 중에서 대표적인 내용을 살펴보면,
의료 장비 및 치료 분야가 있습니다. AI가 광범위하게 적용될 분야이지만 인간의 생명을 다루는 영역이니 만큼 더 많은 주의가 필요하겠죠.
자율 주행 분야도 고위험 군에 속하는 대표적인 분야일 것입니다. 사람의 안전과 직결되는 문제입니다.
교육이나 취업 등 학생과 채용에 사용되는 평가 시스템에 AI 가 사용되는 것도 통제의 대상이 됩니다.
공공 서비스, 금융, 사법 시스템에도 이런 규제는 이루어집니다.
생체 인식 등과 같은 개인의 프라이버시와 관련된 감시 시스템에도 이런 제약이 적용됩니다.
고위험 대상으로 선정된 AI 시스템은 투명성, 설명 가능성, 데이터 품질, 인간의 감독, 보안 준수 등의 관련된 기준을 반드시 지켜야 합니다.
불가 위험군은 사실 심플합니다.
감정 등에 따른 개인의 데이터를 이용하여 개인의 사회적 평판을 평가하는 시스템에는 AI를 사용할 수 없습니다.
실시간 원격 생체 조작이라던지 사람들의 투표 행위에 영향을 미치는 선거 행위에도 AI는 사용할 수 없습니다.
만약 지키지 않으면 얼마나 벌금을 무는 거야?
그러면 위에서 얘기한 규정을 어기게 되면 어떤 패널티를 물게 될까요?
먼저 벌금의 경우에는 위반 시 최대 3,500만 유로 또는 글로벌 연간 수익의 7% 중 더 높은 금액이 부과될 수 있습니다.
이는 이미 시행하고 있는 GDPR (일반정보보호규정)보다 더 높은 수준의 벌금입니다.
벌금에서 그치지 않고 심각한 위반의 경우 서비스 중단이나 데이터 삭제 명령을 받을 수도 있습니다.
빅테크 기업들 떨고 있는거야?
이번 AI 법에 적용되는 대상은 EU 회원국에 진출한 모든 AI 기업들이 해당합니다. 그래서 미국의 거대 AI 테크기업들이 이번 법으로 인해 가장 큰 영향을 받을 것으로 보입니다.
또한 테크 기업 뿐만 아니라 AI를 이용한 기업에게도 이 법은 적용될 전망입니다.
EU에서 운영되거나 영향을 미치는 모든 조직에 적용되기 때문에 AI 기업이 EU 밖에 있더라도 당연히 해당 법의 규제를 받게 됩니다.
사실 글로벌 테크 기업이 EU에 진출하지 않는 경우는 없기 때문에 관련 법을 피해갈 방법은 없어 보입니다.
이미 Meta는 규제 문제로 유럽에서 AI 모델 가용성을 제한한다고 발표한 바 있습니다. LLaMa 모델이 GDPR 규정을 준수하는 지 여부에 대해 불확실하다는 설명입니다.
하지만 오픈소스 모델에 대해서는 관련된 AI 법의 적용을 면제시켜주도록 해서 AI 기술의 발전이 몇몇 선도 기업에만 몰리지 않도록 방향을 잡는 역할도 하고 있습니다.
물론 면제 자격을 얻으려면 오픈 소스의 특정 조건을 충족해야 합니다.
아무튼 이번에 EU의 AI 법이 발효되었음에도 불구하고 대부분의 조항은 2026년까지는 위반에 따른 패널티는 없을 것으로 보입니다. 유예기간을 주는 것이죠.
이번 AI 법에 대한 의미는 뭐야?
이번 EU의 AI 법의 의미를 간단히 살펴 봅니다.
사실 AI 기술을 이끌고 있는 빅테크 기업들에게는 반가운 소식은 아니겠죠.
하지만 기업들의 책임 있는 AI 개발을 촉진하고 유도할 수 있는 공식적인 가이드를 제공했다는 의미가 큽니다.
EU 전체에 통일된 규제 프레임워크를 제공함과 동시에 이번 AI 법이 전세계적인 AI 규제의 레퍼런스가 될 가능성이 높습니다. 이미 GDPR도 그런 절차를 밟았습니다.
위험 기반 접근으로 AI 시스템을 분류하고 규제함으로써 무분별한 AI 적용에 제동을 걸게 되었습니다.
물론 AI 발전에 발목을 잡는다는 문제 의식도 분명히 있습니다. 혁신적 기술의 개발의 활성 단계에 찬물을 끼얹어서 기술의 진보를 막는다는 의견들이죠.
그리고 EU가 미국에 뒤쳐진 AI 기술을 따라잡기 위한 방편이라는 목소리도 있는 것도 사실입니다.
이번 <수요레터>에서는 EU의 AI 법에 대해 살펴봤습니다.
세계 최초로 발효된 AI 법에 대해 알아보면서 AI 산업의 방향성에 대해 한번 더 생각해 볼 시간이 되었길 바래 봅니다.
다음에도 또 흥미로운 이야기로 찾아뵙겠습니다.
감사합니다.
촌장 드림
참고문헌
World’s first major AI law enters into force — here’s what it means for U.S. tech giants - 참조
오픈AI 공동창업자 일리야 수츠케버, 오픈AI 떠난다 - 참조
World’s first major law for artificial intelligence gets final EU green light - 참조
EU 규제에…메타도 새 AI 유럽 출시 포기 - 참조
