국회 통과 임박한 AI기본법
[12월 4주차]#인공지능 #국회 #학습데이터
안녕하세요. 서진욱 기자입니다.
21대 국회에서 폐기됐던 AI기본법이 본회의 통과를 앞뒀습니다. AI 규율을 담은 국내 최초 법이 만들어지기 때문에 여론의 이목이 쏠리는데요. AI기본법의 주요 내용과 법안 심사 과정에서 쟁점으로 다뤄졌던 문제들을 정리했습니다.
확연하게 규제보단 지원에 초점을 맞췄기 때문에 AI기본법에 대한 비판도 상당합니다. 법사위 심사 과정에선 과기부 장관과 문체부 국장의 설전이 벌어지기도 했습니다. 생성형 AI의 학습데이터 공개 의무 조항이 반영되지 않아서죠. 본회의 통과 이후에도 AI기본법을 둘러싼 논쟁은 이어질 텐데요. AI 시대가 안착할 수 있도록 생산적인 토론이 이뤄지길 바랍니다.
※와이파이레터는 쏟아지는 ICT 이슈 중 핵심만 꼽아드립니다. '테크 빅뱅' 시대를 살아가는 당신의 길잡이가 되겠습니다. 주소록에 shineway2011-gmail.com@send.stibee.com을 추가해 주세요. 뉴스레터가 스팸함으로 가지 않아요. 기고 문의와 협업 제안은 언제든 환영합니다.
AI기본법 제정 임박… 연내 본회의 통과 수순
규제보단 지원 초점… 유일한 제재는 과태료 3000만원
고위험→고영향 변경, 과기부 장관과 문체부 국장의 설전
학습데이터 공개 규제 미반영, 사실조사 규제 추가
반발한 진보 시민단체들… 논쟁은 계속된다
/출처: AskUp 생성 이미지.AI기본법 제정 임박… 연내 본회의 통과 수순
국내 최초 인공지능(AI) 규율인 AI기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법) 제정이 임박했습니다. 국회 소관 상임위인 과방위에 이어 법사위를 통과해 본회의 표결만 앞뒀는데요. 여야 이견이 없는 법안이기 때문에 이달 30일 열리는 본회의에서 무난하게 처리될 전망입니다. AI기본법은 정부 공포가 이뤄지면 1년 뒤부터 시행됩니다. 돌발 변수가 없다면 2026년부터 시행이 유력하죠. 유럽연합(AI법), 미국(AI 행정명령) 등 주요국에 발맞춰 AI 규율을 위한 법적 기반을 마련하는 점에서 의미가 큽니다.
AI기본법은 AI 관련 용어들의 법적 정의부터 규정하는데요. 주요 규제 대상인 고영향 AI의 경우 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템으로 정의했습니다. AI사업자는 고영향 AI 또는 생성형 AI를 제공하려면 해당 서비스가 AI 기반해 운용되는 사실을 이용자에게 사전 고지 및 표시해야 합니다. 딥페이크 콘텐츠에도 해당 의무를 부과하는데, 이용자가 직관적으로 파악할 수 있는 표시만 허용합니다. 이용자에게 보이지 않는 비가시적 워터마크는 인정하지 않죠. 대규모 AI 시스템의 경우 자체 위험 평가 및 관리체계를 과기부에 보고해야 합니다. 21대 국회에서 큰 논란을 일으킨 '우선 허용-사후 규제' 원칙은 빠졌습니다.
기본법이 시행되면 과기부 장관은 3년마다 AI산업 진흥과 경쟁력 강화를 위한 기본계획을 세워야 합니다. 과기부 장관에게 AI정책센터와 AI안전연구소를 운영할 수 있는 권한도 부여합니다. 기본법은 대통령 소속 국가AI위원회를 운영할 수 있는 근거도 뒀는데요. 이미 AI위원회는 대통령령(시행령)에 근거해 지난 9월 말 출범했습니다. 같은 대통령 소속 기구라도 기본법 제정으로 법적 지위가 한 단계 격상된다고 볼 수 있죠. AI위원회는 AI 기본계획 수립과 AI 활용 촉진, 고영향 AI 규율 등 내용을 심의 및 의결합니다. 이외에도 여러 제도적 지원 근거를 기본법에 담았죠.
EU AI법의 위험 구분과 예시. /자료: 소프트웨어 정책연구소.규제보단 지원 초점… 유일한 제재는 과태료 3000만원
AI기본법을 EU AI법, 미국 AI 행정명령과 비교하면 규제 수위가 크게 낮습니다. 규제보다는 법적 정의 규정과 지원 체계 마련에 초점을 맞췄죠. EU AI법은 인간의 존엄성, 자유, 평등, 차별금지, 민주주의 및 법치 존중 등 가치를 위배하는 AI를 전면 금지하는데요. 미국의 경우 안보·건강·안전을 위협할 수 있는 AI에 대해 정부 검증 전문가팀(AI 레드팀)의 안전 검사를 받도록 강제합니다. 서비스 출시 전 의무적으로 거쳐야 하고, 개발과 훈련 과정도 검사 대상에 포함되죠. 반면 AI기본법에는 특정 AI를 금지하는 조항은 존재하지 않습니다.
제재 강도도 비교하기 어려운 수준입니다. EU AI법의 주요 규제 대상인 고위험 AI 관련 규정을 위반할 경우 최대 1500만유로(227억원)와 글로벌 연매출의 최대 3% 중 더 큰 금액의 제재금을 부과받을 수 있습니다. 미국은 AI 행정명령에 따라 상무부 중심으로 세부 규제 조치를 마련 중인데요. 막대한 벌금과 징역형에 처할 수 있는 벌칙 조항을 넣을 게 유력합니다. 다만 내년 1월 취임하는 도널드 트럼프 대통령 당선인이 AI 행정명령 폐기를 공언했기 때문에 후속 작업이 백지화할 가능성이 존재합니다.
AI기본법은 벌칙과 과태료 조항을 뒀는데요. AI사업자에게 적용하는 유일한 제재인 과태료의 경우 최대 3000만원까지 부과할 수 있습니다. 실질적인 제재 효과를 고려했다기보단 의례적으로 과태료 조항을 넣은 수준이죠. 형벌에 해당하는 벌금, 부당이익 환수를 위한 과징금을 부과할 수 있는 근거는 없죠. 국가AI위원회 위원이 직무상 비밀을 누설하거나 목적 외 용도로 사용할 경우 부과하는 벌칙은 3년 이하 징역 또는 3000만원 이하 벌금입니다.
법사위 전체회의에서 설전을 벌인 유상임 과기부 장관(왼쪽)과 정향미 문체부 국장. /출처: 국회 영상회의록.고위험→고영향 변경, 과기부 장관과 문체부 국장의 설전
과방위 소위원회(11월21일)의 법안 심사에서 가장 긴 시간 논의가 이뤄졌던 문제는 정부안의 '고위험 AI'를 '고영향 AI'로 바꾸는 내용입니다. 이해민 조국혁신당 의원이 AI의 리스크를 강조한 고위험보다는 고영향이라는 표현이 입법 취지를 제대로 반영하고, 주요국의 행보와도 맞다는 의견을 냈는데요. 다른 의원들이 이 의원의 주장에 동의하면서 명칭 변경이 이뤄졌습니다. 다만 고영향 AI에 대한 규제 수위를 낮추진 않았죠.
법사위 전체회의(12월17일)에서는 AI 학습 데이터 공개 의무 규제를 두고 과기부와 문체부 간 갈등이 불거졌습니다. 그동안 문체부는 AI기본법에 생성형 AI의 학습데이터 공개를 의무화하는 규제 조항을 넣어야 한다고 주장했는데요. 이날 회의에 참석한 유상임 과기부 장관은 유인촌 문체부 장관과 협의해 문체부가 해당 주장을 철회하기로 결정했다고 밝혔습니다. 그런데 문체부 담당 국장의 얘기는 달랐습니다.
정향미 문체부 저작권국장은 "여러 의견을 냈는데 (법안에) 딱 한 가지만 포함시켰다"며 "추가해달라고 요청하는 사항은 생성형 AI의 창작 행위와 관계되는 학습데이터 목록을 공개해야 한다는 선언적 조항"이라고 말했습니다. 그러면서 "여기에 대한 의무를 위반했을 때 제재 규정은 요청하지 않는다"며 "법안이 추가적인 논의를 더 해야 될 필요성이 있음에도 법사위에 올라가게 되서 시간이 촉박한 가운데 호소드리는 방식으로 말씀드려서 죄송하다"고 했죠.
/출처: 픽사베이.학습데이터 공개 규제 미반영, 사실조사 규제 추가
그러자 유 장관은 "굉장히 오랫동안 지속된 문제다. 문체부 장관과 여러 번 소통했다"며 "똑같은 얘기를 반복하는데 오전에 권한대행(한덕수 국무총리)이 정리해서 문체부 이견이 해소됐다고 말씀드렸다"고 반박했습니다. 해당 규제는 저작권법 개정을 추진하면 되고, 장관 간 협의를 부정하는 정 국장의 발언은 위계를 거스르는 행위라며 불쾌한 감정을 내비쳤죠. 그런데도 정 국장은 "학습데이터에 관한 부분은 저작권을 제대로 지켜야 하는데, 창작자들이 의심한다. 국제적 규범을 준수해야 한다"고 맞섰죠.
법사위에서 다른 상임위에서 여야가 합의 처리한 법안을 두고 부처 간 이견이 불거지는 건 굉장히 이례적입니다. 보통 상임위의 법안 심사 과정에서 부처 간 협의를 거쳐 합의점을 찾기 때문이죠. 법사위에서 벌어진 설전은 문체부 내에서 학습데이터 공개 규제 철회와 관련한 교통정리가 제대로 이뤄지지 못한 사실을 알려줍니다. 생성형 AI의 무분별한 저작권 침해 의혹에 대한 논쟁이 치열한 현실을 보여주는 사례이기도 하죠. 저작권 정책 실무진인 정 국장 입장에선 콘텐츠 저작권자들의 우려를 대변하는 게 맞다고 판단한 것 같네요. 결과적으로 정청래 법사위원장이 현재 미진한 부분은 향후 법 개정으로 해결한 사안이라고 정리했죠.
여러 법안들을 병합하는 과정에서 기존에 없던 사실조사 조항이 추가된 점에 대한 지적도 나왔습니다. 박준태 국민의힘 의원은 "사실조사는 없던 부분이 들어갔다. 원문에 없던 게 들어가는 건 바람직하지 않다"고 꼬집었죠. AI기본법 40조는 AI사업자에 대한 과기부 장관의 사실조사 권한을 규정하는데요. 위법 사항을 발견하거나 혐의를 인지했을 때, 위법 신고나 민원이 접수된 경우 사실조사에 착수할 수 있습니다. 사실조사 결과에 따라 위법 행위 중지나 시정 조치를 명령할 수 있는데요. 이를 따르지 않으면 과태료 부과 대상이 됩니다.
/자료: 참여연대 등.반발한 진보 시민단체들… 논쟁은 계속된다
진보 성향의 시민단체들은 AI기본법의 법사위 통과를 규탄하는 성명을 발표했습니다. 참여연대와 민변, 정보인권연구소, 진보네트워크센터는 "비윤리적인 AI의 금지 조항이 없고, 고영향 AI의 위험을 예방하는 충분한 의무 및 실효적 제재 수단이 미비하다"고 꼬집었습니다. AI 이용자 권리와 권리 침해 시 구제 절차가 없고, AI사업자에 대한 직접적 제재 조항을 두지 않으면서 위법 사항 시정을 위한 행정 조치를 과기부 재량에 맡긴 점도 문제삼았죠.
이들 단체는 "국방 또는 국가안보 목적의 AI를 법 적용에서 배제한 것은 민주주의와 인권 측면에서 가장 위험한 AI에 대해 최소한의 규제조차 적용하지 않는 것"이라고 주장했는데요. 법사위에서도 일부 의원들이 같은 문제를 제기했습니다. 과기부는 국방 또는 국가안보 목적의 AI를 허용하기 위한 취지가 아니고, 국가전략적 차원에서 별도 법을 제정해 규제하기 위한 근거 조항이라고 해명했죠.
AI기본법을 둘러싼 논쟁은 본회의 통과 이후에도 이어질 것 같습니다. 최대 쟁점이었던 학습데이터 공개 규제는 명확한 결론을 내지 못했기 때문에 언제든지 갈등을 불러올 수 있습니다. AI 기업들은 우선 허용-사후 규제 원칙 도입과 지원금, 세제 혜택 등 실질적인 지원책 마련을 주장할 수 있죠. AI기본법은 입법 시급성에 초점을 맞춘 만큼 규정하지 못한 공백이 상당한 법안입니다. 향후 다방면에서 사회적 논의를 진행해 후속 입법 조치를 진행해야 합니다.
국회는 비상계엄 사태와 탄핵 국면으로 빠져든 혼란한 정국 속에서도 AI기본법 처리 절차를 밟았는데요. 입법 공백 사태를 더 방치할 경우 세계 각국에 뛰어든 AI 경쟁에서 완전히 도태될 수 있다는 절박함이 반영된 행보입니다. 다만 법은 정부의 정책 활동을 보장하는 도구일 뿐입니다. AI기본법이 우리나라 AI 생태계 조성에 어떤 영향을 미칠지는 정부 하기에 달렸죠. 1년간 법 시행을 준비할 시간 동안 대한민국의 AI 생존 전략을 찾길 바랍니다.
[187호] 미중 갈등에 낀 엔비디아
[186호] 계엄군 막은 국민과 스마트폰
[185호] 청소년 SNS 전면 차단한 호주
[184호] 구글에 날아든 트럼프 변수
[183호] 끝나지 않은 배달앱 수수료 갈등
