인문학을 잊은 AI, 초심을 잃은 혁신 기업
IT뉴스가 아니라 AI만 다룰까 하는 생각이 드는 이번 주입니다.
IT전체를 다루기에는 너무 분량이 길어지고, 매 번 최대 주주는 AI가 되고 있네요.
이번 주는 AI 기본법과 저작권법을 주요 이슈로 다루려 합니다.
하지만 쿠팡이슈는 그냥 지나칠 수 없는 이슈라, 간략히 다루도록 하겠습니다.
분량이 너무 길어 이번 주는 소수의 주제만 다루려 합니다.
스얼, 스타트업 97% 'AI 기본법' 대응 준비 미흡
우선 AI 기본법에 대해 간략하게 다뤄 보겠습니다.
목적
고위험 AI(의료, 핵심 인프라 등)와 생성형 AI(딥페이크 등)에 대한 규제 및 사업자 의무를 명시하여, 국민의 권익 보호와 국가 경쟁력 강화. 즉, AI에 의해 발생하는 위험으로부터 사람을 지키기 위함입니다.
규제 대상
1. 고위험 AI: 의료 기기, 핵심 인프라 등에 사용되는 AI는 출시 전 적합성 평가 필수.
2. 생성형 AI: 딥페이크 등 AI로 생성된 콘텐츠는 사실 고지 의무, 이용자가 알 수 있도록 해야 함.
3. 사업자 의무: AI 위험 관리 방안 주요 내용 및 감독자 이름 등을 홈페이지에 게시해야 함
*특징: EU AI법과 유사, 규제보다는 산업 성장에 무게를 두고 중복 규제를 최소화하는 방향으로 추진. 국내 산업 환경을 고려하여 예외 조항 등을 두어 자율성 부여.
지난 주에 네이버가 의료 분야의 LLM을 서울대학교와 시작했다는 기사를 전해드렸지요. AI 기본법이 시기 적절했다고 볼 수 있습니다. AI의 모든 분야를 규제하기는 아직 어려우니, 가장 고위험군인 AI의 규제부터 시작하는 겁니다. 사실, 더 직접적으로 느껴지는 것은 아무래도 생성형 AI일겁니다. 언급드렸듯, EU에서 먼저 시작되었기 때문에 외부 플랫폼은 이미 지켜지고 있습니다. 가장 대표적으로 핀터레스트는 AI이미지는 따로 표기를 하고 있지요. 긴 논쟁 끝에, 분류하는 것으로 결론이 났습니다. 앞으로 유튜브, 인스타그램에서도 표기가 되기 시작할 겁니다. 사업자의 의무도 기획자라면 인지하고 있어야할 정보입니다. 특징은 한국이라면 항상 이러한 방향을 취합니다만, 항상 다른 나라보다 규제가 심하다라고 IT에서는 평가하는 편이죠. 법의 규제가 더 자세하기 때문인데, 쿠팡 사태에서 보듯, 사실은 구멍 투성이고, 소비자 보호도 소홀한게 한국입니다. 쿠팡 사태에서 다시 언급하고, 이 꼭지에서는 생략하겠습니다.
AI 기본법을 대략적으로 정리해드렸습니다. 내년 1월 말부터 시행되기 때문에, 기간이 얼마 남지 않았습니다. 하지만 기사에서 언급하듯, 대부분의 기업이 대응 준비가 미흡합니다. 2월에 플랫폼들이 어떻게 대응하는지 봐야겠죠. 기사에서 확인하듯, “내용을 잘 모르거나 준비도 안 되고 있다”(48.5%) 또는 “법령 내용을 인지하고 있으나 대응은 미흡하다”(48.5%)고 응답하면서도, 기업 활동에 제한이 있을 것이다라는 답변이 43.6%입니다. 한국의 기업이 제재에 대한 반응을 이해할 수 있는 응답이라고 할 수 있습니다.
최근 기술의 추세는 인문학에서 점점 멀어지고 있습니다. 사실 AI의 시조는 고대 그리스의 탈로스(Talos)에서 시작합니다. 청동거인이 섬을 지키는 내용의 신화입니다. 그만큼, 인문학에서는 AI에 대한 고민이 길었습니다. 탈로스부터 시작한다면 거의 2,500년에 이르는 역사죠. 하지만, 2,500년의 역사에 무색하게, 현대 AI는 인문학에서 너무 멀어져있습니다. LLM은 처음에 진정한 AI(AGI 인간처럼 다양한 지적 작업을 수행할 수 있는 가상의 인공지능)를 목표로 했습니다. 그래서 어떤 가치를 배제하는 방향으로 이루어지지 않았습니다. 하지만 최근, 윤리성 도입, 노동 거부 제한, 대규모 리소스 사용으로 인한 추론 제한 등으로 오히려 역행하는 모양새입니다. GPT5, 제미나이 3이 호평 받는 지점이 있지만, GPT4o의 놀라운 성능에 비하면, 오히려 퇴보로 평가하는 경우가 많습니다. 깊이 있는 인문학적 접근은 배제되고, 효율성, 사업성 중심의 방향이 우려되는 이유입니다.
다시 AI 기본법으로 돌아갑니다. 과연 제도와 법만으로 AI의 위험으로부터 사람을 지켜낼 수 있을지 의문입니다. 이를 따라야할 기업은 반발할 뿐이고요. AI 사업과 시장에 대한 인문학적 접근을 논의할 시점이 아닐까 싶습니다. 처음 LLM을 이끌던 GPT의 딥AI에서 인문학적 리더들이 차례로 퇴사하는 것을 보면, 그저 우려만으로 생각되지 않는 요즘입니다.
문체부, 'AI 뉴스 요약' 저작권법 위반 해석
AI를 활용한 저작권 법에 중요한 기준을 제공하고 있습니다. 이것도 조금 자세한 설명을 곁들여야겠네요. 우선 기사의 내용은, 'AI 뉴스 요약'이 무조건 불법이다 라는 것이 아닙니다. 이를 항목으로 분석해보죠.
1. 문체부는 "언론사 허락 없이 뉴스기사를 통째로 크롤링해 학습한 뒤 요약 서비스를 제공하는 방식은 공정이용으로 인정되기 어렵다는 해석" 합니다. 뒤에 합법적으로 구매한 것은 괜찮다는 해석이 이어지는 것으로 봐서, 문체부가 생각하는 핵심은 "허락 없이"라고 볼 수 있습니다.
2. 문체부의 위반이라는 해석이 불법을 뜻하는 것은 아닙니다. 가이드 라인의 제시고, 실제로 판단은 법원에서 이루어집니다. 하지만, 기업이 지켜야할 기준을 제시한 첫 문서라는데 의의가 굉장히 큽니다.
앞으로 관련 판례가 나올텐데, 한국의 판사는 이 '허락없이'에 집중할 것인가가 궁금하기도 합니다. 하지만 기획자의 시선으로, '허락없이'는 중요한 기준이라고 동의하지만, 여전히 허락없이의 범위가 명확하지 않다고 생각합니다. 기사는 크롤링해 학습하는 기술적 예시를 들었습니다. 그렇다면 외부에 공개된 기사를 크롤링이 아닌 다른 방법으로 수집한다면요? 외부에 공개된 기사는 사람에게 공개한 기사고, 이는 '허락된' 이용입니다. 실제로 이는 데이터베이스 논쟁에서도 중요한 사항입니다. 보통 크롤링을 증명하는 방법으로 완전히 같은 정보를 사용합니다. 일부러 사람이라면 틀리지 않을 정보를 섞어, 상대가 크롤링했다고 증명하는 것이죠. 가장 유명한 사례는 네이버 지도 분쟁입니다. 이러한 분쟁이 아직 이렇다할 결론이 없는걸 봐서는 여전히 문체부의 기준이 애매하다고 생각해요. 기존의 기준을 반복했을 뿐이고, 실질적 개념의 진전은 없는 것이 아닐까 싶습니다.
쿠팡, '노출→유출' 사과문 뒤늦게 정정
2주 전 쿠팡의 소규모 유출 소식을 전했죠. 그리고, 개인적으로 소규모긴 하지만 쿠팡의 개인정보보호 불감증은 문제가 있다고 언급드렸습니다. 불행히도, 결국 터질 게 터졌습니다. 초기 발표문에 1만배의 유출이 발생했죠. 그리고 쿠팡의 대응은 실망스럽기 그지 없습니다. 대표의 책임회피, 면책 조항, 퇴직 공무원 영입... 한국 기업의 전형을 보여주고 있습니다. 준대기업 평가에서 재벌기업과 구분을 부르짖던 쿠팡이 기존 재벌과 다를바 없음이 곳곳에서 드러나고 있지요.
→김범석 의장 책임 회피 논란
→1년 전 약관에 '해킹' 면책 조항 추가
→올해만 퇴직 공무원 28명 영입
뿐만아니라, 해외에 비하면 너무나 솜방망이 처벌이 예상됩니다. 대통령실에서 손해액의 20배를 지불하는 미국의 징벌적 손해배상을 언급하는건, 다행스러운 흐름입니다. 그럼에도 복잡한 탈퇴 절차로 이탈을 막고 있고, 그럼에도 불구하고, 이용자들은 다른 커머스 플랫폼으로 이동하는 모습을 보이고 있습니다. 감소세가 줄어든 것은 사실이지만, 이미 소비자의 신뢰를 잃은 것은 확실해 보입니다. 네이버·카카오·토스의 긴급점검은 다행한 일이라 생각하지만, 기획자의 입장으로 네이버, 카카오, 토스 역시 문제가 없지는 않습니다. 쿠팡에 비교한다면, 훨씬 훌륭하다라고 할 수 있지만요. 한국 IT 업계의 경종이 되길 진심으로 바랍니다.
→대통령실, 징벌적 손해배상 언급
→복잡한 탈퇴 절차 긴급조사 착수
→나흘 만에 이용자 감소세 전환
→네이버·카카오·토스, 보안점검 긴급 강화