Visa카드가 AI를 검열한다고?
AI이미지 생성서비스 CivitAI가 검열을 강화하는 진짜 이유 -뮹작가
읽기 전에,
✅ 이 글은 이런 분께 추천해요:
이미지 생성형 AI 서비스의 최근 정책 동향을 알고 싶은 분
플랫폼 기획 시 규제 및 리스크를 파악하고 싶은 분
AI 서비스의 장기적 지속가능성을 고민하는 기획자
창의성의 자유 vs 결제사의 힘
최근 AI 이미지 커뮤니티 'CivitAI'가 콘텐츠 검열과 관련된 정책을 크게 강화하기 시작했습니다.
많은 사용자들이 이러한 갑작스러운 변화의 배경을 궁금해했는데, 이유는 의외로 단순했습니다.
바로 '돈'과 관련된 문제였죠.
CivitAI는 AI 창작자들의 놀이터
모델을 공유하는 AI 창작자들의 놀이터, CivitAI (source: https://civitai.com/)CivitAI는 AI 이미지 생성 기술 'Stable Diffusion'을 기반으로 다양한 이미지를 생성하고 공유할 수 있는 대표적인 플랫폼입니다. 다른 이미지 생성 플랫폼과 다른 CivitAI만의 특징은 다음과 같습니다:
모델 중심의 공유: 이미지를 생성하는 것보다 다양한 사용자 제작 모델(.ckpt, LoRA 등)을 업로드하고 공유하는 것이 중심입니다.
커뮤니티 기반 피드백: 생성 결과를 예시로 함께 공유하고, 사용자들이 댓글, 평점, 태그 등으로 활발히 의견을 나눌 수 있습니다.
높은 실험 자유도: Midjourney나 DALL·E보다 검열이 느슨하고, 다양한 모델을 직접 실험해볼 수 있는 '창작 놀이터' 같은 성격이 강했습니다. (다만 최근 정책 변화 전까지의 특징입니다)
오픈 소스 기반: Stable Diffusion을 중심으로 한 오픈 모델 구조라 로컬 환경에서도 모델을 쉽게 테스트하거나 재활용할 수 있습니다.
그동안 사용자들은 CivitAI에서 자유롭게 창의성을 펼쳐왔지만, 최근 성인물이나 폭력적인 콘텐츠에 대한 엄격한 검열이 시작되면서 불만과 혼란을 겪게 되었습니다.
검열이 강화된 진짜 이유는?
이번 정책 변화의 진짜 원인은 바로 '결제 문제'였습니다.
Reddit에 올라온 CivitAI 정책 변화의 숨은 배경 (source. Reddit)최근 레딧에서의 분석에 따르면, CivitAI의 정책 변화는 Visa와 같은 주요 카드 결제 회사들의 규정을 따르기 위한 결정이었습니다. Visa 등의 결제 서비스 제공업체들은 자신들의 네트워크를 통해 처리되는 콘텐츠에 대해 엄격한 규정을 적용하며 성인물이나 폭력적 이미지 콘텐츠를 금지하고 있습니다. 규정을 어길 경우 결제 서비스 제공을 제한하거나 심지어 중단할 수도 있다는 경고가 있었던 것이죠.
비슷한 사례에서 배우는 교훈
예를 들어, 최근 AI 성인 콘텐츠 플랫폼 'Pornpen'이 결제사 정책 위반으로 인해 Visa 카드 결제가 차단된 사건이 있었습니다. 이 사건은 서비스 운영에 심각한 타격을 준 사례로서 CivitAI가 이번 결정을 내리게 된 결정적인 계기가 되었습니다.
CivitAI의 대응은?
최근 CivitAI가 업데이트한 기능 중 AI 기반 자동 콘텐츠 필터링 시스템이 있습니다. 이 시스템은 이미지가 업로드되는 즉시 불법적이거나 규정 위반 가능성이 있는 콘텐츠를 자동으로 식별하고 제한합니다. 또한, 사용자에게 이미지 업로드 전 콘텐츠 유형을 미리 분류하도록 요구하는 절차도 추가되었습니다. 이는 Visa와 같은 결제 서비스의 요구사항에 보다 철저히 대응하기 위한 기술적 조치로 보여집니다.
✍️ 마무리하며
플랫폼의 지속가능성을 위하여
AI 서비스 기획자로서 이번 사건에서 얻을 수 있는 중요한 인사이트는, 플랫폼의 지속가능성이 사용자만큼이나 결제사, 법률, 금융 기관 같은 외부 이해관계자의 영향에 의해 결정된다는 사실입니다. 서비스 기획 단계에서부터 규제나 결제 관련 문제를 사전 검토하여 장기적으로 유연한 정책을 설정하는 것이 필수적입니다.
결국, AI 서비스의 창의성과 사용자 자유도를 최대한 유지하면서 비즈니스 지속가능성을 확보하기 위해서는 주요 이해관계자들의 규정과 정책을 미리 검토하고 이에 대응할 수 있는 정책적 유연성을 확보하는 것이 중요할 것입니다.
