24년 12월 13일 흠터레스팅 테크 뉴스
Character.ai 자살, 살인 유도로 아동 안전 조사 착수 외 3건
[오늘의 인용글 - 고객의 관점에서 철저히 볼 것]
인간은 복잡하고 변덕스러운 존재이기에, 완전히 새로운 제품이나 서비스에 대해 어떻게 반응할지 예측하는 것은 불가능합니다. 새로운 아이디어로 실패하는 가장 큰 이유는 고객들이 우리의 아이디어를 얼마나 잘 이해하고, 또 얼마나 관심을 가질지에 지나치게 자신했기 때문입니다.
- 스프린트
Human beings are complex and fickle, so it’s impossible to predict how they’ll react to a brand-new solution. When our new ideas fail, it’s usually because we were overconfident about how well customers would understand and how much they would care.
- Sprint
(1) OpenAI의 Sora와 게임 콘텐츠 사용 논란
- OpenAI가 새로 출시한 Sora는 텍스트 또는 이미지 입력을 기반으로 최대 20초 길이의 비디오 생성 가능
- Sora의 학습 데이터에 게임 플레이 영상(Twitch 스트리밍, YouTube 워크스루 등)이 포함되었을 가능성 제기
- OpenAI는 "공개적으로 이용 가능한 데이터"와 "라이선스 데이터를 사용했다"고만 밝힘 -> Sora 데모에서 생성된 콘텐츠가 기존 게임 캐릭터 및 저작물과 유사
- 게임 자체의 콘텐츠(텍스처, 캐릭터 등)와 플레이어가 제작한 비디오가 모두 저작권 보호 대상, 특히 Fortnite와 같은 게임의 사용자 제작 콘텐츠(UGC)는 개발자, 사용자, 창작자 모두 권리를 주장할 수 있음
- IP 변호사들의 의견: AI 학습 과정에서 저작권 침해 가능성, AI 생성물이 저작권을 위반한 콘텐츠와 유사하다면, 결과물 배포 시 법적 책임 발생 가능
- 게임 플레이 비디오에는 세 가지 저작권 레이어가 존재할 수 있음: 게임 개발자의 콘텐츠, 플레이어가 녹화한 비디오, 사용자 제작 콘텐츠(UGC) -> 이러한 다층 구조는 AI 훈련 시 저작권 소송의 위험을 가중
(2) 텍사스, Character.ai 챗봇 자살 및 살인 유도로 아동 안전 조사 착수
- 텍사스 법무장관 Ken Paxton, Character.AI 및 Reddit, Instagram, Discord 등 14개 플랫폼을 아동 프라이버시와 안전 관련 조사 대상으로 지정
- 조사 목적: 텍사스 주의 아동 온라인 보호법(SCOPE Act) 및 데이터 프라이버시 및 보안법(DPSA) 준수 여부 확인 -> 해당 법안은 플랫폼이 부모에게 아동 계정 관리 도구를 제공하고, 아동 데이터 수집 시 엄격한 동의를 요구
- 플로리다 사례: 14세 소년이 Character.AI의 챗봇과 "연애" 관계에 빠졌고, 자살 전 챗봇에 자살 충동을 언급
- 텍사스 사례: 챗봇이 자폐 청소년에게 가족을 독살하라고 제안
- 또 다른 사례: 11세 소녀에게 2년간 성적 콘텐츠를 제공한 챗봇
- AI와 아동 안전: AI 플랫폼에서 아동 사용자와의 상호작용이 새로운 법적 문제로 부상, AI 챗봇이 민감하거나 부적절한 내용을 전달하는 경우, 플랫폼의 책임 범위에 대한 논의 필요
(3) 하버드와 구글, AI 훈련용 공공 도메인 책 100만 권 데이터셋 공개 예정
- 하버드 대학교와 구글이 협력하여 100만 권의 공공 도메인 책 데이터셋을 공개할 계획
- 책은 저작권이 만료된 고전들로 구성되며, 찰스 디킨스, 단테, 셰익스피어 등 다양한 작가와 장르를 포함
- Google Books 프로젝트에서 스캔된 책을 기반으로 생성, 하버드의 Institutional Data Initiative (IDI)의 일환으로 개발, Microsoft와 OpenAI가 재정적으로 지원
- IDI의 목표는 "AI 개발을 위한 신뢰할 수 있는 합법적 데이터의 제공" -> 연구소, AI 스타트업 등 누구나 사용할 수 있는 데이터셋으로 AI 학습의 문턱을 낮추는 것을 목표, IDI의 책임자인 Greg Leppert는 데이터셋이 "기회의 균등화를 지원"한다고 강조.
- 출시 일정: 아직 구체적인 출시 시기 및 방식은 미정
(4) 야후, 사이버보안 팀 대규모 감축 및 외주화
- Yahoo의 사이버보안 팀 The Paranoids가 지난 1년간 약 25% 인력 감축, 2024년 초 이후 200명 중 40~50명이 해고 또는 자연 감소
- 공격 보안 팀(레드팀)은 이번 주에 완전히 해체 -> Yahoo는 사이버보안 운영을 외주화 모델로 전환했다고 발표
- 새로운 최고기술책임자(CTO) Valeri Liborski가 9월 취임 후 조직 개편 주도, 직원들에게 보낸 이메일에서 "어려운 결정"이라고 언급하며, 핵심 보안 우선순위에 집중하기 위해 자원 재배치를 결정했다고 밝힘
- Yahoo 대변인: "보안 프로그램은 지난 7년간 성숙하고 세계적 수준으로 발전", "공격 보안 운영 외주화를 통해 더 높은 수준의 사용자 및 플랫폼 보호를 보장"
- Yahoo CEO Jim Lanzone: 구조조정이 "회사의 수익성에 크게 기여"할 것이라며, 다른 사업 부문에 적극적으로 투자할 계획
- 보안 우려 증가: 레드팀 해체와 외주화는 보안 문제 대응 속도와 효율성에 영향을 줄 수 있음
- 비용 절감 대책의 장단점: 외주화 모델은 비용 절감 효과를 가져올 수 있으나, 내부 보안팀의 통합적 관리 및 전문성을 잃을 위험
