25년 1월 9일 흠터레스팅 테크 뉴스
일론 머스크, AI 학습 데이터 사실상 고갈 인정 외 3건
[오늘의 인용글 - 제품을 만드는 사업이란 무엇인가]
제품을 만드는 사람으로서 해야할 일은, 제품을 '만드는 것' 자체에 집중하는 것이 아니라 비즈니스 모델의 위험 요소를 줄이는 것입니다.
- 린 애널리틱스
Your job isn’t to build a product; it’s to de-risk a business model.
- Lean Analytics
(1) 일론 머스크, AI 학습 데이터 사실상 고갈 인정
- "인류 지식의 총합을 학습 데이터로 활용한 시기는 작년에 이미 끝났다"고 언급
- 이 발언은 Stagwell 회장 Mark Penn과의 라이브 스트리밍 대화에서 나옴
- 머스크는 데이터 부족 문제를 해결하기 위해 합성 데이터(Synthetic Data) 사용이 필수적이라고 주장
- 합성 데이터의 중요성: AI 모델 자체가 생성한 데이터를 학습에 활용하는 방법이 대두되고 있음 -> 머스크는 AI가 스스로 데이터를 생성하고 학습하는 "자기 학습(Self-Learning)" 과정을 통해 발전할 수 있다고 제안
- 주요 기업 사례: Microsoft, Meta, OpenAI, Anthropic 등이 이미 합성 데이터를 활용해 주요 모델을 개발, Microsoft의 Phi-4, Google의 Gemma, Meta의 Llama, Anthropic의 Claude 3.5 Sonnet 등이 합성 데이터로 학습
- 장점: 비용 절감 -> Writer의 Palmyra X 004 모델은 약 70만 달러로 개발됐으나, 비슷한 규모의 OpenAI 모델은 460만 달러 소요
- 단점: 모델 붕괴(Model Collapse) 가능성 -> 합성 데이터의 품질이 낮거나 편향되면 모델의 창의성과 성능이 저하될 수 있음, 초기 데이터가 가진 한계와 편향이 합성 데이터에도 그대로 반영될 가능성
- AI 산업은 "데이터 고점(Peak Data)" 상황에 직면, 데이터 생성 방식의 혁신이 필요
- 합성 데이터 활용이 새로운 표준이 될 가능성이 있으나, 이를 통한 장기적 영향에 대한 연구와 대비가 중요
- https://techcrunch.com/2025/01/08/elon-musk-agrees-that-weve-exhausted-ai-training-data/
(2) CES 2025의 AI 제품들, 무분별한 AI 적용으로 필요성에 대한 의문 제기
- Spicerr: AI 기반 터치스크린 조미료 디스펜서로 사용자 취향을 학습해 요리 레시피를 추천, 문제점: 분쇄 기능 없음, 비싼 캡슐($15-$20), 충전 불가, 본질적으로 "AI가 필요한 제품인가?"라는 의문 제기.
- ChefMaker 2: AI 기능이 탑재된 에어프라이어, 요리책에서 레시피를 스캔하고, 요리 시간과 온도를 계산 ->그러나 소비자 수요와 적합성에 의문
- Razer Project Ava: 게임 코파일럿으로 화면을 캡처해 몇 초의 딜레이로 게임 조언을 제공 -> 문제점: 실시간 반응이 부족하며, 학습된 가이드 작가를 인정하지 않는 논란
- 많은 제품들이 AI를 적용했지만, 그 유용성과 실질적 필요성이 부족함
- AI 기술의 한계를 무시하고 과도하게 과장된 사례: AI 텍스트 생성기와 이미지 생성기의 오류, 비디오 AI 캐릭터들의 비정상적인 동작
- AI에 대한 거대한 투자(작년 미국에서만 970억 달러)로 인해 기업들이 AI 기술을 마구잡이로 제품에 적용하는 경향 -> 실제로 기술적으로 가능한 AI 활용 사례와 소비자 요구를 정확히 파악하지 못한 상태에서 과잉 개발이 이루어지고 있음 -> 결과적으로 "AI 과잉 적용 제품"이 시장에 다수 등장
- 앞으로는 기술적 가능성을 넘어 소비자 필요와 가치를 중심으로 한 혁신이 필요
- https://techcrunch.com/2025/01/08/ces-2025-was-full-of-irl-ai-slop/
(3) AI 기반 무제한 요금제 수익 모델로 허위 과장 투자를 받은 CEO, 사기 혐의 인정
- 테오도어 파즈워스(Theodore Farnsworth): MoviePass 모회사인 Helios & Matheson Analytics (HMNY)와 Vinco Ventures의 전 CEO
- MoviePass의 '무제한 요금제' 관련 투자자들에게 지속 가능성과 수익성에 대해 허위 주장 -> 회사가 빅데이터 및 AI를 통해 구독자 데이터를 수익화한다고 거짓 발표, MoviePass의 수익 구조와 비구독 수익 창출 능력에 대해 잘못된 정보를 제공
- MoviePass의 '무제한 요금제': 2017년 HMNY가 MoviePass의 지분을 인수한 후 월 $9.95에 무제한 영화 관람 요금제를 출시 -> DOJ(미 법무부)는 이를 새로운 구독자를 유치하고 HMNY 주가를 인위적으로 부풀려 투자자를 유혹하기 위한 마케팅 기믹으로 간주, 실제로 MoviePass는 '무제한 요금제'로 큰 손실을 입음
- 파즈워스는 AI 및 빅데이터 활용으로 데이터 수익화를 주장했으나, 실질적으로 해당 기술을 보유하지 않음 -> MoviePass가 비구독 기반의 수익 구조를 구축했다고 주장했으나, 이는 사실이 아님
- 법적 및 처벌적 영향: 파즈워스는 최대 20년형(MoviePass 관련 증권 사기) 및 추가 5년형(Vinco Ventures 관련 음모 공모)을 받을 수 있음 -> DOJ는 이번 사건을 통해 "AI 워싱(AI 기술을 허위로 이용해 투자자를 기만하는 행위)"에 대해 경고
- 의미와 영향: 이번 사건은 기술 허위 주장(AI, 빅데이터 등)과 사기성 구독 모델에 대해 경각심을 불러일으킴 -> 기술 스타트업의 성장과 투자 유치를 위해 과장된 마케팅과 거짓 정보를 사용하는 관행에 대한 규제 필요성이 대두
(4) 메타의 사실 확인 프로그램 중단으로 인한 영향과 위험
- Meta는 2016년 시작된 제3자 팩트체킹 프로그램을 단계적으로 중단한다고 발표
- 허위 정보와 증오 콘텐츠 확산 가능성: 기후 변화, 공중 보건, 이민, 젠더 정체성과 같은 주제에서 잘못된 정보가 증가할 우려 -> Nicole Sugerman (Kairos 캠페인 매니저): 팩트체킹의 부재로 인해 소수자 커뮤니티에 대한 증오 정보가 현실 세계 폭력으로 이어질 가능성 경고
- 이용자 부담 증가: 사용자가 직접 콘텐츠의 진위를 판단해야 하며, 이는 정보 과부하를 초래할 가능성 -> Angie Drobnic Holan (국제 팩트체킹 네트워크): 팩트체킹 프로그램이 허위 정보 확산을 줄이는 데 효과적이었다고 평가.
- 과학 및 환경 그룹의 반발: Mark Zuckerberg의 결정이 반과학적 콘텐츠 확산을 방치한다는 비판 -> 기후 허위 정보가 신재생 에너지 프로젝트에 부정적 영향을 미친 사례를 언급
- Meta의 주장: 표현의 자유 강화를 위한 결정이며, 기존 팩트체커들이 정치적으로 편향되었다고 주장, 잘못된 콘텐츠 제거 과정에서 약 10~20%가 부당하게 삭제되었다고 설명
- 비판: 전문가들은 Meta가 정치적 압박과 트럼프 대통령 당선인의 영향으로 인해 이 결정을 내렸다고 분석 -> Meta는 최근 공화당 로비스트 Joel Kaplan을 글로벌 대외정책 책임자로 임명하고, UFC CEO Dana White를 이사회에 추가
- Meta의 팩트체킹 프로그램 종료는 허위 정보와 증오 콘텐츠 확산 위험을 높일 가능성이 큼
- 전문가들은 온라인 안전성, 투명성, 책임성의 후퇴로 평가하며, 오프라인에서의 폭력과 부정적 사회적 영향을 우려
- https://www.theverge.com/2025/1/7/24338127/meta-end-fact-checking-misinformation-zuckerberg
