24년 10월 23일 흠터레스팅 테크 뉴스
마크 안드리센, AI 모델 개발 사업성 악화 지적 외 4건
[오늘의 인용글 - 사용자 조사는 검증이 아닌 선제적인 위험 조치를 위한 것]
사용자 조사의 목적은 제품의 성공에 결정적인 영향을 미칠 위험성들을 해결하는 데 있습니다. 고객이 이 제품을 구매하거나 사용할 것인가? (가치 위험성) 사용자가 이 제품을 쉽게 사용할 수 있을까? (사용성 위험성) 우리가 이 제품을 실제로 만들 수 있을까? (실현 가능성 위험성) 이 솔루션이 우리의 비즈니스에 적합한가? (사업성 위험성) 또한, 이러한 질문들에 대해 제품 관리자 개인의 의견만으로는 충분하지 않습니다. 우리는 근거를 수집해야 합니다.
- 마티 케이건, 인스파이어드
The purpose of product discovery is to address these critical risks: Will the customer buy this, or choose to use it? (Value risk) Can the user figure out how to use it? (Usability risk) Can we build it? (Feasibility risk) Does this solution work for our business? (Business viability risk) And it's not enough that it's just the product manager's opinion on these questions. We need to collect evidence.
- Cagan, Marty. INSPIRED
(1) 애플 소프트웨어 책임자 크레이그 페더리기, AI 활용 사진 편집 도구에 대한 우려와 고민
- iOS 18.1의 ‘클린 업(Clean Up)’ 기능: 새로 도입된 클린 업 기능은 사진에서 물체나 사람을 간단히 제거할 수 있지만, 경쟁사들의 도구에 비해 제한적인 기능을 제공 -> 예를 들어, 구글이나 삼성의 도구는 AI를 활용해 이미지에 새로운 요소를 추가하는 반면, 애플은 이러한 기능을 제공하지 않고 있음
- 사진의 진정성 유지 목표: 페더리기는 AI 기반 이미지 편집 도구를 제공할 때, 사진의 진정성을 유지하는 것이 애플의 목표라고 강조 -> 현실과 판타지를 구분하는 것이 중요하다는 입장을 밝힘
- 그는 사용자가 사진의 의미를 훼손하지 않으면서도 불필요한 세부 사항을 정리하는 것을 원한다는 수요가 컸다고 말했음
- 사진 신뢰성에 대한 우려: 페더리기는 AI가 사진을 조작하거나 왜곡할 수 있는 점을 우려하고 있으며, 사람들이 사진을 현실의 신뢰할 수 있는 증거로 인식하는 것이 중요하다고 강조
- 수정된 사진 표시: 애플은 클린 업 기능을 사용해 편집된 사진에 ‘클린 업으로 수정됨’이라는 태그를 추가하고, 메타데이터에 해당 사실을 기록하여 이미지가 편집되었음을 명확히 할 방침
- 유사한 움직임: 애플은 어도비가 주도하는 '콘텐츠 신뢰성 이니셔티브(Content Authenticity Initiative)'와 같은 방식으로, 사진의 수정 여부를 메타데이터에 기록하는 시스템을 도입하려 하고 있지만, 이 시스템이 어도비의 콘텐츠 신뢰성 메타데이터와 호환될지는 불확실
(2) 보잉의 통신 위성, 궤도에서 분해
- Intelsat 33e의 고장: 2024년 10월 19일, 이 위성이 궤도에서 분해되었으며, 원인은 아직 확인되지 않았음 -> Intelsat 측은 “이상(anomaly)”이 발생해 위성이 완전히 손실되었다고 발표
- 미국 우주군의 확인: 미국 우주군(Space Force)은 현재 위성의 파편 20개를 추적 중이라고 밝힘 -> 그러나 다른 위성 추적 회사인 ExoAnalytic Solutions는 57개의 파편을 모니터링 중이라고 보고
- 우주 도메인 안전성 관리: 미 우주군은 이번 파편들이 현재로서는 다른 위성에 즉각적인 위협을 주지 않는다고 발표했으며, 계속해서 파편들의 이동 경로를 추적해 우주 환경의 안전성을 보장할 것이라고 덧붙임
- 위성의 역사적 문제: Intelsat 33e는 2016년에 유럽, 아시아, 아프리카 지역에 통신 서비스를 제공하기 위해 발사되었지만, 발사 직후 추진 시스템에 문제가 발생하면서 궤도에 도달하는 데 시간이 더 걸렸습니다. 2017년에도 추진 시스템의 또 다른 문제가 발생해 예상 수명이 3.5년 단축한 바 있음
- 보잉의 위성 실패 사례: 보잉이 제작한 또 다른 위성인 Intelsat 29e 역시 2019년에 완전 손실로 선언된 바 있어, 보잉의 위성 설계와 성능에 대한 의문이 제기
- https://www.theverge.com/2024/10/22/24277073/intelsat-33e-boeing-satellite-fell-apart-space
(3) 마이크로소프트와 오픈에이아이, 뉴스 매체들이 AI 도구를 사용하도록 최대 1,000만 달러 지원 제공 계획
- 지원 내용: 선택된 매체들은 250만 달러의 현금과 250만 달러 상당의 소프트웨어 및 엔터프라이즈 크레딧을 지원받음
- 첫 번째 지원 대상: 첫 번째로 지원을 받는 매체는 Newsday, Minnesota Star Tribune, Philadelphia Inquirer, Chicago Public Media, Seattle Times -> 이들 매체는 2년간 AI 도구를 연구하고 적용하는 역할을 맡을 AI 펠로우를 고용할 수 있는 자금을 받게 됨
- AI 활용 분야: AI 도구는 뉴스룸에서 리서치, 조사, 콘텐츠 배포 및 수익화, 트랜스크립션, 콘텐츠 요약, 아카이브 검색 등 다양한 분야에 활용될 예정
- 저널리즘의 AI 활용 목표: OpenAI의 지적 재산 및 콘텐츠 책임자인 톰 루빈은 "기자들의 중심적인 역할은 대체될 수 없지만, AI 기술이 중요한 저널리즘 작업에 도움을 줄 수 있을 것"이라고 밝힘
- 저작권 문제: 마이크로소프트와 OpenAI는 뉴욕타임즈, 더 인터셉트, 로우 스토리 등 여러 매체로부터 저작권 소송에 직면해 있는 상황이지만, 이와 별개로 많은 매체들과 라이선스 계약을 체결해 AI 기술 도입을 추진
- https://www.theverge.com/2024/10/22/24276747/microsoft-openai-news-outlets-10-million-ai-tools
(4) 앤스로픽, 새로운 AI 모델인 3.5 소넷 공개 및 PC상에서 앱을 제어할 수 있는 기능 제공
- Claude 3.5 Sonnet의 기능: 새로운 "컴퓨터 사용" API를 통해 AI가 키보드 입력, 버튼 클릭, 마우스 제스처 등을 모방하여 PC에서 인간처럼 앱을 제어할 수 있음
- 이 API는 현재 베타 버전으로 제공되며, 스크린샷을 기반으로 커서를 이동해 필요한 작업을 수행
- 다양한 플랫폼에서 제공: 개발자들은 이 기능을 Anthropic API, Amazon Bedrock, Google Cloud의 Vertex AI 플랫폼을 통해 사용할 수 있음
- AI 에이전트 경쟁: AI 에이전트는 소프트웨어를 자동화하는 기술로, 많은 기업들이 이 분야에 투자 -> Anthropic은 이를 "액션 실행 레이어"라고 부르며, 데스크톱 수준의 명령을 수행할 수 있는 기능을 강조
- 성능과 한계: Claude 3.5 Sonnet은 복잡한 목표를 달성하기 위해 스스로 수정하고 재시도할 수 있지만, 여전히 스크롤이나 확대와 같은 기본적인 작업에서 문제를 겪고 있으며, 작업 속도가 느리거나 오류가 발생할 가능성
- 위험성 및 안전 조치: 이 모델은 잠재적으로 위험할 수 있으며, 악의적인 사용자가 앱 취약점을 악용할 가능성도 존재 -> Anthropic은 이에 대한 리스크를 인정하면서도 안전 조치를 강화하고, 제한된 수준에서 모델을 사용하여 학습할 필요가 있다고 강조, 사용자의 스크린샷 및 프롬프트는 AI 훈련에 사용되지 않으며, 스팸이나 악의적인 사용을 방지하기 위한 분류기가 포함
- 저렴한 모델 출시 예정: Claude 3.5 Sonnet 외에도 저렴하고 효율적인 모델인 Claude 3.5 Haiku가 곧 출시될 예정이며, 이전 고성능 모델인 Claude 3 Opus와 유사한 성능을 제공할 계획
- https://techcrunch.com/2024/10/22/anthropics-new-ai-can-control-your-pc/
(5) a16z 마크 안드리센, "AI 모델 개발이 바닥을 찍는 경쟁을 하고 있다."
- 안드리센은 현재의 대형 언어 모델(LLM) 개발을 두고, “모든 회사가 바닥을 향한 경쟁을 하고 있다”며 이 상황이 비즈니스에 좋지 않다고 언급 -> 그는 LLM 개발이 점점 더 상품화되고 있으며, 누구나 LLM을 만들 수 있게 되었다고 말하면서, 제품 차별화가 어렵다는 점을 지적
- 상품화의 문제: AI 모델이 쌀과 같이 누구나 만들 수 있는 상품으로 전락하고 있다는 비유를 들며, AI 개발자들이 제품의 차별성이나 혁신을 보여주지 못하고 있다고 비판
- AI 투자 변화: 안드리센은 그의 회사가 2023년 초에 OpenAI에 3억 달러를 투자했던 시점과 비교해 현재 AI 시장이 크게 변했다고 평가 -> OpenAI의 가치는 270억에서 290억 달러로 평가되었지만, 이후 AI 개발은 빠르게 상품화되며 더 큰 도전에 직면
