24년 9월 12일 흠터레스팅 테크 뉴스
테일러 스위프트 AI 딥페이크 우려 표명 외 3건
(1) 미국 배우 조합과 여성 협회, 캘리포니아 주지사에게 AI 안전 관련 법안 승인 촉구
- SAG-AFTRA, NOW, Fund Her 등 단체들이 뉴섬 주지사에게 법안 승인 촉구 서한을 보냄 → 해당 단체들은 AI의 잠재적 위험성을 강조하며 규제 필요성 주장
- SB 1047은 미국 내 가장 중요한 AI 안전 법안이 될 것으로 평가됨 → 법안은 차세대 AI 모델 개발자들에게 적절한 안전장치 없이 재난 발생 시 민사책임을 부과함
- 법안에 대해 일론 머스크, 사회정의 단체, 노동조합은 지지하는 반면 낸시 펠로시, 로 카나 의원, 마크 앤드리슨 등은 반대, 구글, 메타, OpenAI 등 기업들도 반대 입장을 표명 → 반대 측은 기업들의 캘리포니아 이탈, 미국의 AI 주도권 상실 등을 우려, 앤스로픽은 수정된 법안에 대해 "이익이 비용보다 클 것"이라는 입장을 밝힘
- 지지 측은 이를 "연극"이라고 일축하며 법안의 필요성 강조함
- 뉴섬 주지사의 결정이 캘리포니아와 그 이상의 AI 거버넌스 미래를 좌우할 것으로 전망
(2) 오픈에이아이(OpenAI), 1,500억 달러(150조 원 이상)의 기업 가치 평가로 65억 달러(약 6.5조 원) 규모의 투자 유치 협상 중
- 이는 올해 초 보도된 860억 달러 가치보다 크게 상승한 것이며, 다른 AI 스타트업들보다 훨씬 높은 수준
- 투자 라운드는 Thrive Capital이 주도할 것으로 알려짐, Microsoft, Apple, Nvidia 등도 투자자로 참여할 것으로 보도
- OpenAI는 또한 여러 은행으로부터 50억 달러의 부채 조달도 논의 중
- 8월 월스트리트저널은 Thrive가 OpenAI에 약 10억 달러를 투자하며 대규모 자금 조달을 이끌 것이라고 보도한 바 있음 → 당시 월스트리트저널은 OpenAI의 기업가치를 약 1,000억 달러로 평가
(3) 테일러 스위프트, 카밀라 해리스 지지와 동시에 AI 딥페이크에 대한 우려 표명
- 스위프트는 AI 딥페이크에 대한 우려를 표명하며 지지 선언을 함
- 도널드 트럼프를 지지하는 것처럼 보이는 자신의 AI 딥페이크가 트럼프 사이트에 게시된 것을 알게 되었다고 함 → 이로 인해 AI와 허위정보 확산의 위험성에 대한 두려움이 생겼다고 밝힘
- 전문가들은 스위프트의 발언이 잘 숙고되었으며, AI 관련 개인적 관점을 제시했다고 평가 → 유명인들, 특히 스위프트 같은 유명 인사들이 딥페이크에 더 취약할 수 있다고 지적
- AI 딥페이크로 상업적, 정치적 등 지지 선언 악용이 널리 퍼지고 있어 "샤크 탱크"도 사기 주의 공지를 발표한 바 있음
- 선거일이 다가오고 있지만 미국은 소셜 미디어를 통한 허위정보 확산을 막을 법적 장치가 거의 없는 상황
- 일부 전문가들은 연방법 제정이 필요하다고 보고 있으나, 11월 선거 전 의미 있는 입법 변화는 어려울 것으로 전망
(4) 어도비, 올해 말 AI 비디오 생성 기능 공개 예정
- Generative Extend, Text to Video, Image to Video 3가지 기능이 현재 비공개 베타 테스트 중
- Generative Extend는 입력 비디오를 2초 연장할 수 있는 기능으로, 올해 말 Premiere Pro 베타 앱에 탑재될 예정
- Text to Video와 Image to Video는 텍스트나 이미지 입력으로 5초 길이의 비디오를 생성하며, Firefly 전용 웹사이트에서 이용 가능할 예정
- Adobe는 이러한 AI 도구들이 기존 워크플로우를 보완하거나 가속화할 수 있을 것으로 기대
- 가격 정책은 공개되지 않았지만, 다른 Firefly 도구들처럼 '생성 크레딧' 방식을 사용할 것으로 보임
- Adobe는 경쟁사와 달리 안전장치를 강화해 나체, 약물, 알코올 관련 비디오 생성을 차단하고 정치인이나 유명인을 학습 데이터로 사용하지 않았다고 함
- 이러한 AI 비디오 생성 도구들은 창작 산업에 큰 변화를 가져올 것으로 예상되나, 아직 전문적인 환경에서 사용하기에는 예측 불가능한 면이 있다고 평가
[오늘의 인용글]
제품 담당자처럼 '생각'한다는 것은 무엇일까요? (산출물이 아닌) 사업적 성과에 집중하는 것입니다. 가치, 사용성, 실현 가능성, 사업성 등 모든 위험 요소를 고려합니다. 비즈니스와 제품의 모든 측면을 종합적으로 바라봅니다. 제품의 윤리적 요소와 영향을 예측하고, 창의적으로 문제를 해결하며, 어려움에 끈기 있게 대응합니다. 엔지니어링과 기술적 가능성을 최대한 활용하고, 디자인과 사용자 경험을 극대화합니다. 유저와 시장에 대해 배우고 설득력 있는 주장을 위해 데이터를 활용합니다.
그렇다면 제품 담당자처럼 '행동'한다는 것은 무엇일까요? 경청하고, 협력하며, 함께 배우고, 전파하며 영감을 주는 겁니다. 공로는 나누고 책임은 받아들이며, 책임감 있게 행동합니다. 알 수 없는 것과 모르는 것을 인정하고 겸손합니다. 회사 전체와 관계를 구축하고, 고객을 개인적인 차원에서 이해하며, 리더십을 발휘하죠.
- 마티 케이건, 임파워드
What does it mean to think like a product person? It means focusing on outcome. Considering all of the risks—value, usability, feasibility, and business viability. Thinking holistically about all dimensions of the business and the product. Anticipating ethical considerations or impacts. Creative problem solving. Persistence in the face of obstacles. Leveraging engineering and the art of the possible. Leveraging design and the power of user experience. Leveraging data to learn and to make a compelling argument.
What does it mean to act like a product person? Listening. Collaborating. Shared learning. Evangelizing. Inspiring. Giving credit and accepting blame. Taking responsibility. Knowing what you can't know and admitting what you don't know. Demonstrating humility. Building relationships across the company. Getting to know customers on a personal level. Leading.
- Cagan, Marty. EMPOWERED: Ordinary People, Extraordinary Products
(유저 리서치와 같은) 좋은 발견 과정은 우리가 실패하는 것을 '막아주지' 않습니다. 단지 실패의 가능성을 '줄여줄' 뿐입니다. 실패는 여전히 일어날 것입니다. 하지만 우리는 실패를 두려워해서는 안 됩니다. 제품 조직은 현재 알고 있는 것을 바탕으로 앞으로 나아가고 행동해야 하며, 동시에 틀릴 수 있다는 것을 염두에 두어야 합니다.
(올바른 제품 발견 과정을 통해 쌓인) 습관들은 제품 조직이 현재 알고 있는 것에 대한 자신감을 갖게 해주면서도, 동시에 그것을 의심할 수 있는 균형잡힌 시각을 제공해줄 것이며, 이를 통해 위험을 감수해야 할 때 어떤 적절한 대책을 취해야 할지 알 수 있게 해줄 것입니다.
Good discovery doesn’t prevent us from failing; it simply reduces the chance of failures. Failures will still happen. However, we can’t be afraid of failure. Product trios need to move forward and act on what they know today, while also being prepared to be wrong.
The habits in this book will help you balance having confidence in what you know with doubting what you know, so that you can take action while still recognizing when you are on a risky path.
Torres, Teresa. Continuous Discovery Habits: Discover Products that Create Customer Value and Business Value (pp. 35-36). Product Talk LLC. Kindle Edition.
[뉴스 출처]
- https://www.theverge.com/2024/9/11/24242142/sag-aftra-ai-now-gavin-newsom-safety-sb-1047-letters
- https://techcrunch.com/2024/09/11/openai-reportedly-in-talks-to-raise-at-150b-valuation/
- https://techcrunch.com/2024/09/11/adobe-says-video-generation-is-coming-to-firefly-this-year/
