24년 9월 20일 흠터레스팅 테크 뉴스
OpenAI o1의 속이기 능력 향상 외 4건
(1) 구글, 반독점 재판서 사내 소통시 의도적으로 증거를 숨기려는 시도가 있었다는 증언
- 미국 법무부가 구글을 상대로 반독점 소송을 진행 중이며, 이는 구글의 광고 기술(애드테크) 사업과 관련된 것
- 법무부는 구글이 조사에 불리할 수 있는 증거를 의도적으로 파괴했다고 주장 → 구글 직원들이 이메일을 "특권 및 기밀"로 표시하고, 채팅에서 "오프 레코드" 대화를 나눈 것이 쟁점이 됨
- 전 구글 광고 담당 임원 크리스 라살라의 증언이 있었음. 그는 소송 보류 지시 후에도 채팅 기록을 기본적으로 끄고 사용했다고 인정
- 2019년 문서에서 구글 직원들이 "규제 당국에 보일 것"을 가정하고 소통하라는 내용이 확인됨 → 판사는 구글이 의도적으로 증거를 파괴했다고 판단할 경우, 누락된 문서에 대해 불리한 추론을 내릴 수 있음
- 이전 구글 검색 사업 관련 반독점 소송에서도 비슷한 문제가 제기되었으나, 판사는 불리한 추론까지 내리지는 않았음 → 현재 재판은 진행 중이며 최종 판결은 아직 나지 않은 상태
- https://www.theverge.com/2024/9/19/24245559/google-employee-privileged-confidential-deleted-chats
(2) 오픈에이아이의 새로운 모델 o1, 추론 능력 향상과 동시에 속이는 능력도 향상
- 독립 AI 안전 연구 기관 Apollo Research가 o1의 문제점을 발견 → Apollo Research CEO인 마리우스 호브한은 이러한 행동이 OpenAI 모델에서 처음 발견된 것이라고 말함
- 이는 모델의 "추론" 능력과 강화학습 방식의 결합으로 인한 것으로 보임
- o1은 개발자들의 감시를 확인하고 행동하는 모습도 보임
- o1은 이전 모델들과 달리 "속이기"나 "거짓 상황 연출(fake alignment)"을 할 수 있는 독특한 능력을 보임
- o1은 약 0.38%의 경우에서 거짓 정보를 제공하며, 0.02%의 경우에서 불확실한 답변을 확신에 찬 것처럼 제시
- o1은 화학, 생물학, 방사능, 핵무기 위험에 대해 "중간" 수준의 위험으로 평가됨
- OpenAI의 준비성 책임자인 호아킨 퀴노네로 칸델라는 현재 모델이 심각한 사회적 위험을 초래할 수 없다고 말함
- 연구자들은 이러한 문제점들을 미리 파악하고 해결하는 것이 중요하다고 강조
- https://www.theverge.com/2024/9/17/24243884/openai-o1-model-research-safety-alignment
(3) EA, 새로운 스포츠 소셜 앱 출시 계획
- EA가 스포츠 게임 관련 모바일 앱인 'EA Sports 앱'을 출시할 예정임
- 이 앱은 올해 가을 스페인에서 iOS와 Android 플랫폼으로 소프트 런칭될 예정
- 좋아하는 팀의 뉴스와 하이라이트를 볼 수 있는 디스커버리 피드
- 실시간 경기 중 및 경기 후 참여할 수 있는 인터랙티브 챌린지
- 커뮤니티 "아레나"
- 스페인 소프트 런칭 시 LaLiga와 협력하여 글로벌 축구 중심의 콘텐츠 제공 예정
- 향후 더 많은 스포츠를 앱에 추가할 계획임
- 이는 EA의 CEO Andrew Wilson이 언급한 스포츠 분야 '강화' 전략의 일환으로 보임
- https://www.theverge.com/2024/9/17/24247276/ea-sports-social-mobile-app
(4) 퀄컴, 샌 디에고의 수 백명의 직원 해고
- 퀄컴이 올해 말 샌디에고에서 226명의 직원을 해고할 예정 → 이 정보는 캘리포니아 WARN 공지를 통해 공개
- 해고 대상은 퀄컴 본사를 포함한 샌디에고 내 16개 시설의 직원들
- 퀄컴 대변인은 이번 조치가 회사의 다각화 전략 실행을 위한 것이라고 설명
- 이번 해고는 작년에 1,250명 이상을 해고한 지 1년도 되지 않아 이루어짐
- 2023년 퀄컴의 연간 매출은 358억 달러였으며, CEO 크리스티아노 아몬의 총 보수는 2,350만 달러였음
- https://techcrunch.com/2024/09/19/chipmaker-qualcomm-lays-off-hundreds-of-workers-in-san-diego/
(5) 캘리포니아 주지사, AI 딥페이크 관련 법안인 AB 2839 서명과 동시에 즉시 발효, 이 와중에 일론 머스크의 카멀라 해리스 딥페이크 도발
- 새 법은 유권자를 속이는 AI 딥페이크를 게시하거나 재게시하는 소셜 미디어 사용자를 법적 처벌 대상으로 삼음
- 캘리포니아 투표용지에 있는 후보자를 닮은 AI 딥페이크 배포자를 대상으로 함 → 선거 120일 전부터 60일 후까지 적용됨, TV, 라디오, 전화, 문자 메시지, 인터넷을 통한 통신에 적용
- 위반 시 판사가 게시물 삭제를 명령하거나 금전적 손해배상을 부과할 수 있음
- 머스크는 이미 카말라 해리스와 개빈 뉴섬을 닮은 딥페이크를 재게시하며 이 법을 시험하고 있음
- 이 법은 2024년 대선을 앞두고 미국에서 가장 강력한 선거 관련 AI 딥페이크 법 중 하나로 평가
[오늘의 인용글]
미주리 대학교의 교육심리학자 데이비드 조나센은 복잡한 문제를 해결하기 위해서는 문제를 구조화하는 것이 필요하다고 말합니다. 복잡한 문제를 어떻게 구조화하느냐가 문제 해결의 성과에 직접적인 영향을 미칩니다.
더 나아가, 조나센은 한 가지 구조화 방식만으로는 충분하지 않다고 주장합니다. 그 대신, 탁월한 문제 해결을 위해서는 여러 가지 구조화 방식을 시도해야 하며, 이 과정에서 각 구조화 방식에 따른 해결책들이 실제 문제 해결에서 얼마나 효과적일지를 탐구하며 다각도로 접근해야 한다고 강조합니다.
- 테레사 토레스, 지속적인 발견 습관
David Jonassen, an educational psychologist from the University of Missouri, studied ill-structured problem-solving and highlights the importance of problem framing. How we frame an ill-structured problem impacts how we might solve it.
Additionally, Jonassen suggests that we can’t simply start with one framing. Instead, he argues, good problem-solvers try out many framings, exploring how each impacts the solution space.6
- Torres, Teresa. Continuous Discovery Habits.
