25년 2월 5일 흠터레스팅 테크 뉴스
구글, AI 무기화 하지 않겠다는 서약 삭제 외 3건
[오늘의 인용글 - 조직 문화는 지표에 영향을 끼친다.]
병리적이고 관료적인 조직 문화에서는 측정이 통제 수단으로 활용되며, 구성원들은 기존의 규칙이나 전략, 권력 구조에 반하는 정보를 숨기려고 합니다. 데밍의 말처럼, ‘두려움이 존재하는 곳에서는 숫자가 왜곡될 수밖에 없습니다.'
- 디지털 트랜스포메이션 엔진
In pathological and bureaucratic organizational cultures, measurement is used as a form of control, and people hide information that challenges existing rules, strategies, and power structures. As Deming said, ’whenever there is fear, you get the wrong numbers.'
- Accelerate
(1) 미국 재무부, 공익 단체에게 연방 법원 소송 당해
- 공익 단체 Public Citizen이 미 연방 법원에 소송 제기, 소송 대상은 미 재무부와 최근 임명된 장관 Scott Bessent
- 소송 이유: 일론 머스크와 ‘Department of Government Efficiency (DOGE)’가 연방 정부의 결제 시스템 및 미국 국민들의 사회보장번호(SSN)와 같은 민감한 정보에 무단 접근 -> 재무부가 1974년 개인정보 보호법(Privacy Act of 1974) 및 국세법(Internal Revenue Code)의 납세자 정보 보호 규정을 위반했다고 주장
- 머스크와 DOGE의 연방 결제 시스템 접근 논란: 머스크와 DOGE가 어떻게 결제 시스템 접근권을 얻었는지 불분명, 이 접근으로 인해 연방 결제 시스템이 정치적 개입을 받게 될 위험 증가 -> 수백만 미국인의 개인 금융 정보가 유출될 가능성 제기
- 미국 의회의 반응: 민주당 상원의원들(론 와이든, 엘리자베스 워렌)의 강한 반발 -> Ron Wyden (D-OR): 머스크가 정부 결제 시스템을 통제하는 것은 국가 경제에 심각한 위협, Elizabeth Warren (D-MA): 정부 시스템 남용 방지책과 개인정보 보호 조치에 대한 답변 요구 -> 두 의원 모두 Bessent 장관에게 공식 서한 발송, 각각 2월 7일, 12일까지 답변 요구
- 브래들리 모스(국가안보 변호사): "트럼프 행정부는 법적 저지선이 어디까지인지 실험 중. -> DOGE의 연방 행정기관 개입으로 추가 소송 발생 가능성: USAID 자금 동결 피해 단체, DOGE로 인해 해고된 연방 직원, 의회의 예산 집행 권한 침해 문제
- 트럼프 행정부가 연방 관료제를 무력화하려는 전략의 일부일 가능성 -> 공화당이 장악한 의회가 이를 견제하지 않을 가능성이 크며, 법원이 이를 막을 수 있을지 미지수
- https://www.theverge.com/policy/605614/treasury-department-sued-over-doge-takeover
(2) 소프트뱅크 손정의, "인공지능 일반화 도래 예상보다 더 빠를 것"
- 소프트뱅크 회장 손정의, AGI(인공지능 일반화) 도래 시점을 예상보다 더 빠르게 도래할 것이라 주장: 이전 예측(2~3년 내 도래)보다 더 빠를 것으로 예상 -> AGI 정의 변경 가능성도 영향을 미칠 수 있음 (샘 알트먼이 최근 언급)
- SoftBank의 AI 투자 및 협력 확대: OpenAI와 5000억 달러 규모 ‘Project Stargate’ 투자 -> 미국 내 AI 인프라 확충을 위한 대규모 프로젝트에 참여, 일본 내 OpenAI 합작 법인 설립 (‘SB OpenAI Japan’) -> 소프트뱅크 50% - OpenAI 50% 지분 구조, ‘Cristal Intelligence’를 일본 대기업에 독점 공급 예정, 3조 원 투자하여 OpenAI 기술 도입, 소프트뱅크 계열사 전반에 OpenAI 기술 적용
- Cristal Intelligence, 소프트뱅크의 새로운 AI 시스템: 손정의가 도쿄 행사에서 ‘크리스탈 볼(수정구슬)’을 들고 발표 -> 지능형 AI 에이전트로, 지식 노동자의 일상 업무 자동화, Arm: AI 활용해 칩 설계 및 서버 최적화, 생산성 증대, 소프트뱅크: 1억 개 이상의 업무(workflows) 자동화 → 효율성 증대, 신규 비즈니스 창출 기대
- https://www.theverge.com/news/605555/softbank-masayoshi-son-agi-cristal-intelligence-openai
(3) 전 테슬라 엔지니어, 미국 정부에 AI 우선 전략 적용하며 스타트업 회사처럼 개편
- 토마스 쉐드(Thomas Shedd), 전 테슬라 엔지니어이자 현재 미국 기술혁신서비스국(TTS, Technology Transformation Services) 디렉터
- 미국 정부의 IT 전략을 ‘AI 우선 전략’으로 전환 계획 -> TTS는 미국 연방 기관의 IT 혁신을 지원하는 조직으로, 연방정부의 디지털 전환을 담당
- 정부 기관 운영 방식을 ‘스타트업 소프트웨어 회사’처럼 개편 -> 정부 시스템을 보다 민첩하고 효율적으로 운영하는 방향 지향, AI 기반 중앙 계약 데이터베이스 구축 추진, 정부 계약을 AI로 분석하고 관리하는 시스템 개발, 예산 절감 및 효율성 극대화 목표
- 트럼프 행정부에서 실리콘밸리 인사들이 정부 내 요직을 차지하는 흐름과 연계
- 정부 예산 삭감과 연계된 AI 도입: 뉴욕타임스 보도에 따르면 해당 부서는 예산 50% 삭감 가능성이 제기 -> AI 도입이 비용 절감의 핵심 전략으로 활용될 가능성
(4) 구글, AI 무기화 하지 않겠다는 서약 삭제
- 구글이 AI 원칙 페이지에서 “추구하지 않을 응용 분야” 항목 삭제 -> 해당 항목에는 AI를 무기 개발이나 감시에 사용하지 않겠다는 약속이 포함되어 있었음, 지난주까지 포함되어 있었던 내용이 이번 주 삭제됨 (Bloomberg 최초 보도)
- 구글은 ‘책임 있는 AI’ 관련 블로그 포스트를 인용하며 새로운 입장 발표: “AI는 사람을 보호하고, 글로벌 성장과 국가 안보를 지원하는 방향으로 개발되어야 한다.” -> 국제법과 인권 원칙에 맞춰 AI를 개발할 것이라 언급했으나, 무기 개발 배제 원칙은 명확히 하지 않음
- 최근 몇 년간 구글의 미군 및 이스라엘 군 계약 논란이 지속됨: 구글의 클라우드 서비스 및 AI 기술이 군사 용도로 사용될 가능성이 지적, 내부 직원들 사이에서도 반대하는 목소리가 강하게 제기됨
- 미 국방부(펜타곤) AI 책임자, TechCrunch와의 인터뷰에서 “일부 AI 모델이 미군의 킬 체인(Kill Chain) 가속화에 기여하고 있다”고 언급 -> 킬 체인: 표적 탐지 → 식별 → 결정 → 공격까지의 군사 프로세스
- 구글 AI가 직접적인 무기 시스템에 사용되고 있는지는 불분명하지만, 군사 의사 결정 과정에 AI가 개입하는 것에 대한 논란 확대
- 구글의 AI 정책 변화가 군사 분야 AI 개발과 관련이 있는지 의문 제기, 구글이 국가 안보 및 군사 계약에 적극적으로 협력할 가능성 커짐
- https://techcrunch.com/2025/02/04/google-removes-pledge-to-not-use-ai-for-weapons-from-website/
