24년 8월 15일 흠터레스팅 테크 뉴스
트럼프 해킹 사건 언론 대응 외 5건
(1) 도널드 트럼프 선거 캠페인 문서 해킹사건과 2016년 유사 사건과는 달라진 언론의 대응
- 도널드 트럼프의 대통령 선거 캠페인에서 문서가 해킹당해 언론에 유출된 사건이 발생 → Robert라는 인물이 이 문서를 Politico 등 언론에 제공함. FBI가 이 해킹 사건을 조사 중이며, 트럼프는 이란 정부를 배후로 지목
- 2016년 대선 당시 발생한 해킹 및 문서 유출 사건(Guccifer 2.0)이 이번 사건과 유사 → "Guccifer 2.0"이라는 해커가 민주당 전국위원회(DNC)를 해킹하고, 이 문서를 공개적으로 유출, 미국 FBI는 이 해커가 러시아 군사 정보국(GRU) 소속이라고 확인 → 해킹된 문서에는 민주당 내부 논의와 전략 문서가 포함되어 있었으며, 특히 힐러리 클린턴 캠프와 관련된 자료가 다수 유출 → 당시 많은 언론 매체들이 유출된 문서의 내용에 집중하여 보도, 이로 인해 러시아 정부가 의도한 대로 미국 대중의 시선을 클린턴 캠페인의 부정적인 측면에 집중시키는 효과를 가져옴
- 2016년과 달리 이번 사건에서 언론은 해킹된 문서 자체보다는 해킹과 유출의 배후와 동기 자체에 초점을 맞춰 보도 → 이는 외부의 허위 정보 확산 시도를 차단하려는 의도로 해석됨
- 트럼프 측근인 로저 스톤의 이메일이 해킹된 것으로 추정되며, 이를 통해 캠페인 문서가 유출된 것으로 보임 → Microsoft와 Google의 보안팀도 이란 정부가 해킹 배후일 가능성이 크다고 평가
- 해킹된 정보가 공익에 부합할 수 있는 경우도 있지만, 해킹-유출 작전의 맥락을 제공하는 것이 언론의 중요한 역할임이 강조됨
(2) 음악 AI 서비스 제공사 Sonos, 최근 100명 직원의 해고
- 이는 1년 전 7% 인원 감축 이후 14개월 만에 이루어진 추가 감축으로, 전체 직원의 약 6%에 해당
- Sonos의 CEO 패트릭 스펜스(Patrick Spence)는 이번 인원 감축이 어려운 결정이었지만, Sonos의 제품 로드맵에 계속해서 의미 있는 투자를 하면서 장기적인 성공을 보장하기 위한 필수 조치였다고 설명
- 최근 Sonos는 모바일 앱의 문제로 어려움을 겪고 있으며, 이를 해결하는 데 2천만에서 3천만 달러의 비용이 소요될 것으로 예상
- 5월에는 앱 리디자인과 관련된 문제로 인해 고객들에게 불편을 끼친 것에 대해 공개 사과문을 발표한 바 있음
(3) 애플, NFC 기능을 서드파티 개발자들에게 개방하기로 발표
- Apple은 유럽연합(EU) 규제 당국의 압력으로 인해 NFC 접근 권한을 서드파티 개발자들에게 개방하게 되었으며, 이는 경쟁 제한으로 인한 반독점 조사를 피하기 위한 조치
- 이는 Apple Pay와 Wallet을 지원하는 NFC 기능을 타사에서도 활용할 수 있게 한 중요한 변화
- 새롭게 개방된 NFC 및 Secure Element API는 iOS 18.1 업데이트와 함께 처음에는 호주, 브라질, 캐나다, 일본, 뉴질랜드, 영국, 미국에서 제공될 예정이며, 이후 다른 지역으로 확장될 예정
- Apple은 개발자들이 이 기능을 사용하려면 Apple과 상업적 계약을 체결하고, 관련 수수료를 지불해야 한다고 밝힘 → 따라서 이 서비스는 무료로 제공되지 않으며, 구체적인 비용과 조건은 아직 공개되지 않음
(4) 최근 AI 연구, 아무리 가장 뛰어난 AI 모델일지라도 환각은 자주 발생한다라는 결과
- Cornell, 워싱턴 대학, 워털루 대학, AI2 연구소가 공동으로 수행한 이 연구는 다양한 주제에 대해 AI 모델들의 사실 여부를 검토하며 환각 빈도를 측정
- 연구 결과, 모든 모델이 모든 주제에서 일관되게 잘못된 정보를 생성하지 않았으며, 환각이 적은 모델일수록 오답일 가능성이 높은 질문에 답변을 회피하는 경향이 있었음 → 연구에 따르면, 현재의 AI 모델은 환각이 없는 텍스트를 생성하는 비율이 약 35%에 불과
- 연구팀은 AI 모델의 환각 문제가 당분간 계속될 것으로 예상하며, 현재까지 제안된 환각 감소 방법의 실제 효과는 제한적이라고 밝힘 → 인터넷에 있는 정보조차도 신뢰할 수 없는 경우가 많고, 이는 AI 모델의 훈련 데이터에 포함된 잘못된 정보에서 비롯될 수 있음
- 환각 문제를 줄이기 위한 임시 해결책으로는 AI 모델이 답변을 거부하도록 프로그래밍하는 것이 제안됨 → 예를 들어, Claude 3 Haiku 모델은 질문의 약 72%에만 답변하고 나머지는 거부함으로써 가장 사실에 가까운 결과를 보임
- 연구원들은 환각 문제를 완전히 제거하는 것은 어려울 수 있지만, 인간의 개입 및 사실 검증과 인용을 포함하는 방식으로 환각을 줄일 수 있을 것이라고
- 또한, 고급 사실 검증 도구 개발과 잘못된 텍스트에 대한 수정 제공 등의 여러 가능성이 여전히 많이 존재함을 강조
(5) 미국 연방거래위원회(FTC), 가짜 리뷰를 금지하기 위한 새로운 규칙 확정
- 이 규칙은 AI로 생성된 리뷰, 부정적인 리뷰를 검열하는 행위, 긍정적인 리뷰를 위해 제3자에게 보상하는 행위를 포함한 여러 가지 기만적인 마케팅 관행을 금지 → 가짜 리뷰 한 건당 최대 벌금은 $51,744이며, 법원은 각 사례에 따라 위반 건수를 계산해 벌금을 부과할 예정
- 가짜 리뷰 금지: 실제 제품을 경험하지 않은 사람들의 리뷰와 AI로 생성된 리뷰를 금지.
- 리뷰 판매 및 구매 금지: 긍정적이든 부정적이든, 리뷰를 사고파는 행위 금지
- 내부자 리뷰 명시: 기업의 임원이나 관리자는 자신의 기업에 대한 리뷰를 작성할 때 그 관계를 명확히 밝혀야 하며, 직원들에게 가족이나 지인으로부터 리뷰를 요청하지 못하도록 함
- 독립성 주장 금지: 독립적이라고 주장하는 리뷰 웹사이트가 실제로 기업이 통제하는 경우 이를 금지
- 부정적인 리뷰 억제 금지: 법적 또는 물리적 위협을 사용해 부정적인 리뷰를 삭제하거나 억제하는 행위 금지. 또한, 웹사이트의 리뷰 섹션에서 모든 리뷰를 보여주는 것처럼 오해를 불러일으키는 행위 금지
- 가짜 참여 금지: 봇이나 해킹된 계정을 통해 얻은 소셜 미디어 팔로워, 좋아요, 조회수 등의 가짜 참여를 사고파는 행위 금지
(6) MIT, AI 안전성과 위험에 관한 저장소(repository) 공개
- 이 저장소는 AI의 다양한 리스크를 범주화하여 정책 입안자, 산업계, 학계에서 참고할 수 있도록 설계됨
- 저장소는 700개 이상의 AI 리스크를 의도성, 차별, 허위정보 및 사이버 공격 등과 같은 인과 요인, 도메인, 하위 도메인으로 분류 → AI 안전성 연구에서 발생하는 중복 및 격차를 이해하기 위한 시도에서 비롯
- 연구에 따르면, 기존의 AI 리스크 프레임워크들은 전체 리스크의 일부만 다루고 있으며, 이러한 누락이 AI 개발, 사용 및 정책 결정에 중대한 영향을 미칠 수 있음 → 예를 들어, 조사된 프레임워크 중 70% 이상이 AI의 프라이버시 및 보안 문제를 다루었지만, 허위정보와 관련된 리스크는 44%만이 언급
- MIT 연구자들은 이 저장소가 정책 입안자와 연구자들이 더 포괄적이고 효과적인 AI 리스크 관리 전략을 개발하는 데 기여할 것이라고 기대
[뉴스 출처]
- https://techcrunch.com/2024/08/14/sonos-ceo-patrick-spence-confirms-100-person-layoff/
- https://techcrunch.com/2024/08/14/study-suggests-that-even-the-best-ai-models-hallucinate-a-bunch/
- https://techcrunch.com/2024/08/14/ftc-finalizes-rule-banning-fake-reviews/
- https://techcrunch.com/2024/08/14/mit-researchers-release-a-repository-of-ai-risks/
