24년 7월 12일 흠터레스팅 테크 뉴스
미국 상원의원, 기자와 예술가를 AI로부터 보호하는 법안 제출 외 3건
(1) 미국 양당 상원의원, AI 생성 콘텐츠의 출처를 인증하고 탐지하여 기자와 예술가를 보호하는 법안 COPIED Act 제출
- Content Origin Protection and Integrity from Edited and Deepfaked Media Act (COPIED Act)
- 미국 국립표준기술연구소(NIST)가 콘텐츠 출처를 증명하고 합성 콘텐츠를 탐지하는 표준 및 지침을 마련하도록 지시
- 워터마킹과 같은 방법을 통해 보안 조치 마련 및 인증 마커를 제거하지 못하게 함
- AI 도구가 창작물 또는 저널리스트 콘텐츠의 출처 정보를 첨부하고, 해당 정보가 제거되지 않도록 함
- 콘텐츠 소유자는 허가 없이 자신의 자료를 사용하거나 인증 마커를 조작한 기업을 상대로 소송 가능하며,주 검찰총장과 연방거래위원회(FTC)도 이 법을 집행할 수 있음
(2) AI는 이미지와 오디오를 ‘이해’하는 것이 아니다.
- 새로운 연구에 따르면 이 모델들이 실제로 '보는' 것은 아니며, 단지 입력 데이터와 학습 데이터 간의 패턴을 매칭할 뿐이라고 함
- Auburn University와 University of Alberta 연구진에 의해 수행되었으며, AI 모델의 시각적 이해 능력을 매우 단순한 시각적 작업을 통해 테스트 ⇒ 두 도형이 겹치는지 여부, 그림에 있는 오각형의 개수, 특정 단어의 동그라미 친 글자 등을 묻는 간단한 질문들이 포함
- 예를 들어, 두 원이 겹치는 정도를 묻는 질문에서 GPT-4o는 큰 거리가 있을 때는 95% 이상의 정확도를 보였지만, 가까운 거리에서는 18%만 맞춤 → 또 다른 예로, 여러 개의 원이 서로 겹쳐 있는 그림에서 5개의 원이 있을 때는 100% 정확도를 보였으나, 원의 수가 하나 더 추가되면 성능이 급격히 떨어짐
- 이러한 결과는 AI 모델이 우리가 생각하는 방식으로 '보지' 않는다는 점을 시사
- 이 모델들은 실제로 시각적 판단을 내릴 수 없으며, 단순히 학습 데이터에 기반한 추상적이고 근사한 정보를 추출하는 것에 불과
- 연구 결과는 AI 모델들이 특정 시각적 작업에서 제한적이지만, 인간의 행동이나 일상적인 상황에 대한 해석에서는 여전히 높은 정확도를 보일 수 있음을 강조
- 여러 유명 빅테크 기업들이 이미지와 오디오를 ‘이해한다’고 홍보하지만, 이러한 AI 모델의 실제 작동 방식과 한계를 이해하는 것이 중요
(3) 애플, NFC 및 애플 페이 운영 방식을 변경하기로 하면서 관련 EU 반독점 조사 마무리
- 이 반독점 조사는 2020년 6월에 시작 → 2022년 5월, 애플이 시장의 지배적 위치를 남용하여 경쟁자들을 원천적으로 차단시켜버렸다는 예비 결과가 나왔었음
- 애플은 타사 지갑 개발자가 NFC 기능을 무료로 사용할 수 있게 하며, 보안 요소를 통해 강화된 보안을 제공하지 않는 대신 HCE(Host Card Emulation) 모드를 통해 유사한 보안을 제공할 것을 약속
- 7월 25일까지 Apple은 경쟁 모바일 지갑 개발자가 NFC(근거리 무선 통신) 기술을 사용해 비접촉 결제를 제공할 수 있도록 변경해야 함
- 이제 지갑 개발자들은 애플 생태계 내에서 NFC 접근을 위해 결제 서비스 제공자(PSP) 라이센스 또는 PSP와의 구속력 있는 계약이 필요 없게 됨
(4) 미국 연방거래위원회(FTC), 76%의 서비스가 최소 하나 이상의 다크 패턴(dark pattern)을 사용하는 것으로 밝힘
- 다크 패턴은 사용자의 프라이버시를 위협하거나 제품 및 서비스를 구매하도록 유도하는 조작적인 디자인 기술을 의미
- 642개의 구독 서비스 제공 웹사이트와 앱을 분석한 결과, 76%가 최소 하나 이상의 다크 패턴을 사용했으며, 67%는 두 개 이상의 다크 패턴을 사용
- 스니킹(Sneaking): 가입 및 구매 과정에서 자동 갱신을 끌 수 없는 경우. 81%가 이 기술을 사용해 자동 갱신
- 방해(Obstruction): 구독 취소나 무료 체험을 건너뛰기 어렵게 만듬 → 예를 들어, 'X' 버튼이 회색으로 숨겨져 있는 경우
- 나깅(Nagging): 사용자가 원하지 않는 행동을 반복적으로 요구
- 강제 행동(Forced Action): 특정 기능을 사용하기 위해 결제 정보를 입력하도록 요구 ⇒ 66.4%의 웹사이트와 앱이 이 요구를 포함
- 사회적 증거(Social Proof): 다른 사람들이 특정 행동을 취하고 있다는 정보를 표시하여 사용자에게 영향을 미침
[뉴스 출처]
- https://www.theverge.com/2024/7/11/24196769/copied-act-cantwell-blackburn-heinrich-ai-journalists-artists
- https://techcrunch.com/2024/07/11/are-visual-ai-models-actually-blind/
- https://techcrunch.com/2024/07/11/eu-ends-apple-pay-antitrust-probe-with-binding-commitments-to-open-up-contactless-payments/
- https://techcrunch.com/2024/07/10/ftc-study-finds-dark-patterns-used-by-a-majority-of-subscription-apps-and-websites/
