AI 얼굴 인식 기술, 미국 경찰서에서 사용 금지

AI의 법제화

마이크로소프트 정책 변경

마이크로소프트는 Azure OpenAI Service를 통한 얼굴 인식을 위해 생성형 AI를 사용하는 미국 경찰서에 대한 금지를 재확인했습니다. Azure OpenAI Service는 OpenAI 기술을 기반으로 하는 완전 관리형, 기업 중심의 서비스입니다.

서비스 이용 약관 변경

수요일에 업데이트된 Azure OpenAI Service의 서비스 이용 약관은 미국 경찰서가 얼굴 인식을 위해 Azure OpenAI Service를 사용하는 것을 금지하고 있습니다. 이는 OpenAI의 현재 및 향후 이미지 분석 모델을 포함하여 모든 통합을 금지합니다.

글로벌 적용 범위

새로운 약관에는 "글로벌 법 집행 기관"을 대상으로 한 내용이 포함되어 있습니다. "실시간 얼굴 인식 기술"을 모바일 카메라, 예를 들어 바디 카메라와 대시캠에서 사용해 사람을 식별하려는 시도를 명시적으로 금지합니다. 하지만 실질적으로는 미국 경찰이 통제되지 않은 환경에서로 한정되어 있다고 보는것이 정확 합니다.

AI 윤리와 편향 문제

이러한 정책 변화는 군대와 법 집행 기관을 위한 기술 및 무기 제품 제조사인 Axon이 OpenAI의 GPT-4 모델을 활용하여 바디 카메라의 오디오를 요약하는 제품을 발표한 지 일주일 만에 나왔습니다. 비평가들은 AI의 환각, 잠재적 위험 요소, 훈련 데이터에서의 인종적 편향을 우려하고 있습니다. 특히 유색인종이 백인 동료보다 경찰에 의해 더 자주 정지되는 현실이 문제로 지적되고 있습니다.

정책의 유연성

새로운 이용 약관은 마이크로소프트에게 유연성을 남겨두고 있습니다. Azure OpenAI Service 사용에 대한 완전한 금지는 미국 경찰에만 적용되며, 국제 경찰에는 적용되지 않습니다. 또한 통제된 환경에서 고정된 카메라로 수행되는 얼굴 인식은 예외로 두고 있습니다.

AI와 법 집행

마이크로소프트와 OpenAI는 최근 AI 관련 법 집행 및 방위 계약에 접근하는 방식에서 유사한 입장을 취하고 있습니다. 예를 들어, OpenAI는 사이버 보안 기능을 포함한 여러 프로젝트를 국방부와 진행하고 있으며, 이는 이전에 군대에 AI를 제공하는 것을 금지했던 방침에서 벗어난 것입니다. Microsoft 역시 OpenAI의 이미지 생성 도구인 DALL-E를 사용하여 국방부가 군사 작전을 수행하기 위한 소프트웨어 구축을 지원하려는 움직임을 보이고 있습니다.

정부를 위한 AI 서비스

Azure OpenAI Service는 2월에 Microsoft의 Azure Government 제품에 포함되어 정부 기관, 특히 법 집행 기관을 대상으로 하는 추가적인 컴플라이언스 및 관리 기능을 제공했습니다. Microsoft Federal의 Candice Ling은 Azure OpenAI Service가 DoD 미션을 지원하는 워크로드에 대해 추가 인증을 위해 제출될 것이라고 밝혔습니다.

업데이트 및 정정

출판 후, 마이크로소프트는 서비스 이용 약관 변경에 오류가 있었으며, 실제로 금지는 미국 내 얼굴 인식에만 적용되며 경찰서가 서비스를 사용하는 것에 대한 전면적인 금지는 아니라고 밝혔습니다.