이용자 몰래 데이터를 활용하고 싶은 기업들
줌 이용자의 데이터를 AI 학습에 활용한다고?
줌(Zoom) 자주 쓰시나요? 줌이 최근 서비스 약관을 업데이트했다가 역풍을 맞았습니다. "줌 이용자의 음성, 얼굴, 움직임, 채팅 대화 등의 데이터를 AI 학습에 활용할 수 있음”을 시사한 약관 변경에 대해 이용자들이 개인정보 침해 우려를 제기한 것인데요. 당연히 줌을 사용하지 않겠다는 의견이 줄을 이었고, 이용자들의 반발이 심상치 않음을 느낀 줌은 해명과 함께 서비스 약관을 업데이트했습니다. "고객 동의 없이 AI 모델 학습에 오디오, 비디오 또는 채팅 콘텐츠를 활용하지 않겠다"고요.
모든 문제가 해결된 것은 아니지만, 적어도 이용자의 데이터를 동의 없이 활용하는 것에 대해 경각심을 갖는 계기가 되었을 것입니다.
출처: 업데이트된 줌의 서비스 약관 Zoom Terms of Service 중 일부최근 네이버도 ‘뉴스 콘텐츠 제휴 약관’을 언론사의 사전 동의 없이 네이버 서비스 개발 및 연구에 뉴스를 이용할 수 있도록 개정하여 논란이 됐습니다. 언론단체는 언론사의 지적재산권·자율권·편집권 침해 행위라며 동의할 수 없다는 성명서를 발표했습니다. 언론사의 반발에 네이버는 관련 뉴스 콘텐츠 약관을 전면 재개정했습니다. 한편, 공정거래위원회는 2018년 네이버 이용자가 블로그·카페·지식인 등에 올린 글을 AI 학습에 쓸 수 있게 수정한 약관의 불공정 여부를 조사하고 있습니다.
변경된 약관에 아무도 문제를 제기하지 않았다면 어땠을까요? 이용자 10명 중 7명은 약관을 읽지 않고 동의합니다. 서비스를 이용하기 위해서는 약관에 동의해야만 하는데, 이 약관이라는 게 도저히 읽을 수 없게 디자인되는 경우가 허다합니다. 상황이 이러하니 이용자가 데이터 제공의 실질적인 위험성을 파악하지 못하는 것은 당연합니다. 설령 약관에 동의하지 않아도 대개는 이의를 제기할 수 없습니다.
플랫폼 기업들은 이용자의 데이터를 기업의 자산으로 생각해 왔습니다. 현존하는 AI 모델 대부분도 이용자의 글을 데이터로 활용해 만들어졌죠. 기업에게는 명확하고 쉬운 서비스 약관을 마련할 의무가 있습니다. 기업은 데이터 주체에게 데이터 수집 목적을 명확히 전달하고, 이용자에게 합당한 권한을 부여해야 합니다. 하지만 이번 약관 변경으로 줌과 네이버는 많고 많은 반면교사의 사례에 포함되어 버렸네요.
본 글은 AI 윤리레터 13호에 작성한 글입니다.
더 많은 AI 윤리 소식이 궁금하시면, 인공지능 윤리를 고민하는 직장인, 프리랜서, 대학원생이 꾸려가는 AI 윤리레터를 구독해주세요.
