인공지능(AI) 개인정보 보호 방안

나도 모르게 수집되는 데이터

우리가 스마트폰으로 길을 찾거나 유튜브에서 영상을 보거나 쇼핑몰에서 옷을 구경할 때마다 ‘데이터’가 남습니다. 이 데이터는 내 취향, 위치, 관심사, 소비 성향까지 포함된 개인적인 정보입니다.

AI는 이 데이터를 학습해 더 나은 추천, 더 똑똑한 응답, 더 편리한 기능을 제공하는데 반대로 말하면 누군가 내 데이터를 들여다보고 있다는 뜻이기도 하죠.

내 데이터는 어떻게 쓰이고 있을까?

대부분의 AI 시스템은 수많은 사용자 데이터로 훈련됩니다. 검색어, 채팅 기록, 사진, 목소리, 위치 등등. 그런데 문제는 이 데이터가 어디까지 익명화되어 있는지, 어떤 목적으로 수집되었는지, 삭제 요청은 가능한지 등 투명하게 공개되지 않는 경우가 많습니다.

예를 들어, 어떤 AI 앱이 사용자의 감정 상태를 파악하는 기능이 있다면, 그 감정을 분석하기 위해 내 말투나 얼굴 표정을 저장할 수도 있습니다. 그런데 그걸 사용자에게 제대로 알리지 않았다면? 큰 문제가 됩니다.

세계 각국이 만드는 AI 시대의 데이터 법

대표적인 유럽연합의 ‘AI법(AI Act)’입니다. 2024년에 최종 통과되어 AI를 위험 수준에 따라 구분하고 고위험 기술에는 엄격한 데이터 처리 기준을 적용합니다. 감정 인식, 얼굴 인식처럼 민감한 기술을 사용하는 경우, 사용자의 명확한 동의와 투명한 설명이 필수입니다.

우리나라 정부는 ‘인공지능 기본법’ 제정을 추진 중이며 개인정보보호위원회는 AI 개발과 서비스 운영을 위한 가이드라인을 통해 기업이 지켜야 할 원칙을 명확히 하고 있습니다. 기업은 데이터를 활용하기 전에 사전에 동의를 받고, 처리 목적을 명확히 밝혀야 합니다.

미국도 주 단위로 강력한 규제를 도입하고 있습니다. 예를 들어 캘리포니아주 소비자 프라이버시법(CCPA) 은 사용자가 자신의 정보를 열람, 삭제, 판매 거부할 수 있도록 보장합니다.