당신의 페이스북 추억이 사라지지 않는 이유
Humanizing Tech Investments
이달 초 Meta는 유럽인들의 페이스북 포스팅들이 미래 세대의 AI 구축을 위해 사용될 콘텐츠가 될 것이라는 발표를 했다. 며칠 뒤인 6월 26일부터 수백만 Facebook 및 Instagram 사용자의 오래된 공개 게시물, 휴가 사진 등의 개인적 포스팅이 인간다운 모습을 담은 타임캡슐로 취급되어 훈련 데이터로 변환된다.
주목할 점은 이번 발표는 GDPR(일반 데이터 보호 규정)을 준수해야 하는 유럽 사용자들에게만 데이터 사용에 대한 동의와 거부 옵션을 제공했다는 사실이다. 메타는 영국과 EU 사용자들에게 자신의 공개 게시물이 AI 훈련 데이터로 사용될 수 있음을 알리는 메시지를 발송했지만, 그 외 지역인 미국이나 국내 사용자들의 개인 게시물들은 이미 2023년부터 AI 모델 훈련에 사용되어 왔다.
이는 곧 기말고사 하루 전 에너지 드링크를 몇 병 마셨는지, 첫 해외여행지 숙소에서의 야경, 예전 직장에서의 일하는 모습 등의 너무나 평범하고 일상적인, 지극히 개인적 추억들이 모두 AI 학습 데이터의 일부가 되었음을 의미한다. 메타는 공개된 콘텐츠만을 대상으로 한다고 밝혔으나 유럽을 제외한 다른 지역 사용자들의 먼지 덮인 개인적 순간들은 이미 AI가 학습을 마쳤다고 봐야 한다.
프랑스의 역사학자 Pierre Nora는 집단 기억이 구체화되고, 보존되며, 전승되는 상징적 장소를 의미하는 ‘기억의 장소’라는 개념을 발전시킨 바 있다. 이는 기념비, 박물관 등의 물리적 장소와 더불어 무형의 기념일, 상징, 의식 등을 포함한다. 그는 이러한 장소들이 과거와 현재를 연결하고, 집단 정체성을 형성하는 데 중요한 역할을 한다고 주장한다.
이러한 관점에서 소셜 미디어 플랫폼은 현대의 ‘기억의 장소’로 볼 수 있다. Facebook과 Instagram은 개인적, 집단적 기억이 저장되고 공유되는 디지털 공간이기에 관련된 Meta의 AI 훈련 데이터 활용은 이러한 개인의 기억을 상업적으로 이용하고 있음을 의미한다. 이는 개인의 기억 통제권과 기업의 이익 사이 다음의 새로운 긴장 관계를 확인시켜 준다.
첫째, 기억의 민주성과 다양성을 위협한다. AI가 특정 지역 및 문화권의 데이터를 더 많이 학습하게 되면, 그 결과물은 필연적으로 편향될 수밖에 없다. 예를 들어, 영어권 사용자의 데이터가 AI 학습에 과도하게 활용될 경우, AI는 영어권 문화와 관점을 중심으로 '기억'을 재구성할 수 있다. 이로 인해 한국의 추석이나 일본의 오봉 같은 비영어권 문화의 특별한 기념일이나 전통이 AI의 이해와 표현에서 소외될 수 있다. 이는 글로벌 문화의 획일화로 이어질 수 있으며, 소수 문화나 관점이 점차 사라질 위험을 내포한다.
둘째, 개인의 기억이 AI 학습 데이터로 활용되면서, 우리의 과거 경험이 예측 불가능한 방식으로 재해석되고 재생산될 수 있다. 만약 개인의 학창 시절 친구들과 찍은 사진을 AI가 학습하고 재해석한다면 그 과정에서 그 시대 학교 문화나 패션 트렌드를 일반화하여 표현할 수 있다. 나아가 AI는 이를 바탕으로 가상의 학창 시절 경험을 생성할 수 있으며, 이는 실제 경험한 적 없는 사람들의 '가짜 기억'을 만들어낼 수도 있다. 다시 말해 개인과 집단의 정체성 형성 과정에 AI가 직접적으로 개입하게 되는 결과를 낳을 수 있다.
셋째, 일부 GDPR 적용 사례와 같이 '디지털 기억 주권'의 불평등을 초래한다. 이는 새로운 형태의 정보 격차를 만들어내며, 일부 사용자들은 자신의 기억에 대한 통제권을 완전히 잃게 되거나 이에 대한 인지도 못할 가능성이 높아진다.
Pierre Nora는 현대 사회에서 자연스러운 기억의 환경이 사라짐에 따라 인위적인 "기억의 장소"가 중요해졌다고 주장한다. Meta의 이번 발표는 우리의 집단 기억과 정체성을 누가 어떻게 형성해 나갈 것인지에 대한 근본적인 질문을 던지고 있다. 기억 주권 법안 도입, 디지털 리터러시 교육 강화 등의 새로운 사회적 합의가 필요해 보인다. 우리 사회의 미래를 결정할 중요한 문화적, 윤리적 과제라 할 수 있겠다.
References
Building AI Technology for Europeans in a Transparent and Responsible Way
Meta will soon use your public posts to train its AI. Can you prevent it?
