오류로 사라진 SNS 계정, 플랫폼은 책임지지 않았다.
인스타그램AI 오류로 시작된 계정 정지 사태, 그리고 무책임한 플랫폼기업
"스브스뉴스 인스타그램 계정이 사라졌다"
올해 6월 말부터 약 2주 간, 인스타그램에서 ‘스브스뉴스’ 계정을 찾아볼 수 없었습니다. 인스타그램, 페이스북 등 주요 소셜 미디어 플랫폼을 운영하는 메타 플랫폼(Meta Platforms Inc., 이하 ‘메타’)에서, 불완전한 AI를 이용하여 규정 위반 소지가 있는 계정을 검토하던 중 스브스뉴스 계정이 AI 오류의 희생양이 된 것입니다. 지금은 복구되었으나, 한동안은 인스타그램에서 스브스뉴스 페이지를 찾아볼 수 없었습니다.
2025. 7. 8.자 인스타그램 캡쳐화면문제는 이 AI 오류가 누구에게는 '재난'처럼 찾아왔다는 것입니다. 의류 브랜드 계정이, 야생동물 사진을 올리던 계정이 돌연 정지되었습니다(참고할 기사: https://www.mbn.co.kr/news/society/5125398). 알 수 없는 이유로 돌연 인스타그램 계정이 정지된 피해자들 수 천명이 오늘도 오픈채팅방에 모여 해결책이 있는지를 서로 묻고 있습니다. 이들 대다수는 사전 경고 없이 계정 정지를 당했습니다. 그 사유는 '아동 성 착취', '계정 무결성에 관한 커뮤니티 규정 미준수' 등이었습니다.
2025. 10. 4.자 카카오톡 오픈채팅 캡처화면그러나 피해자들은 이와 같은 계정 정지사유에 해당하는 글을 게시하지도, 관련 활동을 한 적도 없습니다. 실제로 많은 피해자들의 계정은 계정 정지사유가 없음이 뒤늦게 확인되어 계정이 복구되었으나, 메타 측은 '저희 실수로 인해 한동안 Instagram 이용에 불편을 드려 죄송합니다. 커뮤니티 안전을 위한 조치였으니 양해 부탁드립니다.'라는 안내 문구를 띄웠을 뿐입니다. 메타는 여전히 아무런 정지 사유 없는 계정을 새롭게 정지시키고 있는데, 몇 달째 반복되는 것이 과연 '실수'가 맞는지 의문입니다.
2025. 7. 10. ‘메타플랫폼 계정정지 피해자 간담회’ 당시 메타코리아(정확히는 ‘페이스북코리아 유한회사’) 측에서 공개한 자료에 따르면, 인스타그램에서 2025. 1월-3월 사이에 아동 나체 이미지 및 신체적 학대 사유로 계정 정지를 당한 이용자가 재고 요청(일종의 이의제기 절차)을 한 건수는 약 588,000건이었고, 같은 기간 동안 재고 요청 후 복원된 건수는 약 235,000건이었습니다. 재고 요청 없이 복원된 건수(약 72,000건)까지 포함하면 계정 정지 후 복원된 건수가 약 300,000건인데, 위와 같은 수치는 메타 측의 계정 정지 조치가 얼마나 무분별하게 이루어지고 있는지를 보여주고 있습니다.
그러나 메타는 인스타그램 계정 정지 사태와 관련하여 지금까지 공식적으로 기술 오류를 인정하지도, 문제를 해결해나가겠다는 입장을 밝히지도 않았습니다. 메타는 이용자들에게 실시간 상담이 가능한 고객센터조차 두지 아니하고 있어 사태가 장기화되고 있습니다. 어차피 메타는 내년 2월이면 전기통신사업법 시행령 제30조의8에 따라, 한국에 실시간 고객센터를 의무적으로 설치해야 합니다. 그럼에도 2025. 7. 10.자 국회 피해자간담회 당시 메타코리아 측의 답변으로 보아, 메타 측은 최대한 고객센터 설치 시기를 늦추려는 입장인 것으로 보였습니다.
SNS 계정 하나의 무게가 그리 무겁게 느껴지지 않을 수도 있습니다. 그러나 이번 사건을 다루면서 계정 하나가 사라진다는 건 어떤 이에게는 생계의 붕괴이고, 또 다른 이에게는 수년간 쌓아온 기록의 단절임을 실감하였습니다. 이번 사건에서 제일 절박해하고, 분노했던 이들은 다름 아닌 메타의 서비스를 소중하게 여기며 이용해오던 이용자들입니다. 메타는 자신들이 제공하는 서비스를 쉽게 떠나지 않고, 다시 이용하고자 하는 피해자들에게 지금이라도 진심을 담아 사과하는 한편 추가 피해 방지에 힘써야 할 것입니다.
다음 글에서는 피해자들과 함께 국회로 향하게 된 과정, 비공개간담회 당시 오간 내용 및 현재까지의 피해 복구 경과에 대해 다뤄보려 합니다.