AI는 N번방의 정체를 알고 있었다?!
SNS에서 나뉘는 정보공유, 정보유출, 신상공개는 어디까지 합법/불법적인가?
인공지능(AI)은 똑똑하다. 동시에 놀랍도록 아둔하다. 특히 처음 보는 디지털 범죄 앞에선 한없이 무력해진다.
구글이 텔레그램 집단 성착취 사건(n번방 사건) 피해자들에게 2차 가해가 될 수 있는 검색어와 검색 결과를 계속 노출해왔단 사실이 24일 알려졌다. 'n번방'이나 '박사(조주빈)' 관련 키워드를 검색하면 피해자 신상 관련 정보를 노출했다. n번방 사건을 최초로 알린 대학생 기자단 '추적단 불꽃'도 "2차 피해는 구글에서 가장 심하다"고 평가했다.
이에 대해 구글 관계자는 "23일부터 삭제 조치를 위한 알고리즘이 업데이트 되고 있다"며 "구글은 콘텐트 삭제를 대부분 AI에 맡기고 있으며, 사람이 가치 판단하는 경우를 극단적으로 최소화하고 있다"고 설명했다. 그러면서 "AI는 'n번방'이 사회적으로 문제가 된다는 것을 파악하기 어렵다"고 말했다.
최근 수년간 글로벌 IT 기업들이 너나없이 AI 기술 경쟁에 나서면서 'AI 만능신화'가 자리 잡았다. AI의 실체가 결국 사람이 제공한 데이터의 '반복 학습'임을 간과한 채 말이다. 학습하지 않은 데이터 앞에서 AI는 세상 물정도 모르고, 눈치도 없는 소프트웨어 프로그램에 불과하다. 차별과 편견으로 가득찬 데이터는 AI의 결과물에 그대로 이식된다. 오죽하면 AI 기술업계에서 '쓰레기를 넣으면 쓰레기가 나온다(Garbage In, Garbage Out)'는 말까지 생겼겠는가.
구글의 콘텐트 정책. "구글은 ▶성적 노출 ▶차별·혐오 ▶불법 행위 ▶사이버 불링(Cyber Bullying) 등을 모두 엄격히 금지한다"고 명시돼있다.
"AI가 n번방을 몰랐다"는 구글의 변명이 직무유기인 이유다. 구글 콘텐트 정책은 ▶성적 노출 ▶차별·혐오 ▶불법 행위 ▶사이버 불링(가상공간 내 집단괴롭힘) 등을 모두 엄격히 금지하고 있다. 하지만 구글은 AI의 현 수준을 알고도 범죄성 콘텐트를 지우기 위한 '인간의 노력'을 추가하지 않았다. 게이트키핑 의무에 소홀했거나, 사람과 기계 모두 무지했거나, 둘 다다.
한 글로벌 AI 기업 임원은 "n번방 사건이 세계적인, 혹은 미국 내 사건이었다면 구글이 더 빨리 움직였을지 모른다"고 말했다. 그는 "77억 인구를 대상으로 사업하는 구글에게 한국은 아시아 변방의 작은 나라일 뿐 아니겠느냐"며 씁쓸해 했다. 실제 국내 여론에 민감한 토종사업자 네이버·다음(카카오)은 이번 사건 관련 2차 피해가 될 만한 게시글은 신고 즉시 삭제하고 있다. 디지털 장의사 이덕영씨는 "네이버에서 n번방 글을 신고하자 30분 만에 지워졌는데, 구글은 하루에 60~70번 신고해도 처리가 안 된다"고 말했다.
2차 가해는 구글만의 문제는 아니다. "AI로 콘텐트를 자체 심의한다"며 한국인터넷자율정책기구(KISO) 심의 가이드라인을 거부하는 해외 플랫폼 전부에 해당하는 얘기다. 방송통신심의위원회에 따르면 2016년부터 지난달까지 구글·트위터·텔레그램·디스코드 등 해외 플랫폼에 유통된 디지털 성범죄물은 8만6000여건이다. 감시망에 걸리지 않은 성범죄물까지 합치면 숫자는 더 커진다. 이 가운데 방심위 요청에 따라 삭제된 게시물은 약 32%(2만7000여건)에 불과하다.
이에 국회에서도 "역외규정을 신설해 해외 사업자에게 불법촬영물 예방·방지 의무를 부여해야 한다"는 목소리가 나오고 있다. 해외 플랫폼들이 끝까지 '자체 심의'를 고집하고 싶다면 더 잘해야 한다. 피해자의 고통을 방조하는 포털과 소셜미디어(SNS)는 피해자들에게 가해자 못지 않은 폭력이기 때문이다."AI는 수십억명의 삶을 더 향상할 힘과 그 반대로 만들 힘을 동시에 갖고 있다." 지난 1월 순다 피차이 구글 CEO의 이 말이 한국 시장에서는 예외가 아니기를 바란다.
https://mnews.joins.com/article/23739178?cloc=joongang-mhome-Group33#home
파벨 두로프 텔레그램 창업자‘n번방’ 수사에 텔레그램은 끝내 협조하지 않았다. 홍콩·러시아 같은 권위주의 정부에 맞서는 ‘인터넷 자유 수호자’를 자처하지만, 반인륜 범죄자 정보도 공개하지 않는, 비밀 메신저의 두 얼굴이다. 텔레그램은 ‘n번방’을 비롯한 디지털 성범죄와 관련, 한국 경찰과 방송통신심의위원회에 협조하지 않고 있다. 방심위가 할 수 있는 건 불법 촬영물을 지워달라고 텔레그램 앱의 신고 창구에 요청하는 것이다. 지난 1월에는 198건을 방심위가 요청해 삭제됐다. 그러나 텔레그램은 답을 하지는 않는다. 삭제됐는지, 방심위가 일일이 확인해야 한다. 텔레그램 서버와 본사가 어느 나라에 있는지 알려지지 않았다. 경찰이 국제 공조를 통해 텔레그램 본사 위치를 찾아내려는 이유다.
· n번방 사건은 플랫폼 사업자의 의무는 어디까지인지, 범죄 소굴로 이용되는 플랫폼을 사회는 어디까지 통제할 것인지 다시 묻고 있어서다.
· 방심위에 따르면, 디지털 성범죄 심의물의 99%가 외국 서버 및 플랫폼에서 유통된다. 인터넷 사업자는 불법 정보를 유통하지 않을 의무가 있지만(정보통신망법 44조), 해외 사업자는 적용받지 않는다.
· 김영선 방심위 확산방지팀장은 “트위터·페이스북·구글은 성범죄 신고 전담 창구가 있고 국내 지사를 통해 협조하지만, 텔레그램은 국내 사업자가 없어 접촉점을 찾으려 노력하고 있다”고 말했다.
· 전세계적으로 텔레그램·디스코드 같은 비밀 메신저 앱에서 강간ㆍ성적 학대 영상이 유통돼 문제가 된 지 오래다.
· n번방 사건에 대한 입장은 없다. 평소 텔레그램은 ‘불법 콘텐트는 삭제하고 있다, 대화 내용은 우리가 보관하지 않으며 암호를 풀어줄 수도 없다’고 말해왔다. 올라온 성범죄물은 지우겠으나 범죄자 검거엔 협조 안 한다는 것.
· 텔레그램은 아동 성학대 신고 채널인를 운영한다. 날마다 삭제 조치한 숫자도 올린다. 이에 따르면 텔레그램은 하루 250~300개의 아동 성학대 채널을 삭제하고 있다.
· 텔레그램의 설립 목적 자체가 ‘검열받지 않을 자유’다.
· 창업자 파벨 두로프(36)는 ‘러시아의 저커버그’라 불린다. 반정부 인사의 텔레그램 정보를 달라는 러시아 당국의 요구를 거부한 뒤, 국외 망명 중이다. 두로프는 ‘브레이브 하트’ 영화에 비유해 ‘그들은 우리의 인터넷 IP는 빼앗아도 자유는 못 빼앗는다’고 인스타그램에 올리기도 했다.
· 2014~2017년 텔레그램은 IS 테러범의 소통 창구로 활용됐다. 테리사 메이 당시 영국 총리는 텔레그램을 ‘범죄자의 둥지’라고 했을 정도. 그러나 두로프는 “개인 사생활 권리가 (테러) 위협보다 더 중요하다”는 지론을 고수했다. 텔레그램은 IS 채널을 자체 삭제했지만, 테러범 정보는 외부에 제공하지 않았다.
· 2019년 홍콩 반정부 시위에 텔레그램이 활용됐고, 텔레그램은 해킹 공격을 받았다. 두로프는에 “공격 대부분이 중국 본토에서 왔다”며 “우연이 아니다"고 주장했다.
· 방심위는 메신저 앱 디스코드에서 n번방 유사 범죄를 감지해 주목하고 있다. 디스코드는 방심위 삭제 요청에 응하며 회신도 한다. 본사는 미국 샌프란시스코에 있다.
· 텔레그램 이전에는 텀블러가 골치였다. 2016년 방심위가 ‘불법 콘텐트 대응 협력’ 요청했다가 거절당했다. “우린 미국 회사고 한국 지사도 없으니 너희 관할이 아니다”는 것. 반면 2018년 12월 애플이 ‘아동 음란물 유통’을 이유로 텀블러 앱을 앱스토어에서 삭제해버리자 효과가 즉시 나타났다. 텀블러는 나체가 포함된 사진ㆍ영상을 텀블러 내에서 금지했고 앱스토어에 다시 등록됐다.
· 텔레그램의 협조가 없어도 잠입취재나 함정수사, 내부고발로 잡을 수는 있다. 그러나 오래 걸린다(함정수사는 국내에선 불법)
· 경찰은 CCTV 분석과 가상화폐 추적 등 6개월 간의 특수수사 끝에 일명 '박사' 조주빈(25)씨를 지난 17일 검거했다.
· 해외에서도 텔레그램 범인은 어렵게 잡는다. 2017년 인도의 소아성애 텔레그램 방 운영자는 사회운동가의 3년 잠입 취재로 잡았다. 2019년 10월 싱가포르에서 적발된 여성 불법 촬영물 텔레그램방은 운영진 부주의로 꼬리가 붙잡혔다. 싱가포르 정부는 26세 주범과 17·19·37세 공범의 신상과 얼굴을 공개했다.
· 사용자 정보를 놓고 정부와 각을 세운 대표적 테크 기업은 애플이다. 미국·호주 수사기관이 ‘테러범·성범죄자의 아이폰 잠금을 풀어달라’ 요구했지만 ‘사생활 보호’ 이유로 거부했다.
· 지난 1월 애플의 제인 호바스 개인정보보호 담당 이사는 “대신 우리는 아동 성학대물을 자체 탐지한다”고 했다. 애플 메시지나 아이클라우드에서 아동 성학대 의심 사진을 탐지해, 계정을 정지하고 전담 기관에 신고한다는 것.
· 위 내용이 보도되자 파벨 두로프는 자신의 텔레그램 채널에 “이제 아이클라우드도 공식적인 감시 도구가 됐다”며 “사적 메시지를 이런 곳에 저장하면 안 된다”고 적었다.
https://mnews.joins.com/article/23739178?cloc=joongang-mhome-Group33#home
페이스북 창업자 마크 저커버그가 17일 벨기에 브뤼셀의 EU 집행위원회를 방문했다. [AFP=연합뉴스]
“민주주의 근본 가치를 건드리는 결정을 일개 기업이 혼자서 내리면 안 된다. 선거, 유해 정보, 사생활, 데이터 활용 분야에서는 더욱 그렇다.”마크 저커버그 페이스북 창업자 겸 최고경영자(CEO)가 신문에 직접 글을 써서 “우리(페이스북) 좀 규제해 달라”고 호소했다. 공개 석상에서 “소셜미디어도 콘텐트 내용에 책임이 없지 않다”고도 했다. 대체 왜?
-2월 15일, 저커버그는 독일 뮌헨에서 열린 안보회의에서 “소셜미디어의 책임은 신문사와 전화 통신사 사이 어디엔가 있다”고 했다. 페이스북은 신문사처럼 게재된 내용 전부를 책임지지는 않지만, 통신사처럼 ‘전화 내용에 대한 책임을 왜 묻느냐’고 하기도 어렵다는 얘기다. 그러면서 “콘텐트 모니터링을 위해 3만5000명을 고용했으며 매일 수백만 개의 가짜 계정을 삭제한다”고 말했다.
-이틀후, 2월 17일자 파이낸셜타임즈 ‘오피니언’ 란에 저커버그의 글이 실렸다. 제목은 ‘거대 기술기업을 더 많이 규제해야 한다(Big Tech needs more regulation)’.
-기고문의 주요 내용은 다음과 같다.
“페이스북은 표현의 자유냐 규칙 강화냐, 열린 공간 제공이냐 데이터 보호냐 같은 사회적 가치 사이에서 날마다 선택의 기로에 놓인다. 명확하게 옳기만한 답은 거의 없다.”
“우리는 이미 유해 콘텐트를 걸러내는 규정에 대한 보고서를 발행하고 있다. 앞으로도 더 공개할 것이다.”
“EU가 국제 기구를 만들어서 페이스북의 데이터를 공유받겠다는 것은 좋다. 하지만 '개인 데이터'의 정의는 어디까지고, 그 결정은 누가 하나?”
“좋은 규제는 단기적으로는 페이스북 사업에 해가 되더라도 장기적으로는 페이스북에게도 좋다”
-기고문의 방점은 ‘개인정보와 유해 콘텐트에 관한 규제를 명확하게 만들어 달라’는 데 있다. 저커버그는 이렇게 주장했다.
“규제가 명확하지 않으면서 엄격하기만 하면, 기업들은 규제 위험을 줄이기 위해 데이터를 공유하지 않고 틀어쥘 수밖에 없다.”
“규제는 의도치 않은 결과를 낳을 수 있다. 페이스북 데이터로 영업을 하는 수백만 소상공인들은 독자적으로 데이터 분석이나 마케팅을 할 수 없다” 섣부른 규제로 이들이 피해를 입을 수 있다는 얘기다.
-저커버그는 특히 정치 영역에서 모호함을 호소했다. 페이스북은 정치 광고에 대해서는 광고주가 누구이며 광고 단가가 얼마인지 공개하고 있다. 저커버그는 반문했다. “선거 기간에 비영리단체가 이민 정책에 관련된 광고를 페이스북에 게재한다면 그것은 ‘정치 광고’인가 아닌가? 그런 판단은 누가 내려주는가?”
-EU는 '데이터 주권'을 연일 강조하고 있다. 구글·페이스북·아마존 같은 미국 기업들이 유럽 소비자 개인정보로 사업하는 것을 두고 보지 않겠다는 것.
-2018년 5월, EU 시민의 데이터를 EU 밖으로 가져가는 것을 규제하는 개인정보보호법(GDPR)이 시행됐다.
“너무 많은 유럽 기업이 자사의 모든 데이터를 미국 기업들에게 맡긴다. … 데이터에서 나오는 상품을 미국에 의존하는 것이 옳은지 모르겠다.”
-2월 19일, EU는 IT 기업에 대한 규제 초안을 발표할 예정이다. 콘텐트 뿐 아니라 자율주행, 안면인식 같은 기술도 관련된다.
-애플ㆍ마이크로소프트·페이스북이 EU의 결정을 주시한다. EU 집행부가 있는 벨기에 브뤼셀에 구글 CEO, 애플 부사장이 최근 다녀갔다. 저커버그도 현재 브뤼셀에 있다.
-EU 집행위원들은 “콘텐트에 대한 페이스북의 대응은 너무 느리고, 무책임하다”, “우리가 페이스북에 적응할 것이 아니라 페이스북이 우리에게 적응해야 한다”며 연일 강한 발언을 내놓고 있다.
-플랫폼에서 일어나는 일에 기업의 책임은 어디까지인가. 이 논쟁은 국내에도 있다. 댓글·실검이 조작되지 않도록 포털 사업자가 막을 의무가 있다는 내용의 정보통신망법 개정안이 국회에 계류 중이다.
-네이버ㆍ카카오 등 인터넷 기업은 “포털도 댓글 조작의 피해자인데, 왜 책임을 져야 하느냐”며 공개적으로 반대한다.
-EU의 개인정보 규제 GDPR을 어긴 회사는 총 매출의 4%를 벌금으로 내야 한다. EU 고객을 보유한 한국 쇼핑·게임 업체들도 해당된다. 이를 면하려면 국가 차원에서 EU 정보보호 적정성 심사를 통과해야 한다. 그 기한은 올해 5월까지다.
-페이스북은 미국에서도 정치적으로 곤혹스러운 처지다. 2016년 미국 대선 당시 8700만 명의 개인정보를 영국의 정치 컨설팅 업체에 유출한 일로, 미국 연방거래위원회(FTC)로부터 50억 달러 이상의 벌금을 받았다. 저커버그가 연일 ‘낮은 포복’을 취하는 배경이다
https://news.joins.com/article/23709201
