2020 봄 카카오 미디어자문위
Talk with kakao_1: 미디어자문위원 & 카카오
2020년 4월 24일, 카카오 미디어자문위원회(이하 자문위)의 봄 정기 회의가 열렸습니다. 이날 자문위에는 김민정 교수(한국외대 미디어커뮤니케이션학부), 김장현 교수(성균관대 인터랙션사이언스학과), 도준호 교수(숙명여대 미디어학부), 박재영 교수(고려대 미디어학부), 이준웅 교수(서울대 언론정보학과)가 참여했습니다(이름 가나다 순). 카카오에서는 양현서 부사장(커뮤니케이션실), 손정아 부사장(서비스2실), 박용준 이사(미디어팀), 이준목 이사(이용자보호팀), 김대원 이사(정책팀), 김대기 부장(이용자보호팀), 김성환 부장(대외협력팀), 김수원 연구원(정책팀)이 참여했습니다. 위원회에서 나온 이야기는 발언자 별로 아래와 같이 정리하였습니다. 호칭은 생략했습니다.
자문위원과 카카오 크루 간 열띤 논의가 오고 간 주제는 'N번방' 사건으로 사회적 화두가 된 불법/유해 콘텐츠 관리 방안이었습니다.
박재영=현재 카카오가 제공하는 서비스들에서는 N번방과 같이 논란이 되는 종류의 콘텐츠가 살아남기가 어려운 구조가 아닌가요?
이준목=현재 카카오는 청소년보호책임자를 지정하여, 엄격하게 관리하고 있습니다. 공개된 게시물의 경우, 콘텐츠 등록시 자동으로 유해물을 차단하거나 금칙어 통해 필터링하는 기술적 조치를 도입했습니다. 유해물이 신고되면 즉시 삭제합니다. 이용 정책과 약관을 심각하게 위반하는 경우 ‘원 스트라이크(one-strike) 영구정지’하는 방식도 운영하고 있습니다. 국내 서비스들은 이처럼 엄격하게 불법/유해 콘텐츠를 관리하고 있고, 수사로까지 이어질 수 있어서 디지털 성범죄자들은 해외 서비스로 은신하는 경향을 보입니다.
김민정=오픈채팅방에 대해서 모니터링 강화 방침을 밝힌 것으로 아는데, 구체적으로 어떻게 진행이 되고 있나요?
이준목=공개되어 있는 오픈채팅방 제목에 특정 단어나 내용을 쓰지 못하도록 하고 있습니다. 최근 사회적으로 논란이 되고 있는 종류의 콘텐츠도 한 건이라도 신고가 접수되면 방을 폐쇄하는 조치를 취하고 있습니다. 그럼에도 불구하고 추가적인 기술적 조치와 사전적 예방책 강화가 요구되고 있습니다. 이와 관련하여 플랫폼 사업자가 사적 영역에서 기술적, 정책적으로 어디까지 개입할 수 있는지 문제가 사회적 화두로 등장합니다. "플랫폼이 더 강하게 개입해야 한다"는 의견과 "사적 영역에 대한 플랫폼의 개입은 자제해야 한다"는 의견 중 어디에 무게가 쏠릴지는 사안과 상황에 따라 달라질 수 있습니다.
"카카오가 선도적으로 취한 기술적 조치에 대해 적극적으로 알려야"
김민정=최근에 일부 해외 플랫폼 사업자가 유해 콘텐츠를 걸러 내는 기술을 개발하거나 적용하고 있다는 소식을 들었습니다. 카카오에서도 이런 기술적 시도를 하고 있나요?
이준목=유해 이미지에 대한 분석, 판단 기술은 국내에서도 공개형 서비스 중심으로 발전해 왔습니다. 카카오에서도 음란 콘텐츠에 대한 기술적 조치를 이미 취하고 있습니다.
엮은 이의 주석: 아래는 카카오 정책산업연구 브런치에 소개됐던 유해 콘텐츠 필터링하는 카카오의 AI 기술.
손정아=다만 위 기술은 공개 게시판에 한해 적용되고 있습니다.
이준목=글로벌 기업도 메신저라는 사적 공간에 대해서는 특별한 조치를 취하지는 못합니다.
양현서=사실 음란물 관련해서는 해외 사업자가 관리 정책을 내기 이전부터, 국내 사업자들은 자동 필터링을 해왔습니다. 공개 게시판에 대한 사전 필터링은 어느 나라에서보다 강력한 수준으로 하고 있습니다.
이준웅=기술 기업이나 디지털 플랫폼 사업자들은 기술적 조치로 최근의 문제를 해결하는 것이 바람직하다고 생각합니다. 이 과정에서 학계의 도움을 받는 것이 필요할 것 같습니다. 현시적 내용물이 아닌, 불법성이 포함되었을 것으로 추측되는, 즉 암시적 내용물을 플랫폼 사업자가 사전에 규제할 수 있는 지와 같이 사회적 논란이 될 수 있는 주제에 대한 학계 연구의 뒷받침이 필요해 보입니다. 즉, 암시적 내용물을 기술적 조치로 열어보는 것이 자유주의 국가에서 가능한 규제 형식인지를 학계 차원에서 검토해야 합니다.
박재영=오픈채팅방의 방장한테 "이렇게 하면 범죄행위가 된다" 등의 경고 사인을 줘서 경각심을 갖도록 하는 것이 어떨까요? 지속적인 경고를 통해서도 유사한 문제를 상당히 예방할 수 있을 것으로 예상합니다.
이준웅=오픈채팅방을 대상으로 "유해 콘텐츠를 유통하면 처벌 받을 수 있다" 또는 "유해 콘텐츠를 유통한 사람을 신고해 달라" 등의 메시지를 보내거나, 신고를 독려하는 방안도 고려될 만합니다. "아동 청소년 음란물을 보는 것은 심각한 범죄이고, 이를 시민으로서 신고해야 할 책임이 있다"는 메시지를 보내는 것은 문제가 되지 않습니다.
손정아=이용자가 경각심을 갖게 하는 것도 디지털 리터러시의 일종인 것 같습니다. "이런 행위는 범죄다"라고 알려주는 것은 서비스적으로 충분히 고려해 볼 수 있습니다. 해외 기업들은 유해 콘텐츠와 관련된 기술적 조치에 대해 적극적으로 마케팅을 하는 반면에, 우리는 선제적으로 더 많은 기술적 예방책을 적용해 왔음에도 이를 외부에 적극적으로 설명하지 못했던 것 같습니다.
이준목=창과 방패의 싸움 같습니다. 저희가 좋은 방패를 만들면 악의를 가진 이용자들은 어떻게든 뚫으려고 합니다. 우리의 대응 방식에 대한 설명이 악의적 의도를 가진 사람들에게 오히려 팁(tip)이 될 수도 있다는 우려 때문에 다소 소극적인 대외 커뮤니케이션 전략을 택해 온 것 같습니다.
양현서=카카오는 그 어떤 것보다도 이용자의 프라이버시 보호에 최우선 목표와 가치를 두고 있습니다. 대화내용을 서버에 보관하는 기간을 줄이고, 비밀 대화방 기능을 도입하는 등 이용자 프라이버시 보호를 최우선으로 하겠다는 약속을 지켜가고 있습니다. 이용자 프라이버시 존중과 디지털 성범죄 차단에 대한 균형을 맞추기는 쉽지 않습니다. 과도한 이용자 대상의 규제는 이용자의 불만으로 연결될 수 있으며, 이는 곧 이용자들의 이탈로 연결될 수 있다는 우려도 있습니다.
이준웅=기술적 조치를 합법적인 선에서 끊임없이 강화하는 동시에, 프라이버시 보호도 중요하게 생각해야 합니다. 이용자 자율성 보호도 중요합니다. 이용자에게 제한 요소를 주는 것보다 불법적인 것을 하지 않을 선택안을 제공하는 방식을 권합니다.
"사회적 가치 제고 위한 정책 도입에 대해 이용자를 꾸준히 설득하라"
박재영=경고 메시지를 보내는 과정에서 대중을 설득하는 것이 중요합니다. 이용자들이 "경고 문구로 왜 자꾸 우리를 관리하려고 하는가?"와 같이 받아들이지 않도록 대중을 설득해야 합니다. 사실 그것이 기업의 사회적 책임이기도 합니다. 카카오가 전체 사용자들을 대상으로 "우리와 같은 길을 가자"고 설득하는 것이 사회적 책임을 실행하는 길입니다. 사회적 가치에 부합하기 위한 카카오의 정책 취지를 설명하고, 관련된 기술이나 정보를 꾸준히 공유한다면, 사용자들도 충분히 취지에 동의할 것으로 예상합니다.
김민정=설득 관련해서 두 가지를 제안하고자 합니다. 첫 번째, 대응하는 불법 콘텐츠를 명확하게 해야 한다는 것입니다. 문제로 삼는 대상을 아동 성착취물, 불법 촬영물로 명확화 해야 합니다. 그렇지 않으면 “야한 콘텐츠는 다 문제가 되는 것인가? 소비 권리도 있는데...”라는 불만의 목소리가 나올 수 있습니다.
두 번째, 프라이버시와 관련된 담론이 바뀌어야 합니다. 가정에서 일어나는 폭력에 대해서 폭행죄로 남편을 처벌하는 게 불가능했던 시절이 있었습니다. 가정 내 프라이버시가 피해자의 인권보다 강했던 때였기 때문입니다. 그런데 지금은 아무도 그렇게 생각하지 않습니다. 집안에서 일어난 폭력도 폭력이기에 신고되고 처벌되어야 한다는 생각이 우리 사회의 상식입니다. 온라인 공간의 사적 대화에서도 인권이 침해되는 상황이 벌어진다면, 그것을 프라이버시로서 보호해야 한다고 주장해서는 안됩니다. 서비스 정책의 패러다임도 인권이나 아동 보호 차원에서 변화가 필요합니다.
도준호=불법/유해 정보와 관련해 플랫폼 사업자의 책임에 대해 논의될 때마다 일차적 관심사는 사업자의 모니터링 충실성입니다. 카카오의 경우 모니터링은 잘하고 있고, 공적 영역에서는 문제가 거의 없어 보입니다. 결국 notice and takedown, 즉 불법/유해 콘텐츠를 인지한 후에 후속 조치를 잘 했는지가 중요하고, 이 부분이 안되면 변명의 여지가 없습니다. 카카오가 사적 영역 침해 논란의 여지가 있는 그레이(gray) 영역에까지 들어가서 적극적으로 모니터링을 해야 한다고 보지는 않습니다.
박재영=카카오가 아닌 외부의 자원봉사자를 활용하는 안은 어떠한가요? 최근의 N번방도 한림대 학생 두 명이 국민일보에서 인턴을 하다가 파고 들어가서 문제를 발견했습니다. 이와 비슷하게 카카오의 오픈채팅방을 공식적으로 모니터링하자는 것입니다. 자원봉사자 활용 자체가 오픈채팅방 운영자들에게 충분한 경고로 작용할 수 있을 것입니다.
이준웅=외국산 메신저나 소셜 미디어를 통해서도 많은 불법적 일들이 일어나고 있습니다. 이 현상에 대한 연구가 진행되어야 한다고 생각합니다. 온라인에서 문제가 발생하면 우리 사회에서는 법을 통해 해결하려는 경향이 짙습니다. 그런데 문제는 입법만으로는 문제 해결에 한계가 있다는 것입니다.
김장현=최근 논의되고 있는 법안에서 불법 콘텐츠 다운로드를 처벌하는 조항은 향후 많은 논란을 야기할 수 있습니다. 이용자 입장에서 인지하지 못하고 클릭을 하는 경우가 있는데, 이 경우도 처벌 대상이 될 수 있습니다. 다운로드를 유도한 뒤 협박을 하는 사건이 일어날 수도 있습니다. 다운로드라는 행위가 소비 행위인지, 소비 전 행위인지도 애매합니다.
이준웅=불법물인지 아닌지를 판단하는 일을 사업자가 해서는 안 됩니다. 이건 사법의 영역입니다. 사업자가 하는 일은 이것이 불법이라고 판명날 때까지, 즉 수사가 이루어지는 동안 임시조치를 하는 것이고, 이와 관련된 정책을 약관으로 규정하는 것입니다. 절대로 사업자가 사법당국의 역할을 해서는 안 됩니다.
4월 24일 진행된 카카오미디어자문위의 주요 참석자알림: 위원장이셨던 이재경 교수(이화여대 커뮤니케이션 미디어학부)가 개인적 사정으로 카카오 미디어자문위를 더 함께 하지 못하게 됐습니다. 박재영 교수가 신임 위원장을 맡게 됐습니다. 그동안 위원장을 맡아 주신 이재경 교수님께 이 자리를 빌어 다시 한 번 감사의 말씀을 드리며, 신임 위원장직을 수락해 주신 박재영 교수님께도 감사드립니다.
