위협이 발생할 곳에 미리 방어벽을 구축하는 사람들

카카오가 이용자들의 ‘안녕'을 지켜온 기록

인터넷이 대중화된 90년대 이래, 뚫으려는 자와 막으려는 자의 싸움은 PC 환경을 중심으로 일어났다. 20여 년 간 지속된 대결의 장은 모바일로 옮겨왔다. 가장 많은 한국인이 가장 자주 사용하는 카카오의 서비스들은 뚫으려는 자들의 ‘1번 타깃’이 됐다. 

카카오의 대표 서비스 카카오톡은 탄생 이래 지인과의 소통, 비지인과의 관심사별 커뮤니티 형성, 결제와 증명서, 콘텐츠 소비와 쇼핑에 이르기까지 사용 범주를 확장해 왔다. 서비스 성장의 이면에서 모바일 시대 이전에 예상치 못했던 문제들이 등장했다. 나쁜 의도를 가진 외부 세력이 스팸 메시징과 어뷰징(abusing) 등을 일삼는 경우가 대표적이다. 포털과 커뮤니티에서 공론의 장을 좀먹는 악성 댓글, 차원이 다른 확산력을 가진 유해 이미지와 악성 URL도 빼놓을 수 없다. 

이런 문제를 직간접적으로 맞닥뜨린 경험이 있는지, 혹은 유심히 관찰했는지에 따라 개개인의 체감 정도는 다르다. 하지만 2022년 말, 이를 주제로 이야기를 건넨다면 비슷한 반응을 볼 수 있다.

‘그러고 보니, 요즘은 카카오톡에서 지인이나 가족을 사칭하는 피싱 시도가 자취를 감춘 것 같아요.’

‘다음(Daum) 뉴스에서 예전처럼 눈살을 찌푸리게 하는 악플을 본 기억이 없네요.’

‘주식 리딩 방이나 코인류를 홍보하는 스팸, SMS에서는 꾸준한데 카톡에서는 거의 없는 것 같아요'

물과 공기처럼 우리 삶에 당연해진 모바일 서비스들은 어떻게 청정도를 유지해 왔을까? PC 시대에 존재하지 않던 공격 패턴과 새로운 문제에 대응해 보이지 않는 곳에서 이용자들의 안위를 지킨 카카오 크루들의 이야기를 끄집어냈다.

#‘대화'를 보지 않고 스팸 메시지를 차단할 수 있을까?

PC 기반의 서비스들이 수십만, 수백만 명의 이용자를 모으면 대단한 기록으로 평가받던 시절이 있었다. 카카오톡의 성장세가 세간의 이목을 모은 가장 큰 이유 중 하나는 이용자 수에 관한 암묵적 한계치를 계속해서 갱신했다는 점이다. 

네트워크 효과에 힘입어 전대미문의 성장 기록을 세워가던 카카오톡에서 숙명처럼 대규모 불법 도박 스팸 메시징이 발생했다. 전례 없던 강도의 공격이었다. 개인 간의 소통 도구이기 때문에 회사는 문제가 되는 메시지를 들여다볼 수도 없었다. 당시 상황에 대해 헤일리(hailey)가 말했다.

“단체 채팅방을 열 수 있었던 최초의 모바일 메신저가 카카오톡이었어요. 여러 글로벌 서비스들에서 이용자 신고 버튼 적용 사례를 벤치마크 하려고 살펴봤지만 막막했던 이유죠. 버튼을 발견하기 쉽게 잘 보여주면 채팅에 방해가 될 것 같고, 거슬리지 않게 넣으면 본연의 기능을 다하지 못할 테니까요. 그때  한 개발자 크루가 친구 사이가 아닌 관계에 한해 채팅창에서 신고 버튼을 보여주자는 아이디어를 냈어요. 이 버튼이 부담될 수 있다는 의견도 있어서 1주일간 관찰한 뒤 위치 조정 등 존속 여부를 결정하자고 했어요. 한 주간 신고된 메시지를 보니 이용자들이 새 기능을 기대 이상으로 잘 쓰고 있다는 걸 확인할 수 있었습니다. 사이비 종교의 포교 메시지부터 도박 및 포르노 사이트 광고에 이르기까지 다양한 사례를 확인했어요. 메시지는 실시간성이라는 특수성이 있어서 사후조치 효과는 제한적입니다. 스패머들을 제재하더라도 이미 메시지는 퍼져나가 소기의 목적을 달성하는 식이죠. 카카오가 메시지를 들여다보지 않는다는 원칙을 지키면서도, 단시간에 대량 발송되는 스팸 메시지를 대폭 줄이는 데에는 비 지인 관계에서만 표출되도록 하는 신고 버튼이 마중물 역할을 했습니다.”

막았다 싶으면 새로운 공격 패턴이 발생하는 일이 수년간 이어졌다. 비교적 대응이 취약한 새벽 시간대에 많은 공격이 발생했고, 대응하는 크루들은 밤낮을 바꾼 삶에 익숙해졌다. 

2015년 초에는 날마다 새로워지는 스패머, 어뷰저들의 활동을 원천 차단하기 위한 조직이 신설됐다. 데이터 과학자들이 어뷰징 의도를 가진 이용자를 유추해 특정한 뒤, 적절한 보호조치를 통해 스팸 메시지가 확산되는 것을 막는 ‘안티 어뷰징(Anti abusing)’이라는 직무가 처음으로 등장했다. 카카오톡을 쾌적하고 안전하게 쓸 수 있도록 정책적, 기획적 요소를 발제하고 기술로 구현하는 일을 전담하는  ‘안녕 파트’가 생긴 것도 이때다. 민첩하고 정확한 사후 대응에서 인공지능 탐지 기술 기반의 예방으로 무게 중심이 옮겨간 것. 

카카오톡에서 발생하는 다양한 공격 시도에 대응해 이용자 안녕을 지키는 크루들. 업무 특성상 범죄의 타깃이 될 수 있어서 인물 이미지를 실루엣으로 처리합니다.

#소속 조직명과 하는 일을 말하기 어려운 사람들

“가족이나 친구들에게 제가 하는 일을 구체적으로 설명하지 않아요. 작게는 제재를 풀어달라는 민원을 받을 수 있고, 혹여 나쁜 일을 하는 사람들이 이용하려고 들 수 있어서죠.”

안티 어뷰징 업무를 하는 사라(Sarah)의 말에 티토(Tito) 또한 “같은 입장”이라며 “명함에도 그냥 ‘서버 개발자’라고 써놓는다”라고 말했다.

어뷰징과 스팸은 주로 돈이 되지만 불법적인 영역에서 발생한다. 불법 투자자문이나 도박, 불법 스포츠 베팅, 유사 암호 화폐나 포르노 사이트와 같은 곳들이다. 어둠의 영역에서 많은 돈을 버는 이들은 이용자 심리와 행동을 집요하게 파고들고, 기술적 투자(?)에도 적극적이다. 문자메시지나 이메일에 비해 카카오톡은 이용자들이 빠르게 읽고 반응하는 매력적인 플랫폼이기 때문이다. 티토가 몇몇 사례를 들어 설명했다.

“블로그를 하시는 분들은 계정을 팔거나 양도하라고 유혹하는 쪽지를 받아보셨을 거예요. 조금 익숙해지면 그런 쪽지에 반응하지 않게 되죠. 집요하게도 타깃이 되는 블로그 ID를 무작위로 긁어 모아 카카오톡 친구 추가를 한 뒤 메시지를 발송하는 경우가 생기더군요. 동일한 ID를 여러 서비스에 사용하는 이용자 행동 패턴을 읽은 어뷰징이죠. 사정은 이렇지만, 카카오가 개인정보 유출을 했다고 오해하는 이용자들이 많았습니다. 저희로서는 의도치 않게 신뢰도에 손상을 입는 경우죠. 겉으로는 고양이에 관한 오픈 채팅방인데, 실제로는 불법 투자자문을 하는 경우도 있었어요. 이런 채팅방 운영진들은 경쟁 채팅방에 잠입해 분탕질을 하고, 이용자를 빼 오려는 시도도 합니다. 더미(dummy)를 배치해 영향력을 과시하기도 하고요. 이런 다양한 공격 패턴이 발생하지 않도록 어뷰저들을 추려내는 솔루션을 개발하는 게 주된 업무예요.”

해외 가상번호로 카카오톡에 가입한 뒤 지인을 사칭하는 피싱 범죄 예방을 위해 2019년 1월 도입된 ‘글로브 시그널'. 친구로 등록되지 않은 해외번호 가입자의 프로필을 지구본 이미지로 띄우고 채팅방 상단에 경고 문구를 표시해 관련 범죄 피해를 예방하고 있다.

거의 모든 국민이 쓰는 플랫폼이 되고, 이용자 패턴 또한 기하급수적으로 증가했다. 오가는 메시지를 보지 않고도 통계나 머신러닝으로 유해 행위를 할 가능성이 높은 사람을 찾아내고 빠르게 페널티를 줄 수 있는 배경이다. 한꺼번에 여러 명의 친구를 추가하는 행위를 일반 이용자와 스패머들이 동시에 했을 때, 카카오톡의 안티 어뷰징 기술은 이를 정확하게 구분해낸다. 제재를 하지 않고도 의심되는 이용자들이 위해 행위를 하지 못하도록 통제하는 기술은 40여 가지에 달한다. 갓 친구 관계를 맺은 사람에게 받은 ‘선톡’을 편하게 받고 대화를 이어나가는 일상을 당연하게 만들어준 숨겨진 힘이다.

#또 다른 자아를 지켜주는 일의 가치

어둠의 영역에서 영리 활동을 하는 사람들을 일컬어 ‘안 좋은 쪽으로 머리가 좋다’는 표현을 쓰곤 한다. 사라는 이런 표현이 “작게나마 그들이 하는 일을 멋져 보이게, 정당해 보이게 할 수 있다”며 경계한다. “본질적으로 범죄이자 사기 행위입니다. 약한 고리를 끈질기게 파고 들어서 남에게 피해를 주는 존재들이죠. 개인 계정 보안에 관한 인식이 낮은 청소년이나 노인들이 표적이 되는 경우가 많아요. 내 계정이 나와 분리된 것이 아닌, 나 그 자체라고 여겨야 범죄로부터 멀어질 수 있습니다.”

티토가 이야기를 이어받았다. “일반인들도 다양한 개발 콘텐츠를 보고 여러 가지 시도를 하는 시대예요. 현직 개발자나 지망생이 리버스 엔지니어링에 관한 호기심을 품다가 선을 넘기도 합니다. IP를 따라가다 보면 대학교의 전산실이나 동아리가 나오기도 하죠. 나중에 돈에 얽혀 불법적인 일로 커지는 경우가 생기는데, 안타까운 결말로 이어지는 수순이 대부분입니다.”

사람이 서비스를 만들고, 또 다른 사람이 공격을 가한다. QA(quality assurance) 작업을 거듭해도 빈틈은 발견된다. 인터뷰이들은 집요하게 공격받는 상황을 “어뷰저들이 우리가 못다 한 QA를 일부 대신해주는 경우”라고 말하며 웃었다.

수첩 혹은 휴대전화 단말기에만 저장돼 있던 전화번호부는 카카오톡을 비롯한 여러 서비스의 서버에 올라간 지 오래다. 계정 간의 얽히고설킨 관계는 안전하게 보호받고 있을 때 신뢰라는 가치를 얻는다. 가장 많은 한국인이 가장 자주 사용하는 ‘또 다른 자아’가 신뢰를 잃을 때 생기는 혼란과 사회적 손실은 상상하기조차 어렵다. 2~3년 전 기승을 부린 지인 사칭 범죄를 카카오톡에서만큼은 근절시키겠다는 이들의 집념은 톡사이렌을 탄생시키기도 했다. 주의할 필요가 있는 경우에만 주황색 톡사이렌 마크가 뜨도록 한 이 조치 이후 관련 신고는 소멸 수준으로 내려갔다. 사칭 범죄자들이 카카오톡에 발붙일 수 없게 된 셈. 가족에게 조차 본인의 구체적인 일을 설명할 수 없는 이들이 오늘도 보이지 않는 곳에 안전망을 펼치고 있다.

2020년 11월 ‘톡 사이렌'이 적용된 이래 카카오톡에 국내 번호로 갓 가입한 사람이 친구로 등록되지 않은 상대에게 대화를 시도할 경우, 채팅방 진입 시점에 주의 팝업과 경고 문구, 주황색 경고성 프로필 이미지가 표시된다. 

#카카오의 모든 서비스 이용자들을 안전하게

카카오톡 외 카카오의 여러 서비스들은 이용자 보호를 위해 ‘세이프 시스템'을 활용하고 있다. 다음(Daum) 댓글창에서 다른 이용자에게 불쾌감을 주는 댓글을 AI 기술로 분석해 자동으로 가려주는 기능, 유해 이미지에 대응하는 이미지 필터링 솔루션, 유해 URL과 텍스트를 실시간으로 차단하는 필터링 기술을 품은 ‘세이프 봇'이 지금도 학습을 거듭하며 성능을 높이고 있다.

 

욕설과 비속어를 포함하거나 변형한 댓글, 스팸성 댓글 등에 대응한 세이프봇의 활약은 2020년 12월부터 시작됐다. 베타 버전이 구동된 이래 욕설∙비속어가 포함된 댓글은 대폭 줄었다. 욕설이 포함되어 음표로 자동 치환된 댓글은 2020년 하반기 대비 2021년과 2022년에 53.7%, 63.8% 감소했다. 세이프봇이 활동한 이래 3분의 1 수준이 된 것. 전체 댓글 중 이용자가 신고한 욕설 댓글의 비중도 2020년 하반기 4.2%에서 2022년 2.4%로 낮아졌으며, 이용자의 신고에 의해 삭제된 욕설 댓글도 2021년 73.6%, 2022년 91.7% 감소해 12분의 1 수준으로 줄었다. 똑똑한 세이프봇 앞에 악플러들이 무력감을 더해가는 모양새로 해석할 수 있다. 상대적으로 온라인 댓글 공론장의 건강성은 높아졌다.

세이프봇이 도입 이후 학습을 통해 지속 강화되면서 ‘악플'은 설 곳을 잃어가고 있다.

카카오의 여러 서비스에서 정체를 알 수 없는 URL이나 눈살을 찌푸리게 하는 이미지가 자취를 감추다시피 한 배경에도 세이프봇이 있다. 

클린플랫폼개발파트장 리노(leeno)가 이용자 보호에 관한 카카오 크루들의 마음가짐을 말했다.

“다음(Daum)이 우리나라 포털의 역사를 열어젖힌 이후, 드러나지 않는 곳에서 여러 이용자들의 안전하고 쾌적한 인터넷 생활을 위해 애쓴 사람들이 있습니다. 모바일 시대가 열린 이래 인터넷에서 보내는 시간과 몰입도는 한층 증가했죠. 보이지 않는 곳에서 사회의 중요한 한 축을 지킨다는 사명감이 우리를 살아있게 합니다.”