[IT 트렌드 바로읽기] 댓글 전쟁
“Talk War”는 전쟁에 대해 다양한 의견을 논의하거나 관점 등을 주제로 다루는 등 주로 TED 강연 및 기타 교육 플랫폼에서 많이 다루어 진다.
이 강연들은 군인의 개인적인 경험에서부터 군사 지도자와 분석가들의 전략적 통찰에 이르기까지 광범위한 주제를 포괄하고 있다. 예를 들어, 퇴역 해군 제독 제임스 스타브리디스는 “오픈 소스 보안”의 중요성을 강조하며 고립된 노력보다는 글로벌 보안 문제에 대한 집단적 접근을 옹호(TED Blog)하고, P.W.싱어는 로봇 전쟁의 함의에 대해 이야기하며, 그 잠재력과 윤리적 딜레마를 강조하기도 한다(https://blog.ted.com/8-great-talks-on-war-and-peace/재인용)
또 다른 강연들은 전쟁의 인간적인 측면에 초점을 맞춘다. 인게 미스마흘은 아프가니스탄에서의 전쟁 심리적 영향을 논의하며, 전쟁으로 황폐해진 지역에서의 정신 건강 지원의 필요성을 강조하며, 키스 놀란의 강연은 군대에서 청각 장애인이 겪는 도전과 더 포괄적인 정책을 옹호한다 (TED Blog)
TED 외에도, 월드 비욘드 워(World BEYOND War)와 같은 조직들은 우리가 전쟁에 대해 말하고 이해하는 방식을 변화시킬 필요가 있다고 강조하며, 전쟁의 현실에 대해 더 솔직하고 직접적인 소통을 요구하며, 윤리적 및 도덕적 문제를 정면으로 다루기도 한다.(https://worldbeyondwar.org/재인용). 이처럼 위에서 말하는 다양한 관점의 글들은 전쟁과 그 영향 그리고 앞으로 평화로 나아갈 잠재적인 경로에 대한 폭넓은 이해에 기여하고 있다.
이에 반해, 지금 우리는 SNS상에서 또 다른 전쟁을 경험하고 있으며, 그것은 진짜 전쟁보다 더 많은 사람들이 현실적으로 피부로 느끼고 있다. 많은 사람들에게 엄청난 스트레스로 다가오고 있는 또 다른 전쟁, 그것은 바로 “SNS 상에서 댓글로 상대랑 전쟁을 한다”라는 표현으로 대변되는 ‘댓글 전쟁’이다. 이는 인터넷 또는 소셜 미디어 플랫폼에서 다른 사람과 격렬한 논쟁이나 논박을 벌이는 상황을 의미하는 것이다.
위에서 말하는 나라와 나라사이의 전쟁이거나 인종간의 전쟁 등 러시아의 우크라이나 불법침략 전쟁과 하마스의 이스라엘 국민의 공격으로 일어난 중동전쟁의 현실로 일어나는 여러 전쟁에 대한 다양한 관점들을 논하면서 올바른 방향으로의 ‘TALK WAR’와는 차이가 있다.
오늘날 디지털 사회의 출현으로 “댓글 전쟁”이나 “온라인 전쟁”이라고 불리우는 전쟁은 사이버상에서 벌어지는 전쟁이다. 댓글 전쟁터에서의 적은 익명 뒤에 숨어 상대방을 공격한다. 특히 서로 다른 의견을 가진 사람들이 공개적으로 논쟁할 때 자주 발생한다. 이는 국가 내부적으로 일어나는 상황에 대해 뜻이 다른 상대를 향해 혐오하거나 비방을 하고 혹은 선동도 서슴지 않는다. 선동을 목적으로 거짓으로 비방을 하여 상대방을 힘들게 하기도 하고 상대를 자살에 이르게도 하는 경우도 허다하다. 이렇듯 심각한 댓글, 문자 테러등으로 우리는 현재 이른바 ‘댓글 전쟁’에 거의 매일 시달리고 있다.
이러한 댓글 전쟁은 여러 가지 이유로 발생할 수 있겠지만, 최근에는 주로 정치적 의견 차이, 사회적 이슈에 대한 의견 차이, 개인적인 공격이나 비방, 잘못된 정보에 대한 수정 시도 등이 있다. 온라인 댓글 전쟁과 감정적으로 상처를 주는 공격적인 댓글은 점차 심각한 상황에 이르러 자신의 뜻과 다른 특정인들을 대상으로 심한 스트레스를 겪게 하고, 심지어 자살로 이어지게 하는 경우도 발생하고 있다. 최근에는 이른바 특정인의 팬덤으로 활동하면서 그들과 무리 지어서 공격을 하고 있다. 이는 기존의 연예인 팬덤과는 다른 양상으로 전개되며 지나치게 과격한 모습들을 보이고 있다.
네이버, ‘뉴스댓글’ 서비스(현재는 서비스 안함)한편, 최근 쳇GPT와 함께 AI가 우리생활 전반에 녹아들면서 AI가 생성한 댓글로 인해 발생한 다양한 사례들이 AI 기술의 잠재적 위험성을 잘 보여주고 있다.
Deepfake 댓글과 가짜 뉴스
Deepfake 기술을 이용해 유명 인사의 목소리나 이미지를 조작한 후, 가짜 뉴스를 퍼뜨리는 댓글을 생성하는 사례가 종종 있다. 이러한 댓글은 종종 정치적인 목적으로 사용되며, 특정 인물이나 단체를 비방하는 내용으로 구성된다(TED Blog / World BEYOND War)
AI 봇을 이용한 여론 조작
특정 이슈에 대한 여론을 조작하기 위해 AI 봇을 이용해 대량의 가짜 댓글을 생성하는 사례도 있다. 이는 종종 선거 기간 동안 정치적인 목적으로 사용되며, 특정 후보나 정책에 대한 지지를 표현하거나 반대하는 댓글을 생성한다.
2020년 미국 대통령 선거 기간 동안, AI 봇이 생성한 수천 개의 가짜 댓글이 트위터와 페이스북에 퍼지면서 여론을 조작하려는 시도가 있었다(World BEYOND War)
사이버 괴롭힘과 AI 댓글 공격
AI를 이용해 특정 개인을 대상으로 한 악의적인 댓글을 대량 생성하여 심리적인 스트레스를 주는 사례가 있었다. 이러한 공격은 피해자의 정신 건강에 심각한 영향을 미칠 수 있는데, 한 유명 연예인이 AI가 생성한 악성 댓글로 인해 심각한 정신적 고통을 겪었고, 결국 SNS 활동을 중단한 사례가 있었다. 한국에서도 유명 연예인이었던 최진실 등 여러 명이 근거 없는 댓글공격에 정신적 충격으로 유명을 달리하기도 했었다.
이 외에도 딥페이크에 대한 구체적인 대표적 사례를 보면,
대부분 정치적 악용이 많다 ⌨
볼로디미르 젤렌스키의 가짜 항복 연설
2022년 러시아의 우크라이나 침공 후, 우크라이나 대통령 볼로디미르 젤렌스키가 군인들에게 항복을 촉구하는 가짜 동영상이 퍼졌다. 이 영상은 딥페이크 기술로 만들어졌으며, 젤렌스키의 실제 목소리와 얼굴을 모방했었다(World Economic Forum, https://www.weforum.org/agenda/2023/08/does-un-needs-watchdog-fight-deepfakes-ai-threats / 재인용)
블라디미르 푸틴의 가짜 연설
러시아 대통령 블라디미르 푸틴의 가짜 연설이 TV와 라디오를 통해 방송되었으며, 이는 딥페이크 기술로 만들어진 것이었다. 이 연설은 러시아 국민들에게 잘못된 정보를 전달하고 혼란을 일으키기위해 사용되었었다(World Economic Forum)
범죄에 악용된 사례
은행 사기 사건: 2021년 한 은행 매니저가 딥페이크 음성 메시지에 속아 약3500만 달러를 사기당한 사건이 있었다. 사기꾼들은 CEO의 목소리를 모방한 딥페이크 음성 메시지를 사용하여 긴급한 자금 이체를 요청했던 사례다.
성인 콘텐츠에서의 악용: 딥페이크 기술은 유명인의 얼굴을 성인 비디오에 합성하는데 자주 사용된다. 이러한 영상의 96%가 성인 콘텐츠로, 이는 개인의 명예를 심각하게 훼손할 수 있다 (World Economic Forum)
사회적 악용 사례
딥페이크 기술을 이용해 유명 인사나 정치인의 가짜 동영상을 제작하여 허위정보를 퍼뜨리고, 이를 통해 사회적 혼란과 명예 훼손을 초래하는 사례가 대단히 많다(JURISTnews, https://www.jurist.org/news/2023/12/india-government-issues-advisory-to-combat-deepfakes-on-social-media-platforms / 재인용)
이처럼 Deepfake 기술은 또한 개인을 착취하는 것 이상의 다른 사악한 목적으로 의 활용에 대한 잠재력을 보여 주고 있다. 의료 스캔을 변경하고, 가짜 종양을 생성하거나, 실제 종양을 제거하거나, 위성 이미지를 조작하여 전체 지리적 특징이나 딥페이크 지리를 조작하는 데 사용할 수도 있다. 그 의미는 심각하며 개인 정보 보호뿐만 아니라 의료 및 국가 안보를 포함한 다양한 부문에 매우 심각한 위험을 초래한다.
최근 MIT 부교수이자 GCSP 폴리매스 펠로우인 Kevin Esvelt와 그의 학생들은 쳇 GPT-4와 같은 자유롭게 액세스할 수 있는 “대형 언어 모델” 알고리즘을 활용하여 매우 위험한 바이러스를 예측하기 위한 로드맵을 고안했다. 단 한시간 만에 챗봇은 잠재적인 전염병 병원체 4가지를 찾아냈었고, 합성 DNA에서 이를 생성하는 방법에 대한 지침을 제공하는 결과를 보고 모두들 놀라워했다. 이처럼 AI챗봇을 쉽게 활용하면, 아마도 “수천만 명을 죽일 수 있는~” 또는 “그것이 아닌~” 그리고 치료법도 있지 않을까(https://www.weforum.org/agenda/2023/08/does-un-needs-watchdog-fight-deepfakes-ai-threats / 재인용)라고 기대도 해보지만 조작이나 특정한 부정 세력들이 잘못 활용하면 엄청난 사건이 될 수도 있다는 것을 느낄 수 있을 것이다.
이렇듯 부정적 혹은 긍정적인 AI의 역할은 최근에 넷플릭스에서 방영중인 ‘댓글부대’ 라는 드라마에서도 잘 나타나고 있다. 드라마의 내용은 음성을 분석하거나 또는 인터넷으로 사이버 공격(댓글 전쟁)을 한다는 등 대기업의 비리를 캐던 주인공이 억울하게 해직된 내용으로 사건을 파헤치는 시나리오인데, 현실세계에서 이미 오래전부터 있어왔던 사례는 많다.
그러나 이제 이러한 댓글과 음성, 상대의 얼굴 합성에 AI챗봇과 결합한 이른바 댓글 전쟁은 끝이 어딘지 모를 정도로 상대를 헐뜯고 모함하고 선동하고 가짜뉴스를 생산하고 있다. 특히 기성인들의 사회문제와 연결된 내용도 큰 문제이지만 청소년들 사이에서 오가는 문자테러와 같은 사이버 괴롭힘이 심각한 사회적 문제로 대두된 것은 꽤 오래되었다, 이는 특히 약한 학생들에게 큰 피해를 주고 있는데, 여러 국제적 통계와 연구 결과에 따르면, 이러한 괴롭힘이 자살률 상승과 밀접한 관련이 있다는 점에서 더욱 우려된다.
그래서 몇가지 내용을 확인해본 바..
WHO/Europe의 보고서에 따르면, 학교에 다니는 아이들 중 6명 중 1명(약 16.7%)이 사이버 괴롭힘을 경험하고 있다고 한다. 이는 디지털화된 청소년들의 상호작용 증가와 밀접한 관련이 있다 (https://www.who.int/europe/news/item/27-03-2024-one-in-six-school-aged-children-experiences-cyberbullying–finds-new-who-europe-study / 재인용)
Comparitech 연구에서는 청소년들의 약 49%가 사이버 괴롭힘을 경험했으며, 이 중 가장 흔한 형태는 모욕적인 이름 부르기(32%)와 거짓 소문 퍼뜨리기(22%, 성인들의 가짜뉴스)였다. 또한 약 10%는 신체적 위협을 받은 적이 있다고 보고되고 있다(Comparitech, https://www.comparitech.com/internetproviders/cyberbullying-statistics / 재인용)
미국 사이버 괴롭힘 연구 센터에서 조사에 응답한 중고등학생의 26.5%가 최근 30일 내에 사이버 괴롭힘을 경험했다고 밝히고 있는데, 이러한 괴롭힘의 형태로는 온라인에서의 모욕적이거나 해로운 댓글, 루머 퍼뜨리기, 고의적인 그룹 채팅 배제와 사이버상 빵셔틀 등이 포함되어 있다 (Cyberbullying.org)
그리고 WorldMetrics 보고서에 따르면, 47%의 젊은이들이 위협적이거나 불쾌한 메시지를 받은 경험이 있으며, 70%의 학생들이 온라인에서 빈번한 괴롭힘을 목격 했다고 보고하고 있다(WorldMetrics, https://worldmetrics.org/cyberbullying-statistics / 재인용)
WHO/Europe의 보고서, 사이버 괴롭힘 경험-나라별 그래프특히 미국이나 일본을 중심으로 좀 더 구체적으로 알아본 바, 미국의 경우, 2022년 Pew Research Center의 조사에 따르면, 미국 청소년의 약46%가 사이버 괴롭힘을 경험한 적이 있다고 한다. 주요 형태로는 모욕적인 이름 부르기(32%), 거짓 소문 퍼뜨리기(22%), 물리적 위협(10%) 등이 있었고, 특히, 온라인에 거의 상주하는 청소년들은 더 높은 비율로 괴롭힘을 경험하는 걸로 나타났다 (Pew Research Center)
일본은 2022년 일본의 교육부 자료에 따르면, 약 2만 2천 건의 사이버 괴롭힘 사건이 학교에서 보고되고 있다. 초등학교, 중학교, 고등학교를 포함한 다양한 학교 수준에서 발생한 괴롭힘 사례는 해마다 증가하고 있으며, 괴롭힘의 주요 형태로는 놀리기, 협박, 모욕 등이 있다(Nippon.com | Yo ur Doorway to Japan, https://www.nippon.com/en/japan-data/h00855 / 재인용 )
그렇다면, 한국의 2022년 한국에서의 사이버 괴롭힘은 어떠한가?
대체적으로 피해자: 14.6% / 가해자: 6.3% / 피해자 겸 가해자: 13.1% 수준인데, 구체적인 유형과 예시를 살펴보면..
모욕: 사이버 공간에서 누군가의 성격이나 외모에 대해 비난하거나 모욕적인 말을 하는 행위. 예를 들어, 한 학생이 다른 학생의 사진에 “너는 정말 못생겼다”와 같은 댓글을 달아 그 사람을 괴롭히는 경우가 있고, 위협: 온라인에서 특정 개인에게 폭력을 행사하겠다고 위협하는 메시지를 보내는 경우이다. 예를 들어, “학교에서 보자, 네가 무슨 일을 당할지 두고 봐”와 같이 위협적인 메시지를 보내어 상대방을 공포에 떨게 하는 상황이 이에 해당한다. 그리고 인신공격적 댓글: 특정 개인의 인종, 성별, 종교, 국적 등에 대한 차별적이거나 공격적인 댓글을 온라인 상에 게시하는 것이다. 예를 들어, 특정 학생의 국적(최근 한국도 해외이주자, 다문화 가정 많음)을 비하하면서 “너 같은 사람이 왜 여기 있어?”와 같은 댓글을 SNS나 포럼에 게시하는 경우가 있다.
위의 여러 내용을 읽어보면서 여러가지로 걱정되고 답답한 독자들이 많을 것이다. 내 자식은 괜찮을까? 혹은 다른 친구를 괴롭히지 않을까? 와 같은…, 그러나 딱히 해결방법이 떠오르지 않더라도 여러 관련기관에서 강력하게 대처 해야한다고 생각하고 예방이 필요함도 느껴질 것이다. 다만 일부 부모들의 자신의 자식에 대한 소영웅주의로 인해 엉뚱한 피해자를 양산하는 사례도 있었고, 이에 유관부서에서 무언가 시행하고 있겠지만 필자도 몇 가지 떠오른 방법을 생각해 보면…
첫번째로, 소셜 미디어 플랫폼의 역할에서 강력한 콘텐츠 모더레이션이 필요하다.
플랫폼은 공격적이거나 악의적인 댓글을 자동으로 필터링하고 삭제하는 기능을 강화해야 한다. 그리고 신고 시스템이 제대로 이루어져야 한다. 사용자들이 문제 있는 댓글을 쉽게 신고할 수 있도록 시스템을 마련하고, 신고된 내용을 신속하게 검토하는 것이 필요하다. 사용자의 대응차원에서 심리적 지원도 필요할 것이다. 온라인 괴롭힘을 당하는 사람들에게는 정신 건강 전문가의 도움을 받을 수 있도록 지원하고, 법적 대응차원에서 사이버 괴롭힘에 대한 법적 조치를 통해 가해자를 처벌하고 피해자를 보호하는 법적 지원도 필요하다.
두번째로, 교육 및 인식 개선에서 디지털 리터러시 교육이 필요하다.
인터넷과 소셜 미디어 사용에 대한 올바른 인식을 교육하여, 사용자들이 책임감 있게 행동할 수 있도록 유도해야 하고, 공감 교육능력을 키우고, 타인의 감정을 존중하는 문화를 형성하는 것이 중요하다.
세번째로, 개인적인 대처 방법에서 댓글 차단이 필요하다.
공격적인 댓글을 남기는 사용자를 차단하여 더 이상의 상호작용을 막는 방법을 활용하고, 필요할 때는 본인 스스로 소셜 미디어 사용을 잠시 중단하여 심리적 안정을 찾는 것이 좋다. 아울러, 유관기관의 사이버 괴롭힘 예방 및 대응 / 정신 건강 지원 서비스 / 법적 지원 및 정보공지 등 곧 닥치게 될 인공지능을 가진 휴머노이드 시대에 대한 미래형 대안들도 필요하다.
물론 필자 입장에서는 제안한 이러한 내용들이 부정적인 댓글의 대처 방안으로 이미 알려져 있는 내용이거나 부족한 부분이 있겠지만 필자 역시 조금이라도 도움이 되었으면 하는 마음으로 적어본 것이다.
한편 위에서의 내용 대부분이 부정적인 사례였다면, 댓글을 이용한 긍정적인 사례들도 많다. 그 이유는 댓글을 활용한 좋은 마케팅 도구로서의 가능성을 충분히 보여주기 때문이다.
예를 들면, 넷플릭스의 ‘요즘 넷플 뭐봄?’ 뒤에 ‘요즘은 웨이브 봄’ (마치 댓글 답변처럼~)광고가 따라다니며 넷플릭스 인지도가 고스란히 웨이브로 옮겨가는 효과를 만들어낸 경우다.
아시다시피 OTT시장에서의 웨이브는 현재 국내에서 넷플릭스 대비 인지도가 현저히 낮은 편인데, 경쟁사의 인지도를 언급하며 소비자의 관심을 끌고 화제성을 만들어 낸 것이다. 실제로, 캠페인 직후 웨이브의 일간활성사용자수(DAU)는 76만명을 기록해 이전 3등에서 새롭게 2등으로 올라서기도 했다.
그리고 ‘대학내일’의 Z세대를 끌어들이는 이벤트인, “더러운 방 선발대회? 이걸 누가 참가해…,”에서 누군가 당신에게 치킨 기프티콘을 하나 줄 테니 당신의 더러운 방 사진을 온라인에 공개해달라고 한다면 순간 정신 나간 사람 보듯 하며 거절할 거라 생각할 것이다. 그런데 그것이 실제로 SNS 이벤트로 일어났다. 페이스북 관리자가 더러운 자기 방을 공개하며, 더러운 방을 찍어 사진을 댓글로 올리면 추첨해 치킨 쿠폰을 쏘겠다며, ‘부끄러움은 잠깐이지만 치킨은 맛있다’란 개그 카피도 덧붙인 결과 6만 8 000개의 댓글이 달렸으며 7700명이 ‘좋아요’를 눌렀고 서로 자기가 더 더럽다며 방 사진을 공개하기도 했다.
이처럼 MZ타겟에 맞는 댓글 마케팅의 활용이었다고 볼 수 있을 것이다. 그리고 기업입장에서는 이러한 사례외에도 댓글을 참신하게 마케팅으로 활용할 수 있는 긍정적 방안도 많고 또한 사례들도 많을 것이다.
이처럼 굳이 긍정적인 사례도 제시해 보지만, 이 사이버라는 눈에 보이지 않는 공간에서 만나기만 하면 왜들 그렇게들 서로 물고 뜯는 전쟁을 벌이고 있는 것인지.. 이 또한 변함없는 사실이 답답할 뿐이다.
아래 표는 2020년 4월 중알일보 기사중 발췌한 ‘네이버의 1일 평균 댓글 작성수’ 이다. 독자 여러분들도 댓글들을 달아 보셨을 것이고, 또 공감, 비공감의 표시를 했을테지만, 새로운 모습으로 바뀌고 긍정적인 결과들이 있었던가?
네이버의 1일 평균 댓글 작성수오늘도 우리는 늘 댓글을 통해 참여를 하고 있고 또 그 참여가 나에게는 순간 뿌듯함이 될 수도 있다. 다만 내 댓글이 내 인격이고 누군가에게 선한 영향력을 주는 것인지 혹은 내 안에 감춰진 악함이 은밀한 공간을 이용해서 즐기고 있는 것은 아닌지, 댓글을 쓰기 전 잠시만이라도 자신을 돌아보는 시간을 가진 후 행동을 해도 좋지 않을까 싶다.
진짜 전쟁이든 댓글 전쟁이든 전쟁은 예비 살인의 현장일 수 있다.
가치관과 의견은 서로 다를 수 있다. 그러니 선플까지는 아니어도 SNS에서만이라도 전쟁은 끝났으면 한다. 우리 모두 자신의 얼굴을 드러내고 댓글을 단다고 생각하면서 거짓선동이나 비난이 아닌 자신의 의견을 담담히 적어가는 성숙한 표현의 현장으로 활용되었으면 한다.
Gil Park님의 브런치에 게재된 글을 모비인사이드가 한 번 더 소개합니다.
모비인사이드의 뉴스레터를 구독해보세요
