가짜 뉴스, 인간 심리의 결함과 소셜 미디어 기술의 합작품
이 글은 다음 논문 첫 번째 섹션의 내용을 발췌 요약한 것입니다.
Anderson, K. (2019). Truth, lies, and likes: Why human nature makes online misinformation a serious threat (and what we can do about it). Law & Psychology Review, 44, 209-244. HeinOnline
오정보misinformation는 고의적으로 거짓이거나 오해를 일으키는 콘텐츠로, 진짜인지 허구인지의 구분이 어려운 형식으로 제시된다. 오정보는 아주아주 오래된 문제이다. 그러나 소셜 미디어의 정보 구조는 우리의 심리적 취약점을 악화시키고 시민의 안녕과 민주주의의 번영을 심각하게 위협한다.
인간의 타고난 심리적 결함과 소셜 미디어의 독특한 기술적 장점이 만난 곳에서 가짜 정보를 퍼트려 공중의 믿음을 광범위하게 조작할 수 있는 완벽한 폭풍이 만들어진다.
소셜 미디어 기술과 인간의 심리는 어떻게 가짜 뉴스를 강력하게 만드는가?
우리의 감각과 실재 사이에 장막이 있다는 것은 그다지 새로운 개념은 아니다. 그러나 현대 심리학은 불편한 현실을 드러냈다: 인간의 마음은 진실을 구분해내기보다 진실을 피하는 쪽으로 설계되어 있다. 인간의 인지는 불완전하다. 진실 추구에 있어서도 그렇다. 인터넷의 정보 구조는 인간의 이러한 결점을 악화시키고 오정보를 확산시키는 데 유리한 기술적 이점을 가지고 있다.
인간의 감각은 진실을 구분하기 위해 진화되지 않았다. 즉, 인간은 회의론자로 태어나지 않는다. 아주 오래전, 사냥하는 상황에서 모든 변수를 따져봐야 했던 사람을 생각해 보자. 살아남기 어렵다. 그리고 동료를 믿는 것은 냉소적인 것보다 더 이로웠다. 작은 마을 공동체는 지속적이고 면대면 관계가 중요하기에, 평판이 중요했다. 속이는 일도 의심하는 일도 평판에 도움이 되지 않는다. 그러나 서로 잘 모르는 데다 멀리 떨어져 커뮤니케이션하는 디지털 세상에서 평판의 중요성은 줄어들었다. 습관적으로 남을 속이거나 잔인하게 대하는 것을 자제하는 힘이 약해졌다.
우리는 새로운 정보를 자동적으로 믿긴 하지만, 인지적 휴리스틱 처리--의사 결정 과정을 단순화하는 인지적 지름길--를 통해 그것을 우리 자신의 세계관에 재빨리 비추어본다. 삶은 때로 복잡해서 행동하기 전에 정확하게 판단하기 어려운 경우가 많다. 휴리스틱은 세상을 사용자 친화적으로 만든다. 우리 뇌는 휴리스틱 처리를 거쳐 새로운 정보를 우리 마음에 이미 존재하는 모델에 맞추려고 시도한다.
휴리스틱은 허구를 사실처럼 느껴지게 만들기도 하는데, 예를 들면, “반복” 효과라는 것이 있다. 같은 정보에 반복적으로 노출되는 것은 그 정보가 진실이라는 인상을 만들고 강화한다. 반복은 익숙함을 만들고 뇌는 익숙한 것을 정확함의 표식이라 생각한다. 게다가 우리는 정보의 출처나 기원에 대해 잘못 기억하기도 한다. 반복 편향과 기억 오류는 광고의 효과를 설명할 수 있다. 내가 마주한 제품을 보고 기분이 좋아지는 것은 광고 때문인데 그 기분이 광고에 기원한다는 것을 인지하지 못한다. 온라인 오정보는 반복 효과와 기억 오류의 장점만을 취하여 어떤 의견이나 사람에 대해 부정적으로 관련된 것을 인코딩한다.
인지적 휴리스틱이 자동적 신념 체계에 제동을 거는 때도 있다. 자신의 세계관에 맞지 않는 정보는 의심하는 것이다. 인간은 동기화된 추론 체계를 발전시켜왔다. 사람들은 자신의 세계관을 지지하는 추론은 거리낌 없이 받아들이고, 그렇지 않은 것은 맹렬히 의심한다. 복잡한 사회적 동물에게 매우 가치 있는 도구이다.
확증 편향과 동기화된 추론은 인간을 타고난 말싸움꾼으로 만든다. 확증 편향은 인간을 자신이 원하는 결론을 지지하는 요점들은 찾아내고 모순된 정보는 무시하는 일에 능숙하게 만든다. 유용한 정보를 알아채는 것은 나의 생각이 맞다는 것이고, 모순되는 정보를 무시하는 것은 그 믿음에 대한 나의 열정을 키워준다. 동기화된 추론은 반대되는 논증의 결함을 꼬집어 내는 데 탁월하도록 만든다. 어떤 의미에서 이런 특징은 인간이 보이는 독창성의 원천이다. 우리의 지적인 고집은 어떤 역경에도 불구하고 목표를 향해 나아가게 한다. 그러나 이러한 인지적 도구들은 언제나 우리가 원하는 결론을 지지하도록 만든다. 이는 근본적으로 진리 추구에 적대적이다. 가짜 정보를 믿게 되면, 확증 편향과 동기화된 추론은 그 믿음을 버리기 어렵게 만든다.
동기화된 추론은 정확한 정보에 대한 노출이 역효과를 가져올 수 있다는 것을 의미하기도 한다. 자신의 믿음에 도전하는 정보에 노출된 후 오히려 그 믿음이 더 굳건해질 수 있다. 심지어 오정보가 오정보라는 것이 효과적으로 증명되어 더 이상 그 정보를 믿지는 않게 되더라도 태도는 여전히 남아 있는 "신념의 메아리"를 통해 역효과가 지속될 수 있다. 실험에 따르면 사람들은 주어진 정보가 오류임을 인지하더라도 그것을 추론할 때 이용한다. 설상가상으로 대부분의 사람들은 자신의 기억과 인지에 내재하는 오류를 자각하지 못한다는 것이다.
인터넷과 소셜 미디어 플랫폼의 정보 구조는 가짜 정보의 확산과 영향력을 배가한다. 소셜미디어 플랫폼과 사용자는 오정보를 편애하는 인센티브와 마주한다. 막강한 데이터 애널리틱스의 보급은 대중의 신념을 조작하는 일의 효율성을 놀랍도록 높였다.
우선, 인터넷 이용에는 거의 비용이 들지 않는다. 페이스북이나 트위터 계정을 만드는데 돈이 들지 않는다. 누구나 페이스북이나 트위터 계정을 몇 분 안에 만들어 가짜 뉴스를 퍼뜨릴 수 있다. 이것을 더 쉽게 만들어 주는 추가 서비스도 있다. 트위터 봇이라는 작은 군대 하나를 몇 백 달러에 구입해 명령을 내리면 된다. 진입 장벽이 낮다는 것은 소셜미디어 사이트가 자동생성되거나 가짜인 프로필을 찾아내고 막을 수 있을지라도 새로운 것들이 즉시 생겨남을 의미한다.
둘째, 소셜미디어는 감정적이고 선정적인 내용을 보상한다. 연구에 따르면 글, 그림, 코멘트에 대한 “좋아요”는 게시자의 뇌에 도파민을 분비시켜 행동을 강화하는 약물과 같은 작용을 한다. 이건 우연히 이렇게 만들어진 것이 아니다. 소셜미디어는 중독되도록 설계되었다. 강렬한 선정주의는 사람들의 편향을 강화하고 세상에 대한 인식을 왜곡한다. 게다가 소셜미디어에서는 전통 사회에서 통했던 평판이나 장기적 관계와 같이 속임수를 쓰거나 과도하게 열광하는 행동을 자제하게 만드는 제약이 부족하다.
셋째, 오정보 콘텐츠가 공유되어 퍼지기 시작하면(virality) 그것의 신뢰도가 증명되는 속도보다 빠르게 확산된다. 팩트 체커에게 효과적인 반박을 위한 시간이 거의 없다. 확산 속도는 진실성이 아닌, 감정적인 관여도에 기반하기 때문에 사실 확인에 관한 정보는 가짜 뉴스의 유포 속도를 따라잡지 못한다. 게다가 이런 확산은 사용자들이 같은 정보에 반복적으로 노출되고, 신념 메아리를 강화하고, 무엇이 진실이고 거짓인지에 대한 잘못된 인식을 부추김으로써 "홍수 효과"를 일으킨다.
플랫폼이 가지고 있는 경제적인 인센티브는 진실을 옹호하는 것에 적대적이다. 소셜미디어의 정보 구조는 광고 시장이 주도하여 선택한 설계에 기반한다. 이는 시민 의식이나 숙의 민주주의를 위해 필요한 조건들과 궤를 같이 하지는 않는다. 데이터 판매와 광고라는 플랫폼의 수익은 모두 사용자들이 웹사이트 링크에 많이 모여드는 것을 장려한다. 플랫폼은 클릭을 최대화하기 위해 바이럴 콘텐츠를 홍보하는 것에 보상을 준다. 감정적으로 강렬하거나 매우 선정적인 콘텐츠는 스스로 강화하는 클릭과 좋아요와 공유의 소용돌이 속에서 바이럴 될 가능성이 높다. 많은 양의 품질 낮은 가짜 뉴스는 여기에 안성맞춤이다.
게다가 소셜미디어 플랫폼은 알고리즘을 이용해 사용자 개인에게 맞추어진 정보를 노출시킨다. 이 또한 정보의 유포 속도를 높인다. 이러한 기능은 동의 후에 사용되는 것이 아닌, 거부해야 사용이 안된다는 특징이 있다. 알고리즘은 나의 성향과 내가 이전에 관여했던 콘텐츠에 기반하여 내가 좋아하는 콘텐츠를 가져다준다. 사용자가 알고리즘이 배달한 콘텐츠를 수용하면, 이는 또 다른 데이터 포인트가 되어 알고리즘이 다음에 가져올 콘텐츠에 영향을 미친다. 반대로, 알고리즘은 사용자의 성향과 불일치하는 콘텐츠는 추천하지 않기 때문에, 그런 콘텐츠는 데이터 포인트가 될 가능성이 거의 없다. 알고리즘은 개인화 피드백 루프를 만든다.
이러한 개인화 피드백 루프는 “필터 버블”을 만들어서 개인을 자신의 기존 관점에 일치하는 메시지 스트림에 갇히게 한다. 자신의 신념과 편향은 강화되고 오정보가 단단히 자리 잡게 된다. 개인화 알고리즘은 동의해야 사용할 수 있는 것이 아니기에 대부분의 이용자는 기계가 자신의 온라인 경험을 큐레이션한다는 것을 모르고, 플랫폼도 그 사실을 굳이 알리려 하지 않는다.
데이터 애널리틱스의 정교함과 개인정보 보호의 소홀함은 소수의 기업이 수백 수천만 사람들의 행동을 예측하고, 조성하고, 유도할 수 있게 해 주었다. 사용자들은 소셜미디어에 접근하기 위해 자신의 데이터 프라이버시 권리를 양도했다. 플랫폼은 구매자의 동기에 대해서는 거의 조사하지 않고 사용자 데이터를 판다. 구매자들은 사용자 프로필에 맞는 개인화 검증을 거친 언어로 정치적 메시지를 만들어 내보내기 위해 그 데이터를 사용한다. 페이스북과 같은 플랫폼은 자신의 광고 서비스와 방대한 프로필 데이터를 기업들에 내주고, 기업은 개인화된 메시지로 사람들을 타게팅하고 고립시킨다. 사용자가 인식하는 현실은 왜곡된다.
위와 같은 요소들을 고려하면, 여론에 영향을 미치기 위해서는 온라인에서 가짜 정보를 퍼뜨리는 것이 놀랍도록 효과적인 선택지라는 것을 알 수 있다. 사이버 보안 업체인 트렌드 마이크로에 따르면 2천6백 달러면 30만 팔로워가 있는 트위터 계정 하나를 구매할 수 있다. 5만5천 달러로는 언론인 한 명을 효과적으로 무너뜨릴 수 있는 사이버 캠페인을 벌일 수 있다. 개인이 정책이나 선거에 영향을 미치는 데는 약 40만 달러면 된다. 마음을 조종하는 일은 더 이상 SF 소설 속에만 갇혀있지 않다.