인식적 정화에 관하여
남자 부츠에 대해 검색을 한 후에 구글의 광고들을 보면
관련된 제품이 나열되어 있는 것을 경험한 적 있을 것이다.
우리는 알고리즘에 둘러싸여 있다. 취향에 맞는 글과 영상을 원치 않더라도 제공받고 있다.
마치 내 일거수일투족을 감시받는 듯한 느낌마저 든다.
일제강점기 시절 3.1 운동 이후 문화정치의 일환으로 언론 통제가 이루어졌었다.
현재의 디지털 환경도 어쩌면 보이지 않는 문화통제가 이루어지고 있다는 생각이 들 정도로 치밀하고 알아차리기 힘들다.
하버드 비즈니스 스쿨 명예교수 쇼샤나 주보프는 감시 자본주의라는 개념을 탄생시키며
감시 자본주의자들은 우리를 모니터링하는 것을 넘어서서 행동을 조작하는 단계로 가고 있다고 말한다.
"감시 자본주의는 단순히 행동을 예측하는 것을 넘어, 행동을 형성하고 조작하는 단계로 진화했다.
즉, '행동을 의도적으로 형성(shaping)'하는 단계로 진화했다는 것이다."
"감시 자본주의자들은 점차 행동을 예측하는 가장 확실한 방법은 그 근원에서 개입하여 형성하는 것임을 이해하게 되었다"1)
일자이 파리저 작가도 그의 저서 [생각 조종사들]에서 필터 버블이라는 개념을 소개하며
비슷한 주장을 펼쳤다.
"알고리즘이 선별적으로 정보를 제공함으로써, 사용자들이 자신의 관점에 동의하지 않는 정보로부터 분리되어 자신만의 문화적, 이념적 거품 속에 갇히게 되는 현상인 필터 버블이라고 한다."
또한 '알고리즘은 편집자들과 다르게 윤리적 기준을 가지고 있지 않다'면서 문제를 제기하기도 했다. 2)
그렇다면 알고리즘에 의해 만들어진 취향과 정치적 색깔은 과연 나의 것이라고 할 수 있을까?
지금까지 우리의 취향 또한 사회, 가족, 기업, 문화 등의 영향을 받았다.
디지털 사회에서의 알고리즘 노출 또한 그것은 연장선이라고 볼 수 있을 것이다.
하지만 조금 더 고립되고 다양성이 부족해지는 측면이 존재한다.
따라서 나의 답은 '부분적으로는 그렇다'이다.
따라서 우리는 맞춤형 콘텐츠의 포화에 맞서기 위해
'인식적 정화'가 필요하다고 생각한다.
회의에서 악마의 대변인을 의도적으로 배치했을 때 회의 결과의 질이 훨씬 향상된다.
한마디로 누군가는 계속 의심을 품고 태클을 거는 역할을 해줘야 한다는 뜻이다.
이처럼 콘텐츠를 소비할 때도 편향을 줄이기 위해서 능동적 악마의 대변인, 즉 인식적 정화가 필요하다.
그렇지 않으면 끊임없이 확증 편향에 시달리게 되고
끝내 다양성을 인정하지 못하는 외골수가 되어버릴 확률이 높다.
일론 머스크가 X(구 트위터)를 인수했을 때, 뜬금없이 SNS 회사를 왜 샀는지 의문을 품는 사람이 많았다.
대중들의 취향과 의견을 좌지우지할 수 있는 일종의 영향력을 구매한 것이라고 봐야 합당하다.
과거 언론의 역할이 SNS로 대다수 이전된 현상을 보았을 때, 그의 결정은 조금 수상하게도 느껴진다.
지금까지 우리가 제공한 데이터의 양은 앞으로 에 비하면 매우 적은 양일 것이다.
AI와 자동화, 행동반경에 설치된 무수히 많은 센서들은 그들에게 많은 데이터를 제공할 것이고
필터 버블은 더욱더 많아지고 깊어질 것이다.
Chat gpt에게 개인적인 고민상담을 하는 사람들이 많아졌다. 그들은 내가 듣고 싶어 하는 말이 무엇일지 수학적으로 계산해 답변한다는 사실을 잊지 말아야 한다. 또한 지금은 아닐지라도 훗날 그들의 수지타산에 맞추어 우리의 행동을 변화시킬지도 모른다. 혹은 이미 시작된 걸 지도 모르겠다.
인지적인 주권을 되찾기 위해 끊임없이 저항하고 생각해 보고 메타인지를 발현시켜야 한다.
나도 이 글을 통해 소심한 반항을 디지털 상에 남겨본다.
------------------------------------------------------------------------------------------------------------------------
1) Zuboff, S. (2019). The age of surveillance capitalism: The fight for a human future at the new frontier of power. PublicAffairs.
2) Pariser, E. (2011). The filter bubble: What the Internet is hiding from you. Penguin Press.