기술의 발달과 윤리
확증 편향의 오류
서부지법 사건과 관련된 뉴스를 보면서, 나에게 주는 여파가 적지 않음을 체감한다. 뉴스에서는 하나의 사실을 가지고 다른 소식인 양 포장해서 새로운 컨텐츠들을 생산하고, 소식을 다루는 유튜브 채널들은 그것들을 편집하여 그럴 듯한 이야기들을 만들어 낸다. 어떤 곳은 같은 영상과 자료를 재활용하면서 사용자들의 선택을 유도하기 위해 점점 더 자극적인 제목을 붙인다. 결국 사실과 다르게 재편집된 정보를 내세우기도 한다. 무심코 믿어버리는 순간 이는 진실처럼 퍼져 나간다.
유튜브와 같은 컨텐츠 플랫폼에서 빠질 수 없는 추천 알고리즘은 이를 부추기는 형태다. 물론 처음부터 악의적인 목적을 가지고 개발된 것은 아니었다. 모든 기술이 그렇겠지만. 사용자에게 맞춤형 컨텐츠를 빠르게 추천해주는 기술이고 이는 유저에게 편리성을 선사할 뿐만 아니라 새로운 발견까지도 도와준다. 가령 즐겨듣는 음악 장르, 좋아하는 토크쇼를 바탕으로 새로운 영화나 매체의 취향을 알게되는 경우도 있다. 정교하게 계산된 알고리즘은 사용자들의 행동패턴을 일반화 시키고 이를 이용해 추천해주기 때문에, (평가 기준만 제대로 설정되었다면) 꽤나 적확한 산출물을 제시한다.
문제는 이러한 발전 속에서 플랫폼이 사용자의 체류시간을 극대화 하는 것에 집중하기 시작했기 때문에 발생한다. 사용자의 클릭이 많거나 자극적인 이미지, 제목을 가진 영상들은 그 자극을 위해 편향된 정보를 활용하는 경우가 대다수다. 또한 해당 정보를 처음 접하거나, 이후 반복적으로 주입된 사용자들은 편향된 정보만을 사실이라고 인식한다. 이는 결국 사용자의 확증 편향을 강화시키고, 믿고 싶은 정보만 골라볼 수 있으니 반대 의견은 접하지 않는다. (심지어 나는 플랫폼이 반대 의견을 접할 기회를 박탈한다고 까지 생각한다.) 그릇된 확신이 견고해지면서 믿는 사람들이 많아지고, 뉴스 처럼 포장되어 조금의 편집이 들어가는 순간- 사실 여부를 곧장 확인할 수 없다. 이미 너무나 많은 사람들이 믿어버렸기 때문에.
처음 개발 업무를 시작했을 땐 이러한 윤리적 문제를 심각하게 고민하지 않았다. 사용자 지표가 올라가고, 광고 수익이 증가하고, 내가 만든 기능이 많은 사람들에게 노출되는 것을 보며 증대하는 metric 만 집중하고, 성취감을 느끼는 것만 생각했다. 내가 만드는 코드 덕분에 사용자들이 더 좋은/흥미로운 컨텐츠를 많이/쉽게 접할 수 있겠지 하며 낙관으로 가려버렸다.
하지만 이번 사건을 계기로, 왜곡된 정보가 얼마나 빠르게 번질 수 있는 지 목격하면서 낙관으로 가렸던 현실을 보게되었다. 정확한 사실이나 맥락 없이 짜집기된 뉴스가 판을 치고, 인터넷 커뮤니티 등을 통해 확산되며 일부 사람들은 이를 곧이 곧대로 받아들여 오해가 쌓인다. 퇴적된 오해는 잘못된 확신을 주고, 결국 용납하기 어려운 양상을 만들어내는 것을 눈으로 보았다. 무거운 책임감이 든다.
그렇다고 해서 당장 명쾌한 해법이 떠오르는 것도 아니다. 플랫폼 기업이 당장의 수익을 포기하면서 까지 가짜뉴스를 걸러내거나, 알고리즘을 근본적으로 개혁하기는 쉽지 않다. 이용자들 스스로도 접하기 편한 정보만 골라보는 성향이 (당연하게도) 있고 반대 의견을 만났을 때는 불쾌함을 (또한, 당연하게도) 느끼기 마련이다. 지금 같은 인터넷 구조에서 무책임한 정보 유포를 100% 막는 것은 불가능하다.
서부지법 사건이 불러온 논란을 지켜보면서, 정보 확산의 이면과 기술 발전을 함께하는 개발자로서의 책임을 통감했다. 사람들이 클릭하길 유도하는 자극적인 컨텐츠가 결국 거짓 정보와 선동으로 이어질 수 있음을 직접 본 이상, 예전처럼 단순히 지표가 오르니 좋다며 낙관하기 힘들다. 그렇다고 지금 당장 결정적인 해결방안을 내놓을 수 있을 것 같지도 않다. 알고리즘의 본질적 구조부터 플랫폼의 비즈니스 모델, 그리고 사람들의 컨텐츠 소비 습관까지 모든 의존성과 이해관계자들이 복잡하게 얽혀 있기 때문이다. 그러나 최소한 이 문제가 "어떤 식이든 해결해야만 하는 문제" 라는 자각은 분명하게 생겼다. 내가 만들고 기여하는 기술이 누군가를 해치지 않도록, 조금 더 책임감 있게 고민하고, 작은 변화라도 시도해 볼 수 있기를 바란다. 그리고 마음 한켠에는 나와 같이 일하는 누군가 또한 같은 마음이길 바란다. 지금 내가 느끼는 무기력함을 이겨낼 수 있는 희망을 보고 싶다.
