소셜 딜레마

art by Steve Cutts

“우리가 ‘좋아요’ 버튼을 만들 때 세상에
긍정성과 사랑을 퍼트리는 게 목표였습니다.
오늘날의 10대가 좋아요를 덜 받아서
우울해하거나 정치적 분극화를
야기하는 건 우리 의도가 아니었어요.”
- 저스틴 로젠스타인, 페이스북/구글 전 개발자

‘지옥으로 가는 길은 선의로 포장돼 있다.’  이상한 일이다. 모든 사람이 유토피아를 그리며 각자의 선한 의도를 가지고 최선을 다했을 뿐인데 아무도 의도했거나 예상치 못한 디스토피아가 창조됐다. 사회가 분열되고, 인종주의가 심화되고, 민주주의가 위협받으며, 전 세대가 더 불안하고 더 우울해졌다. 인터뷰이들은 당혹스러운 표정으로 말한다. 우리는 길을 잃었다고...

“우리는 전 세계에서 소통과 문화의 의미가
조직이라는 맥락 안에서 성장하는 세대를
만들어내고 만 것입니다. 우리는 우리가 하는
모든 일의 중심에 기만과 은밀함을 둔 거예요.
실리콘 밸리의 많은 사람들은 우리가 사용자들을
교환이 가능하며 그중 누구도 중요하지 않은 작은
뉴런들로 삼는 슈퍼 브레인을 만들고 있다는
이론에 동의합니다. 그리고 사람들에게 이상한
역할을 부여합니다. 당신은 컴퓨터의 작은 부품일
뿐이며 우리는 이 거대한 뇌의 기능에 의해
행동이 조작되고 있으며 중요하지도 않은 거예요.
돈도 못 받고, 인정도 못 받고, 자결권도 없어요.
그저 은밀하게 조정될 뿐이죠. 프로그래밍을
해야 하는 컴퓨팅 노드일 뿐이니까요.
원래 컴퓨팅 노드는 그렇게 다루거든요.”
- 자론 래이어, 컴퓨터 과학자/철학자

거대 IT 기업은 광고주의 성공을 위해 모든 사용자를 무제한 추적하고 그들의 취약한 심리를 이용하는 비즈니스 모델을 만든다. 이런 감시 자본주의는 우리가 인지하지 못하는 방식으로 정치, 문화에 영향을 끼친다.

“매트릭스를 자각하지 못하는데
어떻게 매트릭스에서 깨어나죠?”
- 트리스탄 해리스, 구글 전 디자인 윤리학자

IT 업계에서 벌어먹고 사는 나 역시 지옥으로 가는 길에 삽질을 보태고 있다. 스스로 들어갈 매트릭스를 직접 만들고 있는 셈이다. 어떻게 여기를 벗어나지? 어디로 가야 하지? 길을 잃었다.