소셜 딜레마
이 무시무시한 넷플릭스 다큐를 보고 내 스마트폰의 SNS와 메신저 앱을 모두 지울까 고민했지만 결국 그러지 못했다. 대신, SNS 앱 알림을 모두 껐다. 제일 심하게 나를 들볶았던 앱 알람은 카톡, 페이스북, 인스타그램이었다. 소중한 인연의 랜선 친구들과 유익한 관계를 맺는 대가치곤 제법 혹독하다.
디지털 기술의 딜레마는 동전의 양면과 같다. 얻는 것과 잃는 것이 뚜렷하다. 소셜 미디어는 자전거와 같은 '도구'가 아니라는 비유가 가장 기억에 남았다. 구글, 페이스북, 트위터, 유튜브 등의 알고리즘을 만든 최고 기술자들이 입을 모아 '소셜 미디어 앱을 지우라'고 충고하는 모습에 놀랐고, 그들 모두가 자신의 아이들에게는 소셜 미디어를 쓰지 못하게 한다는 사실에 충격을 받았다. 그리고 가장 인상적이었던 말.
"소수가 소셜 미디어 계정을 삭제하는 것도 의미가 큽니다. 대화를 할 수 있는 공간이 생기는 것이니까요."
'목적을 가진 알고리즘에 더 이상 휘둘리지 않겠다'라는 마음으로 내가 원하는 시간에 내가 원하는 사람과의 관계 맺기를 '선택'하기로 했다. 내가 보고 싶은 것을 내가 보고 싶은 만큼만 본다. 간단해 보이지만 쉽지 않은 일이다. (소셜 미디어 알림을 껐으므로 여러분들이 제 뉴스 피드에 남겨 주신 댓글을 못 볼지도 모릅니다. 답글이나 반응이 없더라도 부디 이해를... )
#소셜딜레마 #넷플릭스
-
(다큐멘터리 영화 <소셜 미디어>에 나오는 IT 업계 전문가들의 대화를 발췌했습니다. 너무 길다고 스크롤을 내리지 마시고 시간을 내서 꼭 한 번 읽어 보시기를 강권합니다)
'상품의 대가를 치르지 않으면 네가 상품이다'
"고객을 사용자라고 부르는 산업은 단 두 종류가 있다. 불법 마약과 소프트웨어 산업이다.
- 에드워드 터프티
자전거가 나타났을 땐 아무도 화를 내지 않았어요. 그렇죠? 다들 자전거를 타고 돌아다니기 바빴지. 이런 말은 아무도 안 했어요. '맙소사, 우리가 세상을 망쳤어' '자전거가 사람들에게 영향을 끼치고 자녀들과 멀어지게 하고 민주주의의 근간을 해치며 눈을 흐리게 만들었어' 우린 자전거에 대해선그런 말을 안 했어요. 도구라는 것은 쓰지 않을 때는 가만히 있습니다. 가만히 기다리고만 있죠. 뭔가를 당신에게 요구한다면 도구가 아닌 거죠. 당신을 유혹하고 조종하며 당신에게서 뭔가를 요구해요. 우리는 근본이 도구인 기술 환경에서 옮겨간 거예요. 근본이 중독, 조종인 기술 환경으로 말이죠. 그게 변한 거예요. 소셜 미디어는 사용되길 기다리는 도구가 아닙니다. 그만의 목적이 있고 그 목적을 달성하려고 합니다. 당신의 심리를 역이용해서 말이죠.
많은 사람들이 이렇게 생각해요 구글은 그저 검색 엔진이고 페이스북은 친구들의 사생활과 사진을 볼 수 있는 곳이라고요. 하지만 사람들이 모르는 건 당신의 관심을 놓고 그들이 경쟁한다는 겁니다. 페이스북, 스냅챗, 트위터, 인스타그램, 유튜브, 이런 회사들은 사람들의 눈을 계속 잡아 두려고 합니다. 그들은 사용자의 관심을 최대한으로 끌 방법을 찾으려 고민합니다. 얼마나 많은 시간을 쓰게 할까? 인생의 몇 퍼센트나 우리에게 바치게 할까? 이런 회사들이 돌아가는 방식을 보면 이해가 됩니다.
공짜처럼 보이는 서비스가 인터넷에 많이 있는데 공짜가 아니에요. 광고주가 돈을 대는 거죠. 왜 광고주가 그런 회사들에게 돈을 줄까요? 우리에게 광고를 보여 주기 위해서예요. 우리가 상품인 거예요. 우리의 관심이 광고주에게 상품으로 팔리는 거죠. 개인의 점진적이고 눈에 띄지 않는 행동과 인식의 변화가 상품인 것입니다. "행동과 인식의 변화" 바로 그게 유일한 상품이에요. 다른 건 상품이라고 할 만한 게 없죠. 그들이 돈을 벌 수 있는 유일한 수단이니까요. 당신의 행동을 바꾸고 사고방식과 정체성을 바꾸는 거예요. 아주 점진적인 변화예요.
그쪽 업계에서 성공하려면 선견지명이 필요해요. 선견지명에는 꼭 필요한 것이 있습니다. 방대한 양의 데이터죠. 많은 사람들이 이걸 감시 자본주의라고 부릅니다. 광고주들의 성공을 위해서 모든 사용자들을 무제한으로 추적하는 비즈니스 모델을 가진 거대 IT 기업들의 자본주의 말이에요. 이건 새로운 시장이에요. 예전에는 없었던 시장이죠. 인간이 선물로 거래되는 시장인 것이에요. 삼겹살 선물 시장이나 원유 선물 시장처럼 지금 우리에겐 인간이 선물로 거래되는 대규모 시장이 있어요. 그리고 인터넷 회사들은 그 시장에서 수조 달러를 벌어들여 인류의 역사상 가장 부유한 회사들이 된 겁니다.
제가 사람들이 알았으면 하는 건 우리의 모든 온라인 활동이 감시되고, 추적되고, 측량된다는 것입니다. 당신의 모든 행동이 세심히 관찰되고 기록됩니다. 무슨 이미지를 얼마나 오래 봤는지도 말이죠.
설득 기술은 누군가의 행동을 바꾸기 위해 극단적으로 설계된 디자인입니다. 사용자가 특정한 행동을 하게 만들고 스크롤을 멈출 수 없게 하려고 말이죠. 새로 고침을 하면 새로운 게 제일 위에 뜰 겁니다. 새로 고침을 하면 또 달라지고요. 매번 말이죠. 심리학에서는 그걸 간헐적 정적 강화라고 합니다. 언제 뜰지도 모르고 뭐가 뜰지도 모르는 게 라스베이거스의 슬롯머신과 완전히 똑같죠. 상품을 계속해서 쓰게 만드는 것도 모자라서 뇌간 깊숙한 곳으로 들어가 여러분에게 무의식적인 습관을 심어서 심층부에서부터 프로그래밍을 하는 겁니다. 아주 은밀하게 말이죠. 책상 위의 스마트폰을 볼 때마다 계속 눈이 가고 손이 가기 마련이에요. 재밌는 게 있을 것 같거든요. 그리고 슬롯머신을 당겨 보는 거죠. 그건 우연이 아니라 그렇게 디자인된 거예요.
다른 예시는 포토 태그예요. 친구가 당신을 방금 사진에 태그했다는 이메일을 받으면 당연히 이메일을 클릭하고 사진을 보겠죠. 그건 그냥 무시할 수 있는 게 아니에요. 인간 심리의 아주 깊숙한 곳을 건드리는 것이니까요. 페이스북이 그걸 발견했을 때 그들은 그걸 최대화했습니다. 활동량을 늘리기에 좋은 방법이 될 거라며 사람들이 종일 사진에 태그를 하게 만들었어요.
모든 실험을 하고 다시 반복한 다음에 우리가 깨달은 게 뭔지 아세요? 10일 안에 7명의 친구를 데려오는 것. "차마스 팔리하피티야, 전 페이스북 부사장" 그게 다예요. 차마스는 초기 페이스북의 성장 책임자였고 IT 업계에서 굉장히 유명합니다. 페이스북을 급성장시킨 성장 전략들을 개발한 것으로 말이죠. 그리고 그 성장 전략들은 실리콘 밸리의 교본이 되었습니다. 우버를 비롯한 다른 회사에서도 사용했죠. 그가 개척한 것 중의 하나는 작은 변화를 이용하는 과학적인 A/B 테스트예요. 구글이나 페이스북 같은 회사들은 사용자들을 상대로 작은 실험들을 엄청나게 많이 하고 있습니다. 그리고 그런 실험을 계속하다 보면 사용자들을 조종할 수 있는 가장 효과적인 방법을 개발하게 됩니다. 조작인 거죠. 실험실 쥐가 된 기분이에요. 실험실 쥐 맞아요. 우리 모두가 그렇죠. 암 치료제 개발에 쓰이는 실험실 쥐도 아니고 그들이 우리에게 뭔가를 주려는 것도 아니에요. 우린 그냥 광고만 보는 좀비일 뿐이에요. 그들이 돈을 더 벌 수 있게 말이죠.
우리는 최대한 빨리 심리적으로 당신을 조작할 방법을 알아내고 말초적인 보상을 주려고 합니다. 페이스북은 그걸 너무 잘했고 인스타그램과 왓츠앱도 했어요. 스냅챗도, 트위터도 그랬고요. 저 같은 해커들이나 떠올릴 법한 발상입니다. 인간 심리의 취약한 면을 착취하는 것이니까요.
저는 몇 년 전에 핀터레스트의 회장이었습니다. 집에 가서도 손에서 스마트폰을 놓을 수가 없는 거예요. 제 사랑과 관심이 필요한 어린 자식이 둘이나 있는데도요. 저는 식료품 저장실에서 이메일을 보내거나 핀터레스트를 보고 있었어요. 완전 전형적인 아이러니라고 생각했죠. 낮에 직장에서 제가 만든 것에 먹히고 있었으니까요. 저도 정말 어쩔 수 없었던 때가 있었습니다. 정말 흥미로운 건 막후에서 무슨 일이 벌어지는지 잘 알면서도 자신을 컨트롤하지 못했다는 거예요. 조금 무섭죠. 어떤 속임수를 쓰는지 알면서도 전 여전히 휘둘립니다. 스마트폰을 잡으면 20분이 순식간에 사라지죠.
그러니까 말이죠 소셜 미디어는 마약이에요. 우리에겐 다른 사람들과 연결되어야 하는 생물학적 의무가 있고 보상 차원의 도파민 방출에 직접적인 영향을 끼치죠. 수백 만년의 진화가 그 시스템 뒤에 있어요. 우리가 무리를 지어 살고 짝을 찾고 대를 잇기 위해서 말이에요. 그러니 소셜 미디어 같은 것은 사람들 간의 연결을 최적화해서 중독되게 만들기 마련입니다.
전 제 아이들이 걱정돼요. 그쪽이 애가 있으면 그쪽 애도 걱정되고요. 저는 제가 가진 지식과 경험으로 무장하고 아이들과 싸우고 있어요. 스마트폰, 컴퓨터 사용 시간을 놓고 말이죠. 제 아들한테 몇 시간이나 스마트폰을 보냐고 물으면 이렇게 답을 해요. '최대 1시간 반이에요' 아이들에게 쾌락과 고통의 균형과 도파민 부족 상태와 중독의 위험에 대해 말하지 않는 날이 없어요.
이런 상품들은 아이들을 보호하려는 아동 심리학자들이 만든 것들이 아니에요. 당신에게 맞는 다음 비디오를 추천하기 위한 알고리즘을 위해 만들어진 것들이죠. 필터를 먹여서 사진을 찍게 만들기도 하고요. 아이들의 관심만 통제하는 게 아니에요. 특히 소셜 미디어는 뇌간 깊숙이 파고들어서 아이들의 자존감과 정체성을 장악합니다. 우리는 주변 사람들의 비평에 관심을 갖도록 진화했습니다. 왜냐하면 중요하니까요. 하지만 우리가 1만 명의 비평을 인식하도록 진화했나요? 우린 5분마다 한 번씩 사회적 인정을 받도록 진화하지 않았어요. 우린 그런 걸 감당할 수가 없다고요. 우리는 완벽함을 중심으로 우리의 삶을 꾸려나갑니다. 잠깐 뜨고 마는 하트, 좋아요 같은 신호에 보상을 받기 때문이죠. 그리고 가치와 진실을 혼동합니다. 또한 알고보면 가짜인 것과 부서지기 쉬운 인기이며... 오래가지도 않는 것에 매달리다가 전보다 더 공허해집니다. 왜냐하면 악순환에 빠지게 되어 다음에는 뭘 해야 보상을 받을지 고민하게 만드니까요. 20억 명의 사람들이 그러는 것과 사람들이 그들의 평판에 어떻게 반응하는지 생각해 보세요. 정말 심각합니다. 진짜 심각하다고요.
미국의 10대들에게서 우울증과 불안이 엄청나게 증가했는데 2011년과 2013년 사이에 시작되었어요. 이 나라의 10대 소녀 중 10만 명이 매년 병원에 입원합니다. 자해를 해서 말이죠. 그 수는 2010, 2011년까지 꽤 안정적이었다가 갑자기 급상승했습니다. 10대 후반 소녀들의 수는 62%가 증가했고 10대 초반 소녀들의 수는 189%로 거의 3배나 뛰었습니다. 더 끔찍한 건 자살률도 그만큼 늘었다는 거예요. 10대 후반인 15, 19세 소녀들의 자살률은 2000년에서 2010년까지에 비하면 70%가 상승했습니다. 10대 초반의 소녀들의 자살률은 매우 낮았지만 무려 151%나 상승했습니다. 그리고 그 패턴은 소셜 미디어를 가리켜요.
1996년 이후에 태어난 Z세대들. 그 아이들은 역사상 처음으로 중학생 때 소셜 미디어를 접했습니다. 그들이 어떻게 시간을 보내냐고요? 학교에서 돌아와서 스마트폰에 매달립니다. 세대 전체가 더 불안하고 더 연약하고 더 우울해 합니다. 위험을 감수하려는 마음도 적고요. 운전면허 취득률도 . 떨어지고 있습니다. 데이트 같은 로맨틱한 관계를 가져 본 이들의 수도 급감하고 있습니다. 한 세대가 정말 변하고 있는 거예요. 그리고 기억하세요. 이런 아이들이 입원할 때마다 충격을 받는 가족이 있다는 걸 말이에요. '맙소사 애들이 어떻게 되는 거지?' 제겐 뻔히 보입니다.
예전에는 보호 장치가 있었어요. 아이들이 토요일 오전에 만화 영화를 볼 때 아이들에게 신경을 썼잖아요. '이렇게 어린 아이들에게 이런 광고를 하면 안 돼' 그런데 유튜브를 보세요. 유튜브가 모두의 관심을 완전히 장악했고 모든 아이들이 유튜브에 노출되었어요. 모든 보호와 규정이 사라졌고요. 우리는 한 세대 전체를 훈련하고 길들이고 있습니다. 우리가 불편하거나 외롭거나 불확실하거나 두려울 때 디지털 젖꼭지를 찾게 말이죠. 우리가 본래 가진 능력을 위태롭게 하는 거예요. 포토샵은 수천 명의 엔지니어가 화면 뒤에서 알림과 친구들을 이용하고 인공 지능을 이용해서 당신을 중독시키고 조종하거나 광고주들이 6만 개의 다양한 문자나 색상을 테스트해서 당신의 마음을 조작하는 법을 알아내지 않았습니다. 이건 전혀 새로운 힘과 영향력입니다. 다시 말하겠는데 사람들을 중독시키고 영향력을 끼치기 위해 사용된 방식은 이번에는 아마 꽤 다를 겁니다.
우리가 적응할 수 있다는 내러티브가 있어요. '이 기기들과 공존할 방법을 배울 거야. 다른 모든 것들과 그랬던 것처럼 말이지' 그런데 분명히 새로운 뭔가가 있다는 걸 놓치고 있어요. 아마도 가장 위험한 것은 기하급수적으로 발전하는 기술에 휘둘린다는 것일 겁니다. 1960년대부터 오늘날까지 컴퓨터 연산 능력은 대략 1조 배나 상승했습니다. 그 어떤 기술도 이런 속도로 발전한 게 없습니다. 자동차는 겨우 두 배 정도 빨라졌고 다른 건 거의 무시해도 될 정도입니다. 그리고 가장 중요한 것은 인간의 생리와 두뇌는 전혀 발전하지 않았다는 겁니다. 인간의 정신과 신체 같은 건 근본적인 변화가 없을 겁니다. 미래에는 유전 공학으로 새로운 인간을 개발할지 모르지만 현실적으로 말해서 우리는 뇌라는 하드웨어 안에 살고 그 뇌는 수백만 년이나 된 겁니다. 그런데 여기 화면이 있고 그 화면의 반대편에 수천 명의 엔지니어와 슈퍼컴퓨터들이 당신의 목표와 다른 목표를 갖고 있어요. 그 게임에서 누가 이길까요?
인공 지능이라고 하면 세상을 망칠 것 같고 터미네이터나 아널드 슈워제네거를 떠올리죠. 드론을 봐도 인공 지능이 사람을 죽일 거란 생각이 들고요. 그런데 사람들은 모르고 있어요 인공 지능이 이미 세계를 지배하고 있다는 걸요. 인공 지능이란 말은 비유일 뿐입니다. 구글 같은 회사에는 엄청나게 큰 공간이 있어요. 일부는 지하에 있고 일부는 수중에 있습니다. 컴퓨터들만 말이죠. 엄청나게 많은 수의 컴퓨터들이 끝없이 늘어서 있습니다. 서로 아주 긴밀하게 연결되어 있고 굉장히 복잡한 프로그램을 돌리며 서로 언제나 정보를 교환하고 있습니다. 그리고 같은 컴퓨터에서 수많은 프로그램과 수많은 제품들을 돌리고 있어요. 일부는 단순한 알고리즘이고 일부의 알고리즘은 너무 복잡해서 인공 지능이라고도 할 수 있죠. 저는 알고리즘이 코드에 내재한 의견이라고 봅니다. 그리고 알고리즘은 객관적이지 않아요. 알고리즘은 성공의 정의에 최적화되어 있어요. 생각해 보세요. 한 기업이 그들의 성공을 위해 알고리즘을 만든다는 것은 상업적인 이익이 목표인 겁니다. 이윤을 위해서라고요. 컴퓨터에 어떤 결과를 원한다고 입력을 하면 컴퓨터는 그 방법을 스스로 학습합니다. '기계 학습'이란 말이 거기서 나온 거예요. 그래서 매일 조금씩 발전해서 적절한 포스트를 적절하게 배치하여 당신이 더 많은 시간을 쓰게 만드는 겁니다. 그리고 그들이 목표를 달성하기 위해 뭘 하는지는 아무도 모릅니다. 알고리즘엔 자아가 있어요. 비록 사람이 만드는 것이지만 코드를 작성할 때 기계 스스로 변화하도록 만듭니다. 오직 소수의 사람들만이... 페이스북, 트위터 같은 회사들에서 말이죠. 오직 소수의 사람들만이 그 시스템을 이해합니다. 심지어 그들도 특정 콘텐츠에서 어떤 일이 일어날지 다 알지 못합니다. 인간들은 시스템에 대한 통제력을 거의 잃어버린 거예요. 우리가 보는 정보를 시스템이 통제하니까요. 그들의 통제력이 우리보다 더 큽니다.
당신이 페이스북에 있다고 생각해 봐요. 당신은 당신에 대해 모든 것을 아는 인공 지능과 맞서고 있는 겁니다. 당신의 행동도 예측할 수 있는데 당신은 전혀 모르고 있어요. 거기 고양이 비디오와 생일 정보가 있다는 것만 빼고요. 그건 공정한 싸움이 아니에요.
우리는 기술이 인간의 힘과 지성을 압도할 때를 기다리고 있었습니다. 기술적 특이점을 넘어 우리의 일을 대신하고 인간보다 똑똑해질 때를 말이죠. 하지만 그 전에 앞서... 기술은 인간의 약점을 압도하기 시작했습니다. 바로 중독, 분극화, 급진화, 분노와 허영의 만연함을 기초로 하고서 말이죠. 이건 인간의 본능을 압도하며 인간성에 대한 체크메이트입니다.
저는 페이스북의 피드가 얼마나 잘못됐는지 사람들을 이해시키기 위해서 위키피디아를 예로 듭니다. "위키피디아, 공짜 백과사전" 온라인에서 공통점을 갖는 몇 안 되는 것이에요. 그런데 생각해 보세요 위키피디아가 이러는 거예요. '각각의 사람들에게 맞춰진 정의를 보여 줄 것이고 그렇게 함으로써 돈을 벌 거야.' 그래서 당신을 위키피디아가 감시하고 계산하기 시작합니다. '어떻게 해야 이 사용자를 저 상품을 위해 바꿀 수 있을까?' 그리고 항목이 바뀌는 거예요. 상상이 돼요? 상상할 수 있어야죠. 왜냐하면 페이스북이 지금 그러고 있으니까요. 유튜브 피드도 마찬가지고요. 구글에서 '기후 변화'라는 단어를 입력하면 거주지에 따라서 다른 결과를 보게 될 겁니다. "기후 변화는..." 어떤 도시에서는 이런 자동 완성이 뜰 거예요. '기후 변화는 거짓말'이라고요. 다른 경우엔 이렇게 뜰 겁니다. '기후 변화는 자연의 파괴를 야기한다' 그건 기후 변화에 대한 진실이 아니라 구글링을 하는 장소와 구글이 당신에 대해 아는 것에 달린 거예요. 서로 아주 가까운 두 친구가 있어요. 그 둘은 친구 목록도 거의 똑같아서이렇게 생각합니다.'페이스북 피드를 보면 똑같은 것들이 뜰 거야' 근데 그렇지가 않아요. 둘은 완전히 다른 세상을 봅니다. 왜냐하면 그건 컴퓨터에 의해 각자에게 완벽하게 계산된 세상이거든요. 어떻게 생각해 보면 27억 개의 '트루먼 쇼'입니다. 각자에게 각각의 현실이 있고 사실이 있는 거죠. 왜 트루먼이 지금까지 그의 세계의 진실을 알아내지 못했다고 생각하시나요? 우리는 눈앞에 주어진 현실을 받아들이니까요.
시간이 지나면 다들 자신과 동의한다는 착각에 빠집니다. 뉴스 피드에서 자꾸 비슷한 말만 들리니까요. 그리고 그렇게 되면 정말 쉽게 조종당하게 됩니다. 마술사에게 현혹되는 것과 똑같이 말이죠. 마술사는 카드를 보여 주며 아무 카드나 고르라고 하지만 당신은 이미 다 조작된 것이라는 걸 모르고 그들이 고르게 만든 카드를 고르는 겁니다. 페이스북도 똑같아요. 페이스북은 이러죠. '직접 친구를 선택하고 팔로우를 할 링크를 고르세요' 하지만 다 난센스예요. 마술사와 똑같죠. 당신의 뉴스 피드는 페이스북이 통제하니까요. 우리 모두는 일련의 사실들에 따라 움직이고 있을 뿐입니다. 그 규모가 커지면 당신이 만든 세계관과 모순되는 정보를 인지하거나 받아들일 수 없어요. 즉, 우리는 객관적이고 건설적인 개인이 아니란 말이에요
유튜브에서는 유튜브 추천에서 일했어요. 제가 작업한 알고리즘이 사회의 분극화를 더 심하게 만들어서 걱정이 됩니다. 하지만 사용 시간의 관점에서 보면 이런 분극화는 사람들을 잡아두는 데 매우 효과적입니다. 사람들은 알고리즘이 자신에게 필요한 걸 주기 위해 만들어졌다고 생각하는데 아니에요. 알고리즘은 사람들의 눈을 끌 만한 것을 찾는 거고 당신의 취향에 맞는 것을 찾으려고 하는 겁니다. 그리고 이런 비디오 중 하나를 보게 되면 계속 반복해서 추천할 거예요. 이런 일이 일어나길 바라는 사람은 없어요. 다만 이게 추천 시스템이 하는 일이라는 겁니다. 유명한 농구 선수인 카이리 어빙은 지구가 평평하다고 믿었다가 나중에 사과를 했어요. 그리고 유튜브를 비난했죠. 유튜브를 클릭하면 헤어나올 수 없게 되잖아요. 나중에 라디오 방송에 나와서 사람들을 호도할 작정이 아니었다고 사과했을 때 이런 말을 한 학생도 있습니다. '둥근 지구를 믿는 사람들 짓이야' 평평한 지구 음모론은 알고리즘에 의해 수억 번이나 추천되었습니다. 속는 사람들이 멍청하다고 생각하기 쉽지만 알고리즘은 하루가 다르게 똑똑해집니다. 오늘은 지구가 평평하다고 사람들을 속이고 내일은 당신을 거짓으로 속이려 할지도 모른다는 거죠.
MIT의 한 연구에 따르면 트위터에서 가짜 뉴스가 진짜 뉴스보다 6배 빨리 퍼집니다. 세상이 어떻게 될까요? 한쪽이 다른 쪽보다 6배나 유리한데 말이죠. 이렇게 생각하시면 돼요. 인간의 행동이란 바닥을 이렇게 기울인 거라고요. 어떤 행동은 어렵게 만들고 어떤 건 쉽게 만든 거죠. 언제나 언덕을 올라갈 순 있지만 그러는 사람은 적죠. 그리고 그걸 사회 전체에 적용하면 수십억 명의 사람들의 생각과 행동을 바꿀 수 있는 거예요. 우린 거짓 정보에 편향된 시스템을 만들었어요. 우리가 원해서가 아니라 거짓 정보가 회사에 더 이익이라서입니다. 진실보다도요, 진실은 지루하죠. 허위 정보로 이윤을 남기는 사업 모델입니다. 제재받지 않은 메시지가 최고의 가격으로 누구에게나 전달되도록 해서 돈을 버는 거죠. 기후 변화 때문에? 그래, 그건 거짓말이야, 진짜라고. 그게 포인트야. 더 많이 언급할수록 우리를 더 갈라놓을 수 있고 힘을 더 가질수록 통제력도 더 가지는 거야. 페이스북에는 이런 뉴스 피드 포스트가 수없이 많습니다. 뭐가 진짜고 진실인지 그들은 알 수가 없어요. 그래서 이 대화가 지금 굉장히 중요한 겁니다.
페이스북의 문제 중 하나는 역사상 최고의 설득 도구라는 겁니다. 그게 독재자나 권위주의자의 손에 들어간다고 생각해 보세요. 국민들을 통제하는 것에 페이스북만큼 효과적인 도구가 없습니다. 정부나 악당들이 소셜 미디어를 무기화하는 것의 가장 골치 아픈 문제 중 하나는 실제 오프라인 피해를 초래한다는 것이에요.
저는 부족주의가 우리를 망치고 있다고 말하고 싶습니다. 미국을 분열시키고 있고 제정신인 성인이 할 짓이 아닙니다. 모두에게 각자의 진실을 가질 권리가 있다면 타협할 필요도 없고 화합할 필요도 없습니다. 사람들끼리 서로 소통할 필요도 없죠. 우리에겐 같이 이해할 수 있는 현실이 필요합니다. 아니면 나라도 아니에요.
우린 기술자들이 이 문제를 해결할 능력이 있다고 포장하는 것을 내버려 두고 있어요. 그건 거짓말이에요. 사람들은 인공 지능이 진실을 알 거라고 말하는데 인공 지능은 이런 문제를 해결 못 해요. 인공 지능은 가짜 뉴스 문제를 해결 못 해요. 구글은 이런 말을 할 자격이 없어요. '이게 음모론인가? 이건 진실인가?' 뭐가 진실인지 그들도 모르니까요. 그들의 진실은 클릭이 전부입니다. 우리가 뭐가 진실인지 동의하지 않거나 진실이 있다는 것에 동의하지 않으면 우린 끝난 거예요.
기술을 실질적인 위협으로 보는 건 조금 지나친 비약인데... 이렇게 생각하긴 쉽죠. '내 손안의 스마트폰을 스크롤하고 클릭을 하는 것이 뭐가 위험하다는 거지? 화면 반대편에 슈퍼컴퓨터가 있긴 한데 내가 영상을 더 보게 하는 게 뭐가 위험하다는 거지?' 기술 그 자체가 실제로 위험하다는 게 아니라 사회의 어두운 면을 끌어내는 기술의 능력과 사회의 어두운 면이 실질적인 위협인 거예요. 우리가 말하는 것의 대부분이 편향적으로 암울하게 들리죠. '기술이 우리 세상을 망치고 애들도 망치고 있어' 그런데 아니에요. 유토피아이면서 디스토피아라서 헷갈리는 거예요. 스마트폰의 버튼만 누르면 차가 30초 만에 오고 제가 원하는 곳으로 갈 수 있죠. 이건 마법처럼 대단한 거예요. 우리가 '좋아요' 버튼을 만들 땐 세상에 긍정성과 사랑을 퍼뜨리는 게 목표였습니다. 오늘날의 10대가 좋아요를 덜 받아서 우울해 하거나 정치적 분극화를 야기하는 건 우리 의도가 아니었어요. 그들이 처음부터 사악하진 않았다고 생각해요. 사업 모델에 문제가 있는 거죠. 서비스를 멈추게 하고 다 파괴할 수도 있겠죠. 200억 달러의 주식을 날리고 소송도 당하고요. 하지만 흘린 물은 다시 담을 수 없습니다. 조금은 손볼 수 있겠지만 결국에는 분기마다 매출과 사용량을 늘려야만 합니다. 더 커질수록 변화하기 어렵게 되고요. 저는 사람들이 사업 모델과 경제적 인센티브와 주주의 압박에 갇혀서 다른 걸 할 수 없게 됐다고 봐요. 회사가 이윤을 남기는 것에 집중하는 것을 받아들여야 한다고 생각합니다. 하지만 규정, 규칙, 경쟁이 없는 건 안 되죠. 회사들이 일종의 정부 노릇을 하는 것도요. 그들은 자신들을 통제할 수 있다고 말하는데 그건 정말 말도 안 되는 거짓말이에요. 재정적 인센티브가 세상을 움직이고 있어요. 그러니 문제를 해결하려면 재정적 인센티브를 재구성해야죠. 이 회사들이 변해야 할 재정적인 이유는 없어요. 그래서 규제가 필요하다고 생각합니다.
우리가 사는 세상은 죽은 나무가 살아 있는 나무보다 더 가치 있는 세상입니다. 죽은 고래도 살아 있는 고래보다 더 가치 있고요. 우리 경제는 그런 식으로 오랫동안 움직였고 기업은 규제를 받지 않았기에 계속 숲을 파괴하고 고래를 죽이고 땅을 파서 석유를 시추할 겁니다. 그게 지구를 파괴한다는 걸 알면서도 후손들이 살 지구를 망친다는 걸 알면서도요. 이건 무슨 수를 써서라도 이윤만 남기려는 근시안적 사고가 원인입니다. 이윤만을 좇는 기업이 마법처럼 최선의 결과를 만들어낼 것이라 믿는 것 같죠. 이건 환경에도 오랫동안 영향을 끼쳤어요. 정말 무섭지만 이제 우리가 문명으로 깨어나서 애초부터 이런 사고방식이 잘못됐음을 깨달을 마지막 수단은 이제는 우리가 나무고 고래라는 걸 깨닫는 겁니다. 우리의 관심은 채굴될 수 있어요. 우리가 값진 인생을 사는 것보다 더 많은 시간을 화면을 보는 데 쓰고 광고를 본다면 기업에게 더 이익이 되는 거예요. 그리고 그 결과를 지금 보고 있죠. 기업들이 강력한 인공 지능을 이용해서 우리의 관심을 끄는 법을 알아내고 그들의 입맛에 맞는 걸 보게 만듭니다. 우리의 목표와 가치와 삶에 가장 부합하는 게 아니라 말이죠.
인터넷은 엉뚱한 곳이었어요. 그리고 실험적이었고 창조적인 것들이 일어났어요. 물론 지금도 그렇지만 거대한 쇼핑몰 같은 느낌이에요. 요즘에는요 그런데 그것보다 더 큰 무언가가 있을 거란 말이죠. 아마 전 낙관론자인가 봐요. 소셜 미디어의 모습과 용도를 바꿀 수 있다고 믿거든요. 기술이 작동하는 법은 물리 법칙이 아니에요. 딱 정해진 게 없어요. 저 같은 인간의 선택입니다. 그리고 인간은 그 기술을 바꿀 수 있어요. 문제는 우리가 인정을 하든 안 하든 우리 일의 나쁜 결과가 직접적으로 나타난다는 겁니다. 우리가 만들었으니 우리가 바꿀 책임이 있습니다. 관심만 끄는 모델은 우리가 원하는 인간을 대하는 방식이 아닙니다. 이런 썩은 사업 모델을 없애는 것에 건강한 사회의 구조가 달려 있습니다. 우린 인간적으로 상품들을 디자인하라고 요구할 수 있습니다. 우리를 채취 가능한 자원으로 취급하지 말 것도 말이죠. '세상을 어떻게 더 좋게 만들까'가 목적이 되어야 합니다. 역사적으로 봤을 때도 무언가가 발전한 이유는 누군가가 이렇게 말했기 때문입니다. '이건 말도 안 돼. 우린 더 잘할 수 있어' 비평가들이 발전을 이끄는 것이고 비평가들이 진정한 낙관주의자예요. 좀 무모한 것 같죠? 마치 이것들을 디자인하는 근본적인 방법이 좋은 방향으로 가지 않는 것 같아요. 전부가 말이죠. 그러니 모든 걸 바꿔야 한다는 게 무모하게만 들립니다. 하지만 그렇게 해야 해요. 우리가 할 수 있을까요? 그래야만 합니다.
전 이런 말을 했는데도요. '우린 디스토피아를 맞을 겁니다. 아주 이른 시일 내로 말이죠. 그렇게 안 되려면 기적이 필요할 거예요' 물론 그 기적은 집단적 의지입니다. 저는 우리가 해결할 거라고 낙관하고 있지만 시간이 오래 걸릴 거예요. 이게 문제라는 걸 모두가 알지 못하니까 말이죠. 오늘날의 기술에서 가장 큰 실패 중 하나는 리더십의 실패라고 생각합니다. 사람들이 나와서 잘된 것만 말하지 않고 완벽하지 않은 것에 대해서도 자유롭게 얘기해야 해요. 누군가 새로운 것을 만들 수 있게 말이죠. 근본적으로 말이죠. 대중의 압력이 커질 때까지 기계는 변하지 않을 겁니다. 이런 대화를 하고 목소리를 높임으로써 어떤 경우에는 이런 기술을 통해서 흐름을 바꾸고 대화를 바꿀 수가 있어요. 이상하게 들릴지 몰라도 이건 제 세계예요. 전 그들을 싫어하지도 않고 구글, 페북에 폐 끼치기도 싫어요. 그저 개혁하길 바라는 거죠. 세상이 파괴되면 안 되니까요. 저는 제 시간을 낭비하는 것 같은 앱을 제 스마트폰에서 엄청나게 많이 제거했습니다 . 모든 소셜 미디어 앱과 뉴스 앱들요. 그리고 저에게 꼭 필요하지도 않은 정보로 제 다리를 진동시키는 알림 설정도 껐습니다. 쿠키를 제 주머니에 넣지 않는 것과 같은 이유로요.
알림의 수를 줄이세요. 알림 설정을 끄세요. 알림 설정 다 끄세요.
더는 구글을 쓰지 않고 콴트를 씁니다. 사용자의 검색 기록을 저장하지 않거든요.
유튜브의 영상 추천을 절대 받지 마세요. 항상 선택해서 보세요. 싸울 방법은 있습니다. 추천 목록을 제거하는 크롬 확장 프로그램이 많아요.
뭘 공유하기 전에 팩트를 확인하고 소스를 검토하고 검색을 더 하세요. 너무 감정에 호소하게 만들어졌다는 생각이 들면 그 생각이 맞을 거예요. 기본적으로 클릭이 투표인 거예요. 낚시성 게시물을 클릭하면 기존의 시스템을 유지할 수 있게 재정적인 도움을 주는 거예요. 다양한 종류의 정보를 얻도록 하세요. 여러분의 삶에서요. 전 저랑 의견이 다른 사람들도 트위터에서 팔로우를 합니다. 다른 관점에 저를 노출시키고 싶거든요. 대부분의 IT 업계 사람들은 자식들에게 이런 전자 기기를 주지 않습니다.
우리 애들은 소셜 미디어를 전혀 쓰지 않습니다.
우린 아주 열성적이에요. 거의 미쳤죠. 그런데 아이들은 이런 걸 거의 못 쓰게 합니다.
저는 가족의 삶을 더 편하게 하고 확실한 근거도 있는 세 가지 규칙을 만들었습니다. 첫 번째 규칙은 모든 전자 기기를 침실에서 제거하는 거예요. 매일 밤마다 정해진 시각이 되면요. 그 시각이 언제건 잠들기 30분 전 모든 전자 기기를 제거하는 겁니다. 두 번째 규칙은 고등학생이 될 때까지 소셜 미디어를 금지하는 거예요. 중학교는 안 그래도 힘드니까 고등학교 때까진 금지하세요. 세 번째 규칙은 자녀와 시간 예산을 짜는 거예요. 이렇게 얘기해 보세요. "하루에 몇 시간이나 소셜 미디어에 쓰고 싶니? 얼마나 쓰는 게 좋겠니?" 애들은 꽤 합리적인 대답을 할 거예요. 저도 잘 알아요. 제가 모든 사람들이 소셜 미디어를 지우게 할 순 없다는 거요. 하지만 몇 명은 그럴 거예요. 그런데 소수가 계정을 삭제하는 것도 의미가 큽니다. 대화를 할 수 있는 공간이 생기는 것이니까요. 저는 조작 엔진에 얽매이지 않고 사회적인 대화를 하는 사람들이 세상에 더 많았으면 좋겠거든요. 그러니까 지워요. 시스템에서 탈출하라고요. 네, 삭제해요. 멍청한 것에서 벗어나요.
