인터넷기업의 정보권력독점을 막을 수 있을까?
Shoshana Zuboff의 NYT 칼럼
New York Times 에서 [privacy project]라는 이름으로 21세기 인터넷기업들의 정보권력독점에 대한 기사들을 꾸준히 내보이고 있다. 그 중에 가장 돋보이는 글. Shoshana Zuboff는 Harvard Business School 명예교수로, 작년에 [The age of Surveillance Capitalism] 이라는 책을 냈다.
원문은 여기:
[1984] 가 경고했던 정보의 불평등은 21세기 IT사회에서 그대로 현실이 되었다. 다만, 정보권력을 독점하는 주체는 전체주의국가가 아닌 인터넷거대기업이다. Zuboff는 21세기 들어 갑자기 나타난 정보권력의 쏠림현상을 <감시자본주의 Surveillance Capitalism>라고 명명한다. 이 칼럼의 핵심 주장을 한 마디로 요약하면, 감시자본주의자들이 “과학, 과학자, 비밀, 그리고 진실을 조종”한다는 것.
> [Surveilllance capitalism] rooted and flourished in the new spaces of the internet, once celebrated by surveillance capitalists as “the world’s largest ungoverned space.” But power fills a void, and those once wild spaces are no longer ungoverned. Instead, they are owned and operated by private surveillance capital and governed by its iron laws.
저자는 이 시대의 정보불평등을 “Epistemic inequality”이라고 부른다. 도대체 얼마나, 뭐가 불평등하다는 것인가? 처음 알게 된다면 놀라운 사실들이 많다.
감시자본주의자들이 수집하는 정보의 양과 폭은 상상할 수 있는 범위를 벗어난다.
거대인터넷기업들이 얼마나 많은 정보를 수집하는지에 대해서는 이미 많은 책과 TED영상들이 올라와 있다. 그런데도 매번 놀라게 되는 이유는 그 정보의 양와 폭이 너무나도 거대하기 때문이다.
예를 들어, 인스타그램에서 수집하는 나에 대한 정보: 내가 올린 사진 안에서 사람들의 표정, 내가 쓰는 필터의 종류, 댓글에서 쓰는 단어와 말줄임표, 따옴표의 유무, “좋아요”를 누른 포스팅의 종합 리스트 등등. 이를 바탕으로 페이스북은 내 나이, 성별, 성적 취향, 지능, 학력수준, 현재 감정상태 등을 예측한다.
뿐만 아니라, IT기업들은 각기 소유한 개인정보를 (내가 알지 못한채) 서로 공유한다. 이 칼럼에 따르면, 페이스북은 “Instant Heart Rate: HR Monitor”에서 건강정보, “Flo Period & Ovulation Tracker”에서 생리주기정보, Realtor.com에서 관심있게 본 부동산정보를 모두 수집한다.
왜 페이스북은 나에 대해서 이리도 속속들이 알고 싶어 하는 것일까? 물론 돈을 벌기 위해서다. 이런 개인정보를 통해 나에게 맞춤형 광고를 보여줌으로서, 광고주는 불특정다수를 대상으로 하는 공중파광고와는 비교가 안 되는 광고효과를 누릴 수 있다. 물론 페이스북은 광고단가를 높인다. “Surveillance dividend”를 가져가게 되는 것이다.
감시자본주의자들은 서서히 개인의 행동을 조종해나가고 있다.
감자본주의자들은 개인에 대한 확실한 예측을 하기 위해 치열한 경쟁을 한다 (“competition to sell certainty”). 그 경쟁이 한 단계 더 나아가면? 개인을 직접 조종하려 하게 된다. 생각해보면, 조종은 가장 쉬운 예측이다. “이 사람이 지금 우울한가 아니면 행복한가?” 를 예측하는 대신에, 그냥 그 사람을 우울하게 또는 행복하게 만들어버리면 된다.
> Data scientists describe [the new form of epistemic inequality] as the shift from monitoring to actuation, in which a critical mass of knowledge about a machine system enables the remote control of that system. Now people have become targets for remote control, as surveillance capitalists discovered that the most predictive data come from intervening in behavior to tune, herd and modify action in the direction of commercial objectives. This third imperative, “economies of action,” ahas become an arena of intense experimentation.
2012년과 2014년에 페이스북에서 행한 실험에 의하면, 개인이 보는 포스팅에 미묘한 조작을 가함으로써 페이스북은 그 사람의 기분을 변화시키거나, 또는 선거에서 투표율을 높일 수 있었다. 중요한 사실은, 그 실험을 당하는 당사자는 “자신이 조종을 당하고 있다”라는 사실을 인식하지 못했다는 것.
SNS기업들이 광고주에게 파는 또다른 상품은 “loyalty prediction”이다. 어떤 브랜드에 대한 충성고객이 그 브랜드를 떠나려고 하는 시점을 정확하게 예측하여, 브랜드로 하여금 “다시 자기 브랜드를 사랑하도록 만드는 것”이다.
이런 정보독점-개인조종 문제가 가장 크게 터진 사건이 바로 2016년 Cambridge Analytica 스캔들이다. 하지만 저자는 이 스캔들이 이미 다른 종류의 정보권력남용과 크게 다르지 않다고 지적한다. “일반상품”이 “정치상품”으로 바뀌었을 뿐이라는 것.
Privacy 는 사유재private good 가 아니라 공공재public good 다.
자, 어떻게 해야 할까? 저자의 첫번째 제언: 사생활을 사유재private good가 아닌 공공재public good 로 생각해야 한다는 것. 솔직히 말해서, 나는 구글에 내 정보를 제공하는 것이 편하다. 구글은 지메일과 크롬 방문기록, 유투브 등등에 퍼져있는 내 정보를 읽고 알아서 맞춤형 정보를 보내준다. 나한테 필요한 상품이 광고에 뜰 때 참 신기하다. 유투브에 올라오는 추천 동영상은 내 취향을 매우 자극한다.
> All of these delusions rest on the most treacherous hallucination of them all: the belief that privacy is private. We have imagined that we can choose our degree of privacy with an individual calculation in which a bit of personal information is traded for valued services—a reasonable quid pro quo.
그런데 내가 구글에 제공하는 정보는 나만 쓰는 것이 아니다. 구글은 이를 이용하여 다른 모든 사람들의 취향과 행동을 예측하는 데 사용한다. 외부효과가 작동하는 것. 물론 이 외부효과는 “구글의 입장으로 봤을 때” 긍정적이지만, 사회적 효과로 따진다면?
> Privacy is not private, because the effectiveness of these and other private or public surveillance and control systems depends upon the pieces of ourselves that we give up…..The lesson is that privacy is public—it is a collective good that is logically and morally inseparable from the values of human autonomy and self-determination upon which privacy depends and without which a democratic society is unimaginable.
새로운 규제정책이 필요하다.
이렇게 프라이버시가 공공재라는 생각을 하기 시작하면, 당연히 규제가 필요하다는 결론에 도달하게 된다. 역사가 Thomas McCraw는 [Prophets of Regulation]에서 “정부의 규제가 개별 산업에 정확하게 들어맞지 않는 정책을 어설프게 펼치면 항상 실패한다”는 결론을 내렸다. 지금 IT산업의 역사는 고작 30년 남짓. 정부가 얼마든지 바로잡을 수 있는 타이밍이다. 저자의 One (아니, 세개의) Big question:
Who knows? Who decides who knows? Who decides who decides who knows?
> The challenges of epistemic justice epistemic rights in this new era are summarized in three essential questions about knowledge, authority and power: Who knows? Who decides who knows? Who decides who decides who knows?
