위로부터의 쿠데타 '감시 자본주의'
플랫폼 서비스라는 '트로이 목마'를 이용한 지식 축적의 사유화
지난 6월 27일, 주말이었던 이날 식당과 카페, 쇼핑센터 같은 소매점·여가시설을 찾는 인원은 그 이전 5주 동안 해당 요일의 중앙값보다 3% 정도 줄었다. 대신 공원과 식료품점·약국을 찾는 비율은 각각 41%, 11% 증가했다. 지하철·버스 등 대중교통 정류장을 찾은 사람은 5% 줄었다. 일별 신규 코로나 19 확진자가 6월 25일 이후 사흘간 39명에서 51명, 62명으로 증가하던 상황이었다. 감염 위험이 있는 실내를 피해 야외에서 휴식을 취하고, 장을 본 후 집에서 밥을 해 먹는 사람이 상대적으로 늘었다고 해석할 수 있다.
구글의 ‘코로나 19 지역사회 이동성 보고서’에 나온 통계치다. 구글은 위치 기록 사용을 허용한 사용자의 익명 처리된 데이터를 집계해 세계 각국의 이동성 보고서를 만들었다. 개인의 위치나 연락처, 동선과 같은 개인 식별정보를 제공하진 않는다. 보고서는 위치 기록 사용을 사용자가 언제든지 중지하고 위치 기록 데이터를 삭제할 수 있다고 안내하고 있다.
인간 행동 감시해 수익 얻는 ‘감시 자본주의’
구글은 이 보고서가 코로나 19 퇴치정책을 수립하는 데 통찰력을 제공할 것이라고 밝혔다. 이런 활동을 정보기술기업의 사회공헌이라고 볼 수 있다. 한편 이는 구글이 인간의 이동을 글로벌 차원에서 광범위하게 수집할 수 있는 능력이 있음을 보여주는 사례이기도 하다. 스마트폰과 거리의 지능형 보안카메라 등 개인의 행동 데이터를 수집할 수 있는 기기들이 그만큼 촘촘하게 깔려 있다는 뜻이다.
구글과 페이스북·마이크로소프트, 국내의 네이버·카카오와 같은 정보기술(IT) 기업들은 데이터를 이용해 일상의 불편함을 줄이고 편리를 제공하지만, 한편으로 개인 맞춤형 상품과 광고를 판매해 수익을 얻는다. 구글에서 무선 이어폰을 검색하면, 페이스북이나 쿠팡 같은 소셜미디어, 소셜커머스에 관련 상품 광고가 뜨는 식이다. 유튜브에서 관심 있는 영상을 보면, 계속 관련 영상을 추천하면서 시선을 붙잡는다. 개인의 경험과 정서가 데이터로 바뀌고, 취향으로 분석되고, 또 다른 상품의 소비로 이어지는 구조다.
미국의 사회학자이자 하버드 경영대학의 명예교수인 쇼사나 주보프는 지난해 출간한 <감시 자본주의의 시대(The Age of Surveillance Capitalism)>라는 책에서 인간의 경험을 원자재 삼아 상품과 서비스를 만들어내는 경제에 ‘감시 자본주의’라는 이름을 붙였다. 기존의 상품과 서비스를 개선하기 위해 필요한 것 이상으로 ‘잉여적인’ 행동 데이터를 수집하고, 이를 이용해 소비자가 지금, 곧 미래에 무엇을 할지 예측하는 상품을 만들어내 수익을 얻는 자본주의를 뜻한다. 데이터 수집을 위한 핵심적인 활동은 감시다.
주보프에 따르면 감시 자본주의에 속하는 기업의 진짜 소비자는 이용자가 아닌 기업이다. 이용자는 기업에 맞춤형 광고를 제공하는 데 필요한 데이터를 만들어내는 존재로 축소된다. 이용자를 끌어모으기 위해 페이스북은 사회관계망 서비스를, 구글은 검색과 e메일, 스마트폰 운영체제 등을 유인책으로 제공한다. 개인정보와 사생활은 ‘공짜’ 서비스를 얻기 위한 대가가 됐다. ‘열린 인터넷’이라고 하지만 닫힌 알고리즘의 세계이고, ‘연결성’을 강조하지만 알고리즘이 추천한 연결일 뿐이다. ‘개인화’라고 하지만 우리가 선택하는 게 아니라 알고리즘이 선택한 틀 안에서만 선택권을 누릴 수 있다. 감시 자본주의는 우리에 대해서 거의 모든 것을 알지만, 우리는 데이터 수집·활용이 어떻게 이뤄지는지 알기 어렵다. 주보프는 이에 대해 “감시 자본주의는 인간 역사에서 비교 대상을 찾을 수 없을 정도로 지식과 권력에서의 비대칭성을 누리고 있다”며 “이런 과정을 사회적 지식 축적의 사유화로 이해할 수 있다”라고 말했다.
이광석 서울과학기술대학교 IT정책대학원 교수는 <디지털의 배신>에서 “정부가 채집하는 주민등록번호·신용·건강·교육 데이터 등 정형 데이터보다 시민의 정서 표현이나 생체 정보 같은 비정형 데이터가 중심 가치로 떠올랐다”며 “빅데이터 시대라는 명명법은 바로 이 급증하는 비정형 데이터가 자본주의의 핵심 생산원리로 편입된 현실을 지칭한다”라고 설명했다. 그는 “이용자 데이터를 수집·분석·처리하고 예측을 해 이윤을 얻을 수밖에 없는 시스템이라 결국은 소비자 감시가 불가피하다”며 “다만 지금의 감시는 과거 산업시대처럼 억압적이지 않고 자발적인 형태이고, 감시 대상도 생산라인에서의 노동자 동선이 아니라 이용자의 생체·활동 데이터라는 차이가 있다”라고 말했다. 맞춤형 서비스를 이용하기 위해 자발적으로 제공하는 ‘동의에 의한 감시’라고 할 수 있다.
unsplash감시 자본주의의 변곡점들
감시 자본주의의 기원은 구글이다. 2000년 후반, 구글의 수익 모델에 의구심을 가진 투자자들의 압력에 세르게이 브린, 래리 페이지 등 창업자는 ‘애드워즈 팀’을 만들어 ‘타깃 광고(맞춤형 광고)’를 창안한다. 타깃 광고는 사용자의 행동 데이터를 이용해 사용자가 흥미를 가질 만한 상품 광고를 제시하는 것이다. 이용자가 구글 검색창에 입력한 질의 데이터가 검색 결과의 품질 향상에 그치지 않고, 새로운 상품인 타깃 광고에 활용되기 시작한 것이다. 타깃 광고로 구글은 공룡 기업으로 성장할 발판을 마련했다. 2016년 지주사 알파벳 수익의 89%가 구글의 타깃 광고에서 나올 정도다.
2001년 9·11 테러도 감시 자본에 우호적인 환경을 조성했다. IT기업을 규제하던 흐름이 반전되기 시작했다. 사용자가 만든 콘텐츠로 문제가 생겨도 인터넷 기업이 형사소송을 당하지 않도록 하는 법안(섹션 230)이 도입됐다. 법안은 초기 인터넷 기업의 성장을 도왔지만 이젠 거대 인터넷 기업의 방패막이가 되고 있다.
2002년에는 구글에서 감시 자본주의가 확고한 위치를 차지한 사건이 일어났다. 그해 4월 어느 날 구글의 데이터 분석팀은 검색 질의어 최상단에서 “캐럴 브래디의 결혼 전 이름”이라는 문구를 발견했다. 1970년대 인기를 끌었던 텔레비전 캐릭터에 갑자기 사람들이 호기심을 갖게 된 이유를 알 수 없었던 이 팀은 ‘퍼즐 풀기’에 나섰다. 질의어 입력 패턴을 분석하니 하와이까지 미국의 시간대별로 매시 48분쯤 질의가 쏟아졌다. 각 시간대는 당시 인기 있는 텔레비전 쇼인 <누가 백만장자가 되고 싶은가?>의 방송 시간과 일치했고, 질의어 입력이 치솟은 때는 진행자가 캐럴 브래디의 결혼 전 이름을 물었을 때였다.
구글은 전통 미디어가 이 사실을 알기 전에 이미 변화를 파악했다. 구글 경영진은 검색 데이터를 통해 인간 행동을 매 순간 하나하나 들여다볼 수 있다는 사실을 깨달았다. 여론과 취향의 변화를 들여다보는 ‘전자현미경’을 갖추게 된 셈이다. 검색 데이터 수익화를 고민한 것은 당연한 수순이었다. 주보프는 “감시 자본주의는 특정 시간과 공간에서 특정 그룹의 인간들이 발명해낸 것”이라며 “역사의 한 시점에서 의도적으로 구축됐으며, 이는 1913년 포드자동차 회사의 기술자와 사상가들이 대량생산 체제를 고안해낸 것과 같다”라고 설명했다. 감시 자본주의가 기술 발전에 따른 자연스러운 결과가 아니라 인위적인 선택의 결과라는 것이다.
위로부터의 쿠데타
감시 자본주의는 코로나 19를 계기로 또 한 번 호기를 맞았다. 비대면이 강조되면서 관련 기술을 제공하는 구글·페이스북·애플·아마존·마이크로소프트 등 5대 기술기업의 시가총액이 크게 뛰었다. 그 합계는 일본 주식시장 시가총액을 넘어설 정도다. 사생활 침해 우려는 감염병 확산 방지라는 당위에 압도당했다. 일례로 중국 항저우시는 앱을 통해 개인의 의료 기록, 신체검사 결과, 수면시간 등 건강 상태와 흡연 같은 생활습관을 기반으로 점수를 매겨 이동을 제한하는 방안을 도입할 계획이다. 이두갑 서울대 서양사학과 교수(과학기술사 전공)는 이를 ‘평가의 외주화’라고 불렀다. 이 교수는 “기존에 사람들이 했던 판단을 기술적인 판단으로 대체하고, 소셜 네트워크를 분석해 사회·정치적 흐름을 읽고 그에 기반해서 예측하고, 사람들의 행동이나 생각을 조작할 수도 있는 큰 흐름이 보인다”라고 설명했다. 후자와 관련해 페이스북을 예로 들었다.
페이스북은 맞춤형 광고 외에도 사회관계망 서비스(SNS) 상에서의 인간의 사회적 관계에서 생기는 다양한 데이터를 감시·수집해 이윤을 창출하고 있다. 2018년 초 케임브리지 애널리티카라는 정치컨설팅 업체가 페이스북 가입자 수백만 명의 프로필을 동의 없이 수집해 정치 광고에 활용해 논란이 된 것이 대표적인 예다. 페이스북은 이후에도 가짜 뉴스나 혐오 표현을 제제하라는 요구에 소극적인 태도로 일관했다. 최근에서야 미국 극우 극단주의 운동 ‘부걸루(Boogaloo)’ 관련 게시물이나 도널드 트럼프 미 대통령의 혐오 발언을 방치했다는 이유로 기업들의 광고 중단 운동이 확산하자 뒤늦게 콘텐츠 규제에 나섰다. 이광석 교수는 “페이스북이나 유튜브가 끊임없이 극단적인 콘텐츠를 노출해 사람을 끌어들이는 실험을 하고 있다”면서 “특정 성향에 맞는 콘텐츠, 가짜 뉴스를 노출해 기존의 성찰적이고 숙의적인 판단이나 의사결정 과정을 약화시킬 수 있다”라고 말했다.
페이스북의 로그인 화면. Photo by Kon Karampelas on Unsplash감시 자본주의는 정보의 삭제권과 잊힐 권리를 보장하거나 유해 콘텐츠 제재 등 정부나 사법부의 조치를 ‘부당한 규제’로 선전했다. 온라인 서비스의 초국적 성격을 강조하며 국가 규제를 회피한다. 기술 혁신이 빠르게 이뤄지기 때문에 정부는 규제해선 안 되며, 사회문제를 기술로 해결할 수 있다고 강조한다. 디지털 기술은 소비자의 권리를 취약하게 만들기도 한다. 개인정보처리 방침이 담긴 약관이 디지털로 바뀌면서 수시로 변경되고 양도 많아져 기업에 유리하다.
한마디로 “더 나은 결정을 내릴 수 있도록 하는 능력을 준다”라고 하지만 이를 거부할 권리는 주지 않는다. 주보프 교수는 “산업 자본주의가 자연을 훼손했듯, 감시 자본주의는 자유로운 결정을 내릴 인간 본성에 위협이 된다”라고 경고했다. 이 때문에 감시 자본주의를 ‘위로부터의 쿠데타’라고 표현했다. 정부 권력을 전복하는 전통적 쿠데타가 아니라 인간의 결정권, 인간의 주권을 전복한다는 의미에서다. 각종 디지털 기기와 센서들이 ‘트로이의 목마’처럼 편리를 제공한 대가로 인간의 자유 의지, 미래를 결정할 권리를 제약한다는 것이다. 그래서 그는 “디지털 세상이 우리의 미래라면, 그런 세상을 만드는 주체는 우리 자신이 되어야 한다”라고 말했다. 디지털 세상의 규칙을 기업이 아닌 우리가 결정해야 한다는 뜻이다.
이두갑 교수는 “미국의 법학자 로런스 레시그는 <코드>라는 책에서 프로그래밍 코드가 법(code)처럼 우리의 삶과 경제활동을 지배하고, 인터넷이 현실세계와 같이 다양한 권력과 자본의 질서로 재편될 것이라고 경고했다”면서 “정보 사용에 대한 민주적 감시 절차를 마련해야 한다”라고 말했다. 그는 “카카오톡처럼 개인 소비자로서 네트워크 효과가 너무 강해서 특정 서비스에 가입하지 않으면 생활이 힘들 정도의 서비스가 있을 경우 최소한 자기 정보가 어떻게 수집·사용되는지 알 수 있도록 투명성을 보장하고 알고리즘의 판단에 대한 설명을 요구할 권리를 보장하는 법제도를 만들어야 한다”라고 밝혔다.
ps. 이 글은 <감시 자본주의> 책 전부를 보고 소개한 글이 아닙니다. 앞의 3분의 1 정도와 마지막 장을 본 후 썼습니다. 하지만 중간의 내용은 앞선 내용을 구체화한 내용이기 때문에 크게 흐름이 반전되는 내용은 없을 듯합니다. 두 분의 교수님을 인터뷰해 내용을 보완했습니다. 지면 제약 상 기사에 싣지 못하거나 요약된 두 교수님의 이야기를 더 합니다.
이광석 서울과학기술대학교 IT정책대학원 교수
"기술구조적 설계로는 플랫폼 자본주의라는 명칭이 있고, 그 핵심 기제가 감시 자본주의이다. 데이터 감시를 하지 않고는 실제 지금 플랫폼 경제나 플랫폼 자본주의에서 이윤을 내기 어려운 구조이다. 우리가 많이 쓰는 문화 플랫폼, 유튜브나 페이스북이나 인스타나 결국 이용자들이 데이터 생산의 주체가 되는 것이고 그 데이터를 기반으로 해서 이윤을 내는 과정이다. 결국 이용자 데이터의 수집, 분석, 처리와 예측을 통해서 이윤을 생산할 수밖에 없는 시스템이라 결국은 소비자 감시이며, 그런 기제 안에서 작동하는 자본주의 시스템이라고 할 수 있다."
"과거 우리가 흔히 알고 있는 물질 생산과 관련해서는 감시 자본주의가 크게 작동 안 한다. 공장 내 CCTV정도이다. 과거 테일러 시스템이 단위 내 동작 연구로 어떻게 효율적으로 노동분업을 위한 동선을 만들어 주어진 시간 안에 최대의 생산성을 끌어내느냐를 본다면, 지금은 이용자들의 생체 데이터와 활동 데이터를 본다. 그리고 과거 산업 시대엔 억압적 방식이었고 주어진 시간 안에 뭔가 하길 원했던 방식이라면 지금은 데이터 생산이 시간 구애 없이 자유롭게 이뤄지고, 이용자 측면에서 자발적 방식으로 데이터를 생산하고 그것이 결국 자본에 포획되는 방식으로 작동한다. 기업 입장에서 플랫폼을 매개해서 이용자 활동을 대거 흡수한다."
"플랫폼이 일종의 플레이그라운드가 됐다. 예전 공장 시대와 다른 건 굉장히 자발적이고 놀이와 참여를 장려한다. 능동성을 굉장히 유발하는 기제이다. 예를 들어 유튜버가 12시간 찍어서 30분짜리 편집해 올리는데 장기적으론 대가를 바라지만 즐거워서 올리는 면도 있다. 과거 노동의 통제 방식과 다른 점이다."
이두갑 서울대 서양사학과 교수
"기술로 판단이 대체되는 다양한 흐름이 보인다. 소셜 네트워크를 분석해 사회적 정치적 흐름을 읽고 그에 기반해서 예측하고, 사람들의 행동이나 생각을 조작할 수도 있는 큰 흐름이 보인다. 이런 것들에 대해서 기본적으로 잘 모르고 있는 상황이다. 분석할 필요가 있는데 감시 자본주의가 그런 좋은 틀이 될 수 있다. 역사적 사례를 봤는데, 예를 들어 사람들을 신용 평가할 때 컴퓨터로 대체하니 객관적으로 보일 수 있다. 인간들의 편견이나 판단을 기계로 대체하면서 훨씬 객관적으로 평가할 수 있을 거라 기대했는데 실제 모인 데이터가 기존 사람들의 경제적 상황들을 평가한 것이다. 예를 들어 여성과 흑인이 경제적으로 기회가 별로 없는 상황에서 그런 데이터셋을 모으다 보니 그런 것이 자연스러운 상관관계처럼 보이게 된다. 즉 '여성이면 혹은 흑인이면 채무상환을 잘 못하더라'식으로. 빅데이터를 사용해 기존에 사회적으로 큰 힘을 발휘한 다양한 종류의 차별이나 사회적 위계, 경제적 불평등을 안 보이게 할 수도 있지만 그런 것이 여전히 나타나는 문제를 논의할 필요가 있다."
"사실 감시가 데이터를 모으는 작업이다. 역사를 돌아보면 19세기 미국에서 인구센서스로 대규모로 개인에 대한 정보 모으기 시작했다. 어떻게 보면 발명 같은 작업이었는데 그게 항상 보면 양측면이 있다. 긍정적 측면은 처음 만들었을 때 시민들이 정부에 각종 부족한 점들, 사회적 문제들을 드러내 주는 역할을 했다. 통계적 데이터를 모을 때 어떤 지역은 교육 투자가 부족하고, 어떤 지역 실업, 환경이 문제 식으로. 도시 인프라가 인구수에 비해 제대로 되어 있지 않다는 식으로 시민들이 정부에 다양한 보건 복지와 관련한 요구를 할 수 있는 근거가 되곤 했다. 항상 감시가 나쁜 건 아닌데 지금은 오히려 그 데이터를 어떤 방식으로 모으고 어떻게 쓰는지 시민들이 잘 모르는 상황이다. 의학적인 데이터 베이스가 항상 문제인데 정보 모으는 사람은 이걸 모아 새로운 치료법을 개발하거나 질병 전파 양태를 알아 시민들에게 경고하고 질병 진행을 추적하는 장점이 있다. 하지만 질병 걸린 사람들은 질병에 대한 감시 추적을 통해 다양한 방식으로 낙인이 찍히는 효과를 받게 된다. 에이즈도 그랬고 예전 결핵이 그랬다."
"중국 같은 전체주의 국가에서 정보를 모으면 그 정보를 의학적 치료로도 쓸 수 있으나 정치적 감시나 보복, 특정 집단에 낙인찍기로 사용될 수 있다. 정보 모으는 주체가 국가라면 그 정보 사용에 대한 민주적 감시 절차가 있는지 알아야 한다. 미국은 기업이 주도하는데 기업이 데이터를 모으고 사용하는데 대한 민주적 감시장치가 있는지 따져야 한다. 데이터가 일단 모이면 데이터 사용에 대한 다양한 평가와 감시 절차를 갖고 있어야 한다. 그런 것이 미비해서 걱정하는 것이다. 특히 중국같이 국가와 산업이 결탁해서 민주적 절차 없이 다양한 방식으로 오용할 여지가 있다."
"70년대부터 데이터를 가공해서 제공하는 회사들이 굉장히 많이 있다. 워싱턴 DC 근처에 정치 컨설팅하는 회사들이 많다. 오바마가 당선될 때 큰 역할을 했다고 한다. 알고 보면 하나의 산업이 있는 것이다. 신용정보 회사가 프로토 타입이고 지금은 신용정보만 아니라 정치, 소비 취향, 부, 교육 온갖 종류의 정보를 모아서 고객 요청에 맞게 가공해주는 서비스를 한다. 예를 들어 정부가 부동산에 대한 다양한 시민들의 불만이 있는데 어떤 계층이 어떤 불만을 표출하는지 알고 싶다면 회사에 요청하면 단순 서베이가 아니라 기존 정보를 갖고 미국은 어느 지역 집값이 어느 정도고 어떤 수준 사람이 어떤 견해를 갖고 있다 알 수 있다. 성별과 두세 가지 정보를 알려주면 거의 다른 것들을 완벽하게 예측할 수 있는 정도라고 한다. 그런 활동이 정치 컨설팅 마케팅을 비롯해 광범위하게 일어나고 있고 페이스북이 주로 하는 사업이 그런 것이다. 데이터 셋을 그런 회사들에게 판매하는 사업을 하는데 실제 판매를 너무 많이 해서 큰 문제가 된 것이다."
