brunch

매거진 책을 읽고 남깁니다

라이킷 9 댓글

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 스윗드림 Aug 13. 2021

시민의 편리를 위해서인가 아님 정부의 궁금증을 위함인가

『친절한 독재자 디지털 빅브라더가 온다, 한중섭』을 읽고

영화 <마이너리티 리포트>를 보면 홍채 인식 기능으로 정부는 모든 국민을 감시한다. 홍채를 스캔했을 뿐인데 어느 지하철역에서 타서 어디에서 내리는지 또 관심사에 따른 맞춤형 광고를 제공한다. 개인의 정보가 유출되고 있는 것이다. 감시와 통제가 만연하는 이 세대에 친절하지만 독재자인 '빅브라더'를 소개한다. 페이스북은 고객의 데이터를 정부기관 등 삼자에 판매함으로써 제공한다는 루머를 지울 수 없었다. 뉴욕타임스에 따르면 소매업자, 차량 제조업, 미디어 업계가 고객 정보를 이용하고 있다.

예로 마이크로소프트의 Bing은 'virtually all'이라는 페이스북 친구의 친구를 동의 없이 누군지 볼 수 있다 또한 뮤직 스트리밍서비스 판도라와 영화리뷰 플랫폼인 Rotten Tomatoes에 가입자의 친구 정보를 제공한다. 애플은 유저가 페이스북 세팅에 공유하지 않음이라고 선택해도 주소록과 캘린더 정보에 접근할 수 있다. 넷플릭스, 스포티파이, 캐나다 로열은행은 모든 참여자의 채팅을 읽고 쓰고 또 지울 수 있다. 소니, 마이크로소프트와 아마존은 회원의 친구 이메일 추출이 가능하다.[1] 이는 "편리한 기술인가, 효율적인 감시 체계인가?"

학부시절 회계정보시스템(Accounting Information System)을 공부할 때이다. 대형 슈퍼마켓 체인인 타깃(Target)은 이미 고객의 구매정보를 마케팅에 이용했고 어느 여 고등학생의 임신 사실을 구매 목록을 보고 아버지보다 더 빨리 알아차릴 수 있었다. 현재 빅데이터는 사회 흐름을 파악해 미래를 내다보는 도구로 쓰이나 알고리즘이 개인 맞춤형 정보를 제공한다. 미국 워싱턴 DC 시장은 학생들의 학업성취도가 무능한 선생들 탓이라고 가정한다. 그래서 교원평가제인 임팩트(Impact)를 도입한다.

알고리즘 기반의 평가 시스템인 임팩트는 교사 206명 중 하위 5%를 실패자로 평가하여 해고하였다. 학생들과 학부모들에게 훌륭한 교사로 평가받는 새라 와이사키도 그중 한 명이었다. 이 평가 기준은 전년도 학생들과 현 학생들의 시험 점수 격차였다. 교사가 수업할 때 학생들의 참여를 얼마나 이끌어냈는지, 특정한 수업기술을 얼마나 사용했는지 개인적 또는 가정적 문제를 관리했는지는 철저히 배제된 상태였다. 결국 새라는 동료와 교장의 추천을 받아 다른 학교로 이직할 수 있었다. 워싱턴 당국은 알고리즘에 문제는 없었다고 항변했다.

이러한 평가 제도는 '인간의 편견'이 고스란히 담겨있다. 그 평가 제도를 만든 누군가의 편견으로 나머지 사실은 배제된 채 알고리즘이 중립적이고 공정하리라는 잘못된 믿음을 주는 것이다. 이러한 수학적 통계적 알고리즘은 탐욕을 부추겨 인간을 인종, 재산, 성격별로 분리하여 카테고리화 시키고 등급을 매긴다. 신용점수를 평가하고, 스마트폰 사용시간 검색 등을 이용해 순식간에 MBTI처럼 어떠한 인간이라 판단을 내리는 것이다. [2]

기업의 재무와 성과에 관한 보고서인 재무제표에는 가장 중요한 '인적자원'이 빠져있다. 알고리즘에도 가장 중요한 태도를 규정하는 주관적 '정성적 평가'가 빠져있는 것이다. 그저 정량적 평가만이 공정하다 치부하며 정성적 평가에 대해서는 평가자의 주관이 들어간다는 이유를 빌미로 무시하는 것이다. 알고리즘, 데이터는 개발자와 집행부의 편견이 가득 들어있는 것이다.

우리는 그들의 알고리즘 속에서 카테고리화되고 등급이 매겨진다 @Markus Spiske, Unsplash

포스트 코로나 시대는 결코 이전과 같지 않을 것이다. 다가올 초감시사회에 우리들의 몸과 마음은 모두 데이터로 환원되어 감시당할 확률이 높다. 데이터를 수집하고 활용할 권한을 가진 디지털 빅브라더들이 우리의 생각을 통제하고, 특정한 행동을 유도하고, 더 나아가 우리의 마음을 들여다보고 해킹하는 일은 더 이상 공상과학영화만의 이야기는 아니다. 디지털 빅브라더는 포스트 코로나 시대의 초감시사회를 지배하는 ‘친절한 독재자’로 군림할 것이다.
「나는 고발한다」중에서

올더스 헉슬리의 《멋진 신세계》, 예브게니 이바노비치 자먀친의 《우리들》, 조지 오웰의 《1984》은 3대 SF 디스토피아 소설이다. 정부의 감시카메라 설치나 개인 정보 사용 관련 뉴스가 나올 때 자주 쓰는 '빅브라더'는 소설 《1984》에서 유래되었다. 저자는 페이스북, 구글, 아마존 등 첨단 기술을 사용해 전방위적인 감시를 시행하고 있는 테크 기업들을 '디지털 빅브라더'라 일컫는다. 전자 출입 명부, 안면 인식기기, 위치 추적 앱으로 우리는 감시당하고 평가당하고 조종당할 것이라고 한다.

"감시의 역사는 권력을 가진 주체가 그렇지 못한 평범한 사람들의 신원과 상태를 파악하고 그들을 규범화된 환경에 귀속하려는 일련의 과정이었다. p27" 페이스북 부사장을 역임했던 차마트 팔리하피티야는 페이스북을 '도파민에 의해 작동하는 단기 피드백 순환 고리'라 정의하며 SNS가 마약과 본질적으로 다르지 않다는 사실에 엄청난 죄책감을 느낀다고 고백하였다. 기술의 발전은 그 기술을 만든 플랫폼 1프로와 열심히 그 제품을 사용하는 나머지 99프로만 있을 뿐이다.

미국 정보기관 NSA의 전 요원 에드워드 스노든의 폭로로 세계는 혼란에 휩싸였다. 우리가 매일 사용하는 주머니 속 스마트폰이 알고 보니 정보기관의 감시장치였다는 사실에 사람들은 경악했다. 그러나 이에 반감을 가진 것도 잠시, 사람들은 금세 편리한 스마트폰에 다시금 길들여졌고 개인 정보가 노출되고 제3자에게 감시당하는 것을 대수롭지 않게 여겼다. 인터넷 기업들은 단 1분이라도 더 사용자를 붙잡아 두기 위해 갖가지 중독적인 장치(뇌의 도파민을 자극하는 빨간색 알림, 추천 콘텐츠, 팝업 정보 등등)를 고안해 냈고 우리는 스마트폰에 점점 종속되었다.
「디지털 냉전의 서막」중에서

브루스 윌리스 주연의 액션 스릴러 영화 <머큐리>를 다시 보았다. 미국방 일급비밀인 코드명 '머큐리(Mercury)'를 해독한 천재 자폐아를 살해하려는 NSA가 보낸 암살자와 보호하려는 FBI 요원 브루스 윌리스의 치열한 싸움이다. 미 정보기관이 일급비밀 코드에 투자한 노력을 헛되이 되지 않게 하기 위해 그 암호를 푼 자폐아 부모를 살해하고 어린아이까지 손보려는 내용이다.

이런 일이 충분히 현실로 일어날 수 있다. 기관이 꾸며낸 일을 알아낸 자는 숙청하고 나머지는 그대로 중독되어 감시당하는 것을 대수롭지 않게 여기는 것이다. 정부와 글로벌 인터넷 기업들의 합작이 오늘날의 빅브라더인 '디지털 빅브라더'이다. 친절한 독재자는 시민들 위에 군림하게 되는 것이다.