서평8_알고리즘, 생각을 조종하다
산드라 마츠
일상에서 마주하는 광고나 알림이 유달리 내 마음을 정확히 알아 주어 맘에 드신 적 있나요? 그래서 무언가를 선택했다면 그것은 나의 선택일까요, 아니면 유도된 것일까요? 알고리즘이 나보다 나를 더 잘 알고 있다고 주장하는 사람이 있습니다. 이 책의 저자 산드라 마츠는 우리가 남긴 흔적으로 이루어진 빅데이터 안에 들어있는 통찰과 위험성에 대해 경고합니다. 사회관계망에 남긴 ‘좋아요’ 몇 개만 분석하면 내 성격을 알아낼 수 있고, 내가 검색한 기록을 통해 나의 정체성까지 정확하게 유추할 수 있다고 합니다. 그래서 우리가 남긴 데이터를 정교하게 수집하고 연결해서 경제적으로나 정치적으로 이용하려는 사람들이 많아요. 나의 정보가 다른 사람 손에 있을 때 내 정체성과 선택이 흔들릴 수 있는데, 바로 우리의 정보를 바탕으로 한 개인화된 설득으로 우리를 조종하기 때문이죠.
이런 개인화된 설득을 심리 타깃팅(psychological targeting)이라고 부릅니다. 알고리즘이 사람의 심리를 조종할 수 있다는 이야기는 영화에나 나올 법한데 현실이라고 합니다. 그렇다면 어느 정도까지 가능할까요? 여러 사례를 통해 데이터가 얼마나 정교하게 우리에게 파고드는지 알게 되는데, 가히 소름이 돋을 정도입니다. 일례로 케임브리지 어낼리티카가 미국 대통령 선거에서 보여준 정치 조작은 오랜 시간이 지나서야 알려졌다고 합니다. 접근 방식이 너무나 정교해서 본인이 조정을 당했다는 것을 알아차리기까지 오래 걸렸다고 해요. 저자는 빅데이터가 공익을 위해 사용되기를 바라는 사람이더라고요. 그래서 우리에게 유리하게 심리 타깃팅을 이용하는 방법에 대해서도 여러 사례를 통해 설명하고 있으니 천천히 알아보는 것도 좋습니다. 최악의 경우에는 우리를 조정하고, 착취하고, 차별하지만, 최선의 경우 우리와 상호작용을 하고, 교육하고, 우리의 권한을 키워준다니 심리 타기팅을 잘 활용할 방법을 심각하게 고민해 봐야할 때입니다.
심리 타기팅의 기본이 되는 나의 개인정보는 값으로 매기면 얼마일까요? 실험을 해보면 보통은 본인의 개인 정보가 얼마나 소중한지 몰라 헐값에 넘긴다고 합니다. 그러나 여러 사람의 정보가 합쳐져 빅 데이터가 되면 얼마나 큰 가치가 있는지 여러 사례를 통해 알게 되면 개인정보을 헐값에 넘길일이 아니라는 것을 알게 됩니다.
요즘 개인정보 유출이나 불법 거래가 국내 문제가 되었는데 이 문제도 책을 통해 근본적인 고민부터 시작할 수 있다는 걸 알게 되었어요. 개인정보 보호를 위해 국가에서 이용하는 개인정보 보호 정책에 사용하는 기본값을 비교해 보는 방법이 있습니다. 바로 개인정보 이용에 대한 '취소 옵션'과 '등록 옵션'인데요. '취소옵션'은 기업이 합법적으로 접근 가능한 개인 정보를 모두 수집하는 것을 원칙으로 하고, 원치 않는 사람은 스스로 조치를 취하면 탈퇴를 해야합니다. 억울하지 않은가요? 무조건 우리 정보를 가져가는 것이 기본이고, 내 정보를 이용하지 말라고 취소를 해야한다면, 그 방법을 찾기도 어렵고, 더군나 우리가 가입하는 곳마다 일일이 취소를 하러 돌아다닐 시간도 없잖아요?
만약에 '등록 옵션'이 기본이면 어떻게 될까요? 그러면 개인 정보를 보호하기도 쉬워지고 내 정보를 가치를 높이 계산하게 됩니다. 사람들은 개인정보 소유권을 갖고 있다가 기업에 넘겨주며 그 가치를 더 크게 인식합니다. (이러한 내용은 여러 실험에서 밝혀졌어요. 사람은 자신이 갖고 있던 것에 많은 가치를 부여해서 값을 높게 부르게 됩니다.) 우리나라는 아무래도 취소 옵션을 취하고 있는 것 같죠? 그렇다면 어떻게 내가 원하는 서비스도 이용하고 개인정보도 보호할 수 있을까요? 어떤 사이트를 이용하기 위해 반드시 개인정보사용에 동의해야하는 경우가 많아요. 가입한 곳도 많은데 어떻게 일일이 내 개인정보를 보호할 수 있을까요. 이 책에서는 데이터를 스스로 관리하는 방안과 웹이 아니라 로컬로 정보를 보호하는 것을 넷플릭스의 사례를 들며 대안으로 제시하기도 합니다.
개인은 알 수 없는 알고리즘의 발전 방향이 두렵기도 하지만, 더이상 알고리즘에 휘둘리지 않고 데이터가 우리를 위해 일하도록 만들어야 한다고 저자는 역설합니다. 개인에게 가능한 일인지도 모르겠네요. 저자는 몇 가지 제안을 하고 있는데, 우리 사회도 데이터가 우리의 심리를 설계하는 단계에 왔음을 인지하고 그 위험성에 빠지지 않을 방법을 같이 모색해야할 때입니다.
