by
Aug 06. 2021
우리 고등학생 딸이 임신했다고요?
알고리즘이 인간을 이겨버리는 세상
어느 날 고등학생 딸이 한 대형 체인 슈퍼마켓에서 우편으로 보낸 쿠폰을 받았다. 그 전단지와 쿠폰을 먼저 본 아버지는 놀라고야 말았다. 분명 딸의 이름으로 온 우편물인데 쿠폰은 아기 옷과 다양한 요람 사진으로 가득했기 때문이다. 아버지는 고등학교에 다니는 딸에게 이런 광고를 보낸 대형 마트 체인인 타깃(Target)에 화가 나서 전화를 했다.
아니 우리 애보고 임신하라고 부추기는 거예요?
도대체 이런 걸 왜 보내는 건가요?
당황한 매니저가 딸의 발송용 봉투를 확인해 보니 전단지는 임산부 옷, 아기용 가구, 웃고 있는 신생아의 사진들로 가득 차 있었다. 매니저는 사과를 하고 며칠 후에 전화해 거듭 사과를 했다. 그러나 며칠이 지난 후 아버지가 다시 타깃으로 전화 다음과 같이 말했다. "사실 우리 애가 임신했어요. 8월이 예정이랍니다. 저번에 소리 지른 거 정말 죄송합니다."라고 답변이 왔다. 과연 어떻게 된 일인가?
타깃은 이미 십여 년 전부터 소비자의 구매패턴을 자체 회계프로그램으로 분석 중이다. 임산부는 마트 입장에서 VIP고객이기 때문이다. 타깃의 분석 프로그램에 따르면 초기 임산부는 로션을 무향으로 바꾸고, 또 임신 20주에는 칼슘, 마그네슘, 아연을 많이 산다는 사실을 알게 되었다. 또 출산일이 가까워질수록 무향 비누와 대량의 약솜을 구입함은 물론 손세정제와 가제손수건도 다량으로 구매한다는 사실을 알아냈다.
고객이 구매한 25개의 구입상품을 분석해 임신 여부를 분석하고 점수를 매긴 것이다. 예를 들어 애틀랜타에 사는 23세 제니가 3월에 코코아버터 로션과 큰 기저귀 가방을 장바구니에 넣고 아연, 마그네슘 영양제, 연한 파란색 담요를 추가했다면 그녀가 출산을 앞두고 있는 확률은 87%이며 8월 말에 출산 예정임을 확인할 수 있다. 중요한 점은 임신 개월 수에 맞게 제때 쿠폰을 발송하는 것이다.
그러나 타깃은 광고물을 보낼 때 "첫 출산을 축하합니다"라고 드러내 보내지 않고 은밀하게 광고한다. 기저귀, 유모차, 유아책과 함께 잔디깎는 기계 같은 다른 상품의 쿠폰을 함께 동봉하는 것이다. 예를 들어서 와인잔 옆에 유아 옷 쿠폰을 붙여 임산부가 불쾌하거나 추적당한다는 기분이 들지 않게 하지만 쿠폰을 쓰도록 유도한다. 타깃의 로고가 이미 과녁을 향하는 그림이어서 고객의 일거수일투족을 관찰한다고 느낄 수 있기 때문이다.
119년 전통의 종합 유통업체 타깃의 로고. 타깃은 이미 소비자를 겨냥하고 있다. 현재 빅데이터는 사람의 마음을 읽어내고 사회 흐름을 파악하며 미래를 내다보는 도구로 각광받고 있다.
방대한 양의 데이터를 알고리즘으로 계산하여 질서와 규칙을 찾아내는 빅데이터 분석이 결국 인간의 판단보다 더 중립적이고 공정하리라는 믿음이 깔렸다.
『대량살상 수학무기』
이전의 회계정보시스템이 고객의 소비패턴을 알려줬다면 이제는 알고리즘이 각 개인 맞춤형 정보를 제공한다. 유튜브 알고리즘은 최근 본 영상에 따라 연관 동영상을 추천하고 나도 모르는 사이 살짝 클릭해 계속 시청한 이후 또 다음 영상을 재생하게 된다.
익명으로 정보를 저장하는 쿠키는 사용자 패턴을 분석해 개개인 맞춤형 서비스를 제공하며 끊임없이 연속적으로 서비스에 빠져들게 만든다. 추천 동영상으로 이용자의 클릭을 유도해 시청시간이 기존보다 20배나 늘어났다.
그러나 알고리즘 안의 설계에서 어떤 데이터를 수집해야 하는지 아니면 사람의 가치관 반영은 얼마만큼의 가중치를 줄 것인지는 '사람의 편견'이 작용한다. 2013년 뉴욕 시민자유연맹 조사에서 14~24세 흑인 및 라틴계 젊은이들이 뉴욕 전체 인구의 4.7%로 극소수를 차지하지만 그중 40.6%가 경찰 불심검문을 경험했다.
그들 중 90% 이상은 아무런 죄가 없었다. 특히 알고리즘은 개인의 약점을 공략하여 카테고리화 한다. 익명으로 처리되는 사회적 약자와 가난한 사람들을 더 차별하고 소수의 부자들을 더욱더 부자로 만들어 준다.
그들 가운데 90프로 이상은 아무런 죄가 없었다. 사람의 편견이 작용되어 있는 것이다. @Care Corners미국의 핀테크 기업인 제스트 파이낸스는 알고리즘을 통해 신용평가를 한다. 데이터 중엔 온라인으로 대출신청서를 작성할 때 맞춤법이 맞는지 구두점을 제대로 찍었는지 작성 시간이 얼마나 소요되는지 등을 포함해 규칙을 준수하는 사람이 신용도가 높다는 가설을 한 것이다. 가난과 인종에 대한 차별이 교묘하게 숨겨져 있다.
매일 접하는 스마트폰을 통해 나의 일거수일투족은 기업들이 맘껏 볼 수 있는 상태로 노출되고 나도 모르게 그들의 체계 속에서 카테고리화 되고 등급이 매겨진다. 알고리즘이 인간을 이겨버리는 세상이 온 것이다. 개개인의 맞춤형 서비스를 제공하는 알고리즘이 과연 인간에게 이로운 지는 지켜봐야 할 문제이다.
공정해야 할 수학가와 통계학자가 알고리즘을 이용해 사람들의 탐욕을 부추겨 금융위기를 초래했고 가치중립적이어야 할 개발자는 인종, 재산, 성격에 따라 사람을 평가하는 모델을 개발했다.
『대량살상 수학무기』
알고리즘이 우리에게 맞추는가? 아니면 우리가 알고리즘에 맞춰지는가? @Markus Spiske, Unsplash