우리는 예측 당하고 있다

[알고리즘]에 대한 딴생각

'당신은 얼마든지 예측 가능합니다'

 - 알고리즘

---

"제 이상형은 청순가련형이에요."

언제나 입버릇처럼 이상형을 얘기하던 후배가 갑자기 연락이 왔다. 드디어 평생의 반려자를 찾았단다. 그렇게 청첩장을 들고 나타난 후배의 옆에는 제수씨가 있었다. 청순가련할 줄 알았던 그녀는 가죽 재킷에 가죽 바지 차림이었다. 더 놀라운 것은 밖에 주차해 둔 오토바이였다. 할리데이비슨을 타는 남자가 조신해 보이지 않는 것처럼 검은색 BMW 바이크를 타고 온 그녀가 청순가련해 보이진 않았다.

1년 전, 서해 벌천포 캠핑장에서 캠핑을 즐기던 후배는 갑자기 나타난 검은색 바이크 때문에 먼지를 뒤집어써야 했고, 그 재수 없는 바이크 주인을 째려보다가 검은 머리 휘날리며 헬멧을 벗는 제수씨에게 그만 꽂히고 말았단다. 그로부터 1년 후 그녀와 함께 바이크를 타고 청첩장을 돌리고 있었다. 전혀 예측할 수 없는 것, 인생이란 그런 것이다.

애타게 찾던 이상형과 거리가 먼 연애의 결말은 일상다반사다. '우연한 만남' 혹은 '뜻밖의 발견'은 인생을 종잡을 수 없게 만든다. 하지만 그게 꼭 불쾌한 일은 아니다. 우리는 그렇게 예측 불가능하지만 우연히 찾아온 행운을 세렌디피티(serendipity)라고 말한다. 이런 세렌디피티가 있기에 나른한 일상 속에서도 뜻밖의 행복을 찾을 수 있다.

이상형과 비슷한 예로 '취향'이란 것도 있다. 취향은 주관적이다. 우리가 아름다움을 느끼는 감정엔 객관적인 기준이 없다. 레오나르도 다빈치의 모나리자는 누군가에겐 아름다운 작품일지 몰라도 누군가에겐 눈썹 없는 여인일 뿐이다. 그러므로 아름다움이란 대상의 본질이 될 수 없다. 대상과 바라보는 주체 사이에 교감이 있을 뿐이다. 그 교감을 임마누엘 칸트는 '자유로운 유희'라고 표현했으며 그것이 미학(美學)이고 그것이 각자가 지닌 취향이다.

문제는 주관적일 수밖에 없는 취향이 때론 객관적인 것처럼 나타날 때가 있다는 것이다. 한때 SK텔레콤 매장에 놓여 있던 설현의 입간판을 기억하는가. 그 앞을 지나가는 남자치곤 고개가 돌아가지 않는 사람이 없었다. 그것은 모든 남자들에게 본능과도 같은 '취향 저격'이었다. 이렇게 객관적인 것처럼 나타나는 취향 저격을 칸트는 '공통감(sensus communis)'이라고 표현했다.

18세기 칸트의 저작인 <판단력 비판>을 통해 처음 언급된 공통감은 21세기 밀레니얼 세대를 맞아 취향을 저격하는 알고리즘으로 구체화되기 시작했다. 당신에게 영화를 추천해주는 넷플릭스가 온전히 개봉한 순서대로 영화를 추천해 준다고 생각하는가. 페이스북의 뉴스피드는 진짜 시간 순서대로 나타나 당신의 이목을 끌어당기는 것일까? 정말 그렇게 생각한다면 당신은 세상 물정 모르는 순진한 사람이다.

사람들은 자신이 페이스북에 올린 글들이 아무런 가공도 거치지 않고 그대로 뉴스피드에 실린다고 믿는다. 아마 그랬다간 수많은 사용자들이 올린 뉴스피드에 질식할지도 모른다. 그곳엔 수많은 당신의 친구들, 당신이 팔로잉 하는 사람들, 당신이 좋아하는 페이지들이 넘쳐나는 곳이다. 그 많은 것들이 쏟아내는 뉴스들을 당신의 뉴스피드에선 전부 보여주지 않는다. 페이스북은 당신이 좋아할 만한 뉴스, 즉 취향 저격을 선별해서 보여준다.

페이스북은 당신에게 보여줄 것과 보여주지 않을 것을 구분해 준다. 동시에 당신이 올린 뉴스도 다른 누군가에게 보여줄 것과 보여주지 않을 것을 페이스북이 결정한다. 그것이 페이스북의 알고리즘이다.

평소 흠모하던 여성의 페이스북에 들어가 친구 요청을 했더니 그녀가 수락해 줬다면 얼마나 기쁜 일인가. 1분 1초가 멀다 하고 그녀의 뉴스가 뉴스피드에 올라오길 오매불망 기다리며 가장 먼저 클릭을 하거나 '좋아요'를 누를 것이다. 이렇게 몇 번 하면 페이스북의 알고리즘이 당신이 그녀를 좋아한다는 것을 알게 된다. 그러면 그다음부턴 그녀를 찾기가 쉬워진다. 페이스북은 그녀의 뉴스를 당신의 뉴스피드에 100% 반영할 것이다. 심지어 다른 누구보다 그녀의 뉴스가 가장 상위에 노출될 가능성이 높다.

이번엔 신이 나서 자신의 사진 중에 가장 잘 나온 사진을 페이스북에 올린다. 나와 친구를 맺은 그녀의 뉴스피드에 나의 사진이 나올 것이라 상상을 하니 저절로 웃음이 나오겠지만 천만의 말씀이다. 당신은 그녀의 취향이 아닐 수도 있다. 아마 당신의 뉴스를 클릭하거나 '좋아요'를 눌러본 적도 없을지도 모른다. 만약 그렇다면 당신의 잘 생긴 사진이 그녀의 뉴스피드에 보일 것이라고 절대 확신할 수 없다. 당신의 뜻대로 되지 않는것, 인생이란 그런 것이다.

페이스북에서는 서로 간의 상호작용이 친근함을 나타낸다. 친근함이 높을수록 뉴스피드에 우선순위로 반영된다. 이것이 친근성 변수(Ue)이다. 물론 당신이 그녀를 향한 변수와 그녀가 당신을 향한 변수는 당연히 다르다. 또한 가중치 변수(We)라는 게 있다. 페이스북은 '좋아요'보다 '공유하기'가 가중치가 높다. 그리고 사진과 동영상은 순수한 텍스트보다 가중치가 높다. 가중치가 높을수록 뉴스피드의 상위를 차지한다. 하지만 개인의 성향 차이도 영향을 미친다. 내가 만약 순수한 텍스트를 더 자주 클릭한다면 나의 뉴스피드엔 텍스트가 우선순위에 놓이게 된다. 마지막은 시간 변수(de)다. 가장 최근에 올린 뉴스가 당연히 우선순위를 갖는다.

이 모든 변수를 조합하면 페이스북의 취향 저격 법칙, 즉 알고리즘(R)을 알 수 있다.

우리는 이 알고리즘을 분석하려고 애쓸 필요가 없다. 아니, 무의미한 짓이다. 이것은 과거 어느 시점의 알고리즘일 뿐이다. 알고리즘은 계속 진화하기 때문이다. 당신이 페이스북을 쓰면 쓸수록 그것은 더욱 정교해진다. '라스트 액터(Last Actor)나 스토리 범핑(Story Bumping) 같은 듣도 보도 못한 알고리즘 기술들이 당신의 취향과 욕망을 바닥까지 긁어 준다. 마치 이세돌과 바둑을 두면 둘수록 강해졌던 알파고처럼 스스로 학습하는 딥러닝(Deep Learning)이 당신의 패턴을 낱낱이 파악하여 이렇게 얘기해 주는 것과 같다.

"당신은 얼마든지 예측 가능합니다"

페이스북만 그런 것은 아니다. 트위터, 인스타그램, 구글, 카카오톡은 물론이고 당신의 스마트폰에 깔린 각종 쇼핑몰 어플까지 전부다 마찬가지다. 지금 이 세상에 당신의 취향을 파악하지 않는 것들은 없다. 그리고 취향을 파악하기 위한 알고리즘에 상당한 투자를 한다.

넷플릭스는 우리에게 좋은 영화와 드라마를 추천해 주기 위해 알고리즘에 심혈을 기울이는 회사로 유명하다. 그들은 완벽해지기 위해 외부의 도움도 개의치 않았다. 실제로 48만 명의 영화 이용자 데이터를 공개하면서 향후 그 이용자들이 어떤 영화를 볼지 예측하는 알고리즘을 외부 개발자들에게 공모하기도 했다. 그 상금은 무려 백만 달러였고 최초의 수상자는 2009년 9월에 등장했다. 이후 넷플릭스 이용자의 개인 정보 유출 문제가 심각해지면서 공모는 지속되지 않았지만 알고리즘을 고도화시키는 작업은 소리 소문 없이 지속되고 있음이 분명하다.

나는 지금 알고리즘의 배후에 석연치 않은 목적이 있거나 음흉한 음모가 있다고 말하고 싶은 것은 아니다. 물론 그런 존재의 가능성을 부인할 순 없지만, 대체적으로 알고리즘은 우리에게 편리함을 주기 위해 개발된다. 이 세상은 엄청난 정보의 바다가 된지 오래고 그 안에서 현기증을 느끼지 않으려면 알고리즘의 도움이 필요하다. 우리가 차를 타고 처음 가는 목적지를 향할 때 내비게이션(이라는 알고리즘)에 의존할 수밖에 없는 것처럼 말이다.

알고리즘에 의존하면 이상형도 쉽게 찾을 수 있다. 흔히 알고 있는 '듀오'나 '가연' 같은 이상형 찾기 시스템도 알고리즘의 고도화를 추구한다. 계속 만나다 보면 꿈에 그리던 이상형을 찾을 수 있다. 내 후배가 진작에 듀오에 가입했더라면 그렇게 원하던 청순가련형의 여자를 일찌감치 만났을 지도 모른다. 그랬다면 바이크를 타고 청첩장을 돌리는 일은 없었을 텐데, 그걸 아쉬워해야 하는 걸까?

넷플릭스라면 내 후배에게 청순가련한 여주인공이 등장하는 로맨틱 영화를 1순위로 추천해 줄 것이다. 어바웃 타임, 비긴 어게인, 라라랜드, 로맨틱 홀리데이, 맘마미아 등등 실제로 후배는 그런 로맨틱한 영화를 매우 좋아한다. 하지만 나라면 넷플릭스 알고리즘과 전혀 다른 영화를 후배에게 추천해 줄 것이다.

그것은 액션 영화 '분노의 질주'다. 그 영화에서 바이크를 타고 타나 난 갤 가돗이 헬멧을 벗으며 머리를 찰랑거리는 순간 내 후배는 사랑에 빠질 것이라 확신한다. 아마 갤 가돗이 나오는 영화라면 그게 로맨틱 영화가 아니더라도 '원더우먼'까지 챙겨볼 것이 분명하다. 마치 갤 가돗을 닮은 제수씨한테 빠졌던 것처럼. 하지만 후배가 벌천포 캠핑장에서 겪었던 일과 제수씨를 본 적이 없는 넷플릭스 알고리즘이 그런 영화를 추천해 줄 수 있을까?

바로 그것이다. 알고리즘에선 '우연한 만남' 또는 '뜻밖의 발견'을 기대할 수가 없다. 예측 불가능해야지만 우리에게 찾아오는 특별한 행운, 그 세렌디피티가 종말을 맞이하게 된다.

알고리즘은 우리가 좋아하는 것들은 더욱 좋아하게, 싫어하는 것들은 더욱 싫어하게 만들어 줄 수 있다. 그것은 모든 것을 판단해야 하고 취사선택해야 하는 알고리즘의 숙명이다. 그런데 이 취사선택의 대상이 영화, 드라마, 쇼핑 같은 사물이 아니라 사람이라면 어떻게 될까? 그렇다면 누군가를 차별하게 될지도 모를 일이다. 지금부터 알고리즘의 세 가지 문제점을 짚어 보겠다.

첫째, 알고리즘은 우리를 차별할 수도 있다. 직원 채용 시스템을 생각해 보자. 대기업이라면 수집된 직원 정보만 해도 어마어마할 것이다. 이 방대한 직원 데이터를 통해 퇴직자의 특징을 분석해 봤더니 거주지에 따른 특징이 나타났다. 즉, 회사로부터 멀리 거주하는 직원일수록 이직할 확률이 높다는 분석 결과를 얻었다. 그렇다면 이 시스템의 알고리즘은 구직자의 이력서를 분석할 때 거주지가 먼 이력서를 탈락시킬 확률이 높다. 이것은 명백한 차별이다. 실제로 제록스(Xerox)사는 자신들의 직원 채용 시스템에 이런 규칙이 있다는 것을 뒤늦게 발견하고 알고리즘을 수정하기도 했다.

가장 심각한 차별은 인종 차별일 것이다. 미국에서는 직원 채용 시 인종을 고려하는 것을 법으로 금지하고 있다. 현실은 흑인의 지능지수와 SAT(미국 대학 입학시험) 점수가 백인보다 더 낮다는 것이 통계적 사실이다. 그럼에도 불구하고 인종에 상관없이 모두에게 동등한 기회를 주고자 하는 것은 알고리즘에 의한 논리적 귀결이 아니라 차별을 없애고자 하는 정치적 의지의 표명이다.

둘째, 알고리즘은 빈부의 격차를 조장할 수도 있다. 보스턴 시 정부에서는 보수 작업이 필요한 도로를 빠르게 찾아낼 수 있는 획기적인 앱을 개발했다. '스트리트 범프'라는 이 앱을 설치하면 운전자가 주행을 하다가 구멍 난 도로를 달릴 때 스마트폰이 덜컹거림을 감지해 기록하고 서버에 전송하게 된다. 그러면 시 정부의 모니터에서는 구멍 난 도로의 분포가 한눈에 파악되고 알고리즘은 파손 정도를 분석해 보수 작업을 지시해 준다. 정말 멋진 아이디어라고 할 수 있다.

하지만 이 앱은 불공평하게 사용될 수 있다. 스마트폰 사용자가 적은 구역에서는 사용자가 적기 때문에 구멍 난 도로가 집계될 확률이 떨어진다. 그 결과 빈부의 격차가 발생한다. 잘사는 동네는 계속 보수 공사가 진행되지만 그렇지 않은 동네는 도로가 부실해질 가능성이 더 높아지게 된다.

셋째, 알고리즘은 우리에게 세상의 반 쪽만을 보여줄 수도 있다. 예를 들어, 당신은 정치적으로 보수적이든 진보적이든 둘 중 하나의 성향을 가질 수 있다. 어쩌면 알게 모르게 당신의 정치적 성향이 알고리즘에 의해 파악당할 수도 있다. 그렇다면 그 성향에 따라 누군가에겐 보수적인 뉴스가 또 누군가에겐 진보적인 뉴스가 더 많이 노출될 수도 있다. 알고리즘은 정치적 균형을 맞춰주는 쪽으로 진화할까? 아니면 편파성을 강화하는 쪽으로 진화할까? 아마 이쯤 되면 당신도 의심하지 않을 수 없을 것이다.

마지막으로, 간혹 모든 알고리즘은 작동 원리를 공개해야 한다고 주장하는 사람들이 있다. 특히 유럽의 일부 정치인들이 구글의 알고리즘을 공개하라고 목소리를 높인다. 투명성을 주장하는 이유는 알겠지만 한편으론 세상 물정 모르는 소리다. 공개되는 모든 알고리즘은 노이즈 마케팅의 포로가 되거나 보이스 피싱처럼 범죄에 활용될 가능성도 더 높아지게 된다.

더군다나 고도로 발달한 신경망 알고리즘은 인간의 통제를 벗어나 스스로 학습하고 스스로 진화해 나간다. 고전적인 알고리즘과 달리 그 규칙성은 인간이 파악할 수 없는 차원이다. 심지어 그 알고리즘 개발자조차도 예측할 수가 없다고 한다. 앞으로 이런 신경망 알고리즘들이 미래의 스마트 기기를 조종하게 될 것이다.

너무 먼 미래의 딴생각일까? 당장 우리 앞의 현실을 보자. 대한민국은 2019년 4월부터 금융혁신지원특별법이 시행되었다. 풀어서 얘기하자면, 그동안 각종 금융 법규를 준수하느라 혁신적인 기술을 선보이지 못했던 금융기업들에게 규제를 완화해 준다. 그러면 앞으로 놀라운 서비스들이 나타날 것이다.

핀테크, 클라우드, 빅데이터, 인공지능, 블록체인, 가상화폐 등등, 뭔가 4차 산업혁명스러운 단어들이 새로운 금융 서비스의 이름 앞에 자주 붙게 될 것이다. 그 이면에는 당연히 알고리즘이 존재한다. 금융 기술은 돈을 다루는 기술이지만 그 돈을 대출받거나 신용평가를 받아야 하는 대상은 사람이다. 결국 우리는 알고리즘 앞에 놓일 수 있다. 누군가의 차별, 빈부 격차, 반쪽만 보여주는 세상, 이런 일들이 충분히 벌어질 수도 있게 된다.

앞으로의 세상은 너와 나라는 존재의 인식만으로 모든 것을 알 수 없다. 너와 나 그리고 우리를 바라보는 알고리즘의 존재를 인식해야 한다. 영화 <매트릭스>에서 주인공 네오가 빨간약을 먹었을 때 진짜 세상을 인지했던 것처럼, 우리는 어떤 것이 알고리즘인가를 인지했을 때 비로소 현실과 구분할 수 있게 된다.

이제 알고리즘을 느껴야 한다. 그것은 당신의 과거 흔적이다. 지난날의 행동 패턴이며, 고루한 취향이고, 현실에 없는 이상형이다. 끊임없이 재생되는 과거의 무한 루프가 바로 알고리즘이다. 당신의 삶이 아름다운 서사적 궤적이 되길 바란다면 방금 클릭했던 지난날의 흔적을 잊어라.

인스타그램 속 후배의 모습은 행복해 보였다. 물론 인스타그램엔 온통 행복한 사람들뿐이지만, 제수씨와 함께 한 후배는 진짜 행복해 보였다. 세렌디피티를 맞이한 후 바이크를 타고 청첩장을 돌리던 후배는 어느덧 신혼여행을 떠나 인스타그램을 남기고 있었다.

후배는 결혼을 준비하면서 예식장을 알아보고 신혼여행 코스를 비교하고 숙박시설을 예약하고 혹시나 모를 날씨 정보를 챙기느라 한동안 분주하기도 했다. 그런 일들엔 우연을 바라거나 뜻밖의 발견을 기대할 필요가 없다. 스마트폰의 각종 어플을 활용하면 되니까. 세렌디피티와 알고리즘의 조화, 인생이란 그런 것이다.

딴

우리는 예측당하고 있다

 - [알고리즘]에 대한 딴생각