효율성과 도덕 사이의 끝나지 않을 전쟁
<대량살상 수학무기> 독후감
“안녕하세요” 아침 회사 회전문을 열고 들어가며 만나는 사람에게 인사를 건낸다. 엘리베이터에서 만난 옆 부서 사람과 짧게 이야기를 나눈다. 회사에 들어가 주말에 친구들과 먹었던 음식을 SNS에 올리고, 돌아오는 주에는 친구의 결혼 파티에 초대되어 기쁘다는 말도 트윗에 올린다. 지난 주에 걸어두었던 대출 심사 결과도 기다린다.
이 모든 과정이 5점 만점의 점수로 평가된다면? 심지어 약 30초간 만났던 옆 부서 사람과의 대화도 5점 만점으로 평가되며, 그 결과를 그 자리에서 알림으로 받는다면? 대출 심사를 받고, 집을 사는 것, 비행기표를 사고, 차를 빌리는 것, 심지어 친구의 파티에 초대되는 것까지 철저하게 그 사람이 모든 행동을 통해 받았던 5점 만점 점수의 평균인 신용점수로 평가된다. 블랙미러 시즌 3 에피소드1에 나오는 스토리다. 주인공은 친구의 파티에 참석하러 가는 길에서 한번, 두번 나쁜 평가를 받게 되며 4점대 초반에 머물렀던 그녀의 점수는 순식간에 3.9, 3.1, 2.5, 1.9 이렇게 순식간에 1점대의 ‘구제불능’으로 떨어져 이 사회에서 아무것도 할 수 없게 된다. 서로를 평가하고 그것을 스스로의 이익을 위해 쓰는 세태가 끔찍하리만큼 자세하게 나와있어 소름끼치지만, 이또한 지금 좋아요로 서로를 평가하는 SNS의 세태와 부정적 피드백 루프의 현실을 과장한 것일뿐 약 20년 뒤 그렇지 않을 것이라는 보장이 없다. 이것이야말로 저자가 씹어대는 ‘대량살상 수학무기’의 끝판왕일 것이다.
오늘날 일상생활의 많은 것들이 ‘수학’과 ‘알고리즘’으로 점철되어 있고, 앞으로도 그 경향성이 심해졌으면 심해졌지 절대 덜하지 않을 것이란 것은 공감한다. 회사에서도 등급제 평가시스템이 도입되어 있고, 한번 최저 등급을 받은 사람의 이미지는 ‘암묵적으로’ 다음 평가에 반영되어 평가자들의 정성적 평가에 참작된다. 인터넷 광고는 우리가 생각하는 것보다 훨씬 더 정교하여, 모바일에서 어떤 사이트를 보았는지, 롤링을 하다 어느 이미지에서 몇 초간 머물렀는지, 지금 스마트폰에 깔려있는 앱이 무엇무엇이 있으며 유사 부류의 어떤 앱을 추천을 해야하는지까지도 다 트래킹 가능하다. 그리고 저자가 말한대로 이 피드백 루프는 ‘피드백’이라는 말 그대로, 한번 데이터가 입력되면 계속 그쪽으로 피평가 자료를 몰고가는 경향성이 있으며 결과는 계속 확대재생산된다. 때로는 이런 평가시스템이 한 사람의 삶을 나락으로 빠뜨리기도 한다.
이런 명확한 사실을 조목조목 찝어낸 뒤편에 불편했던 점은, 자본주의 사회에서 효율성을 향해 달려가는 게 나쁜 것인가? 정말 대출 산업 자체가 본질적으로 약탈적인 것인가? 정부가 아닌 이상, 이익추구집단에게 정의 구현이나 모두의 이익을 위해 알고리즘을 만들어 내게 할 명분이 있는가? 그렇다면 그것을 강제하는 주체는 누가 될 것인가? 솔직히 말하면 리드를 따서 마이크로 타겟팅을 하는 것을 비판하는 저자의 의견에는 동의하지 못하겠다. 효율성을 극대화를 위해 타겟을 만들어 내고, 그 안에서 알고리즘을 통해 더욱 정교한 타겟팅을 하는 것이 민주주의의 적이자 없어져야 할 해악이라고 말하는 논리에는 피해의식이 아닌가할 정도로 공감하지 못했다.
다만 알고리즘에도 히포크라테스 선서가 어느 정도 필요하다는 그 중점에 깔린 저의에는 동의한다. 데이터 과학자들도 알고리즘을 만들 때 그 모형이 오남용되고 잘못 해석될 가능성에 대해 충분히 고민하고 처음부터 도덕적인 감정은 거쳐야 할 것이다. 이런 자생적인 도덕적 감정을 강제할 수 있을만큼 법률이 변해야 하며, 위험성에 대해 사람들을 끊임없이 일깨워 주어야 한다는 것에는 동의한다. 다만 효율성을 추구하는 것이 당연한 이 자본주의 사회에서는 항상 이 ‘어느 정도가 어느까지일까’ 정하는 사회적 합의에 도달하는 것이 어려운 것이기 때문에 끝나지 않을 전쟁이 예상된다.
<대량살상 수학무기> - http://book.naver.com/bookdb/book_detail.nhn?bid=12556403
