대량살상 수학무기 - 인공지능이 초래하는 불평등
제목이 너무 딱딱해서 읽을까 말까 고민을 좀 했는데 의외로 너무 재미있었습니다. 다양한 예를 들면서 알기 쉽게 설명을 하기 때문에 이쪽 분야의 전문지식이 없어도 책의 내용을 이해하는데 전혀 문제가 없을 듯 합니다.
저자는 대학에서 수학교수를 하다가 헤지펀드에서 상품을 설계하는 퀀트로 이직을 합니다. 그러다 2008년 금융위기를 겪으면서 알고리즘으로 결정하는 자동화 기술에 큰 문제가 있다는 것을 깨닫고 이를 널리 알리기 위해 노력합니다.
우리는 보통 인간이 개입하지 않고 컴퓨터로 결정을 내리면 더 공정할 것이라 생각합니다. 하지만 이런 알고리즘 자체를 사람이 만들기 때문에 객관적일 수가 없고 누군가의 의도가 담기게 됩니다. 인공지능으로 데이터를 통해 학습을 했다고 해도 마찬가지입니다. 데이터 속에서 어떤 항목과 특징을 선택하느냐에 따라 그 결과가 크게 바뀔 수 있기 때문입니다.
신용평가를 하는 모델을 예로 들어보겠습니다. 단순히 금융거래 정보만이 아니라 그 사람의 주소에 따라 부자동네인지 가난한 동네인지 판단할 수도 있습니다. 또한 SNS를 통해 친구들의 정보를 구하고 그 사람들의 신용척도에 따라 점수에 영향을 주는 것도 가능합니다.
이렇게 기계적으로 판단되는 결과가 우리 인생을 좌지우지할 수도 있습니다. 한번 신용평가 점수가 낮게 나오면 대출을 할때, 취업을 할때, 할부로 차를 구입할 때 등 모든 사회생활에서 큰 불이익을 받게 됩니다. 또한 이런 사람들을 노린 약탈적인 타겟 광고에 의해서 다른 사람에 비해 높은 이자로 고금리 대출을 받습니다. 결국 경제적으로 더 어려움을 겪으면서 신용평가 점수 역시 떨어지게 되고 이런 악순환이 계속 될 수밖에 없습니다.
기술의 발전이 돈 많고 높은 위치에 있는 사람들에게는 더욱 큰 돈을 벌 수 있는 기회가 됩니다. 하지만 가난하고 힘없는 사람들은 사다리를 올라갈 수 있는 기회조차 박탈당하게 됩니다. 저자는 기업에서 사용하는 알고리즘을 감시하고 공정성을 해치는 요소를 포함할 수 없도록 법으로 강제해야 한다고 주장합니다. 하지만 이런 문제는 명확하게 보이는 것이 아니라 무엇이 잘못된건지 판단하기가 힘듭니다. 정부에서 규제를 할 의지가 있다고 해도 과연 그게 가능할지는 모르겠습니다.
