<마이너리티 리포트>
현실판 마이너리티 리포트의 장벽
마이너리티 리포트, 2002
2054년, 워싱턴 DC에서는 프리크라임이라는 치안유지시스템을 도입한지 6년 이래 단 한 건의 살인사건도 발생하지 않아 시스템을 전국에 확대하기 위한 투표가 이루어질 예정이었다. ‘프리크라임’은 범죄가 일어나기 전에 아가사(Agatha), 대쉬(Dash), 아서(Arthur)라는 3명의 예지자들이 예견하는 리포트로 범죄를 미리 예측하여 범인을 잡는 범죄예방시스템이다. 프리크라임은 치안시스템 관리국에서 근무하고 있던 존 앤터튼의 살인을 예견하고, 이에 존은 혼비백산하여 사건의 전말을 밝히고자 한다.
제목에서 드러나는 '마이너리티 리포트'의 사전적 의미는 '소수의 반대 의견서'이다. 영화 속에서 예언자 셋의 예언 중 일치하는 다수 의견은 '머조리티 리포트(Majority Report),' 다른 하나의 소수 의견은 '마이너리티 리포트(Minority Report)'라고 불리우며 머조리티 리포트만 프리크라임에 전달된다.
미래의 살인자로 지목된 존 앤터튼은 모순적이게도 프리크라임 시스템의 맹목적인 추종자였다. 존 앤터튼은 시스템은 완벽하다고 주장하고, 프리크라임 감사를 위해 연방정보국에서 파견된 대니 워트워는 시스템이 완벽하더라도 "결함은 언제나 인간에게 있소." 라는 대사를 남기며 둘의 사상은 대립한다. 하지만 제목에 드러나는 다수와 상반됨을 뜻하는 마이너리티 리포트의 존재 자체가 인간의 결함을 함의하고 있다.
그렇다면 현실에서 구현된 치안유지시스템은 어떨까? 현실에서도 결함이 존재할까?
2016년도에 탐사보도매체인 ProPublica에 의해서 재범확률을 예측하는 노스포인트(Northpointe)사가 개발한 알고리즘 컴파스가 형사 재판을 받는 개인의 위험성을 예측할 때 백인과 흑인에 대해 차별적인 판단을 내린다는 통계가 재기되었다. 컴파스는 플로리다 주 브라워드(Broward) 카운티 법원에서 선고받은 7000명 이상의 피의자의 데이터를 토대로 피고인의 일반범죄 재범률과 강력범죄 재범률을 추정하여 피고인의 위험도를 1(최저위험군)에서 10(최고위험군)까지의 숫자로 결정하여 판사에게 제공함으로써 판사가 형량을 선고하거나 가석방을 결정하는 보조자료로서 참조되던 알고리즘이었다. 조사결과 백인의 경우에는 위험도가 1에 해당되는 사람이 가장 많았고, 이후 10까지 그 비율이 계속 감소했음에 반해, 흑인들의 경우는 1부터 10까지 비슷한 비율로 위험도 판정을 받아 흑인의 경우 재범률이 높다고 판정을 받은 사람들이 백인의 경우보다 많았다. 하지만 재범률이 높은 것으로 예측되었지만 실제로 2년간 범죄를 저지르지 않은 것으로 드러난 경우가 흑인이 45%로 백인 23%의 두 배에 달했으며 재범률이 낮은 것으로 예측되었지만 실제로 2년간 범죄를 저지른 경우가 백인이 48%로 흑인 28%보다 훨씬 높다는 사실이 관찰되었다. 즉, 컴파스는 흑인을 향해 인종차별적인 판결을 내린 것이다.
초창기 치안 예측 알고리즘은 예측을 수행할 때 형평성을 위해 인종 데이터에는 직접적으로 접근할 수 없었지만 모델은 우편번호 등의 지리적 데이터에 크게 의존했고, 지리적 데이터는 인종과 연관되었다. 성별과 나이와 인종과 같은 재범률과 연관성이 떨어지는 데이터를 블라인드 처리한 모델이라 해도 보호되는 특성과 통계적으로 연관된 다른 특징을 통해 여전히 관련된 정보를 코드화하여 알고리즘에 반영하고 가중치를 부여할 수 있었던 것이다. 결과적으로 치안 예측 프로그램에서 인종적인 정보는 우회적으로 코드화가 가능하도록 알고리즘으로 설계되어 결과에 반영되었다.
컴파스를 통한 현실판 마이너리티 리포트의 사례 역시 불완전한 시스템으로 재범률 예측을 정확하게 수행하지 못한 예시로, 일괄적인 효율을 보이는 시스템을 설계할 때 특히 그 과정에서 개인의 희생이 수반될 수 있기 때문에 불완전함에 대한 경각심이 필요함을 보여준다.
