상서고훈을 펼쳤다.
기원전 2300년.
순 임금이 즉위했다.
첫 번째 한 일.
"평(平)을 시행하라."
평(平)
공평, 평등, 균형.
공정.
구체적으로 무엇을 했을까.
강진 유배지에서 정약용은 이 장면을 다시 읽었다.
그리고 《상서고훈》에서 세 가지를 정리했다.
첫째, 법도를 고르게 했다.
지역마다 다르던 규칙을 통일했다.
누구에게나 같은 잣대를 적용했다.
둘째, 끊임없이 평가했다.
3년마다 관리를 평가했다.
잘하면 승진, 못하면 교체
셋째, 백성의 목소리를 들었다.
직접 지방을 순회하며 의견을 들었다.
제사를 지내는 신들까지 조사해 공정한지 따졌다.
2014년. 아마존 AI팀은 혁신적인 시스템을 만들었다.
이력서를 보고 자동으로 점수를 매기는 AI.
효율적이었다.
빨랐다.
객관적이라고 믿었다.
학습 데이터는 간단했다.
과거 10년간 채용된 사람들의 이력서.
문제는 그다음이었다.
과거 채용자 대부분이 남성이었다.
AI는 충실하게 배웠다.
"남성 = 우수한 지원자"
2015년.
내부에서 문제를 발견했다.
여성 지원자가 자동으로 감점당하고 있었다.
'여자 대학교', '여성 체스 클럽' 같은 단어에 감점.
수정을 시도했다.
2016년. 또 다른 편향이 발견됐다.
2017년. 계속 발견됐다.
2018년. 포기했다.
전체 시스템을 폐기했다.
정약용은 《상서고훈》에 썼다.
공정은 한 번 정하면 끝이 아니다.
끊임없이 살피고, 고치고, 검증하는 것이다.
아마존은 알았다.
하지만 4년간 방치했다.
순 임금이라면 물었을 것이다.
"법도가 고른가?"
아니다. 데이터가 편향됐다.
"끊임없이 평가했는가?"
아니다. 발견하고도 방치했다.
"목소리를 들었는가?"
아니다. 탈락한 여성들은 몰랐다.
5,000년 전 질문이 들린다.
우리는 답할 수 있을까.
다음 편: 1801년, 모든 것을 잃다.