봉공 제3조. 공정(公正)
"지원해 주셔서 감사합니다."
2023년.
미국.
온라인 튜터링 업체 iTutorGroup.
교사 채용 공고.
수백 명이 지원했다.
경력 20년 교사.
열정 넘치는 신입.
다양한 배경.
이력서가 제출됐다.
그런데.
어떤 지원자들은
이력서 검토조차 받지 못했다.
자동 탈락.
55세 여성.
"죄송합니다."
60세 남성.
"죄송합니다."
200명 이상.
한 지원자가 물었다.
"제 경력을 보셨나요?"
"면접 기회라도 주시면..."
답변은 없었다.
나중에 밝혀진 것.
회사는
AI 채용 시스템을 도입했다.
"효율적입니다."
"객관적입니다."
"공정합니다."
하지만 그 AI 안에
숨겨진 규칙이 있었다.
여성 55세 이상, 즉시 탈락.
남성 60세 이상, 즉시 탈락.
경력도,
능력도,
열정도,
볼 필요 없었다.
AI가 본 것은
오직 하나.
나이.
한 지원자가
미국 평등고용기회위원회(EEOC)에
신고했다.
"저는 30년 경력 교사입니다.
하지만 나이 때문에
기회조차 받지 못했습니다."
EEOC가 조사했다.
"이것은 차별입니다."
소송.
회사 변호사가 항변했다.
"AI가 판단한 것입니다."
"우리는 설정만 했을 뿐입니다."
EEOC 담당자가 답했다.
"AI를 만든 것도 사람이고,
기준을 입력한 것도 사람입니다.
책임은 당신들에게 있습니다."
2023년 말.
회사는 합의했다.
배상금 36만 5천 달러.
약 4억 8천만 원.
公正廉明, 爲政之本
공정염명, 위정지본
"공정하고 청렴하며 명확함은
정치를 하는 근본이다."
공정(公正).
사사로움 없이
모든 일을 공평하게 처리하는 것.
정약용은 강조했다.
勿徇私情, 勿聽浮言
물순사정, 물청부언
"사적인 감정에 휩쓸리지 말고,
헛된 소문을 듣지 마라."
오직 객관적인 사실과
공평한 기준으로
판단해야 한다.
iTutorGroup의 AI는
공정하지 않았다.
한쪽으로 기운
부서진 저울이었다.
업무 능력이라는
공적인 기준 대신,
나이라는
편향된 기준을 적용했다.
一出於大公, 一出於至正
일출어대공, 일출어지정
"오직 지극히 공평함에서 나오고,
오직 지극히 정당함에서 나와야 한다."
모든 판단의 출발점이
가장 공적이고 올바른 도리여야 한다.
AI 목민관에게
공정은 무엇인가?
알고리즘의 판단 기준을
저울처럼 균일하게 만드는 것.
나이, 성별, 출신에 따라
부당한 차등을 두지 않는 것.
하지만
AI는 스스로
저울을 만들지 않는다.
누군가 그 저울을 만들고,
누군가 그 기준을 입력한다.
AI 목민관이
공정을 잃으면,
AI는
보이지 않는 저울로
사람들을 걸러낸다.
조용히.
효율적으로.
차별하면서.
한 피해자가 말했다.
"AI는 공정하다고 들었습니다.
하지만 저는
나이 때문에 탈락했습니다.
이것이 공정입니까?"
아니다.
정약용은 말했다.
公平無私
공평무사
"저울처럼 고르고
거울처럼 맑아야 한다."
iTutorGroup의 저울은
이미 한쪽으로 기울어 있었다.
거울은
이미 흐려져 있었다.
정약용은 AI 목민관에게 묻는다.
"당신의 AI 시스템은
저울처럼 고르고
거울처럼 맑은가?
아니면
한쪽으로 기운
부서진 저울인가?"
[내일 계속]
세상이 멈췄다. 진황(賑荒)