기술을 활용한 편향 완화 전략

AI는 거들 뿐

기술 기반 편향 완화(Technological Debiasing)는 주로 직관적이고 빠른 사고를 담당하는 "시스템 1"의 부정적 영향을 완화하고, 논리적이고 신중한 사고를 담당하는 "시스템 2"를 활성화하여 편향을 줄이는 데 초점을 맞춥니다(Stanovich & West, 2000). 시스템 1은 빠르고 암묵적이며 감정에 의존하는 사고방식으로, 모호하거나 익숙하지 않은 상황에서 더 자주 활성화됩니다. 이는 편향적인 판단(예: 고정관념의 사용)을 유발할 가능성을 높입니다. 반면, 시스템 2는 느리고 명시적이며 논리적인 사고를 통해 편향된 결정을 억제합니다. 예를 들어, 이스라엘 판사들의 가석방 결정 연구(Danziger et al., 2011)에서, 피로로 인해 판사들이 가석방 신청을 거부하는 기본 선택(default choice)으로 돌아가는 경향이 확인되었습니다. 그러나, 식사 시간의 휴식 후 시스템 2가 회복되면서 가석방 승인이 다시 증가했습니다. Correll et al.(2002)의 비디오 게임 실험을 통해, 흑인 대상을 무장 여부와 상관없이 더 자주 오발하는 "슈터 편향(Shooter Bias)"이 시간이 부족하거나 피로 상태에서 더욱 심화되는 현상이 관찰되었습니다.

기술적 편향 완화 접근법에서는 의사결정 전에 평가 기준을 명확히 설정하여 암묵적 편향을 억제하는 의사결정 과정의 구조화가 중요한 역할을 합니다. 즉, 충분한 시간 제공을 제공하여 빠른 결정을 요구하는 환경을 개선하거나, 편향 가능성이 높은 경우 더 많은 시간을 제공하여 시스템 2 사고를 유도할 수 있습니다. Casey et al., 2012). 아울러, 과거 데이터와 결과를 바탕으로 입력(예: 범죄 이력)을 출력(예: 재범 가능성)으로 매핑하는 자동화된 통계 모델을 구축하여, 개인적 편견을 배제한 예측이 가능하도록 할 수도 있습니다 (Dawes, 1971). 이러한 기계 학습 모델은 전문가의 판단을 보완하거나 대체할 수 있으며, 특히 암묵적 편향이 영향을 미치는 상황에서 편향된 의사결정을 방지합니다.

개인적으로 익명화 및 채용 절차의 개선에 대한 사례 연구가 흥미롭습니다. 미국 오케스트라에서 익명 오디션(blind audition)을 도입한 후 여성 연주자 채용 비율이 증가한 사례 (Goldin & Rouse, 2000)가 있고, 약 1000개 기업을 대상으로 진행된 익명화 이력서 실험(Behaghel et al., 2014)에서는, 여성 지원자의 회신율(call-back rate)이 증가한 반면, 이민자 및 빈곤 지역 거주자에 대한 회신율은 감소했습니다. 이는 실험에 참여한 기업들이 이미 소수 집단을 우대했던 기업들이었기 때문에 발생한 결과로 분석되었습니다. 독일에서 8개 조직을 대상으로 진행된 실험(Krause et al., 2012a)에서는 익명화가 소수 집단에 대한 차별을 감소시키는 결과를 보였습니다. 이러한 익명화된 표준화 양식을 활용한 절차가 효과적이고 효율적인 방법으로 확인되었음을 의미합니다. HR 및 조직 관리에서의 적용한 사례(Bartoš et al., 2013)도 있습니다. 즉, 소수 집단 이름이 적힌 이력서에 대해 채용 담당자가 덜 주의를 기울이는 현상이 관찰되었습니다. 이를 기반으로 초기 평가에서 이름과 같은 그룹 속성을 제거하는 익명화가 편향 감소에 기여할 수 있음을 제안했습니다.

실험적 익명화 채용 절차는 특정 맥락에서 효과적일 수 있지만, 일반화 가능성이 제한적입니다. 예를 들어, 기술적 편향 완화 전략은 단기적 효과가 검증되었지만, 장기적 효과에 대한 연구는 부족합니다. 또한, 편향이 작동하는 방식은 상황과 문화적 맥락에 따라 다릅니다. 따라서 한 환경에서 성공적인 접근법이 다른 환경에서는 비효율적일 수 있습니다. 마찬가지로, 자동화 시스템과 AI 모델도 설계자와 데이터의 편향에 영향을 받을 수 있어, 철저한 검토와 모니터링이 필요합니다. 이처럼 기술적 편향 완화는 채용, 사법, 교육 등 다양한 분야에서 차별을 줄이는 데 중요한 도구로 자리 잡을 가능성이 크지만, 지속 가능하고 보편적으로 적용 가능한 솔루션으로 발전하기 위해서는 기술적 개입의 장기적 효과를 추적하는 연구와 함께 다양한 사회적 환경에서 효과를 검증하고 조정하는 노력이 필요합니다.

Source: Handbook of Economic Field Experiments – Chapter 8. Field Experiments on Discrimination by Bertrand Marrianne and Duflo Ester