조직 내 DEI(다양성, 형평성, 포용성)와 AI
들어가며
기술의 발전은 언제나 우리의 삶의 질을 높여 왔고, 지금도 그 영향력은 여전히 큽니다. 그러나 기술 발전이 다양성, 형평성, 포용성 측면에서 항상 긍정적인 결과만 가져오는 것은 아닙니다. 산업혁명 시대 영국에서 여성 노동 인력이 차지하는 비율이 1851년 25%에서 1901년 10%로 급감한 사례는 기술 발전이 때로는 다양성, 형평성, 포용성을 저해할 수도 있음을 잘 보여줍니다(이재진, 2024). AI 기술의 발전이 다양성, 형평성, 포용성 증진으로 당연하게 이어지지 않는다는 생각을 가지고 있어야 하며, 기술의 발전 속에서도 다양성, 형평성, 포용성이 지속적으로 신장될 수 있도록 지속적으로 세심한 관심과 노력을 기울여야 합니다.
1. AI의 조직 내 DEI(다양성, 형평성, 포용성) 증진 기여
AI 기술은 조직의 다양성, 형평성, 포용성(DEI) 증진에 중요한 역할을 할 수 있습니다. AI는 채용, 승진, 업무 배치 등 인사 관련 의사결정 과정에서 발생할 수 있는 다양한 무의식적인 편견을 최소화하고 객관적이고 공정한 의사결정을 할 수 있도록 지원할 수 있습니다. 이는 다양한 배경을 가진 인재들에게 공평한 기회를 제공하고 조직의 다양성을 제고하는데 기여할 수 있습니다.
또한 AI 기술을 활용하면 조직 내 다양성 추이를 실시간으로 검토하고 모니터링할 수 있습니다. 구성원들을 대상으로 인구통계학적 특성, 경력특성, 업무 성과 등의 다양한 데이터를 수집하고 분석함으로써 다양성 제고를 위한 정책을 수행함에 있어 도움을 받을 수 있습니다. 예를 들어 조직 내 의사결정 과정에 특정 집단이 과소대표 되는 현상이 포착되면 그 원인을 분석하고 이를 개선하는 방안을 도출할 수 있습니다.
마지막으로 AI 기술을 활용하면 다양성을 증진하기 위한 인식제고 활동에서도 도움을 제공할 수 있습니다. AI를 활용한 다양성 교육 프로그램을 통해 구성원들은 자신과 다른 배경을 가진 사람들의 입장에서 생각해 보고 다양성 존중을 위한 문화를 몸소 배울 수 있습니다. 업무 수행과정에서 AI 프로그램이 다양성을 훼손할 수 있는 언행 등이 있을 경우 이에 대한 피드백을 항시 제공함으로써 DEI 친화적 조직문화를 형성하는 데에 기여할 수 있습니다.
2. AI의 다양성, 형평성, 포용성 위협 가능성
AI 기술은 조직의 다양성, 형평성, 포용성(DEI) 증진에 긍정적인 역할만 하지 않습니다. AI 기술은 DEI 증진에 기여할 수 있는 잠재력과 함께 위험 요인 또한 내포하고 있습니다. AI가 편향된 데이터를 기반으로 DEI 증진 업무를 수행할 경우, 편향된 알고리즘이 반영되어 오히려 차별과 불평등을 강화할 수도 있습니다.
그 대표적인 사례는 아마존의 AI 채용 사례입니다. 2014년부터 아마존은 채용에 인공지능 기술을 활용하였는데, 이 채용 과정에서 남성 지원자가 여성지원자보다 지속적으로 높은 점수를 받는 편향이 발생하여 지속적으로 논란이 되었습니다. 아마존 측에서는 이와 같은 편향을 바로잡기 위해 시도를 지속적으로 진행하다 결국 2017년에 해당 AI 채용 프로그램을 폐기하였습니(백승헌, 2024).
2019년 미국 뉴욕대의 AI Now Institute에서 진행된 연구에서 미국 13개 시 AI 활용 범죄예측시스템의 알고리즘 중 9개의 시스템에서 인종 편견 또는 오류가 드러난 사례도 대표적입니다(Richardson, 2019). 백인 동네에 비해 흑인 동네와 소수 인종 동네를 불균형하게 순찰 및 불법 검문을 벌인 결과 인종별 데이터에 오류가 생겼고 이 편견과 주관이 그대로 AI 시스템으로 까지 이어졌습니다.
3. 조직 내 DEI 친화적 AI 활용을 위한 제언
조직 내 DEI 친화적 AI 활용을 위해서는 우선 AI 모델 개발에 사용되는 데이터의 대표성과 공정성 확보가 무엇보다 중요합니다. 데이터 수집 과정에서의 편향성을 최소화하고, 엄격한 데이터 품질 관리를 통해 객관성을 유지해야 합니다. 이를 위해 IBM, Google, Microsoft 등 선도 기업들이 제공하는 AI 공정성 검증 도구를 적극 활용하여 데이터와 모델의 편향성을 지속적으로 분석하고 개선해 나가는 것이 도움 될 수 있습니다(삼성 SDS, 2023).
다음으로, AI 기반 의사결정에 대한 체계적인 거버넌스 확립이 요구됩니다. AI의 판단을 맹목적으로 신뢰하기보다는 잠재된 편향의 가능성을 항상 경계하는 자세가 필요합니다. 이를 위해 전사적 차원의 AI 윤리규범을 수립하고, AI 시스템에 대한 인간의 통제와 감시가 가능한 거버넌스 체계를 구축해야 합니다. 유럽연합이 제시한 신뢰할 수 있는 AI 개발 7대 원칙 등을 참고하여, 사회 각계의 관점이 균형 있게 반영될 수 있도록 조직 내외의 이해관계자들과 지속적인 토론과 공론화를 진행하는 것도 중요합니다(EU, 2019).
마지막으로, DEI 관점에서의 AI 윤리 교육 강화가 병행되어야 합니다. 미국 백악관의 '책임감 있는 AI 개발과 활용' 교육 프로그램처럼, AI 개발자와 관리자들을 대상으로 책임 있는 AI 기술 활용과 DEI 고려 측면의 교육을 강화함으로써, DEI 친화적인 AI 문화 형성에 기여할 수 있습니다(미국 백악관, 2022).
결론적으로 DEI 친화적 AI 활용을 위해서는 데이터와 알고리즘의 편향 방지, 포괄적 AI 윤리규범 수립, 그리고 조직 구성원 대상 AI 윤리 교육 강화 등 다각도의 노력이 필요합니다. 이를 통해 AI가 조직의 DEI 가치 실현에 기여하는 긍정적 도구로 자리매김할 수 있을 것입니다.
나가며
AI 기술은 우리 삶의 질을 높이고 조직의 경쟁력을 강화하는 데 크게 기여하고 있습니다. 그러나 AI의 발전이 다양성, 형평성, 포용성 증진으로 자연스럽게 이어지는 것은 아닙니다. 오히려 AI가 기존의 차별과 편견을 학습하여 불평등을 심화시킬 우려도 있습니다. 아마존의 AI 채용 프로그램이 여성 차별적 결과를 초래한 사례는 이를 잘 보여줍니다(백승헌, 2024). 따라서 AI 기술 발전과 더불어 DEI 가치를 고려한 설계와 운영이 필수적입니다. AI가 우리 사회를 더욱 다양하고 포용적으로 만드는 데 기여할 수 있도록 기술 개발 전 과정에 걸친 사회적 논의와 노력이 요구됩니다.
" 향후 이 글을 수정, 보완하여 단행본 원고로 활용할 예정입니다. 따라서 이 글은 무단 전재 및 복제, 재배포가 불가합니다. 이점 양해해 주시기 바랍니다. 감사합니다"
Reference
백승헌. (2024). “채용·성과관리·교육… HR이 AI를 만났을 때”. https://v.daum.net/v/20240228120107982?f=p
이재진. (2024). “HR에서 AI의 활용, 명과 암에 대하여”. 월간 인재경영 아티클
Richardson, R., Schultz, J. M., & Crawford, K. (2019). Dirty data, bad predictions: How civil rights violations impact police data, predictive policing systems, and justice. NYUL Rev. Online, 94, 15.
이재호, 조남용. (2023). “사람과 공존하는 AI의 필요조건, AI 공정성(AI Fairness). SAMSUNG SDS 인사이트 리포트.
European Commission. (2019). "Ethics guidelines for trustworthy AI". https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
The White House. (2022). "Join the Responsible AI Development and Use in the Federal Government Training Series". https://www.whitehouse.gov/ostp/news-updates/2022/05/25/join-the-responsible-ai-development-and-use-in-the-federal-government-training-series/
