인공지능은 어떻게
당신의 취업을 방해하는가
[알고리즘]의 저자 '힐케쉘먼' 인터뷰 요약
힐케쉘먼이 쓴 책 [알고리즘]은 인공지능이 구직자를 선별하는 방법에 대해 다루고 있다. 쉘먼은 기자이자 뉴욕대학교의 저널리즘 교수로, 이 책에서는 HR에서 어떻게 인공지능 툴로 구직자를 고르는지, 그 과정에서 어떻게 편견이 생기는지를 설명한다.
동시에 휄먼은 인공지능 툴이 조직에 적합한 후보를 찾는 데 자주 실패한다는 것을 지적한다. 실제로 쉘만은 직접 구직자가 되어 인공지능 툴을 테스트했다. 여기에는 이력서 검토, 게임 형식의 테스트, 표정과 목소리 분석, 소셜 미디어 행동분석 등이 포함됐는데, 말도 안되는 독일어를 하자 회사의 인재상과 일치하는 후보라는 평가를 받기도 했다. 또 어떤 툴은 쉘만의 트위터에는 높은 안정성을, 링크드인 프로필에는 낮은 안정성 점수를 줬다.
며칠 전, WIRED지에는 이런 내용을 담은 힐케쉘먼의 인터뷰가 실렸다. 흥미로운 내용이 많았는데, 막 올라온 글이라 번역본이 없어서 핵심 내용을 한국어로 정리했다. HR 분야에 몸담고 있거나 개인적으로 흥미가 생긴다면 본 포스팅 마지막에 있는 원문(영어)을 클릭해 보길 바란다.
"채용시 사용하는 AI 툴에는 편견이 없다고들 말하는데요, AI 채용 툴은 실제로 객관적이고 투명하게 테스트가 된 적이 없어요. 생각해 봐요, 채용 담당자가 사람인 경우에는 그가 결함이 있어도 그 영향력이 그렇게 크지 않아요. 하지만 수십만 명의 직원들에게 적용되는 알고리즘에 결함이 있다면 문제는 달라져요. 엄청난 사람들에게 동시다발적으로 피해를 주게 되거든요. AI 툴을 만드는 기업들이 공개적이고 투명한 테스트를 꺼리는 이유가 바로 여기에 있죠.
그런데 말이죠, 제 생각엔 채용 담당자들도 AI 채용툴의 테스트를 꺼려하는 것 같아요. 나중에 문제가 생겼을 때 "우리는 몰랐다"면서 책임에서 벗어날 수 있는 여지가 없어지니까요. 저는 그렇기에 AI 채용 툴은 더더욱 투명하고 객관적인 검증이 필요하다고 생각해요.
많은 분들이 AI 가 구직자 차별을 막을 수 있는 규정이 있냐고 물어보는데요, 아쉽게도 아직은 그런 기준도 없고 관련 소송도 없었어요. 하지만 대다수의 변호사는 AI 툴을 도입한 기업이 책임을 져야한다고들 말해요. 최종 채용 결정을 내리는 건 AI툴이 아니라 회사니까요. 하지만 이것도 명확하진 않아요. 한 기업의 내부고발에 의하면, 어떤 AI 툴은 사전 평가 점수가 33% 미만인 구직자를 자동으로 탈락 시켰어요. 이는 AI가 세운 기준에 미달하면 아예 채용과정 자체에서 제외될 수 있음을 의미해요.
많은 기업은 AI 툴을 쓰면 최고의 인재를 찾을 거라고 생각하지만, 실제로 그렇다는 증거는 많지 않아요. 다만 AI 툴을 쓰면 채용에 들어가는 비용은 줄죠. 어쩌면 그게 기업이 원하는 핵심일지도 몰라요. AI 에 결함이 있다는 걸 인정하는 순간, 돈과 시간을 절약할 수 있는 확실한 방법을 사용하지 못하게 되죠.
AI 툴은 대부분 ‘심층 신경망(Deep Neural Networks)’을 사용하고, 그래서 무엇을 근거로 최종 예측을 하는지 정확하게 알기가 어려워요. 이런 방식은 채용같은 중요한 의사결정을 할 때는 문제가 될 수 있기 때문에 사전 검증이 아주 중요해요.
만약 AI 툴이 성과가 좋은 직원들을 바탕으로 알고리즘을 훈련시켰는데, 여기에 채용에 대한 과거의 편견이 내재되어 있었다면 어떤 일이 벌어질까요. 아마 그 회사의 채용은 과거의 편견을 강화하는 방향으로 진행될 거예요. 실제로 미국에서 이런 사례가 있었어요. AI 툴이 과거에 이 회사 직원들의 이력서로 훈련이 된 결과, 이력서에 '야구'와 '농구'가 포함된 사람은 성과가 높을 거라 판단한 반면, '소프트볼'이 포함되면 저성과자가 될 거라 판단했어요. 짐작하셨겠지만 '야구'는 주로 남성, '소프트볼'은 주로 여성과 관련된 단어죠. AI 툴이 성별에 의한 편견을 강화한 경우라고 볼 수 있어요.
현재 AI 툴은 채용을 넘어, 재직자의 승진과 해고를 결정하는데도 사용되고 있어요. 어떤 회사들은 직원이 사무실에 머무는 시간을 기반으로 역량을 판단해요. 오래 일한다고 해서 일을 더 잘하는 건 아니기에 이건 올바른 결정은 아니에요. 그럼에도 불구하고, 직원들이 일하는 절대 시간을 알게 되면 이 데이터를 활용하려는 유혹을 뿌리치기가 어려워요. 이건 마치 옛날에 필체나 두상으로 범죄자를 찾아내려고 했던 것과 비슷해요. 정확하지도 않고 근거도 없지만 그럴듯 하거든요.
이제 채용시장은 AI 와 AI 의 대결이에요. 기업이 AI를 활용해서 더 나은 구직자를 찾는 동안, 구직자들 역시 AI 를 이용해서 더 나은 이력서를 만들고, 더 매력적인 면접 답변을 연습하죠.
핵심은 이거예요. 이제는 AI 채용 툴을 객관적이고 공개적으로 테스트하는 비영리단체가 필요해요. 정부도 이를 도와야 하고, 저 같이 현장에서 뛰는 저널리스트도 합류해야 하고요. 관련해서 더 많은 정보가 공개되고 연구가 가능해지면, AI 채용 시스템의 문제점을 더 빨리 개선할 수 있을 거예요"
<핵심만 말할께>에서는, 국내에 소개되지 않은 인사이트 가득한 책/강연/기사를 전문가가 아닌 한국이들이 쉽게 이해할 수 있도록 요약하고 번역하고 있습니다.
우
