'AI면접', 공정할까?
딸애가 'AI입시면접'을 보았다
딸애가 AI 면접을 본다는 말에 놀랐다. 지원한 대학의 입학 전형에 AI 면접이 있다는 것이었다. ‘코로나19로 비대면 면접을 하나 보네’라는 내 말에, 딸애는 이 학교는 코로나 발생 전인 지난해부터 이렇게 해왔다고 했다. 허긴, 코로나19가 세상만사에 일시정지 버튼을 눌러버린 거지, 사실 인공지능의 활용에 대한 기대와 우려는 이미 전 세계적인 화두이지 않았나.
딸애가 지원한 학교의 합격 여부와 상관없이 나는 그 AI 면접이라는 게 퍽 궁금했다. 내가 외출한 사이 AI 면접을 해치운 딸애는 신기했고 재미있었다고 했다. 딸애가 전한 신기하고 재미있는 과정은 이랬다.
우선 지원 학교에서 제공한 링크로 접속한다. 얼굴 인식과 본인 휴대폰으로 인증을 한다. 본격 면접에 들어가서, 첫 번째 과정은 자기소개다. 90초를 주는데 그 안에 마쳐야만 하고, 시간이 초과하면 바로 끊긴다. 다음은 인성검사. 질문지를 주고 담은 5단계 다항 중 한 가지 답을 선택하는 방법인데, 문항이 많아 지루했고 MBTI와 유사했다고 한다. 할 때마다 그날의 심리에 따라 다르게 나오고, 이런 테스트를 자주 하다 보면 유리한 결과가 나오게 어느새 응답을 조작하게도 되는데, 이런 인성 검사를 하는 이유는 무엇일까?
인성검사가 끝나자 이번엔 게임 테스트. 딸애가 가장 흥미로워한 부분이다. 5가지 종류의 게임을 제시하는데 순서는 내키는 대로 할 수 있지만 각 게임마다 제한 시간이 있다. 딸애의 추측으로는, 각 게임이 요구하는 자질이 있고 이를 게임을 통해 시험한 것 같다고 한다. 다음은 가장 면접다웠던 공통 질문. 지원자 전체가 같은 질문을 받는데 60초 내에 대답을 마쳐야 한다.
마지막으로 심층 질문. 지원자 개인들에게 다른 질문이 주어지고 대답 제한 시간은 마찬가지로 60초다. 공통 질문과 심층 질문은 컴퓨터 스크린에 문서 형태로 뜨기도 하고 AI 면접관이 여성 목소리로 읽어 주기도 한다. 왜 여성의 목소리일까? 대부분 입학시험장의 면접관은 남성일 텐데 말이다.
AI 면접, 과연 공정할까?
딸애가 치른 AI 면접 과정을 듣자니 흥미로웠지만, 동시에 여러 의문이 들기도 했다. 우선 인성검사나 게임은 딱히 AI만이 할 수 있는 영역은 아니니(온라인으로 얼마든지 가능하니) 제쳐두고, 의문이 든 건 면접에 해당하는 공통 질문과 심층 질문이었다. 문득 AI 면접관의 질문들은 어떤 과정을 통해 생성되었고 또한 평가는 어떻게 공정하게 이루어지는 것일까 하는 의문이 일었다.
공통 질문은 보편적 질문으로 구성되었다고 간주되겠지만, 성과 젠더의 차이를 고려할 때, ‘공통’된 질문을 던질 수는 있겠지만, ‘보편’ 질문이라는 기준은 허구다. 또한 질문에 대한 대답 역시 여성과 남성의 생애 역사의 차이를 고려할 때, 절대 동일한 기준으로 평가될 수도 평가되어서도 안 되지만, ‘답정너’의 평가에서 그 대답 역시 대체적인 젠더 편향 데이터가 제공하는 남성 디폴트에 기반할 것이다.
딸애가 지원한 대학의 공통 질문이 명실상부 ‘보편’이 되려면, 해당 대학이나 사회 전반적으로 성과 젠더의 차이로 발생하는 사회적, 경제적, 제도적 상황 등이 데이터로 존재해야 하고, 이를 기반으로 차이를 전제한 질문과 대답이 설정되어야 한다. 하지만 이를 반영한 젠더 데이터는 전무하고, 사회 전반 거의 모든 부문에 남성의 행동 양식이 기본 값으로 자리하고 있지 않은가.
심층 질문의 질문과 평가 역시 마찬가지다. 오염되고 편향된 데이터로는 개인의 특성과 자질을 반영해 이루어져야 하는 깊은(심층) 질문과 평가에 도달할 수 없다. 심층은커녕 그저 표피에 머물 것이고 그 표피마저 젠더 중립적이지 않다.
편향된 알고리즘으로 탄생했을 AI 면접이 인간 면접관에 비해 주관이나 선입견이 배제될 수 있다는 착각은 이미 여러 연구 사례에서 그 허상을 밝혔다. AI 면접보다는 오히려 ‘블라인드 채용’이 더 젠더 중립적임을 증명했는데, 성별의 기준을 감추고 채용 면접을 치르자 여성의 채용 비율이 현격히 증가하는 놀라운 결과를 보여주었다.<[보이지 않는 여자들] 참고>
[구글은 어떻게 여성을 차별하는가]에서 저자가 편향된 알고리즘의 문제를 예리하게 지적했듯이, 우리가 공정하고 정확하고 중립적이라고 믿는 검색 엔진과 그 엔진의 검색 결과는 전혀 평등하지 않다. 데이터가 백인, 남성, 이성애, 비장애 등 중심으로 편재되었고, 이를 바탕으로 수집되고 유통되고 재생산되는 편향된 데이터로는 결코 공정한 AI 면접 기준을 형성할 수 없다.
그렇기에 AI 면접의 질문 형태와 평가 결과가 젠더 평등하지 않다는 지적은 전혀 지나치지 않으며, 공정한 AI 면접 나아가 공정한 AI 사회 문화적 기반을 다지기 위해, 사회 전반은 젠더 데이터의 결여를 어떻게 해소할 것인지, 그리고 이 노력에 근거해 어떻게 공정한 평가를 이루어 나갈 것인지, 혁신적인 방안을 내놓아야 하지 않을까?
정보의 젠더 편향 연구에 바탕한 AI 면접의 불공정함을 미루어 짐작해볼 때, 딸애가 지원한 대학이나 AI 면접을 실시하는 여타 기업들이 AI 면접을 치루기 위해 취한 데이터 역시 상당히 젠더 편향적이라는 결론에 이른다. 의기소침해할 것 같아 딸애에게 굳이 말하지 않았지만, 여자인 딸애가 젠더 편향적인 면접에서 유리한 입장에 서기는 어려울 듯하다.
AI 면접에 대한 또 다른 우려는 면접을 개인적으로 진행할 수 있는 기기와 공간의 접근성이다. 코로나19로 온라인 교육을 실시하면서 벌어진 학교 현장의 문제와 마찬가지로, 혼자 1시간이 넘는 AI 면접을 신중하고 집중력 있게 진행하려면, 고급 사양의 컴퓨터와 개인 공간이 반드시 필요하지만, 그럴 수 없는 환경의 지원자들은 난처한 상황에 처하게 된다.
딸애가 지원한 학교는 이런 문제를 보완하기 위해 학교의 특정 장소를 A I면접장으로 제공한다고는 해서 다행이었지만, 이조차 장거리 지원자에게 손쉬운 접근은 아닐 듯하다. 게다 AI 면접 중 인터넷 연결이 끊기기라도 하면 다시 기회를 주는 관용은 없다고 하는데, 이건 합리적 방침일까?
문제라고 느낀 AI 면접의 또 한 지점은 면접의 장애인 접근성이었다. 딸애의 전언으로는 장애인의 경우 이렇게 접근하라는 안내가 없었다는데, 그렇다면 청각, 시각, 언어 등의 장애인은 어떻게 이 면접에 응할 수 있다는 걸까? 딸애가 치른 AI 면접은 들을 수 있어야 하고 볼 수 있어야 하고 말할 수 있어야 하고 게다 기기를 꽤 잘 다룰 줄 알아야 하는데, 과연 어떤 장애인이 장애 허들이 겹겹이 쳐진 이 면접장에 접근할 수 있다는 걸까?
장애 접근성에 대한 고려 없이 면접이 설계된다면 아무리 첨단 기술이 인류에게 유익하게 제공된다고 하더라도 결국, 인류라는 범위에서 장애인을 소외시킨 오래된 배제의 역사를 되풀이할 뿐이다. AI도 비장애 AI여야 한다고 을러대는 꼴이 아닌가.
나 같은 사람이 쓴소리를 한다고 해서 AI의 물결을 막을 수 있는 것이 아니며, 나조차 AI 기반을 무시한 채 살아갈 수 있다고 믿는 것은 아니다. 하지만 기술의 발달이 차별을 넘어 보편적 인류에 기여하지 않는다면, ‘탈 성장’을 외치는 사람들의 주장처럼, 모든 기술의 진보는 여기서 멈추는 게 맞을지 모른다. 특정한 사람들에게만 유리하도록 설계된 기술의 발달을 보편적 인류를 구원하기라도 하는 것처럼 떠벌이는 기술 권력의 감언이설에 이제 좀 그만 속자는 말이다. 개 풀 뜯어 먹는 소리라고 어깃장을 놓는다면, 우리 집 진도견 순돌옹이 풀 뜯어 먹는 거 여러 번 봤다고 대답해 주겠다.
