[인터뷰] 다섯번째 아카데미 - 임소연 연사
[인공지능과 페미니즘] 인공지능이 어떻게 여성을 지우는가?
인공지능에서 여성의 모습이 누구를 대표하고,
무엇을 보여주고 있는지 생각해 본 적이 있나요?
기술 인문 아카데미 다섯번째 이야기, <인공지능과 페미니즘 - 인공지능이 어떻게 여성을 지우는가?> 를 진행해 주실 임소연 연사님을 칼럼으로 먼저 만나보겠습니다.
임소연 교수
숙명여자대학교 인문학연구소 연구교수
한겨레신문 <여성, 과학과 만나다> 연재
<과학기술의 시대 사이보그로 살아가기> (2014) 저자
그럼, 연사님을 인터뷰로 먼저 만나볼까요?
Q. 안녕하세요, 임소연 연사님! 반갑습니다. 인공지능과 페미니즘 주제와 관련된 연구를 계속하고 계신데요. 관심을 갖게 된 계기가 어떻게 되시나요?
제가 과학기술학 전공이다 보니 기술과 관련 이슈들에 대해서는 전반적으로 관심이 있었어요. 이슈 중 성형 수술 관련 연구를 하던 중에 사이보그*와 포스트 휴먼**과 같은 개념에 집중하게 되었습니다. ‘인간의 몸이 성형 수술이라는 ‘기술’로 인해 바뀌는구나. 이게 어떤 의미일까?’
인공지능은 어떻게 보면 인간의 지능을 닮은 기계인데요. 사실 몸은 없죠. 그래서 인간의 신체가 가진 한계를 넘어서려는 것 같다라는 생각을 하게 되었어요. 다른 한편으로는, ‘이루다 사건’이 올해 초 터지게 되면서
기술이 이렇게 직접적으로 사람들, 여성의 삶에 영향을 줄 수 있구나
라는 고민이 깊어 졌습니다. 알파고 같은 경우에는 일상과는 조금 거리감을 두고 스포츠 경기 관람처럼 지켜봤지만, 면 ‘이루다 인공지능 챗봇’은 현재 인공지능 기술의 발전과 상용화 수준을 가늠해볼 수 있었을 뿐 아니라, 이런 기술이 일상의 영역으로 들어왔을 때 어떤 문제가 생기는지에 대해 구체적으로 확인해볼 수 있던 계기였습니다. 그전까지는 이 기술을 만드는 여성에 초점을 맞췄다면, 본격적으로 인공지능의 기술적인 측면과 외국의 활용 사례 연구를 시작하게 되었답니다.
*사이보그: 생물 본래의 기관과 같은 기능을 조절하고 제어하는 기계 장치를 생물에 이식한 결합체. 생물체가 일하기 어려운 환경에서의 활동을 위하여 연구하였는데, 전자 의족이나 인공 심장ㆍ인공 콩팥 따위의 의료 면에서도 연구가 진행되고 있다.
**포스트 휴먼: 현 인류보다 더 확장된 능력을 갖춘 존재로서, 지식과 기술의 사용 등에서 현대 인류보다 월등히 앞설 것이라고 상상되는 진화 인류. 생체학적인 진화가 아니라 기술을 이용한 진화로 반영구적인 불멸을 이룰 것이라고 여겨진다.
Q. 말씀하신 ‘이루다’ 사건 같은 경우에는 성희롱, 사이버 불링과 같은 부분이 많이 부각이 되었던 사례인 것 같은데요. 기술 개발 과정이나 알고리즘 데이터 사용에서, 젠더 편향성이 눈에 띄는 사례는 어떤게 있을까요?
젠더 편향의 종류는 크게 2가지로 나누어 설명할 수 있습니다. 데이터 편향과 알고리즘 편향인데요.
데이터 편향의 사례를 살펴보면 ‘아마존 얼굴 인식 프로그램’ 사례가 가장 많이 알려져 있어요. 여성이나 피부색이 어려운 사람들의 인식률이 낮은 거죠. 이는 여성 데이터를 더 넣거나 가중치를 주는 방법으로 교정할 수는 있어요.
사실 더 어려운 건 알고리즘 편향이죠. 대표적인 사례로는 애플 카드 사례가 있어요. 부부가 신용등급이나 재산 상황이 동일함에도 불구하고 아내에 비해 남편의 신용등급이 20배 정도 더 높게 설정이 된 거죠. 인공지능을 개발할 때 젠더와 관련된 어떤 변수를 넣지 않았음에도, 통계적 패턴으로 그렇게 도출이 되어버린 거예요. 이런게 우리가 걱정을 해야 하는 편향이 아닐까 싶어요.
Q. 이러한 알고리즘을 이용한 기술의 활용도가 굉장히 높아지고 있는데요. 한국에서도 AI 면접 등을 진행하고 있고요. 편향에 대한 해결 방안으로 어떤 게 있을까요?
네, 말씀하신 대로 AI 면접이나 채용 지원서 관련해서 많이 활용되고 있는데요. 해외 기업 아마존(AMAZON) 채용 시스템을 한 번 살펴보면, 인공지능 시스템을 활용하여 지원서를 검토하면 주로 남성의 원서 합격률이 굉장히 높고 여성의 합격률이 낮은 결과가 발생합니다. 인공지능이 남성을 의도적으로 뽑는 것이 아니라는 사실이 중요합니다. 남성들의 지원서에 주로 들어있는 단어들이 있어요. 그런 전형적인 단어들을 통해 주로 남성의 원서를 합격시키도록 학습이 될 수 밖에 없는 거예요.
문제를 해결하기 위해서 이미 기존의 데이터가 편향되어 있다는
기본 전제하에 접근하는 게 중요해요.
이러한 문제의식을 공유하는 것이 시작입니다. 계속해서 편향을 줄이기 위한 노력을 해야겠다는 생각으로 개발을 하는 게 우선일 것 같아요.
두 번째 방법으로, 인공 지능에게 중요한 ‘결정’의 역할을 주지 않는 거예요. 최근 영국에서 AI에 의한 학력 평가 알고리즘에 반발이 심했던 사례가 있었어요. 부유층 학생들의 학점이 더 유리하게 점수 부여가 되었던 사례죠. 의료계나 금융계에서 활용할 때도 마찬가지로 복잡한 계산·산정 과정을 인공지능에게 맡기고, 최종 결정은 우리가 할 수 있도록 하는 게 안전하게 인공지능을 사용할 수 있는 방법이 아닐까 생각합니다.
Q. 말씀하신 것처럼 유럽 쪽에서는 이미 적극적으로 인공지능을 활용함과 동시에 윤리 기준과 규제에 대해서도 많은 논의가 이루어지고 있죠. 반면, 한국에서는 이제야 이야기가 나오는 수준인 것 같아요. 저희가 기술 활용과 상용화 면에서는 잘 활용하자는 이야기를 하면서, 동시에 경계해야 하는 부분에 대해서도 메시지를 주어야하는 어려운 상황인데요. 기존과 다른 방식으로 어떻게 접근할 수 있을까요?
유럽과 우리나라의 가장 큰 차이점 중 하나는, 관점이 다르다고 볼 수 있어요. 예를 들어, ‘인공지능 백서’를 발간한다고 가정해 볼게요. 유럽에선 앞쪽의 상당 부분의 분량에 윤리적인 논의를 할애할 겁니다. 반면, 한국에선 앞의 거의 80% 이상이 기술에 대한 이야기가 주를 이루고, 끝에 ‘윤리도 중요하다.’라고 들어가는 경우가 많죠. 인공지능 안에서 과학기술의 역할이 중요하듯, 윤리 자체를 기술의 일부로 생각하는 모습이 필요할 것 같아요. 또, 기업이나 업체에서 만드는 윤리적 원칙과 가이드라인도 중요하지만, 국가적 차원에서의 관심도 굉장히 중요하지 않을까 싶어요. 현재 한국 IT대기업에서는 윤리를 연구하는 연구자들의 포지션이나, 연구하는 흐름이 부족해 보여요. 추후 개발된 AI 제품이나 서비스가 어떤 문제가 발생하였을 때, 이후 대응을 하는 형태인 거죠. 아무래도 아직은 ‘개인 정보 활용’과 관련되어 좀 더 관심을 기울이고 있다고 볼 수 있고요.
Q. 기업에서 내놓는 젠더 편향적 서비스나, 여성을 형상화한 기술들이 있죠. 저희 정부에서 이를 적극 활용하지는 않고 있는데, 다행스러운 건지 아니면 향후에 좀 더 도움이 되는 방향으로 사용할 수 있도록 하는게 필요한지 고민이 되는데요. 연사님은 이 부분에 대해 어떻게 생각하시나요?
사실 국내에서 인공지능의 편향 때문에 발생한 일이 많은 것은 아니에요. 그래서 경험하지 않은 일에 대한 관심이 없는게 어떻게 보면 당연한 거죠. 오히려 드러나는 문제는, 젠더 편향적인 기술에 대한 문제들인데요. 스피커 음성 기술의 여성 목소리, 챗봇의 여성 페르소나, 가상 모델 등이 문제가 되겠죠. 이게 향후 인공지능과 결합이 될 수 있어 심각한 문제라고 볼 수 있어요.
일상적으로 접하는 인공지능이 여성화되는 모습을 보면, 20대의 인플루언서의 모습이에요. 세계적으로 AI 가상 모델들이 이런 모습인데, 이것에 대한 거부감이 없는 게 문제죠.
알파고(Alphago)* 는 생각해 보면 20대 여성의 모습이 아니었잖아요.
굉장히 점잖게 생긴 남성의 형태라고 볼 수 있어요. 이렇게 홍보나 기술에서 성별이 고착화되는 형태를 생각해야봐야 하는거예요. 친근하고, 홍보에 효과적인 것은 여성이고, 알파고와 같은 실력이 있는 인공지능은 남성의 이미지인 것에 대해서요. 이러한 것들에 추후 인공지능 기술이 결합된다면 어떻게 될지에 대해 생각해 보고, 예측해 봐야 할 것 같아요.
인공지능의 주재료인 데이터 자체에 관심을 가져야 해요.
누구를 대표하는지, 무엇을 보여주는지.
*알파고: 구글 딥마인드가 개발한 인공지능 컴퓨터 바둑 프로그램
Q. 앞선 이야기들에서 강연을 듣는 분들을 위한 연사님의 조언이 궁금한데요. 인공지능의 사용자 입장에서 개인적 차원의 실천 방법이나 혹은 어떤 이슈나 주제들을 계속 관심을 가져야 할까요?
결국 인공지능이 더 많이 쓰인다는 것은 우리 삶의 점점 더 많은 부분이 ‘데이터’가 되고, 그 데이터가 인공지능에게 학습용으로 주어진다고 생각할 수 있어요. 우리 모두 인공지능을 개발하는 그 데이터에 일조하고 있다는 인식 자체를 할 필요가 있을 것 같아요. 그리고 이것에 대한 경각심을 가져야 하는거죠.
나를 대변해 주는 데이터가 과연 지금 잘 만들어지고 있을까?
데이터의 양면성에 대해 생각하고, 개인이 생각하는 문제에 대해 계속해서 이야기하고, 표현하는 게 중요해요. 개인적 차원에서 SNS나, 일상에서 같이 목소리를 내는 거죠.
Q. 이번에는 ICT 분야의 여성 진출에 대해 이야기를 구체적으로 나누고 싶은데요. 어떤 연령대가 어떻게 접근하는 게 효과적일지에 대해 말씀해 주시겠어요?
연령대는 사실 10~20대나 혹은 더 어려도 좋을 것 같아요. 그들을 소위 디지털 네이티브 세대라고 하죠. 사실 양면적이긴 한데, 디지털 네이티브 세대의 여성들을 봤을 때 디지털 성폭력과 같은 범죄에 노출이 많이 됐죠. 30~40대의 이후 세대들이 경험하지 못했던 것까지 일상적으로 맞닥뜨리고 있는 건데요. 이 세대의 여성들은 이런 문제를 일상적으로 겪음과 동시에, 디지털 기술 접근성에 대해선 성별 격차가 많이 줄었어요. 어쨌든 여성 청소년, 학생들이 디지털 기술과 가까운 환경에 노출이 되어있으니까요.
예를 들어, 대표적인 사례로 미국을 보면 1980년대에 개인용 PC가 등장하면서 이게 남성의 문화로 자리를 잡았어요. 왜 여성들이 컴퓨터 공학을 전공하지 않는지 미국에서는 한때 꽤 큰 이슈였는데요. 여자아이들은 컴퓨터를 열심히 공부해야 하는 대상으로 대합니다. 반면 남자아이들의 경우, 너무 익숙하고 늘 만지던 물건이기 때문에 컴퓨터를 놀이의 일종으로 자연스럽게 받아들이는 거죠. 환경에 따른 남여 아이들의 경험 자체가 다른 거예요.
지금의 10대, 20대 여성들은 예전 세대처럼 컴퓨터를 두려워하지 않을 것 같아요. 진입 장벽이 문화적으로 낮게 갖고 있는 세대이기 때문에, 잘 할 수 있을 것 같다는 생각이 들어요. IT 분야로 꼭 개발자가 아니어도 괜찮아요. 기획자, 프로젝트 매니저, 마케팅, 디자인 등 다양한 직업으로 진출할 수 있죠.
다른 시대를 살았던 양육자, 교사(디지털 이주민)의 고정관념을 심각하게 받아들이지 말고, 좀 더 나아가야 해요. 더불어 청소년들에게 영향을 주는 우리들도 인식을 바꾸기 위해 노력해야 하고요!
Q. 디지털 네이티브 세대의 이야기가 흥미로운데요. 현장에서 강의를 하시면서 여학생들의 변화가 체감이 되시나요? 이번 강연의 주제이기도 한 페미니즘과 관련해서도 전반적으로 궁금합니다!
네, 확실히 느끼고 있어요. 예전 제 세대 경우에는, 여성 이공계 학생들 사이에서‘능력주의’를 중요하게 여기는 분위기가 강했어요. 스스로 내가 열심히 하면 된다는 생각으로 임했던 것 같아요. 근데 지금 세대들은 구조적 문제에 대해 훨씬 잘 인식하고 있어요. ‘내가 겪고 있는 게 내가 못해서가 아니라, 구조적·문화적인 차별이 존재하는구나.’
더 나아가 페미니즘 리부트* 세대로서의 영향이 확실히 있는 것 같아요. 본인이 페미니스트라고 정체화하는 친구들도 많아졌고요. 중요한 것은 이 여학생들이 ‘내가 여성이니 당연히 젠더 관점으로 봐야지.’가 아니라, ‘내가 공부하고 있는 과학 기술이 지금까지 편향적으로 이루어져 왔다’라는 인식과 이를 고쳐나가야겠다고 생각을 하는 거죠. 여성들이 과학기술의 윤리적인 문제와 불평등과 관련된 사안에 관심을 갖고 있어요.
결국 의식화된 페미니스트들이 현장에 많이 진출하는 것이 가장 빠르고 정확한 길이 될 거예요. 그래서 여성들이 잘 진출할 수 있도록 교육이 잘 이루어져야 하고요. 구조적인 문제, 편향적인 부분들을 좀 더 민감하게 인식하고, 바꾸려는 의지가 있는 여성들이 될 수 있도록 말이죠.
*페미니즘 리부트: 2015년 ‘나는 페미니스트입니다’ 해시태그 운동, ‘메갈리아’와 미러링 등 여성 혐오에 맞선 페미니즘의 부상은 2016년 강남역 살인사건과 2018년 ‘미투’ 운동을 거치며 한국 사회에서 거스를 수 없는 흐름이 되었다. 손희정 경희대 연구교수는 2015년 ‘문화/과학’을 통해 온라인 공간에서 촉발된 페미니즘 대중화 흐름을 ‘페미니즘 리부트’로 처음 명명했다. (관련기사)
Q. 이번 강연에 대해 프로그램 신청자분들이 큰 관심을 갖고 계시는데요. 혹시 덧붙이고 싶은 말씀이 있을까요?
네, 사실 기술 전반의 젠더 편향과 여성이 ICT 분야에 진출하는 부분에 대해 전반적으로 다루려고 해요. 사실 이야기를 하다 보면, 같은 이야기들이 결국은 또 모일수 밖에 없는데요. 인공지능이라고 해서 다른 기술과 특별하게 다른 것은 아니거든요. 더 나아가 인공지능과 다른 영역이 결합이 가지고 올 수 있는 문제 등을 예측을 해보는 것도 필요할 거 같아요.
일상 속 데이터 젠더편향에 대해 짚어보는 시간을 갖고싶다면?
→ 기술 인문 아카데미 신청하기 링크
