코딩된 편견, AI는 중립적일 수 있을까
과연 AI는 얼마나 객관적인가? AI도 선입견을 가지고 있을까
기술의 발달은 인류에게 번영과 편의를 안겨주었다. 기술이 발전하면서 사회도 끊임없이 변화했고, 우리는 그 어느때보다 더 편리한 세상에 살게 되었다. 기술은 단순히 인간의 명령에 따라 움직이는 수준을 넘어서, 스스로 학습하고 판단하는 단계까지 도달했고, 벌써 이 단계 이후 많은 시간이 흘렀다. AI는 직접 작품을 만들고, 음악을 작곡하며, 소설을 쓰기도 한다. 인간만의 고유 영역이라 여겨졌던 예술 분야까지 장악해나가고 있다.
하지만, 우리는 이 기술을 얼마나 믿을 수 있을까?
기술은 정말 객관적이고 공정할까? 인종차별 같은 인간의 편견에서 자유롭고 Fact만을 추구한다고 말할 수 있을까?
Coded Bias 라는 넷플릭스 다큐멘터리에서는 이러한 질문에 답변을 하고 있다. (Bias는 ‘편견’이라는 뜻이다.)
MIT 박사과정에 있던 흑인 학생 조이 부올라무위니(Joy Buolamwini)는 ‘매직 미러’ 프로젝트에서 오픈소스 얼굴 인식 알고리즘이 자신의 얼굴을 인식하지 못한다는 사실을 발견했다. 흰색 가면을 써야만 얼굴로 인식되는 현상을 분석하자, 해당 AI가 학습한 데이터가 주로 백인 남성의 얼굴에 편중되어 있다는 것을 파악했다.
2018년 조이의 연구 Gender Shades에 따르면, 백인 남성 얼굴의 인식 오류율은 0.8%였던 반면, 흑인 여성의 경우 최대 34.7%까지 치솟았다. 이 같은 극심한 정확도 차이는 AI가 데이터의 불공정성을 그대로 반영하고 있다는 증거가 된다.
왜 AI는 이처럼 편향될까?
핵심은 데이터 출처와 구성, 그리고 설계자에 있다. AI는 과거의 불균형한 기록을 그대로 학습하고, 이것이 판단 결과에 그대로 반영된다. 예컨대 채용 AI가 과거 여성에 불리했던 데이터를 기반으로 학습하면, (혹은 여여성 채용에 대한 데이터가 역사적으로 남성 채용에 대한 데이터보다 양이 현저히 적다면) 여성 지원자를 자동으로 배제할 가능성이 높다. 거기에 AI 개발자들의 다양성 부족까지 겹치면 특정 배경의 경험만을 우선적으로 반영된다. 즉, AI는 기술이라기보다 '사회 구조의 반영체'라고 할 수도 있는 것이다.
런던의 CCTV 기반 얼굴 인식 AI 사례는 이를 구체적으로 보여준다. 이 기술은 ‘범죄자’나 ‘잠재적 범죄자’를 식별하는 데 활용되었는데, 흑인 학생들을 대부분의 잠재적 범죄자로 지목한 뒤 실제로 중단된 사례가 있다. AI의 판단이 곧 실제 사람의 행동(경찰 제지 등)에 연결된 순간이다.
다큐멘터리 〈Coded Bias〉는 이러한 AI가 ‘자동화된 불평등(Automated Inequality)’을 초래한다는 경고를 전한다. 조이는 “우리가 기술을 통제하지 않으면, 기술이 우리를 통제하게 될 것이다”라는 메세지를 전하고 있다.
비슷한 사례는 마이크로소프트 ‘Tay’ 챗봇에서도 나타난다. 2016년 3월 23일 출시된 Tay는 단 16시간 만에 인종차별·성차별적 발언을 내뱉었고, 결국 24일 중단되었다 . 이는 AI가 인터넷상 혐오 표현을 그대로 학습하며, 지독한 편향이 인간이 아닌 알고리즘에도 재생산될 수 있다는 강력한 사례다.
국내 사례로는 솔트룩스의 ‘가람이 1·2’ 실험이 있다. 가람이 1은 키즈 콘텐츠 위주로 학습해 긍정적 태도를 보인 반면, 가람이 2는 유튜브 추천 영상이 대부분인 학습으로 공격적·냉소적 언어를 사용했다. 같은 AI라도 학습 콘텐츠에 따라 성격이 완전히 달라진다는 것을 보여준 흥미로운 실험이다.
조이 부올라무위니는 이 문제에 대응하기 위해 알고리즘 투명성 제고, 다양한 개발자 참여, 법제화 등을 요구하며 미국 연방정부에 법안 발의를 추진하고 있다.
기술은 인류에게 큰 혜택을 가져왔지만, 역사의 실수와 편견을 그대로 학습하는 AI는 새로운 불평등의 도구가 될 수 있다. 기계와 인간의 갈등은 더 이상 영화 속 이야기가 아닐 수 있으며, 어쩌면 이미 조용히 시작되었을지도 모른다.
일론 머스크는 “인류가 가장 두려워해야 할 것은 AI”라고 경고한 바 있다. 우리는 이미 검색엔진이나 추천 시스템 결과를 의심 없이 받아들이며, 기술이 우리를 판단하고 지배하고 있을 가능성을 인지해야 한다.
조이와 뜻을 같이하는 여러 사람들이 모여 AI 편향을 드러내고 대응하는 움직임을 지속적으로 만들어내고 있다. 과연 이러한 노력 덕분에 우리가 아직 스스로 질문하고 사유할 기회를 갖고 있다라고 말을 할 수 있을까. 아니면 단순히 기술의 발전이라는 흐름에 맡겨야 할까.
