제2의 '이루다', 차별금지법이 막을까

성차별과 혐오, 장애인 비하 발언 등을 해 큰 논란을 불러일으켰던 인공지능(AI) 챗봇 ‘이루다’.

개발사인 스캐터랩은 1월 11일 서비스 중단을 선언했고, 쏘카 이재웅 대표이사는 정의당 장혜영 의원이 발의한 차별금지법안의 제정을 해결책으로 제시했습니다. 이루다가 차별이나 혐오 발언을 했던 건 그런 표현을 '이용자'들로부터 학습했기 때문이므로, 이용자들의 차별 발언을 금지하면 AI 챗봇 역시 문제의 발언을 학습할 수도, 할 수도 없다는 얘깁니다.  

장혜영 의원이 발의한 차별금지법이 어떤 내용을 담고 있기에 이재웅 이사가 제2의 이루다를 막는 대안으로 제시했던 걸까요? 국회의원이 발의한 법안을 볼 수 있는 국회 의안정보시스템에서 찾아봤습니다.

차별금지법안은 장혜영 의원이 지난해 7월에 대표 발의했는데요. 말 그대로, 각종 차별을 금지하는 법안입니다. 우리 헌법 11조와 비교해 보면 차별금지법안은 차별 금지 사유를 훨씬 더 구체적으로 열거하고 있다는 점을 알 수 있습니다. 개인이 선택할 수 없는 생물학적 조건들, 정치사회적 선택 같은 것들이 망라돼 있습니다.   

차별금지법 제3조 (금지 대상 차별의 범위)
합리적인 이유 없이 성별, 장애, 나이, 언어, 출신 국가, 출신 민족, 인종, 국적, 피부색, 출신지역, 용모 등 신체조건, 혼인 여부, 임신 또는 출산, 가족 및 가구의 형태와 상황, 종교, 사상 또는 정치적 의견, 형의 효력이 실효된 전과, 성적 지향, 성별 정체성, 학력, 고용형태, 병력 또는 건강상태, 사회적 신분 등을 이유로 개인이나 집단을 분리 구별 제한 배제 거부하거나 불리하게 대우하는 행위

헌법 제11조
누구든지 성별ㆍ종교 또는 사회적 신분에 의하여 정치적ㆍ경제적ㆍ사회적ㆍ문화적 생활의 모든 영역에 있어서 차별을 받지 아니한다.

차별금지법은 뿐만 아니라, 한 사람이 살아가면서 처하게 되는 보편적인 상황들 아래에서의 차별도 금지하고 있습니다. 임금 지급상의 차별금지, 교육 훈련상의 차별금지, 승진상의 차별금지, 금융서비스 공급 이용의 차별금지, 교육서비스의 차별금지... 차별금지법은 이렇게 차별금지 조항들로 가득 찬 법안입니다.

사진 출처 정의당 장혜영 의원 홈페이지

자, 그렇다면 'AI 챗봇 이용 시 차별금지' 조항이 이 법안에 있을까요?

28조에 <정보통신서비스 공급과 이용의 차별금지 조항>이라는 부분이 있습니다. 인공지능 챗봇을 정보통신서비스로 본다면 적용 가능할 것 같지만, 자세히 보면 이 조항은 정보통신서비스를 이용하는 데 차별이 있어서는 안 된다는, 즉, 접근권에 가까운 내용이라는 걸 알 수 있습니다.

제28조 (정보통신서비스 공급과 이용의 차별금지) 정보통신서비스 제공자는 성별 등을 이유로 인터넷, 소셜미디어, 전기통신 등 정보통신서비스의 공급 이용에 있어 차별해서는 아니 된다.

법안을 아무리 살펴봐도  'AI 이용 시 차별금지'와 비슷한 내용은 없었는데요.

가만히 생각해보면, 차별은 사람(혹은 법인)들 사이에 일어나는 일이기에 사물인 AI와 이용자인 사람 사이에는 차별이라는 게 애초에 성립하지 않습니다. 또, 이루다(스캐터랩)의 잘못은 차별적 발언을 했다는 것이지 이용자를 차별한 게 아닙니다.

인공지능 챗봇 '이루다'

그렇기 때문에 장혜영 의원의 법안만으로는 제2의 이루다 사태를 막을 수 없습니다. 어떤 식으로든 내용이 보강돼야 합니다. 차별이나 혐오 발언 자체만으로 처벌이 가능하게 하려면 차별금지법안 보다 오히려 혐오표현 금지법 같은 게 더 적절해 보이기도 합니다.

장혜영 의원을 비롯한 보좌진들은 현재 휴가 중입니다. 1월 18일부터 업무에 복귀할 예정이라고 하는데요. 장 의원이 더불어민주당 이낙연 대표에게 "차별금지법을 본격적으로 논의해보자"라고 제안하기도 한 만큼 오는 2월 국회에서 차별금지법안이 본격적으로 논의될 수 있을지 지켜봐야겠습니다.  

나날이 다양화되고 고도화되는
사회문화적인 현실 속에서
사회적 약자와 소수자에 대한
차별과 혐오를 단호히 금지하는
제도적 안전장치를 확립해야 할 책무를
21대 국회는 더 이상 외면해서는 안 됩니다.
(1월 12일 장혜영 의원 페이스북 中)