혐오를 이루었는가

인공지능 서비스 이루다

인공지능 챗봇 ‘이루다’가 서비스를 중단한다고 발표했다. 서비스를 개발한 회사는 정식으로 보도자료를 내고 최근 논란이 된 문제들을 보완할 때까지 서비스를 중단하고 개선 후 다시 서비스를 시작하겠다는 계획을 발표했다.

이루다에서는 특정 소수집단에 대한 혐오적인 대답과 개인정보가 유출되는 사례가 발생했었다. 개인정보가 유출되는 것이야 기술적인 오류라고 생각하려고 하지만 일부 계층에 대한 도가 지나친 편협하고 부정적인 표현이 구사되는 것은 실제 생활에서 사람들이 말하는 것을 단순하게 데이터로 모아서 서비스했기 때문이라고 이해하기는 어려운 부분이 있다. 적어도 개발하는 사람들은 사람들 중 일부가 특정 집단에 대해 부정적이고 혐오적인 의견을 가질 수 있어도 그걸 대표성으로 인정하여 인공지능 챗봇이 대답하도록 만들어서는 안 되기 때문에 지금의 비난을 반박할 수 있는 정당성은 희박해 보인다.

또 한 가지 지금 논란이 되는 위의 내용 이외에도 헤아려야 할 중요한 것은 그 서비스를 사용하는 사람들의 상황이다. 실제 친구나 연인이 없어 이런 인공지능에게 대화를 하는 사람들은 어떤 환경과 마음인 건지 그리고 다른 사람에게 말하지 못하는 민감한 이슈에 대해 인공지능에게 말을 하면서 욕구를 해소하는 사람들을 비난만 하기보다는 올바르게 나아질 수 있도록 사회적 공동체로서 노력할 부분은 없는 것인지도 고민이 필요할 것 같다.

---