북저널리즘 뉴스 같이 읽기 - 2
"중립 지켜."
"그게 뭔데."
"중립 지키라고."
"그거 어떻게 하는 건데."
2020년 9월 10일｜사회
‘카카오 들어오라 하세요.’ 더불어민주당 윤영찬 의원이 국회에서 보낸 휴대전화 메시지가 논란이 되고 있다. 8일 국민의힘 원내대표의 연설 장면이 포털사이트 다음의 메인 화면에 뜨자 카카오 관계자를 호출해 뉴스 큐레이션의 공정성 문제를 지적하려 한 것이다. 이에 카카오는 “사람이 아닌 AI가 뉴스를 배치하고 있다”고 설명했다.
·
AI는 사람의 판단과 경험이 축적된 데이터를 기반으로 학습한다. AI가 가치 판단이 필요한 사람의 일을 빠르게 대체하는 상황에서 효율성 너머의 윤리성에 주목해야 하는 이유다.
·
전문가들은 AI가 편견에서 자유로울 수 없다고 지적한다. 아마존의 ‘채용 AI 폐기 사건’이 대표 사례다. 채용을 담당한 AI가 이력서에 여성이라는 단어가 나오면 감점을 하는 등 여성 구직자를 차별했다. AI가 과거 합격자, 승진자 데이터를 바탕으로 편견까지 학습했다는 분석이다. 마이크로소프트도 청소년 대화용 AI 챗봇이 트위터로 배운 막말을 쏟아 내 16시간 만에 운영을 중단했다.
·
사티아 나델라 마이크로소프트 최고경영자는 “AI가 무엇을 할 수 있는지가 아니라, 무엇을 해야 하는지 물어야 할 때”라며 AI 윤리의 중요성을 강조했다.
·
AI를 이용하는 사회 구성원 모두가 AI 윤리에 관심을 기울이고, 알고리즘 안에 담긴 모순과 편견을 함께 발견해 나가야 한다는 목소리가 나온다.
[MY COMMENT]
AI가 중립적이냐고? 아니, AI는 중립적이지 않다. 사실 몰랐다. 사람보단 중립적이겠거니 했다.
사람은 너무나… 사람적이니까. 약하고 물렁물렁하니까. 때론 아집과 집착에 사로잡히니까.
그래서 살짝 충격이었다. AI가 "설계하는 사람의 생각을 흡수"한다니. "축적된 편견의 거울"이라니.
그렇다면 말할 수 있다. "AI가 모든 뉴스 편집을 담당하고 있기 때문에 사람이 개입할 수 없다"는 카카오의 반박은 합리적인(?) 반박이 될 수 없다고. 얘네의 주장에 따르는 'AI가 담당하는 우리 뉴스 편집 알고리즘은 공정해!'라는 결론 자체가 모순에 도달하기 때문이다.
AI의 중립성에 의문을 제기한 이재웅 다음 창업자의 코멘트는 더 모순적이다. 이 창업자는 "AI 시스템이 차별하지 않는지 정치적으로 중립적인지 판단하기 위한 감사 시스템이 필요하다"고 했다고 한다.
중립적일 수 없는 인간이 만든 중립적이지 않은 AI가 중립적인지 판단하기 위한 공정한 감사 시스템이 있을 수 있냐고요. 대체가요, 네? (화난 거 아님)
조금 다른 얘기를 하겠다.
중립적이지 않은 이 우주에서 '중립적이어야만 하는 일'을 하는 건 정말이지 너무 고달픈 일이다. 사실 난 중립적인 거 없었으면 좋겠다. 때론 없어야만 한다고도 생각한다.
어차피 기울어진 운동장에서 정가운데 있어 봤자 기울어진 쪽으로 흐를 뿐이니까. 선을 갉아 먹히고 있는 이에게 율법을 들이대 봤자 모두를 잃게 될 뿐이니까.