트위터 AI, 사진 고를 때 여성·백인을 좋아하더라

트위터의 자동 이미지 자르기 기능에 사용된 AI(인공지능) 알고리즘이 여성과 백인에 우호적이라는 사실이 드러났다. 자동 이미지 자르기는 사용자가 찍은 사진을 트위터에 올릴 때, AI가 중요 부분이나 핵심 인물을 자동으로 분석하고 잘라내 미리보기용 작은 사진을 만들며 작동하는 기능이다. AI가 이 작업을 하면서 남성보다는 여성을, 흑인보다는 백인을 우선적으로 선택한다는 것이다.

이번 평가로 알고리즘 편향성이 확인되자 트위터는 해당 기능을 중단하고, 사용자가 직접 미리보기를 설정할 수 있도록 했다. 또 이미지의 일부를 자르지 않고 전체를 축소해 보여주는 방식도 도입했다.

https://news.naver.com/main/read.nhn?mode=LSD&mid=sec&sid1=104&oid=023&aid=0003615283

인공지능을 도입할 때 편향성에 대한 중요성이 점점 커지고 있습니다. 지금까지는 이런 연구가 많이 이루어지지 않았는데요. 최악의 경우 서비스가 종료되는 경우까지 발생하고 있습니다. 여기에 대한 필요성이 높아지면서 관련 연구가 더 활발해질 것 같습니다.