HCI도 AI가 대세!
[HCIK 2021] AI 뉴스 기사의 공정성, 디자이너를 위한 AI
Human-AI Interaction 연구가 대세입니다. HCI의 "C, comptuer"가 PC에서 스마트폰으로, 그리고 이제는 AI로 바뀌고 있기 때문입니다.
HCI Korea 2021도 대세를 따르고 있었습니다. 학생들은 AI와 관련해 연구했고, 기업들은 AI를 사업에 적용하고, 관련 없는 분야의 교수들이더라도 AI를 한 번쯤은 언급했습니다. 가장 많이 언급된 예시는 다름 아닌 "AI 챗봇 이루다" 사건이었습니다. AI가 사용자에게 부정적인 영향을 미친 사건으로, 기술과 사람 간의 interaction을 연구하는 HCI 학계에서 주목할 수밖에 없는 이슈였던 것 같습니다. HCI Korea 학회의 AI 세션들 중 가장 인상 깊었던 두 가지를 소개합니다.
AI 시대 뉴스 서비스의 공정성과 UX
- 이종은(한국마이크로소프트)
Photo by visuals on Unsplash네이버의 플랫폼 권력이 어마어마해지면서 포털 메인에 어떤 뉴스가 걸리느냐가 사람들의 생각을 좌우하게 되었습니다. 기존 언론사들은 약해지고 난데없이 나타난 플랫폼 사업자가 언론을 장악할 수도 있다는 우려가 있었습니다. 네이버는 더 이상 메인에 뉴스를 걸지 않지만 편리함과 익숙함으로 일상에 스며드는 것이 가장 강력한 것이라는 교훈을 남겼죠.
Microsoft는 자체 웹 브라우저 Edge의 첫 진입 화면에 뉴스 기사를 제공하고 있습니다. Microsoft의 이종은 님께서 AI로 뉴스 편성할 때 생기는 공정성 이슈와 해결 방안을 소개합니다.
AI와 뉴스 서비스
이종은(한국마이크로소프트) HCIK 발표자료포털 뉴스 서비스에서 뉴스 편집 부분에 AI가 활발히 적용되고 있음. (뉴스 편집 = 어떤 위치에 어떤 뉴스가 배치되게 할 것이냐)
AI가 배치할 뉴스를 선택하고, 뉴스 요약문을 작성하기도 하며, 효율적인 기사 작성을 위해 기자들에게 DB에서 관련 기사를 찾아줄 수도 있음.
어떤 기사를 어느 위치에 배치하는가도 편집의 핵심 요소임. AI가 어떻게 작동하느냐에 따라 공정성 이슈 발생 가능.
AI의 공정성 문제
1) 과대 또는 과소 묘사
이종은(한국마이크로소프트) HCIK 발표자료특정 집단이 더 많이 혹은 적게 나타나는 이슈.
뉴스 이미지 속 인물들이 20대 젊은 여성이고 날씬한 사람들만 나옴 / 우울증, 건강 문제와 관련된 이미지에 여성만 사용됨.
권장하는 방법은 남녀노소 다양한 신체 사이즈의 사람들의 이미지가 보일 수 있게 하는 것.
개발, 검수 인력이 이러한 문제를 인지하고 평가하여 알고리즘에 반영될 수 있게 해야 함.
현재 사진 속 인물들의 인종, 나이, 감정 상태까지 인식해 적절한 이미지를 사용하려고 노력하고 있음.
2) 배분의 적절성
보수/진보 성향의 매체가 주요 뉴스에 더 많이 배치되는 것이 대형 포탈 중심으로 논란이 되어 왔음.
특정 정치적 견해만 자주 노출되지 않는지, 기자들이 의견이 균형을 이루는지 검토해야 함.
어떤 뉴스가 가장 위에 편집되는지가 사람들의 의견을 형성하기 때문에 주요하게 논의되는 이슈임.
어떤 기사가 어떤 시간대에 어느 위치에 노출되느냐에 따라 그 영향도가 다름.
이런 문제점을 인지하고 최대한 균형을 이루도록 노력하는 것이 중요.
매체의 균형 외에도 기자들이 다양한 시선과 의견을 갖추고 있는지 확인해야 함.
인기 위주의 화제성 기사들만 노출되고 있지 않는지도 검토하고 적절하게 균형을 맞춰야 함.
3) 정형화 (stereotyping)
간호사 = 여성의 이미지, 사무직 = 넥타이를 맨 중년 남성 이미지만 노출될 경우 편견을 강화함.
육아, 가사, 라이프스타일 관련 기사에 엄마&자녀 이미지만 쓰이면 육아는 엄마의 몫이라는 인식을 강화함.
가정 폭력, 성폭력 검은색 실루엣의 남성 이미지 = 가해자는 남성이고 피해자는 여성이라는 고정관념이 생길 수 있음.
폭력 기사에는 경찰차, 병원 사진 등을 사용하는 대안이 필요함.
4) 폄하
이종은(한국마이크로소프트) HCIK 발표자료당뇨병 관련 기사에 비만인 사람의 이미지 사용: 당뇨병의 원인 중 하나가 비만일 뿐인데 당뇨병에 대한 암묵적 비하가 생길 수 있음.
"미치다"라는 표현: 정신 질환 비하
특정 집단을 비하하는 용어: 꼭 필요한 경우가 아닌데도 이런 단어를 인용해서 기사 제목을 붙이기도 함. 이런 자극적 포장을 알고리즘으로 완화하는 방법에 대해 연구 중.
클릭이 수익으로 이어지면서 기사 내용도 자극적인 부분이 늘어나고 있음. 특히 중국, 중동 지방 등 이질적인 문화권에서 일어나는 엽기적인 사건들을 소재로 사용하는데, 특정 민족을 비하할 수 있음을 인지하고 대책을 마련해야 함.
5) 서비스 품질
자동차 섹션에 슈퍼카에 대한 소개만 가득하면 대다수 이용자와의 관련성이 떨어짐. 기사가 대다수의 사용자에게 유용한 정보를 제공하는지 검토해야 함.
위 다섯 가지 요인은 서로 영향을 미침. 폄하가 정형화로 이어지기도 하고, 과대 묘사가 정형화로 이어지기도 함.
공성성 문제를 해결하는 AI 뉴스 서비스 디자인
투명성: AI가 만든/편집한 기사라는 것을 알리고, 어떤 알고리즘에 의해 편집되었는지 알려줌.
뉴스피드에서는 편집자의 시선으로 선정된 기사 대신에 개인의 기호에 따라 기사가 추천된다고 알려주고, 이용자마다 다른 뉴스를 접하게 할 수 있음. 편집이 배제된 기사 노출 방식이 극대화된 형태는 무한 스크롤 (페이스북, 인스타그램, 틱톡) 형태가 있음.
적절한 알림, 적절한 콘텐츠, 적절히 컨트롤할 수 있는 UI를 제공하여 사용자와 건강한 관계를 맺어야 함.
AI가 사용자 맞춤형 기사를 제공할 경우, 편집자의 시선은 배제할 수 있습니다. 하지만 사용자 스스로가 새로운 편집자가 됩니다. AI가 사용자의 입맛에 맞는 뉴스만 추천하면 다른 견해를 지닌 뉴스는 아예 눈 밖으로 사라집니다. AI 추천이 뉴스에 적용되면 사용자의 편견을 강화할 수 있다는 한계를 인지해야 할 것입니다.
LampBox: 디자이너의 창의적 사고를 돕기 위한
텍스트 기반 인공지능 디자인 생성 도구
- 주 윤경원(KAIST), 교신 남택진(KAIST)
"AI의 불완전성이 오히려 창의적 생각에 도움이 되지 않을까?"라는 질문에서 시작한 연구입니다. 창의적인 아이디어를 내야 하는 디자이너에게 AI가 다소 랜덤한 문장을 만들어 보여준다면, AI가 디자이너의 협업 도구가 될 수 있다는 참신한 연구입니다.
디자이너의 아이디어 도출을 위한 text generation AI "램프박스"
사용자가 입력한 글로 시작하는 새로운 글을 생성 (LSTM)
레드닷 조명 디자인 작품 설명 글을 학습 데이터로 사용
사용자가 조명 디자인에 관한 짧은 글을 넣음
"램프박스"가 이름이나 형태, 작동 방법에 대한 새로운 아이디어 제공
윤경원(KAIST) HCIK 발표 자료"램프박스"가 생성한 글을 참고한 디자이너들의 조명 디자인 컨셉 결과
- "램프박스"에게서 영감을 받은 부분이 하이라이트 되어 있음
윤경원(KAIST) HCIK 발표 자료사용해본 디자이너들의 평가
1. 새로운 아이디어, 요소 제안: 생각의 틀을 깨 주는 것 같다.
2. 무한한 검색 가능: 원하는 게 나올 때까지 검색할 수 있을 것 같다.
3. 상품 특성에 맞는 인사이트 제공: 조명 전문가와 함께 디자인하는 것 같다.
4. 불완전성: 파편화된 정보를 주는 것 같다. 나를 압도하는 느낌이 없어서 거부감이 없다.
"AI의 불완전성을 보완하자"가 아니라 "AI의 불완전성이 창의력에 도움이 되지 않을까?"라는 빛나는 창의성을 보여준 연구입니다. 창의적인 아이디어 내기 위해 생각들을 사방팔방 퍼트려보는 brain-storming을 해본 적이 있을 것입니다. Brain-storming을 할 때에는 아무 말이나 해도 되지만 아무 말이나 지어서 하는 것도 쉽지 않습니다. 이럴 때 논리적이지 않은 AI가 새로운 "아무 말"을 대신해준다면 창의적인 생각에 도움이 될 수 있을 것입니다.
