인간중심 AI 이해하기 #1 - 윤리적 AI
AI 시대에 맞는 UX 디자인 생각해보기
2024년 트렌드 조사 자료들을 보면 빠지지 않는 단어, AI
작년부터 AI가 정말 우리 생활에 가까이 다가오고 있는 것 같습니다. 언젠간 나도 써볼수 있을 것만 같았던 AI가 아니라 정말 가까운 곳에서 다양한 앱을 통해 이미 우리를 도와주고 있죠.
2023년 10월 30일, 미국 백악관은 안전하고 신뢰할 수 있는 AI를 목표로 하는 행정 명령을 발표했습니다. ‘신뢰할 수 있는 AI’라는 말은 Human-centered AI 관련해서 여러 번 들어봤지만 이렇게 정부 차원에서 조치를 내릴 만큼 이슈가 되었구나 조금 놀랍기도 했어요. 오늘은 이렇게 이슈가 되고 있는 인간중심 AI (HCAI, Human-centered AI)라는 개념과 윤리적 AI에 대해서 알아보고 여러분들과 함께 이야기해 보려고 해요.
인간중심 AI 연구 분야는 크게 AI와 인간의 협업, 윤리적 AI, AI의 해석가능성, AI 디자인 방법론, 이 네 가지로 나눠볼 수 있습니다. 그 중 첫번째로 윤리적 AI에 대해 알아보겠습니다. 기술의 윤리성에 대한 사회적 합의가 없다면 AI기반 서비스를 안심하고 사용할 수 없겠죠.
윤리적 AI를 위해서 각 국가에서는 규제 방안을 마련 중이고 글로벌 기업에서는 가이드라인을 수립하고 있습니다. 학계에서는 공정성(Fairness)과 신뢰(Trust)를 중심으로 윤리적 AI를 연구하고 있어요.
윤리적 AI는 모호하고 추상적인 키워드라도 생각할 수 있지만, 요즘 세대에게 신뢰와 공정성은 중요한 문제입니다. 브랜드가 얼마나 진정으로 윤리성을 추구하는지가 중요한 브랜드 평가 지표입니다. 그래서 젊은 세대가 사용하게 될 AI 서비스에서 어떻게 신뢰와 공정성을 전달할 수 있는지 UX 고민이 필요해요.
인간중심 AI 연구 분류 (Capel & Brereton, 2023)X축 : 기술 중심 ↔ 사용자 중심
Y축 : 실제 사용 상황 관련 ↔ 기반이 되는 개념
https://maily.so/inspirex/posts/57e8300e
