인간중심 AI 이해하기 #4 - AI 디자인/평가방법
AI 시대에 맞는 UX 디자인 생각해보기
디자이너라면 모두들 익숙한 인간 중심 디자인 프로세스. 디자인을 해나가는 과정에서 사용자의 니즈를 충분히 이해하고, 또 사용자를 적극적으로 참여시키는 디자인 프로세스죠. 그런데 이 프로세스를 AI 디자인에도 그대로 적용할 수 있을까요?
지난 아티클에서 말씀드렸듯이, AI는 블랙박스 같은 면이 있어요. 이렇게 설명이 어려운 AI를 설계하는 과정에 사용자를 보다 적극적으로 개입시켜서 최종 사용자들이 이해하기 쉬운 AI를 만들자는 것이 인간중심 AI 디자인 프로세스의 목표이죠.
또한 완성된 AI를 평가할 때에도, 인간중심 AI 평가 방법론이 필요하다는 목소리가 높아지고 있어요. 단순히 AI 모델의 성능만을 평가하는 것이 아니라, 실제 AI를 사용하는 사용자의 관점에서 느끼는 주관적 지표들을 고려할 필요가 있다는 것이죠.
오늘은 이와 같은 인간중심 AI 디자인 프로세스 및 평가 방법론에 대해 알아볼게요. 그리고 작년 겨울에 있었던 Open AI CEO의 해임 및 복귀 이면에 숨겨져 있었던 AI의 윤리적 이슈도 잠깐 다뤄보려고 합니다.
인간중심 AI 연구 분류 (Capel & Brereton, 2023)AI 시스템 설계의 초기 단계에서부터 실제 사용자를 참여시킬 수 있는 인간 중심 AI 디자인 프로세스 제안 및 프로세스의 효용성에 대한 연구가 많아지고 있습니다.
인간 중심 AI 평가 방법은 단순히 AI 모델의 퍼포먼스만을 평가하는 것이 아니라, 일반 사용자와 전문 사용자의 관점에서 AI를 평가하고자 하는 움직임입니다. 객관적 지표 뿐 아니라 신뢰도, 만족도 등의 주관적 지표도 함께 고려합니다.
주목할 만한 이슈 : OpenAI 연구진이 경영진에게 AI의 중대한 발전에 대해 경고한 사례를 통해 AI의 미래를 조망합니다.
인간중심 AI 디자인/평가에 대한 내용을 좀 더 상세히 보고 싶으시다면, 아래 링크에서 확인해주세요.
https://maily.so/inspirex/posts/07cf1798
