MS의 사용자 중심 AI 가이드라인
Microsoft Human Centered AI Guideline
Google에 AI Design Guide가 있었다면, MS에는 Human-AI Interaction Design Guide가 존재한다.
생각보다는 짧게 구성이 되어있는 가이드이긴 하지만, AI와의 인터랙션을 디자인할 때 참고해보면 좋을만한 18가지의 가이드를 제공하고 있다.
원문의 경우 아래 링크에서 확인이 가능하다.
https://www.microsoft.com/en-us/research/blog/guidelines-for-human-ai-interaction-design/
예측, 인식, 자연어처리와 같은 AI에 대한 이해는 현재의 디자이너들에게 많은 고민을 하게끔 만들고 있다. 특히 인터랙션 디자인을 설계하는 디자이너의 경우 AI의 측정값들, 즉 성공율/실패율, 머신러닝이 어떻게 사용자와 인터랙션 해야 하는지, 어떻게 제어할 수 있게끔 만들어 주는지 등에 대해 파악할 수 있어야 한다.
사용자가 인공지능 시스템을 효과적으로 이해하거나 제어하지 못한다면 AI설계에 실패한 것일 수 있다. 인공지능은 직관적이고 효과적인 사용자경험을 창출할 수 있는 기회이다.
MS는 이러한 배경에서 그동안 존재하지 않았던 사람과 AI 사이에서의 인터랙션에 대한 가이드라인을 제정하고 2019년 CHI 컨퍼런스에서 이를 발표하였다. 이 가이드라인은 MS연구원들이 다양한 논문과 블로그, 내부 문서 등 다양한 출처에서 150개 이상의 AI 지침들을 수집하고 주제별로 그룹화 하였으며 결국, 사람과 AI간에 구체적이고 실행가능한 18가지의 가이드라인들로 구성하였다.
“We wanted to ensure the guidelines are specific and observable at the UI level. So, we eliminated overarching principles like ‘set expectations,’ or ‘build trust’ and instead translated them into specific, actionable guidelines,”
- MS, Senior Program manager, Mihaela Vorvoreanu
이 18개의 가이드라인은 4개의 섹션으로 구분하는데, 해당 섹션은 아래와 같다.
Initially: 시작할 때
During Interaction: AI와 인터랙션 할 때
When Wrong: 시스템이 틀렸을 때
Over Time: 시스템 이용 후 시간이 흘렀을 때
각각에 대한 상세한 가이드는 아래와 같다.
출처: https://www.microsoft.com/en-us/research/publication/guidelines-for-human-ai-interaction/
1. Initially (시작할 때)
Guide 01:
인공지능이 무엇을 하는지 명확히 보여주어라.
- AI가 할 수 있는 것을 사용자가 이해할 수 있어야 한다.
예) 행동추적 서비스 - 추적하고 있는 기준을 표기하고 설명을 하자. 기준에는 하루 걸음 수, 운동시간, 칼로리 소모량과 같은 운동 측정법이 포함된다.
Guide 02:
인공지능이 얼마나 잘 할 수 있는지를 보여주어라. ***
- 얼마나 자주 AI 시스템이 실수할 수 있는지를 이해할 수 있어야 한다.
예) 음악추천 서비스 - 위험을 회피할 수 있는 언어(hedging language)를 사용하자. "당신이 좋아할 것이라고 생각한다." 정도의 문장은 괜찮다.
2. During Interaction (AI와 인터랙션 할 때)
Guide 03:
맥락에 기반한 서비스의 시간을 예상하자.
사용자의 현재 과업과 상황에 따라 실행하거나 방해를 하게 되는 시간을 정의할 수 있어야 한다.
예) 내비게이션 서비스 - 앱 사용 경험 상 적시에 경로안내를 해주는 것 같다. 지도는 실제 위치에 따라 정기적으로 업데이트되고 안내 역시 적절한 시점에 제공되기 때문이다.
Guide 04:
맥락에 맞게 적절한 정보를 보여주자. ***
사용자의 현재 과업과 환경과 관련된 정보를 보여주자.
예) 웹 검색 서비스 - 영화제목을 검색하면 오늘 날짜의 내 위치 중심으로 프로그램 시간이 보여진다.
Guide 05:
관련된 사회규범과 매칭시키자.
주어진 사회적, 문화적 맥락에서 사용자가 기대하는 방식으로 경험을 전달해야 한다.
예) 음성비서 서비스 - 음성비서의 목소리는 다소 형식적인(semi-formal) 목소리를 사용하자, "okay"라고 말하고 이후 질문을 하도록 하자.
Guide 06:
사회적 편견을 완화하자.
AI 시스템의 언어와 행동이 바람직하지 않고 불공정한 고정관념과 편견을 강화하지 않도록 하자.
예) 자동완성 서비스 - 문장 자동완성 기능에서 자동으로 단어를 제시할 때 두 가지의 성별을 모두 제시하도록 하자. (그, 혹은 그녀)
3. When Wrong (시스템이 틀렸을 때)
Guide 07:
효율적인 호출을 지원하자.
필요할 때 AI시스템을 쉽게 호출하거나 요청할 수 있어야 한다.
예) 음성비서 서비스 - 음성비서를 호출할 때 호출 명령어(wake command)를 말할 수 있다.
Guide 08:
효율적으로 무시하는 것도 필요하다.
원치않는 AI시스템 서비스를 쉽게 무시할 수 있도록 하자.
예) 전자상거래 서비스 - 기능은 눈에 거슬리지 않아야 하며, 폴딩라인 아래 있고 빠르게 스크롤 할 수 있어야 무시하기 쉬워진다.
Guide 09:
효율적인 수정을 지원하자. ***
AI 시스템이 잘못되었을 때, 편집, 수정, 복구가 쉬워야 한다.
예) 음성비서 서비스 - 리마인더를 음성으로 설정한 후 모바일 화면에서도 쉽게 편집할 수 있어야 한다.
Guide 10:
의심스러운 경우가 발생할 때 서비스 범위를 한정하자. ***
사용자의 목표가 확실하지 않은 경우, 명확하지 않게 관여하거나 AI 시스템 서비스를 점차 저하시킬 수 있어야 한다.
예) 자동완성 서비스 - 자동완성 시 완벽한 단어를 제공하기 보다는 항상 3~4개 정도의 제안을 하고 있다.
Guide 11:
시스템이 왜 그렇게 했는지를 분명히밝히자. ***
AI 시스템이 왜 그렇게 행동했는지에 대한 이유에 대해 사용자들이 접근할 수 있도록 하자.
예) 내비게이션 서비스 - 내비게이션 앱에서 선택한 경로는 (아래 작게 적힌 텍스트에 적힌 것 처럼) 빠른 경로 기반으로 선택되어 졌다.
4. Over Time (시스템 이용 후 시간이 흘렀을 때)
Guide 12:
최근의 인터랙션을 기억하자. **
단기 기억 메모리 (Short-term Memory)를 유지하고 사용자들이 해당 기억에 대해 효율적으로 참조할 수 있도록 하자.
예) 웹검색 서비스 - 검색 엔진은 특정 구문과 함께 특정 쿼리의 맥락을 기억한다. 따라서 검색의 흐름을 이어갈 수 있게끔 제공한다. (검색어를 입력하다 보면 알아서 추천검색어가 제공되는 것과 같음)
Guide 13:
사용자의 행동으로 부터 배우자. ***
오랜시간 사용자의 행동에서 학습함으로 사용자의 경험을 개인화 하는 것이 필요하다.
예) 음악 추천 서비스 - 내가 매일 등록한 플레이리스트를 통해 새로운 추천을 제안한다.
Guide 14:
신중하게 업데이트 하고 적용하자. ***
AI시스템의 동작을 업데이트하고 조정할 때 급격한 변화를 제한해야 한다.
예) 음악 추천 서비스 - 노래를 선택하면 아래 노래 목록이 즉각적으로 업데이트 되지만 상단의 노래는 유지가 되도록 한다.
Guide 15:
세분화된 피드백을 장려하자. ***
사용자는 AI 시스템과 정기적으로 인터랙션 하는 동안 선호사항을 나타내는 피드백을 제공할 수 있다.
예) 이메일 서비스 - AI 시스템이 미리 메일에 표기하지 못한 경우, 사용자는 직접 중요하다는 표기를 할 수 있어야 한다.
Guide 16:
행동의 결과를 전달하자. ***
사용자 행동이 AI의 미래행동에 어떻게 영향을 미치는지 즉시 업데이트하거나 전달하도록 하자.
예) 소셜 네트워크 서비스 - 사용자가 광고를 숨긴다면 AI는 미래광고의 관련성을 조정하게 될 것이다.
Guide 17:
전반적인 제어기능을 제공하자. ***
AI시스템이 모니터링하는 내용과 행동방식을 사용자가 커스터마이징 할 수 있도록 해야한다.
예) 사진관리 서비스 - 사진관리 서비스는 사용자가 위치기능을 켬(on)으로써 AI가 지역별로 그룹핑을 해줄 수 있도록 한다.
Guide 18:
변화에 대해 사용자에게 알려주자. ***
AI시스템이 기능을 업데이트하거나 추가하게 되면 사용자에게 알려주도록 하자.
예) 내비게이션 서비스 - 새로운 기능에 대해서 가장 명확하게 인지시켜주는 방법 중 하나는 팝업이기도 하다.
위 18가지 가이드의 경우 MS 내에서 다양한 리서치와 사용자들의 참여에 의해 검증하였고 구분되었다고 한다.
해당 가이드가 정리된 논문은 아래에 첨부를 함께 해 놓았다.
Reference
https://www.microsoft.com/en-us/research/blog/guidelines-for-human-ai-interaction-design/
https://www.microsoft.com/en-us/research/publication/guidelines-for-human-ai-interaction/
구글의 AI 디자인가이드가 궁금하다면.
https://brunch.co.kr/@monglec/21
+
일상에서 활용되고 있는 AI의 다양한 사례들이 궁금하다면.
https://brunch.co.kr/magazine/dailyai
email: pentaxzs@daum.net
twitter: @pentaxzs
brunch: https://brunch.co.kr/@monglec
