brunch

매거진 인공지능 디자인 가이드북

라이킷 26 댓글

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 글쓰는몽글c Apr 26. 2020

AI Design Guide #3. 멘탈모델

인공지능 디자인하기 5단계 중 3단계 (멘탈모델)

PAIR의 구글의 AI 디자인 가이드북을 5개의 챕터로 조금 다듬어 번역/공유해보고자 한다.
1. 사용자 니즈
2. 데이터
3. 멘탈모델
4. 신뢰와 피드백
5. 오류

원문을 보고 싶으신 경우 아래 링크에서 확인 가능하다.
https://pair.withgoogle.com/guidebook/

인공지능 기획/디자인 과정은 PC/모바일 디자인 프로세스와 다르지만 또 유사한 점들도 존재한다.

예를 들어 인공지능이라는 새로운 기술을 적용하기 때문에 고민해야 하는 지점은 다를 수 밖에 없겠지만, 사용자에게 올바른 가치를 전달한 다는 측면에서는 동일한 고민을 할 수 밖에 없을 것이다.

인공지능 프로세스 중에 세번째 프로세스인 사용자의 멘탈모델(Mental Model)에 대해 살펴보도록 하겠다.

Mental Model

인디 영의 저서인 멘탈모델에서 멘탈모델을 이렇게 정의하고 있다.

『멘탈모델』은 사람들의 행동 동기, 사고 과정뿐만 아니라 그들이 행동하는 감성적, 철학적 배경에 대해서도 깊이 이해할 수 있도록, 대표 사용자들에게서 수집된 에쓰노그래피(ETHNOGRAPHY) 자료를 의미상 가까운 것끼리 모아 놓은 친화도(AFFINITY DIAGRAM)라고 하겠다.

즉, 사람들의 사고와 배경에 대한 하나의 모델이라고 할 수 있겠다.

사람마다 자신의 생동이 어떠한 영향을 미치는지에 대한 이해라고 할 수 있으며, 예를 들어 자전거를 타는 방법을 알고 있다면, 오토바이를 타는 방법에 대해서도 알 수 있을 것이라는 가정이다.

인공지능에서 이러한 멘탈모델은 매우 중요한 의미를 가지는데, 인공지능이라는 어떻게 보면 불명확한, 혹은 해석하고 이해하기 어려운 서비스는 명확한 멘탈모델을 가지는 것이 사실상 어려울 수 있다.

다양한 인공지능을 탑재한 서비스들을 보면, 왜 이 콘텐츠를 추천했는지, 왜 이러한 질문을 내게 하는지, 왜 최종 예측값이 이렇게 나왔는지를 사용자, 혹은 고객에게 설명하기 어려운 경우들이 많다.

따라서 인공지능의 수준에 따라 명확한 멘탈모델을 사용자/고객에게 전달하는 것은 매우 중요한 단계라고 할 수 있다. (최근 쉽게 접할 수 있는 챗봇의 경우도 해당 챗봇이 '아직 배우고 있다.'라고 이야기하는 이유도 사용자들에게 아직 챗봇이 미숙하는 점을 알려 제대로된 멘탈모델을 가지게 하는 하나의 방법일 수 있다.)

제대로 알아듣지 못하는 상황에서 엉뚱한 답변을 하는 것은 이해하지 못한다고 답변하는 것 보다 더 문제로 인지될 수가 있다.

엉뚱한 답변을 하게 되는 경우

인공지능 서비스에 대한 멘탈모델을 보다 명확히 전달하기 위해서 아래와 같은 방법을 고민해보자.

1. 인공지능 서비스에 대한 기대치 확인하기

인공지능이 적용된 서비스/제품은 일반적인 다른 서비스/제품과는 다르다. 오늘 내가 산 망치는 내일도 동일한 망치로 남아있을 것이라고 확신할 수가 있다. 하지만 인공지능이 적용된 비디오 스트리밍 서비스는 사람이 어떻게 사용하는지에 따라 보여주는 결과물(콘텐츠)이 달라질 수 있다. 결과적으로 인공지능을 통해 개개인 별로 다른 콘텐츠, 그리고 어제와 다른 오늘의 콘텐츠를 추천해주고 있다고 할 수 있다.

인공지능이 적용된 서비스/제품을 제공하고 있다면 사람들이 현재 어떻게 AI를 활용하고 있는지 생각해 보고 정의해보도록 하자.

이미 존재하는 멘탈모델과 새로운 멘탈모델에 대한 정의를 위해 사용자 그룹을 나누어보고 논의를 시작하는 것 부터 시작해볼 수 있다.

예) 현재 제품에 대해서 사람들이 인식하고 있는 멘탈모델은?

GroupA (예: 20대 사회초년생)
서비스 멘탈모델:
서비스 목표:
Novice User/ Expert User 사이의 차이점:

GroupB (예: 40대 이상 자산가)
서비스 멘탈모델:
서비스 목표:
Novice User/ Expert User 사이의 차이점:

위와 같은 과정을 통해 기존 사용자들에 대한 기대치 설정을 해볼 수 있다.

이 기대치에 대한 설명이 중요한 이유는 AI가 분명한 한계를 가지고 있기 때문이다.

인공지능을 통해 자동으로 레이블을 설정하고, 수백만장의 사진 중에 사용자가 원하는 사진만을 추출하거나, 그룹핑하는 것들 처럼 인간이 할 수 있는 놀라운 것들을 해내고 있지만, 여전히 잘못된 추천을 해주거나 적합하지 않은 답변을 내놓기도 한다.

따라서 사용자들에게 일반화된 'AI Assistant'의 개념이 매력적으로 보일 수는 있지만, 시스템의 한계가 명확하게 전달되지 않으면 사용과 동시에 신뢰를 잃을 수 있다.

인공지능의 기능이 얼마나 완성도 있는지에 따라 인간화/인격화(humanization) 하고, 한계점을 명확히 전달해야 한다.

이미지 출처: Google AI Book

인공지능이 할 수 있는 일에 대해 올바른 기대치를 설정하는 것이 중요하다. 그리고 시간이 지날 수록 개인화가 될 것이라는 점을 명확히 하는 것 또한 중요하다. 하지만 인공지능이 모든 것들을 다 해줄 것 같은 문구는 사용자들에게 비현실적인 기대를 하게 만든다.

2. 단계적으로 온보딩 하기

온보딩은 새로운 서비스를 처음 접하고, 지속적으로 해당 서비스를 이용하게 될지를 결정하게 되는 중요한 첫번째 접점이다. 초반에 서비스/제품에 대한 첫인상을 줄 수 있기 때문이다.

인공지능에 대한 소개하기

많은 서비스/제품들이 AI가 서비스를 이용하는데 절대적인 편의성을 준다고 홍보들을 하고 있다. 이를 '인공지능 마법(AI Magic)'이라고 마케팅하고 있지만, 사용자들은 대부분 실망을 하게 마련이다.

AI 스피커와 챗봇은 말을 잘 못알아 듣고, 추천해주는 콘텐츠는 내 취향과 다른 콘텐츠들을 추천하곤 한다. 따라서 서비스/제품의 작동방식을 숨기고 과정을 숨기고 결과만을 알려준다면 사용자들에게 혼란을 주고 결국 신뢰를 잃을 수 있다.

이미지 출처: Google AI Book

위 이미지에서 보여지는 것 처럼, 서비스/제품이 사용자에게 어떻게 도움이 되는지를 강조하되 기술을 강조할 필요는 없다.

서비스/제품에 대해 올바른 기대치를 설정하기 위해서는,

제품이 할 수 있는 것과 할 수 없는 것에 대하여 설명하기 *

제품의 가치를 알려줄 수 있는 작동방식의 사례를 설명하기 (얼마나 도움이 되는지)

시간이 지날수록 개선하기 위한 피드백이 필요할 수 있음을 공유하기 *

온보딩에서는 이와 같은 내용과 더불어, 기술이 아닌 얻을 수 있는 이점을 설명함으로써 올바른 멘탈모델을 사용자들에게 전달할 수 있을 것이다.

3. 함께 인공지능을 학습시키기

인공지능 기반 제품은 시간이 흐를수록 학습을 통해 더욱 똑똑해지고 이는 사용자의 기대감을 형성할 수가 있다. 이는 사용자의 멘탈모델 역시 시간이 흐를 수록 변화할 수 있다는 것을 의미한다.

온보딩에서 사용자의 피드백이 인공지능에 얼마나 도움이 되는지 공지하는 것은 이후 피드백을 얻는데 큰 도움이 될 수 있다.

피드백을 얻는 방식은 두 가지 방법이 있다.

암묵적 피드백 *
사용자들이 제품을 사용하면서 나도 모르게 피드백을 주는 경우. 이를 위해서 내 피드백이 어떻게 사용되는지에 대한 명확한 내용이 약관에 표현되어야 한다.

명확한 피드백 **
사용자들이 직접적으로 내가 관심있는 음악 카테고리를 선택하는 것과 같이 의도적으로 피드백을 제공하는 경우이다. 이를 통해 사용자는 내가 제품을 보다 잘 제어하고 있다는 느낌을 받을 수 있으며, 인공지능이 어떻게, 그리고 언제 적용되는지 명확히 설명해주는 것은 도움이 된다.

그리고 인공지능이 제대로 결과를 보여주지 못하는 경우 수동으로라도 인공지능에 의존하지 않고 해결할 수 있는 방법을 제공한 것 또한 중요하다.