인공지능에 사용자 경험이 필요한 이유
AI & UX를 읽고
LLM 모델과 기술을 활용한 프로덕트를 만들면서, 어떤 점들을 고려해야 할지 리서치하면서 AI & UX라는 책을 알게 되었다.
저자는 새로운 기술이 세상에 유용하게 사용되기 위해서는 그에 맞는 UX가 필수적으로 고려되어야 하며, 그렇지 않으면 기술이 유용하게 받아들여지지 않고 암흑기를 맞게 된다고 한다.
AI & UX에서는 AI 기술이 수용되지 않았던 실패 사례에 대해 사용자 경험 관점에서 이야기하고, 특히, 직접 사람들에게 정보를 전달하는 AI 애플리케이션 안에서 경험하는 AI와 관련된 UX를 중점적으로 이야기한다.
몇 가지 기억에 남는 부분들을 정리해 보려고 한다.
AI애플리케이션은 왜 실패했을까?
AI의 능력 그 자체만이 강조되고 있고, 사람들에게 어떤 가치를 주는지, AI 도구로 어떤 이점을 얻는지에 대해선 관심이 많지 않았다. 제품을 작동할 수 있게 만드는 게 아니라, 사람을 위해 작동하게 만드는 제품이어야 한다. 대부분의 AI 애플리케이션에 유용한 기능은 많지만, 사용자가 사용할 수 없는 맥락에 있거나 접근하는 방법을 모른다면 무용지물이다.
AI 제품에 대한 과대평가와 실망 → AI 기술에 대한 투자나 지원이 삭감되면서 침체기가 시작될 수 있다. 필자는 AI 제품에 대한 과대평가와 실망이 UX를 고려하지 않는 제품이 출시되고 사용자들에게 받아들여지지 않는 경험이 큰 이유라고 꼽는다."기술이 사람들을 위해 작동하지 않는다면 제대로 작동하지 않는 것이다."
"기술이 사람들을 위해 작동하지 않는다면, 제대로 작동하지 않는 것이다."
사용자경험을 고려한다는 의미는?
제품의 성공을 위해서는 고객 만족 이상의 것을 추구해야 하는데, 이때 제품을 UX 형용사들과 연결시켜 개발해야 한다. 예를 들면 상호작용을 설명하는 데 사용되는 형용사는 중독적인, 재미있는, 매력적인, 직관적인, 효율적인, 부드러운, 영리한, 실용적인 등등이 있으며, 단순히 "고객이 만족하는 제품을 만들겠다"가 아니라, 어떠한 경험을 제공하겠다는 것은 고객이 형용사로 표현할 수 있는 상호작용을 제공하겠다는 것을 의미한다.
우리는 이런 물음표를 던져야 한다.
내가 만들고 싶은 AI애플리케이션은 사용자가 만족했을 때 어떤 상호작용을 느껴야 할까?
UX프레임워크 (AI-UX원칙)
UX프레임워크는 크게 세 가지 원칙이 있다. 신뢰, 상호작용, 맥락이다.
신뢰
신뢰는 사용자가 예상하지 못한 결과가 나오지 않을 때, 그리고 원하는 과업을 AI 제품이 성공적으로 수행할 때 나타난다. 불필요하거나 도움이 되지 않는 과업을 수행하거나, 예상하지 못한 방식으로 동작하면 신뢰를 쌓을 수 없다.
신뢰는 사용자의 선택을 받는 데 매우 중요한 역할을 하며, 굉장히 쉽게 잃을 수 있다.
상호작용
상호작용은 AI가 어떤 방식으로 사용자들을 참여시킬지와 관련이 있다. GUI로 전달될 수도 있고, 메시지, 문자, 푸시 등 다양한 형태를 사용할 수 있다.
또한, AI는 사용자에게 영향을 줄 수 있는 동작을 구동하기 전 사용자에게 미리 알리는 등의 상호작용을 시도해야 하는데, AI 프로덕트에서는 이 상호작용을 디자인해야 한다.
AI의 구동방식에 대한 이해
AI는 블랙박스라는 문제가 있다. 어떤 이유로 이런 응답을 내놓는지 사람들은 구동 방식을 정확하게 알기 어렵다. 그렇기 때문에 어떤 데이터를 활용해서 이런 대답을 내놓았는지 받아들이는 사용자가 이해할 수 있게 노력해야 한다.
맥락
AI 제품을 만드는 사람들은 AI가 내놓는 결과물이 어떤 맥락에서 사용되고, 어떤 맥락에서 사용자들에게 전달되는지 이해해야 하며, 이것이 목표와 기대와 어떻게 다른 의미인지 알 수 있게 하는 것이 중요하다.
즉, 사람들이 제품을 어떤 상황에서 어떤 이유로 사용하고 결과물을 어떻게 받아들일지 고민하는 것이 맥락에 대한 고민이고, 그 맥락을 강화하기 위해 AI에게 충분한 정보를 전달해야 한다.
맥락은 크게 1) 사용 맥락 2) 대화 맥락 3) 정보 및 사용자 맥락으로 나누어진다.
사용 맥락
무엇을 하고 있는지, 어디에 있는지 등에 따라서 어떤 상황에서 이 제품을 사용하는지에 대한 정보를 활용한다.
대화 맥락
AI와 이야기를 나눈다면 얘기했던 내용을 기억하고 응답하는 것을 의미한다. 특히나 챗 기반의 AI 제품을 만든다면, 인간 대화의 일반적인 관례를 따라 설계해야 한다.
인간 대화의 일반적인 관례
양의 격률: 정보 - 현재 목적에 요구되는 만큼만 얘기하라.
질의 격률: 진실 - 거짓이라고 믿는 것을 말하지 말라. 적절한 증거가 부족한 것을 말하지 말라.
관계의 격률: 관련성 있게 말하라.
방법의 격률: 모호한 표현을 피하라, 중의성을 피하라, 간결하게 말하라, 논리 정연하게 말하라.
정보 및 사용자 맥락
사용자가 직접 입력한 정보, 그리고 제품에서 수집된 행동패턴을 해석한 정보 활용하면 훨씬 더 유용한 경험을 만들어낼 수 있다.
똑같이 "음악 재생해 줘"라고 말해도 요청시점, 그리고 평소에 자주 듣는 노래 스타일, 발화자 등에 맞춰서 음악을 재생할 수 있다.
Affordance의 중요성
UX에서 어포던스는 매우 중요한 개념이다. 행동유도성이라고 해석되며, 어포던스가 강력하다는 것은 사용자에게 충분히 어떤 행동을 해야 할지 정보를 제공한다는 것이고, 사용성, 기능, 사용을 향상한다.
시리는 왜 실패했고 에코는 왜 성공했을까?
필자는 시리를 실패한 AI 제품의 대표적인 사례로 꼽는다,
시리는 불필요한 순간에 응답하고, 사용자의 기대대비 요청을 잘못이해하거나 못 알아듣는 경우가 많아 기대를 충분히 충족시키지 못했다. 스마트폰을 사용하는 상황은 매우 많으나, 시리는 정확히 어떤 순간에 사용해야 하는지가 모호했고, 사용자로 하여금 상상하게 하고, 기대치를 높였지만 실제 능력은 그렇지 못했다.
아마존에서는 알렉사가 내장된 에코를 출시했다. 에코는 특정 사용 시나리오를 염두에 두고 설계되었다. 에코라는 하드웨어는 가정에 놓고 사용하게 되고, 가정에서는 상대적으로 음성으로 AI제품을 구동시키는 것이 부끄럽지 않다.
가장 큰 차이는 유즈케이스에 대해 얼마나 날카롭게 정의했는지였다.
UX프레임 워크 적용하기 (UCD - User Centric Design)
실제 프로덕트를 만들면서 위 프레임워크를 적용하기 위해서는 사용자를 이해하기, 리서치 등을 통해 사용자 중심의 디자인을 해야 한다. UCD는 사용자를 이해하고 사용자의 과업을 이해하고, 솔루션을 도출하는 디자인 방법론이며, 아래의 UX 핵심 요소를 고려해야 한다.
유용성/기능성: 사용자에게 인지된 기능적인 이점이 무엇인지를 의미한다. 유즈케이스를 정의하는 것이 이 단계에서 해야 할 일이다.
사용성: 제품의 기능을 얼마나 효율적으로 사용할 수 있는지를 의미한다.
신뢰: 사용자들은 AI에게 더 가혹하다. 실수를 용납하지 않도록 특정 유즈케이스로 좁혀 기능을 제공하자.
기이함: AI가 제안이나 추천을 하거나 사용자의 기존 정보를 활용하여 정보를 전달할 때, 사용자가 기이하게 받아들이지 않도록 얼마나 자의적으로 사용자 정보를 활용하여 해석할지 척도를 정의하는 것이 필요하다. 너무 사소한 영역까지 제안을 자주 한다면 사용자는 거부감을 느낄 수도 있다.
심미성/감정: 동일한 기능을 제공해도 아름다운 것을 더 선호한다.
AI-UX인터렉션을 위한 커닝페이퍼
시스템이 할 수 있는 일의 범위를 명확히 하자.
시스템이 할 수 있는 일을 얼마나 잘하는지 정의하자
맥락기반을 서비스는 타이밍에 맞춰 제공하자
맥락에 맞는 정보를 표시하자
사회규범을 따르자
편견을 완화시켜라
효율적인 호출을 지원하라 > 필요할 때 쉽게 호출할 수 있음
효율적인 종료를 지원하라 > 필요하지 않을 때 쉽게 거절할 수 있어야 함
효율적인 수정방식을 지원하라
의도가 불명확하다면 서비스 범위를 조정하라
해당 작업을 수행한 이유를 분명히 하라
최근 인터렉션을 기억해라
행동에서 배우라
신중하게 업데이트하고 조정하라
세부적인 피드백을 장려하라
글로벌 제어 방식을 제공하라
변경사항을 알려라.
AI제품의 역할은?
AI는 복잡한 업무 분야에서 인간보다 더 능력이 있는 기술이라고 위험하게 과대평가될 수 있으나, 강점과 한계를 적응할 수 있다면 AI는 인간과 협업관계로 가치를 줄 수 있다.
인간이 완료하는데 몇 시간 걸리던 과업을 자동화할 수 있는 도메인들이 분명히 존재하며, 이를 자동화하면서 사람들은 주요한 과업을 더 잘할 수 있게 된다.
책을 읽고 나서.
필자는 AI 제품을 기술에만 집중하지 않고, 목적이 명확한 제품을 만들자고 제안하며 글을 마무리한다.
AI 제품을 만든다고 해서 기존의 제품과 원칙이 다르지는 않다는 것을 다시 한번 느끼게 됐다.
다만, AI라는 기술의 특성상, 사용자가 가질 수 있는 기대치가 매우 다양하고, 때로는 위험하다고 느끼기도 하고 때로는 뭐든 할 수 있는 능력을 가졌다고 기대하기도 한다.
나도 AI 제품을 만들고 제품의 가치 제안을 고민할 때 AI 기술의 잠재력을 강조하려고하며, 뭐든 할 수 있다는 점만을 강조하는 오류를 범하기도 했다.
좋은 제품의 원칙은 변하지 않는다. 사용 의도와 목적이 분명하고 그것이 잘 전달되어 사람들이 효율적으로 유용함을 느낄 수 있는 제품이다.
기술의 함정에 빠져 유즈케이스를 고려하지 않고 UX 원칙을 무시하는 프로덕트를 만들지 않도록 해야 한다.
또한, 자연어 기반의 컴퓨터와의 상호 방식을 설계하는 것은 무엇보다 신중해야 한다. 마치 사람과 대화를 설계하는 것과 동일하다. 자연스러운 의사소통을 하기 위해 필요한 요소들을 다시 한번 고민하고 제품에 반영해야겠다는 사실을 알게 되었다.
LLM이라는 기술도 ChatGPT라는 제품으로 인해 채택되고 시작했다. ChatGPT는 대화형 작동 방식이라는 사용자 경험이 고려된 제품이며, 독특한 사용자 경험을 설계한 점이 채택되는데 큰 기여를 했다고 생각한다.
ChatGPT가 아니었다면 LLM기술 그 자체는 더 느리게 채택되었을지도 모른다.
앞으로 더 많은 사람들에게 성공적으로 LLM기술이 유용하게 쓰이고 채택되기 위해서는 더 확실한 유즈케이스, 더 분명한 목적을 지닌 제품들이 얼마나 탄생하는가에 달려 있다고 생각한다.
필자가 말하는 AI 제품의 실패로 침체기가 오지 않으려면 사용자에게 채택되는 프로덕트를 더 잘 만들고 고민하는 것이 필요하다고 공감하고 책임감도 느낀다.
마지막으로, 이 책에서 필자가 여러 번 강조한 문구를 다시 한번 얘기하며 글을 마친다.
"AI가 사람들을 위해 작동하지 않는다면, 그건 작동하지 않는 것과 다르지 않다."
