인간중심 AI 이해하기 #3 - 설명 가능한 AI

AI 시대에 맞는 UX 디자인 생각해보기

AI는 마치 블랙박스 같다는 말, 들어보신적 있으시죠? AI가 우리 실생활에 정말 깊숙히 들어왔지만, 아직까지 AI가 대체 어떤 의사결정 과정을 통해서 우리에게 그런 답을 알려주는지는 상세히 알기 어렵습니다. 이런 이유로 AI에 대한 신뢰도가 낮아지기도 하고, 가끔은 AI에 문제가 있어도 이것을 어떻게 수정해야 하는지 알아내기 어렵죠. 그렇기에 AI 관련 연구에서 요즘 아주 큰 부분을 차지하고 있는 토픽이 바로 설명 가능한 AI (Explainable AI, XAI) 입니다.

이번 아티클에서는 AI가 왜 그런 답을 내놓는지 이해하기 위해, 설명 가능한 AI(XAI)란 무엇인지, 그리고 설명가능한 AI를 구현하기 위해 UX 디자이너는 어떤 역할을 해야 할지 알아보겠습니다.

인간중심 AI 연구 분류 (Capel & Brereton, 2023)

설명 가능한 AI가 왜, 그리고 어떤 분야에서 특히 필요할까요? 금융, 의료와 같이 민감한 정보를 다루는 분야일수록 AI가 왜 그런 결정을 내렸는지 이해해야 AI가 제시한 결과를 신뢰하고 선택할 수 있습니다.

AI의 의사결정을 기술적으로 이해하려는 두 가지 시도가 있습니다. 먼저 로컬 XAI 방법론은 AI가 특정한 결과값을 주었을 때 이 결과값에 대한 설명을 제공하려는 시도입니다. 다음으로 글로벌 XAI 방법론은 AI 모델 전체의 작동 방식을 설명하는 데 초점을 맞춥니다.

설명 가능한 AI라는 컨셉이 중요하다는 것은 모두가 인정하지만, 그렇다고 AI의 의사결정 과정을 무조건 자세하게 설명하는 것은 의미가 없습니다. 사용자 특성에 맞게 설명 수준을 조절하고, 꼭 필요할 때 간결한 설명을 제공하는 것이 중요하죠.

설명가능한 AI에 대한 내용을 좀 더 상세히 보고 싶으시다면, 아래 링크에서 확인해주세요.

https://maily.so/inspirex/posts/b3cf66a6

속을 알 수 없는 너, AI

좀 더 다양한 '설명가능한 AI(XAI)' 사례가 궁금하다면?

https://maily.so/inspirex/posts/a7731ec1

설명 가능한 인공지능 (Explainble AI, XAI)의 실제 적용 사례

좀 더 다양한 '설명가능한 AI(XAI)' 방법론이 궁금하다면?

https://maily.so/inspirex/posts/909720de

From Artificial Intelligence to Explainable Artificial Intelligence in Industry 4.0 : A Survey on What, How, and Where

설명가능한 AI를 적용한 차량 내 인포테인먼트 시스템에 대한 만족도 연구가 궁금하다면?

https://maily.so/inspirex/posts/ae34cb92

Human Centered Explainability for Intelligent Vehicles–A User Study