인공지능 디자이너를 위한 조언 2
침투력이 좋은 인공지능을 만들자
"XXX 침투력 무엇?"이라는 드립이 최근 자주 등장한다. 뜬금없이 삽입되었지만 의외로 잘 어울려서 눈에 거슬리지 않는 것이라고 생각하면 될듯.
인공지능의 침투력 := 1 / 사용자들에게 요구되는 모든 것
모든 것 := 기존의 사용 행태에서 변해야 하는 것들
인공지능이 실수 했을 때 부담해야하는 추가 노동과 기타 비용
개인 정보 같은 프라이버시 이슈
그 외 사용자가 불편해 할만한 아무거나
"침투력 무엇?"이란 말이 나오는 인공지능은 스스로를 전면에 드러내지 않고, 기존에 해오던 방식에서 최소한의 변화를 요구하는 걸로 시작한다. 그리고 인공지능이 실수 했을 때도 큰 부담이 없어야 하고, 사용 과정에서 개인 정보의 유출이나 기타 불편할만한 이슈가 최소화되도록 디자인 되어야 한다.
흔하게 쓰이는 기술들
1. 한 걸음 뒤에서 따라가기
전통적인 제품에서 사용자와 기능의 관계는 "직접적인 지시-이행"에 가깝다. 하지만, 인공지능은 모델에 따라서 조금씩 다른 관계를 취한다. 사용자가 도움을 필요로 하는지 아닌지, 도움이 효과적일지 아닐지 모르는 상황에서도 인공지능은 언제라도 도움을 줄 수 있는 위치에 서 있는다. 그 예시 중 하나가 지메일, 링크드인의 메시지 작성 창에서 2017년 부터 조금씩 침투력을 늘려가고 있는 자동 응답 기능 - 사용자의 컨텍스트 (e.g. 기존에 받았던 메시지)를 파악해서, 작성할 만한 메시지를 제안한다. 메시지 작성에 방해가 되지 않는 위치에서, 대부분 무시되면서, 조금씩 쓰여지는 상황이 나오길 기다리고 있는다. 많은 고심을 한 흔적은 보이지만 아직 더 개선될 여지도 보임. 모델이 향상될 수록 (i.e. 사용자들이 제안된 메시지를 점점 더 많이 채택할수록) 더 적극적으로 나설 것 같다.
https://ai.googleblog.com/2017/05/efficient-smart-reply-now-for-gmail.html
2. 분리 하기 -> 섞어 넣기
UI에서 사용자와 인공지능이 관리하는 부분을 분리하는 것도 자주 쓰이는 방식이다. 사용자의 의도가 존중받아야 하는 메인 컨텐츠와 인공지능이 개입한 광고, 뉴스피드, 제품 추천이 표시되는 부분을 확실하게 분리하는 방식이다. 두 영역이 확실하게 분리될수록 거부감은 줄어든다. 하지만 점차 인공지능 영역은 무시될 수 있기 때문에, 초반에는 어떤 광고가 클릭되는지 데이터를 모으면서 모델을 개선해가다가, 조금씩 두 영역을 섞어가는 전략 (예. 페북의 뉴스피드에 친구들 소식, 추천 컨텐츠, 광고가 섞여서 나옴) 취하는게 보통이다. 단점도 있다. 두 영역을 조금씩 섞어가는 방식으로는 개개인의 다른 사용 패턴을 고려하기가 힘들다. 몇 년 동안 페북을 쓰지 않다가 최근 방문한 사람들은 "와 무슨 광고가 이렇게 많아"라고 하는 것처럼, 서비스를 한 동안 안 쓰다가 다시 들어온 사람들은 두 영역이 섞여 있는 상황에 적응하기 힘들다. 이런 현상을 극복하려면 사용자의 로그에 기반한 개인화 모델 (e.g. 오랜 만에 들어온 사용자에게는 인공지능 모델을 아예 비활성화시키거나 조금씩 보여주기) 이 효과적일수도 있겠다.
3. 잘 설명하기
디자이너는 모델이 어떤식으로 동작하며 어떤 데이터로 학습되었는지를 간결하게 설명함으로써, 사용자가 모델의 결과에 대해 덜 비판적으로 반응할 수 있게 유도할 수 있다. 인공지능 제품 역사상 가장 나쁜 설명이 마이크로소프트 오피스의 강아지 (혹은 클립)이라면, 가장 잘 선택한 설명은 아마존의 Customers who bought this item also bought아닌가 싶다.
이 제품들은 Collaborative filter라는 모델을 통해 추천된다. 저 짧은 설명에서 모델의 정의와 데이터의 출처가 투명하게 드러나면서도, 최종 목표 (추천된 제품이 사용자의 니즈에 부합될 것) 를 강하게 드러내지는 않았다. 그래서 전혀 새로운 제품이 출시되어서 생뚱맞은 제품이 추천되더라도, 사용자는 "아직 이 제품 산 사람이 별로 없어서 결과가 이상하구나"까지 유추가 가능한 것이다. 만일 저 기능의 설명이 "Recommended products"이거나 "You might find these products useful" 이었다면, 사용자들의 즉각적인 관심을 끌을 수는 있을 지언정, 몇 번의 실수가 실망과 불신으로 연결되지 않았을까?
