새로운 경험에 대한 사용자의 신뢰
당신은 누구를 믿습니까?
당신은 누구를 믿습니까?
웹사이트에 처음으로 당신의 신용카드 정보를 입력한 경험
에어비엔비(Airbnb)의 호스트나 손님이 되어 본 경험
비트코인을 가진 경험
왓챠(Watcha)가 나의 취향을 고려해 추천한 영화를 본 경험
카카오 택시 앱을 사용하여 이동한 경험
이 중 당신이 경험한 사례는 몇 가지가 됩니까?
감히 예상하기로 당신은 위의 예시를 대부분 경험하였을 것이고 모든 사례를 경험한 사람들을 주변에서 쉽게 볼 수 있을 것이다. (필자 또한 비트코인을 제외한 모든 사례를 경험하였다.)
이번 글에서 다루고자 하는 주제는 기술에 대한 신뢰이다. 앞서 말한 경험들은 기술에 대한 '신뢰'가 형성돼야 행동할 수 있는 예이다. 신뢰란 개념은 다소 모호한 개념이고 사람마다 정의가 다르기도 하지만 확실하고 공통된 사실은 '인간의 삶은 신뢰를 기반할 때 제대로 기능한다'는 것이다. 이 사실을 기술에 적용한다면 '기술은 신뢰를 기반할 때 제대로 기능한다'라고 볼 수 있다.
필자는 신뢰를 낯선 것에 대한 확신 있는 관계라고 정의한다. 이 관점으로 신뢰를 바라본다면 왜 신뢰가 불확실성에 순응하고 낯선 사람을 신뢰하게 하며 앞으로 나아가도록 하는 특별한 힘을 가졌는지 이해하게 될 것이다. 그리고 앞서 말한 사례들을 통해 기술을 향한 인간의 신뢰가 큼을 알 수 있을 것이다.
그렇다면 신뢰는 어떡해야 만들어지는 것일까?
여기에 작가이자 칼럼니스트인 레이첼 보츠만(Rachel Botsman)은 'climbing the trust stack'라고 부르며 사람들의 일방적인 패턴을 분석하였다. 사용자들은 (1) 아이디어를 믿고 (2) 플랫폼에 대한 확신이 있으며 (3)다른 사람들의 제공한 긍정적 피드백이 있다면, 처음에 이상하고 위험하다 느껴도 시도할 것이라고 말한다. 그리고 그 아이디어가 편하다고 느껴지는 지점에 도달하면 사용자의 행동은 변화되고 빠르게 변화와 혁신을 이끌어 낸다.
Climbing the trust stack, 'We've stopped trusting institutions and started trusting strangers'혁신적인 금융거래 기술인 블록체인은 그야말로 엄청난 신뢰의 도약이라 할 수 있다. 블록체인은 놀라운 기능과 원리로 널리 사용되지만 가장 중요한 핵심은 거래를 위해 변호사나 믿을만한 중개인 같은 삼자의 필요성을 없앴다는 점에 있다. 이것은 'Climbing the trust stack'에서 (3)다른 사람들의 평가를 신뢰할 절차가 없어진 것이다. 즉, 이용자는 낯선 경험 속에서 행동이 변화되는 순간들을 경험하고 새로운 기술에 대한 신뢰를 쌓기 시작한 것이다. 그리고 이와 같이 몇 가지의 요소들이 빠지거나 변경되었음에도 기술들을 믿게 되는 순간들이 주변에서 많아지고 있다. 예를 들어 계산, 결제, 최종 확인 요소가 사라지고 매장을 빠져나가는 경험을 주는 아마존고(Amazon Go), 주변 사람들의 후기나 소문을 듣고 선택했던 영화와 드라마를 나의 취향에 맞게 추천받고 감상하는 넷플릭스(Netflix)와 왓챠(Watcha), 전화로 혹은 길에서 직접 택시를 잡는 경험이 사라지고 앱으로 간편하게 출발 도착지를 설정하고 운전기사의 평가에 신뢰를 의지하는 우버(Uber)와 카카오 택시 등이 있다.
현재 신뢰는 시대에 따라 변화하고 있다. 과거 우리가 정부나 은행 같은 기관들에 신뢰를 두었던 반면, 오늘날 우리는 급격한 타인, 낯선 사람들, 에어비앤비와 같은 플랫폼들 그리고 블록체인과 인공지능 같은 기술에 점점 의지하기 시작하였다. 현재 일어나는 기술에 대해 작동하는 방식을 알지도 못하며 이해하기도 힘들지만 우리에게 나타난 행동의 변화로 기술들을 온전히 신뢰하고 있다. 이러한 신뢰는 다양한 기술의 등장과 함께 가속화될 것이다.
하지만 기술에 대한 신뢰는 늘 이면을 가지고 있다. 우리는 기술에 대한 신뢰의 부작용 사례 또한 주변에서 종종 볼 수 있다. 필자가 관심 갖고 있는 추천 알고리즘의 부작용의 예를 들어보고자 한다. 먼저 추천 알고리즘은 1990년대 중반 인터넷 사용의 급속한 증가로 인하여, 정보의 홍수 속에 있는 사용자들에게 도움을 주고자 추천 시스템이 사용되기 시작하였다(Konstan and Riedl, 2012). 사용자로 하여금 원하는 정보에 이르는 지름길 역할을 하며, 컴퓨터 알고리즘을 통한 기계적인 추천방식이 아닌 사용자가 구성한 정보 및 콘텐츠를 기반으로 빅데이터를 분석하여 개인의 관심 분야, 취향을 반영한 콘텐츠를 제공한다. 사용자들을 추천 서비스의 정확성을 경험함에 따라 기술과 서비스에 대한 신뢰도가 향상되고 점점 추천 서비스가 자동으로 추천하는 콘텐츠나 제품을 수용하기 시작하였다. 그러나 기술에 대한 무한 신뢰가 무비판적인 수용 현상을 일으켰고 수동적 서비스 이용은 여러 사회적 이슈를 만들어 내고 있다.
저너리즘에서는 이용자 성향 분석을 기반으로 한 서비스에 대한 비판이 나오고 있다. 그중, 네이버가 뉴스 화면 편집을 인공지능 '에어스'(AiRS)에 맡기면서 뉴스 추천이 편향적으로 흐를 수 있다는 우려가 나오고 있다. 에어스의 뉴스 추천 알고리즘은 사용자 선호도에 맞춰 콘텐츠를 추천하는 방식이기 때문에 이용자가 필터링된 정보만 접하게 되는 '필터 버블'현상으로 이어질 수 있다. 한규섭 서울대 언론정보학과 교수는 "편향된 뉴스만 소비함으로써 확증편향이 나타날 것으로 예상되며 특히 정치뉴스를 선택적으로 접하면 정치적 양극단화가 조장될 수밖에 없다"라고 말하였다. 이제는 얼마나 많은 뉴스를 소비하냐가 아닌 어떤 뉴스를 보는지가 중요한 시점에서 사용자의 뉴스 편식을 일으키는 개인 추천 서비스에 대해 비판적 수용이 필요하다. 이러한 논쟁은 구글과 페이스북에서도 벌어지고 있다.
또한, 아마존(Amazon)의 쇼핑 추천 기능이 이용자가 손쉽게 사제폭탄을 만들 수 있는 가이드가 되고 있다는 논란에 휩싸였다. 아마존 웹사이트의 쇼핑 추천 알고리즘이 폭발물을 만드는 데 필수적인 재료를 살 수 있도록 돕는 역할을 하고 있다고 CNBC 방송이 보도했다. 이용자가 아마존에서 특정 화학 물질을 사려할 경우 '자주 함께 사는 제품' 추천 항목에 화약이나 테르밋(산화철과 알루미늄 혼합물) 재료가 노출되는 식이다. 심지어 일부 화학 성분의 '이 제품을 산 이용자가 샀던 제품' 목록에는 강철 볼 베어링이나 누름 버튼 스위치, 전지 이음기, 전선 등이 뜨기도 한다. 그 외에도 페이스북이 친구 추천 기능을 통해 IS와 같은 과격 주의자들을 추천하여 큰 비난을 받았었다.
이처럼 위와 같은 사례를 통해 우리는 어느 선까지 기술을 신뢰해야 하며 도입해야 하는지에 대한 깊이 있는 논의가 필요하다. 즉, 우리를 둘러싼 시스템들은 완벽할 수 없다는 생각을 가지고 기술을 신뢰해야 한다. 이러한 관점으로 올바른 기술 사용하기 위해서 사용자의 행동 관찰하고 디자인해야 한다. 앞서 레이첼 보츠만이 주장한 'Climbing the trust stack'과 같은 모델 혹은 다른 행동 모델을 참고하여 각 단계에서 일어나는 사용자 행동을 관찰하고 기술에 대한 신뢰가 깨지는 요소를 찾고 분석하여 균형 잡힌 인터랙션 모델을 제안하여 서비스를 계속해서 개선시켜 나가야 한다.
참고
TED, 'We've stopped trusting institutions and started trusting strangers'
https://www.ted.com/talks/rachel_botsman_we_ve_stopped_trusting_institutions_and_started_trusting_strangers/transcript#t-953132
Yoojung Kim, '쇼핑의 미래, 아마존 고(Amazon Go)에 다녀온 UXer'
김현동.황해정.박기은.강민구.김정훈.이인성.김진우, '평점의 의미: 개인화 추천 서비스에서 사용자 경험단계에 따른 콘텐츠 평가의 의미와 활용에 대한 탐색적 연구'
news1, 'AI가 추천하는 네이버뉴스…'편향적 뉴스소비' 우려'
중앙일보, '아마존 쇼핑 추천기능 논란…폭탄 재료도 줄줄이 알려줘', slideshare
The telegraph, 'Facebook accused of introducing extremists to one another through 'suggested friends' feature'
