[인사이트] 넛지의 딜레마
심리적 인간과 도덕적 인간 조율하기
Pink Floyd - Welcome to the Machine
인터넷 블로그가 처음 등장했을 때, 많은 진보적 지식인들은 ‘개방’과 ‘공유’의 가치가 이 사회, 정치에 가치 있는 변화를 가져다 줄 것으로 믿었습니다. 세계적 석학 MIT미디어랩 소장 조이 이토_Joi Ito도 그 중 한 명이었습니다. 그는 인터넷 혁명이 ‘민주주의의 본질을 더 좋은 방향으로 비교적 빠르게, 근본적으로 바꿔 놓을 것이라 확신’했습니다. 그를 비롯한 많은 지식인들은 2010년 ‘아랍의 봄’이 발발했을 때 그것이 증명되었다고 생각했습니다. 그러나 곧 분명해진 것은 인터넷이 ‘창발적 정부 타도’를 위한 것에 도움이 되었을 지언정 책임감 있는 대안을 만드는 것에는 큰 도움이 되지 않았다는 점이었습니다. 더 나쁜 것은 인터넷 특유의 ‘평등’은 종교 근본주의 세력인 이슬람 국가(IS) 출현과 확산에도 강력한 도움을 주었다는 점입니다. 조이 이토는 고백합니다.
“안타깝지만 이제는 인터넷을 공개적인 토론과 민주적 운동을 위한 새로운 장으로 보는 측 못지 않게, 아니 어쩌면 그보다 더, 증오에 차고 무분별한 측이 인터넷에서 자신들의 대의와 목소리를 확산하는 데 이러한 새로운 소셜 미디어를 조직적이고 효과적으로 이용하는 것이 분명해졌다.”[1]
우리가 기업의 지속 가능성, 그리고 그 조직 안에서의 개인을 다루는 이상 기업이 ‘시장Market’의 마음을 얻어야 하는 것은 피할 수 없는 전제입니다. 그런데 시장의 마음을 얻는다는 것은 ‘사람을 설득한다.’ ‘사람의 지지를 얻는다’와 같은 인간성이 내재한 개념보다는 ‘트래픽Traffic‘, ‘월활성사용자Monthly Activity User’, ‘고객생애가치 LTV, Liftime Value[2], 신규고객획득비용CAC, Customer Acquisition Cost[3] 등과 같이 비용과 데이터 수치로 환산되어 표현됩니다. 고객이 데이터, 비용이라는 거리감 있는 비인격적 존재로 대체되는 순간은 전쟁에서 상대방이 내 눈앞의 동일한 사람이 아니라 ‘한번도 보지 못한, (그래서 죽어도 괜찮은) 적’으로 대체되는 메커니즘과 동일합니다. 그렇게 상대를 재정의한 군인이 적어도 전쟁 혹은 임무의 순간에 방아쇠를 당기는 것, 폭탄 스위치를 누르는 것을 망설이지 않는 것처럼 기업은 (예컨대) ‘트래픽’을 얻기 위해 수단 방법을 가리지 않게 됩니다.
때문에 오늘날 이 ‘넛징’이라는 기술이 가장 적극적이고 광범위하며 또 자극적으로 쓰이는 영역은 애초 리처드 탈러나 다니엘 카너먼이 의도한 ‘공공’의 영역이 아니라 ‘기업 마케팅’ 영역이 되었습니다. 넛징은 분명 인간의 ‘건강한 행동’을 자극하는 방향성을 지칭했지만 오늘의 넛징은 인간을 수단방법 가리지 않고 자신의 제품, 서비스 ‘중독을 자극하는’ 것 자체에 초점을 두고 있습니다.
넷플릭스가 제작한 오리지널 다큐멘터리 ‘소셜 딜레마The Social Dilemma’는 페이스북, 트위터, 구글, 유투브의 전-현직 종사자들과의 인터뷰를 통해 그 폐해를 적나라하게 지적합니다. 다큐멘터리는 소셜미디어 알고리즘은 인간이 소셜미디어에 중독되도록 설계됐고, 소셜미디어 중독은 인간을 극단적 의견을 가진 사람으로 만든다고 지적합니다. 트리스탄 해리스_Tristan Harris 전 구글 디자인 윤리학자이자 현재 ‘인간적 기술센터Center for Humane Technology 공동 창업자는 “소셜미디어는 인간에게 사용되길 기다리는 ‘도구’가 아니다”라며 “소셜미디어는 특정한 목적(이윤)이 있고, 그 목적을 달성하기 위해 인간 심리를 이용한다”고 말합니다. 사실 언제나 그래왔죠. 해리스는 “MIT 연구에 의하면 트위터에서 가짜뉴스는 진짜 뉴스보다 6배 빨리 퍼진다”며 “한쪽이 다른 쪽보다 6배나 유리한 게임을 하는 것”이라고 말합니다. 이어 “우린 거짓 정보에 편향된 시스템을 만들어버렸다”라며 “거짓 정보가 회사에 더 이익이 될 수 있기 때문”이라고 했습니다.
페이스북, 트위터 등 소셜 미디어는 인간의 말초 신경을 자극하는 디자인과 알고리즘으로 사용자가 더 오래 앱을 사용하도록 만듭니다. 마치 라스베이거스의 슬롯 머신 같습니다. 그 목적은 광고 수익입니다. 더 많은 사용자가 더 오래 머물수록 기업은 더 이익을 얻습니다. 중독을 유발하는 알고리즘은 사람들의 정상적인 사회 활동을 방해하고, 정신 건강을 위협합니다. 이러한 문제는 특히 어린 10대에게 더 크게 나타납니. 실제로 소셜미디어가 등장한 2009년부터 미국에서 불안과 우울증을 겪는 10대의 숫자가 가파르게 증가했습니다. 특히 10대 여성 청소년의 자살률이 높아졌습니다. 10대 후반(15~19세) 여성 청소년 자살률은 2000년대에 비해 70% 증가했고, 10대 초반(10~14세)의 경우 자살률이 151%나 증가했습니다.
소셜미디어 사용을 합리화하는 이들에게 컴퓨터 과학자이자 ‘가상현실의 아버지’라는 별명을 가진 재런 러니어_Jaron Lanier 박사는 위키피디아와 소셜미디어를 비교하며 유해성을 설명합니다. “위키피디아는 검색하는 모두에게 똑같은 결과를 보여준다. 만약 위키피디아가 검색하는 상대에 따라 단어 검색의 다른 결과를 보여주고, 그걸 통해 돈을 번다고 생각해봐라. 그걸 공정하다고 말할 수 있나? 아닐 것이다. 이게 유튜브나 페이스북이 하는 일이다.” 누가, 어디에서 검색하는지에 따라 다른 결과를 보여주는 소셜미디어 특성 때문에 다큐멘터리는 페이스북에 대해 ‘27억 개의 트루먼쇼’라고도 덧붙였습니다. 27억개의 ‘팩트’가 존재한다는 소셜미디어를 많이 활용하다 보면 모두 자신에게 동의하게 되리라 생각하게 됩니다. 자신과 다른 의견을 말하는 사람에 대해선 이렇게 생각하게 합니다. “쟤는 왜 저렇게 멍청한 거야?”
다큐멘터리는 소셜 미디어가 구현하는 기술적인 ‘초개인화’는 자칫 우리를 정신적으로 ‘무너뜨릴 수 있음’을 경고합니다. 끊임없이 (자신의 주체적 의지와 관계없이 마케팅, 설득의 목적이 다분한) 초개인화 메시지, 영상을 접하다보면 처음에는 대수롭지 않게 생각했던 주장도 맞는 말처럼 들립니다. 이런 개인이 많아지면 결국 사회는 분열됩니다. 미국의 ‘피자게이트’(힐러리 클린턴 전 국무장관이 피자 가게 지하에서 아동 성매매 조직을 운영했다는 음모론)는 물론, 러시아가 페이스북 가짜 계정을 개설해 미국 대선에 개입하려 했던 정황, 2020년 전 세계를 휩쓴 코로나19에 대한 음모론까지 가짜뉴스는 어느덧 진실이 되고 미디어는 질적 저널리즘에서 황색 저널리즘으로 변질됩니다. 정치에서는 점점 극단화되고 자극적인 주장과 행동을 하는 세력이 득세합니다. 트리스탄 해리스는 “소셜미디어는 사람들의 판단력을 잃게 만들고, 아무도 진실을 믿지 못하게 한다. 이는 민주주의를 공격한다”고 경고합니다.
‘아메리칸 어패럴’의 마케팅을 총괄했고 세계적 베스트셀러 작가이기도 한 라이언 홀리데이Ryan Holiday는 저서『나는 미디어 조작자다Trust Me, I’m Lying』에서 인간에 대한 이해를 마케팅이 얼마나 적극적으로 도입해 ‘악용’하는지를 자신의 미디어 조작 전략 및 경험을 인용해 구체적으로 밝힌 바 있습니다. 디지털 미디어 산업에 속한 플레이어는 수많은 최신 과학과 기술, 일하는 방식과 문화를 활용해 오롯이 ‘트래픽’을 높이기 위한 것에 ‘몰입’하고 있습니다. 그런데 그 몰입이 가짜뉴스, 조작, 사기, 기만, 오만, 거짓말, 과장, 착취, 피상, 생각하지 않는 습관, 근단적 혐오, 모멸감, 정신적 산만, 인신공격, 중독 등 우리가 ‘가장 인간다운 인간’으로서 지양해야 할 다양한 악덕을 ‘넛징Nudging’ 합니다.
오늘도 우리 주변의 거의 모든 미디어, 광고, 마케팅 주체는 “더 단순하게 더 자극적으로 더 교묘하게-!” 우리 안의 코끼리에게 말을 겁니다. 이를 조금 과장되게 정리해보면 우리는 ‘주체적 인간’으로서 그러나 한 기업에 속한 일원으로써 고객을 우리 제품과 서비스에 중독 시키고 그들이 피상적으로 종속되는 획기적인 방법을 찾아내기 위해 전력을 다해 몰입합니다. 또 우리는 기업 바깥에서 어떤 제품, 서비스, 미디어의 한 고객으로써 우리의 정신을 그렇게 빼앗깁니다.
우리가 일련의 ‘딜레마’에 획기적인 대안을 갖고 있지 못함에도 이를 다루는 이유는, 기업과 리더가 각자의 조직에서 필연적일 수 있는 도덕적 딜레마 상황을 그저 무감각하게만 넘기지 않기를 바라는 마음에서입니다.
다소 불편하더라도 조직이 스스로의 모습을 돌아보고 ‘진짜 성공’이 무엇인지를 끊임없이 되물어야 한다는 점을 상기시키기 위함입니다. 그 과정에서 우리는 때로는 과감하게 우리의 관성적인 의사결정과 행동을 바꿀 수 있어야 합니다. 불편한 진실, 딜레마를 의식적으로 들춰내고 마주하는 태도 속에서 우리는 좀 더 ‘좋은’ 가치판단을 내리고 좀 더 근본적인 조치를 시도할 수도 있습니다.
다시 인터넷 블로그 세계로 돌아가봅시다. 블로그가 트래픽을 위해 아귀다툼을 하고 그것을 위해 독자를 조종하는 이유는 잘못된 분석에 따라 잘못된 수익 흐름에 가치를 두도록 설계된 측면이 큽니다. 여전히 많은 미디어는 ‘개방’과 ‘공유’의 바람에 동참해 그들의 기사를 무료로 제공했습니다. 그 대신 광고 수입을 통해 그 운영비를 충당했습니다. 이는 ‘구글’이 인터넷 세계에 퍼트린 강력한 철학이자 비즈니스 모델이기도 했습니다. 구글은 한때 유료 제품과 서비스는 악마_Evil처럼 묘사했습니다. 이는 적어도 인터넷 세계에서는 강력한 지지를 얻었고 무료 컨텐츠, 광고 수익은 비즈니스 표준이 되었습니다. 그러나 복잡계 세계의 특징이 응당 그러하듯 이 철학과 모델은 위에 다룬 그런 심각한 문제들을 함께 낳았습니다. 몇몇 지각 있는 미디어를 중심으로 이 모델, 인센티브 체계 자체에 근본적인 문제제기를 하는 미디어, 그리고 독자가 하나 둘씩 나타났습니다.
뉴욕타임즈가 대표적입니다. 뉴욕타임즈는 2007년부터 시행한 트래픽기반 광고 모델을 2011년 3월 다시 유료화로 전환했습니다. 당시 뉴욕타임스의 유료화 서비스는 논란이 되었습니다. 그럼에도 불구하고 이들이 유료화를 강행한 것은 미디어의 본질에 대한 ‘책임’과 ‘권위’를 기업 스스로 되묻고 또 독자에게 묻는 위험한 그러나 가치 있는 시도였습니다. 뉴욕 타임즈는 현재까지 무료 컨텐츠 비율을 점점 줄이며 유료화 정책을 강화하고 있습니다. 결과는 어땠을까요? 2020년 뉴욕 타임즈에 따르면 2분기 디지털 구독부문 매출은 1억8550만달러(약 2204억원)로 종이신문 매출(1억7540만달러)을 처음으로 추월했습니다. 2012년 50여만명에 불과하던 온라인 유료가입자는 20년 2분기 기준 570만명이 되었습니다.
2019년 미국의 시사 주간지 ‘타임(Time)’은 10월 21일자 발간지에서 뉴욕 타임스의 디지털 뉴스 혁신 성공 사례를 심층 보도했습니다. 1851년 창간해 올해 168주년을 맞는 뉴욕 타임스는 지난 2008년 미국 경제위기 때만 해도 뉴욕 맨해튼에 있는 본사 건물을 일부 매각해야 할 정도로 어려움을 겪었습니다. 매출이 급감하고 적자가 쌓이는 악순환 상황이었습니다. 경제 불황만이 이유가 아니라 신문 산업의 근본적 취약 구조를 극복하지 못했기 때문입니다. 미국 저널리즘의 전통이었던 뉴욕타임스도 디지털 언론 환경에서 결국 문을 닫을 것이라는 전망이 팽배했었습니다. 그런 뉴욕타임즈가 불과 10여년 만에 대형 미디어의 몰락 추세를 홀로 역주행해 대역전을 일군 것입니다. 타임은 그 비결을 고품질 저널리즘으로 방향을 전환해 품질에 적극적 투자를 아끼지 않은 것을 꼽았습니다. 유료화는 모험적이었지만 신뢰성 있는 저널리즘과 제대로 된 디지털 경험, 기술이 결합해 독보적인 성과를 창출했습니다. 이는 인터넷 미디어의 주류 흐름을 거슬러 낸 성과이기도 했습니다.
소셜 딜레마의 전현직 기술회사 출신 인터뷰이들은 어떤 해법을 내놓고 있을끼요? 다큐멘터리는 소셜미디어를 사용하는 개인에게 주체성을 되찾아 ‘의식적으로’, ‘중독에서 벗어나세요’라고 말하는 동시에 소셜미디어를 만든 이들에게 윤리적 행동을 촉구합니다. 또 소셜미디어 기업에 대한 규제를 강조합니다. 해리스는 소셜미디어 개발자나 종사자들에게 다큐멘터리 마지막에 호소하듯 말합니다. “우리가 만들었으니 우리가 바꿀 책임이 있다.”전문가들은 소셜미디어 회사들이 수집하는 데이터 양에 따라 세금을 매기는 방안도 제안했습니다. 소셜미디어 기업이 긁어 모으는 데이터를 규제하지 않는 건, 결국 사상 최대 부자인 소셜미디어 회사들을 국가가 보호하는 것이라고 주장합니다.
물론 한켠에서는 IT 기업의 책임을 요구하는 규제가 관련 기술과 산업 발전을 저해할 수 있다고 주장합니다. 기업이 데이터를 통해 얻은 이익을 사회에 환원하는 것이 자본주의 원칙에 어긋난다는 지적도 있습니다. 기업이 어디까지 책임을 지고 어떻게 그 이익을 나눌지는 아직 모호하며, 이로 인한 갑론을박이 여전합니다. 디지털세를 두고도 현재 찬반이 첨예하게 대립하고 있습니다. 경제협력개발기구(OECD)는 130여 개국에 적용되는 디지털세 합의안을 2020년까지 도출하기로 했지만, 관련 논의는 지지부진한 상태입니다. 하지만 소셜 딜레마 속 전문가들은 모두 한목소리로 규제가 필요하다고 말합니다. 물과 전기에 세금을 매기듯 데이터에도 세금을 매겨야 하며, 마약 산업과 인간 노예 시장과·장기 거래를 금지한 것처럼 추천 알고리즘과 광고 수익 모델을 금지해야 한다고 말입니다.
“고객을 ‘사용자’라고 부르는 산업은 불법 마약 시장과 인터넷 소프트웨어 시장 뿐이다.” 에드워드 터프티Edward Tufte 예일대 사회학과 교수의 말입니다. 소셜미디어는 사용자를 어떻게 하면 소셜미디어에 중독시킬 수 있는지를 디자인해왔고 관련 데이터를 수집해왔습니다.
우리가 다시한번 잊어선 안 될 것은 알고리즘의 주인은 ‘인간’이라는 것입니다. 많은 기업인들은 빅데이터와 인공지능, 알고리즘에 환상을 품고 있습니다. 이 기술로 인해 세상이 객관적이고 공정해질 것으로 기대하고 또 그렇게 많은 지식인들이 홍보해왔습니다. 하지만 알고리즘을 설계하는 것은 결국 인간입니다. 반드시 인간의 선택이 개입합니다. 공정하다고 여겨지는 모형들에도 개발자의 목표와 이념이 반영됩니다. 모형들은 수학에 깊이 뿌리내린 지극히 개인적인 의견입니다. 때문에 알고리즘, 빅데이터, 인공지능 등 그것이 무엇이든 간에 기술의 설계와 해석에 어떤 식으로든 인간의 생각, 의견, 경우에 따라 심각할 수도 있는 편향이 반영됩니다. 미 수학자 캐시오닐 Cathy O’neil에 따르면 알고리즘은 무계획적인 데이터 수집과 허위상관(spurious correlation-실제로는 전혀 상관없는 두 변수가 수치상으로 상관성을 갖는 경우)에 의해 작동하고, 제도적 불공평(institutional inequity)에 의해 강화되며, 확증편향(confirmation bias-자신의 신념과 일치하는 정보는 받아들이고 신념과 일치하지 않는 정보는 무시하는 경향)에 의해 오염' 됩니다. 캐시 오닐은 수학적 모형이 성공적인지 판단하는 것조차 개인적인 ‘의견’에 지나지 않는다고 말합니다.
결국 공식적이든 비공식적이든 모든 알고리즘 모형의 핵심요소는 ‘성공에 대한 정의’입니다. 초개인화 ‘기술’은 아이러니컬하게도 다시 인간에게 그 길을 묻는다. 키는 기술이 쥐고 있는 것이 아닙니다. 우리가 성공을 무엇으로 정의하는가에 따라 모든 것이 달라지는 것입니다. 기술은 끝까지 도구, 수단으로 남고, 결국 여전히 남는 질문은 '인간이 그 도구와 수단을 활용해 어떤 삶을 살 것인지, 어떤 일을 할 것인지, 무엇을 욕망할 것인지 어떤 성공을 추구할 것인지?'에 대한 것입니다.
우리의 삶에 그리고 조직의 경영, 운영에 모순과 충돌이 필연이라면, 결국 또다시 남는 것은 그 자체를 인지하고 이해하는 것, 때로는 그 충돌에 직면해 열린 마음을 갖고 올바른 가치 판단을 할 수 있는 용기를 내는 태도입니다. 여러분의 ‘진짜 성공’은 과연 무엇인가요?
[1] Joi Ito, Jeff Howe, WHIP,LASH: How to Survive Our Faster Future, 2016, 한국어판본 62p
[2] 소비자 한 명이 하나의 상품 혹은 기업 고객으로 남아있는 기간 동안 발생하는 수익의 총합
[3] 한 명의 고객을 획득하기 위해 지불한 비용
