중독

테크기업의 중독 설계

 <사피엔스>의 저자 유발 하라리는 호모 사피엔스가 불리한 신체 조건 속에서도 생태계의 정점에 설 수 있었던 건 인류가 가진 호기심과 상상력 때문이라고 말한다.  호기심이 인간을 개척자로 만들어 주었고, 상상력이 수많은 인간을 하나로 묶고, 서로 힘을 합쳐 문제를 해결할 수 있게해준 원동력이라는 것이다. 하지만 생태계의 정점에 선 뒤, 인류의 역사를 추동한 것은 호기심과 상상력만은 아니었다. 인류의 역사는 '욕망' 과 '나약함'간의 치열한 레이스였다. 우연한 호기심은 욕망을 낳았고, 때로는 그릇된 욕망에 무너지기도했지만, 고양하려는 욕망으로 다시 일어서기도 했다. 이 치열한 레이스 속에서 인류는 스스로 만든 기술과 문명에 길들여지고 도전하는 일을 매번 새롭게 반복했다.

  그럼에도 불구하고 오늘날 인류가 마주한 현실은 조금 무섭다. 거듭된 기술의 발전이 인간의 호기심과 욕망을 실현할 수 있는 가능성을 키워준 것은 사실이지만, 그릇된 욕망에 다시 일어설 수 없을만큼 무너져버릴 가능성도 똑같이 커진 게 아닐까 하는 두려움 때문이다.

  아이폰이 출시된 지 어느덧 10년. 10년 간의 경험을 통해, 테크 기업들은 시덥지 않은 꼼수로는 스마트해진 유저들을 사로잡을 수 없음을, 꼼수가 아니라 정수로 가야 한다는 걸 깨달았다. 유저들이 정말 원하는 것, 무의식적으로 원하는 것을 찾아내 제공하는 것이 핵심이다. 실제로  오늘날 테크 기업들은 데이터를 기반으로 유저의 행동 패턴을 철저하게 분석하고 그들을 자사 서비스에 더 오래 머물게 할 방법을 치열하게 찾는다. 페이스북이 메시지 작성자의 타이핑 속도, 키보드를 누르는 강도, 움직임이나 위치 등을 종합적으로 파악해 사용자의 감정을 파악하는 기술 특허를 냈다는 뉴스는 꽤나 충격적이었다.

  사용자는 손만 까딱, 눈만 깜빡해도 알아서 '만족' 시켜주는 서비스. 스마트폰 시대를 지나 IOT,  AI 시대를 선도하려는 모든 테크 기업들의 지향점인 것처럼 보인다. 핫한 서비스가 나오면 소비자들은 끌릴 수밖에 없다. 다른 멍청하거나 재미없는 서비스들이 줄 수 없는 <내가 진짜 원하는 것> <무의식중에 원하는 것>을 주기 때문이다.

  하지만 쉽게 만족을 얻는 경험을 몇 번 반복하게 되면 나약한 우리 인간은 쉽게 '중독' 된다. 물론 일시적인 중독은 삶의 활력소가 되고, 새로운 것을 학습하게끔 동기를 부여한다고 하지만(출처) 손만 까딱, 눈만 깜빡하면 얻을 수 있는 보상에서 손과 눈을 떼기란 쉽지 않다. 중독의 무서운 점은 자극에 내성이 생기고, 중독된 것 이외에 다른 것들은 시야에서 흐릿해진다는 것이다. 만일 내성이 생긴 사용자들을 놓치지 않으려고 서비스에서 더 센 자극을 제공한다면, 또 그게 먹힌다면, 사용자들의 시야는 점점 좁아질 것이다. 좋은 것, 편한 것만 따라다니다보면 정말 중요한 것이 무엇인지에 대한 가치 판단이 흐려질 수 있다. 그럼 우리는 어떻게 해야할까.

넷플릭스의 <블랙미러>는 소셜미디어에서의 Like와 평점 중독이 인간에게 얼마나 치명적일 수 있는지 잘 보여준다.

  일단 너무 쉽고 빠르고 편하고 재밌는 건 조금 경계할 필요가 있지 않을까! 또 적절히 즐거움을 누리되 동시에 성찰하는 법, 멈춰서 생각하는 법을 잊으면 안된다. 우리는 호기심이 많고 욕망 덩어리인데다가 한없이 나약하기도 한 복잡미묘한 인간이므로 계속 스스로 돌아보고 '어, 지금 이대로 괜찮은 걸까?' 물어봐야 한다. 인간 특유의 복잡미묘함, 예민함을 잘 살리는 것이 우리가 최첨단 기술과 문명 속에서 중독에 빠져 무너지지 않고 적당히 즐기며 계속 잘 살 수 있는 방법인 것 같다.

앞으로 인간의 주된 일은 정보에서 나오지 않을 것이다. 그것은 정보의 바깥에서 올 것이다. 예를 들면 느리게 배울 때에만 간신히 알 수 있는 일, 평생에 걸쳐 배워야 깨달을 수 있는 일 같은 것 말이다. 따라서 생명을 사랑하고 평화를 이룩하고 정의를 실현하고 순간을 고양하려는 욕망을 어떻게 해결할 것인가를 질문하고 답하며 가르치고 배워야 한다.
매경칼럼 <AI시대의 인간>중에서

  서비스를 만드는 테크 기업도 '유념'해야 한다. 물론 유저가 원하는 것을 제공하는 것은 어렵고 중요한 일이다. 하지만 아무런 철학 없이 그때 그때의 데이터만 좇아 만들어 가다보면 서비스는 의도와 상관없이 '괴물'이 될 수도 있다. (예민한 인간들이 <블랙미러> <공각기동대>같은 디스토피아 픽션을 자꾸 만들어내는 데는 다 이유가 있다고 본다.) 클레이서키는 데이터의 시대에서 이론은 종말되었다고 선언했지만, 오늘날 서비스 제공자에게 여전히 '선을 긋는 결단' 즉 '철학'이 매우 중요하다고 믿는다.

 구글은 2015년 지주 회사 알파벳을 출범하면서 구글의 유명한 모토였던 “Don’t be evil.”을 “Do the right thing.”으로 대체했다.(출처) “나쁜 회사가 되지 말자”에서 “옳은 일을 하는 회사가 되자”라는 좀 더 구체적이고 적극적인 모토를 세운 것이라는 해석이다.  

 

AI 시대에서 테크 기업의 윤리 철학은 더더욱 중요해 질 것이다.

  유발 하라리는 역사서 <사피엔스>의 결론에서 '행복'을 이야기한다. 인류의 역사가 기술 진보의 역사는 맞지만 인류가 그 만큼 더 행복해진 것인지는 모르겠다고 고백한다. BBC와의 최신 인터뷰에서는 좀 더 구체적이고 과격한 표현을 썼다. AI시대에서 일개 시민들은 '군사적, 경제적 관점에서 아무런 쓸모 없는useless 계급'이 될 수도 있고, 더 나아가 Decision making 측면에서 인간 위에 알고리즘이 세워질 수도 있다고 말이다. 두렵지만 반드시 새겨 들어야 할 메시지라고 생각한다.  지금껏 그랬듯 우리의 역사는 호기심, 욕망, 나약함 등등의 레이스일테고 도착점에 무엇이 우리를 기다리고 있을지 누구도 장담할 수 없으니깐.