소셜딜레마를 해결하려면?
넷플릭스오리지널
0. 들어가기
2020년이지만 넷플릭스에서 소셜딜레마라는 다큐멘터리를 공개했다. 이름만 들어도 어머어마한 페이스북과 트위터, 구글의 개발자들이 현재의 SNS가 어떻게 사람들의 인성을 망치며 사회적으로 문제를 일으키는지를 분석한 영상이다. 기술규제와 관련해서 수업을 듣고 있어서 그런지 영상을 보는 내내 어떻게 이 문제를 해결하고 규제를 잘 사용할지를 고민하게 되었다. SNS가 단순히 관심을 뺏어가는 것을 넘어서 그것 자체가 마케팅과 광고가 되고 더 나아가 정치적인 문제까지 만들어낸다. SNS가 만들어내는 가장 큰 소셜딜레마는 가짜뉴스이다. 가짜뉴스는 정보가 넘치는 사회에서 정보 이상을 넘어서지 못하지만 사람들이 정보에만 국한된 세계관을 가지게 된 경우에는 정보가 모든 세계관을 만들어낸다. 정보에서 지식으로 넘어가지 못하면 하나의 상황에서 여러가지 정보를 종합해서 판단하는 사람들의 인식은 결국 가짜뉴스가 세상의 전부라고 생각하게 된다.
오늘은 간단하게 5가지의 질문으로 소셜딜레마를 톺아본다. 소폴클레스가 말했듯이 우리 삶의 다양한 문제들은 결국 우리가 만든 것이다. 우리가 만들었기 때문에 우리가 해결해야 한다. SNS에서 가짜뉴스를 제한하기 위해서 유럽에서는 이미 다양한 법안을 제출해서 제제를 가하고 있고, 좋은 점을 활용해서 정책실험으로 발전시키고 있다. 안된다고 혹은 어쩔 수 없다고 하기 전에 해결책을 찾아야 한다.
1. 소셜 딜레마(social dilemma)의 의미와 어떤 상황을 딜레마로 표현하고 있는 것일까?
- 소셜딜레마의 원래 의미는 이기적인 개인의 행동이 자신에게는 이익을 주지만 조직 전체에는 손해를 끼치는 경우로 죄수의 딜레마나 공공재의 비극과 같은 의미로 사용된다.
- 넷플릭스의 '소셜딜레마'는 소셜미디어가 유토피아이자 디스토피아로 그것을 사용하는 개인에게는 흥미와 관심, 정보습득과 네트워킹에 좋지만 그 자체로 사회와 국가에 민주주의의 파괴와 사회적 문제를 야기한다는 것을 뜻한다.
- 소셜미디어가 점점 관심과 클릭을 통한 비지니스모델을 발전시키면서 사용자의 관심을 데이터로 습득하면서 개인과 사회에 해가 되는 과정이 전세계가 적으로 일어나고 있는 현상을 빗대어 표현하고 있다.
2. [다큐] SNS에서 AI의 역할과 SNS 이용이 인간성 상실과 민주주의 파괴로 이어지는 과정을 설명하시오
- SNS에서 AI의 역할은 이용자의 관심을 채굴해서 알고리즘과 연결해서 비슷한 콘텐츠를 제공한다는 것이다. 따라서 이를 통해서 새로운 콘텐츠가 이용자의 관심과 연결되어 있다면 자극적이든지 파괴적이던지, 가짜뉴스이던지 상관없이 계속해서 추천하고 넛징한다는 것이다.
- 관심은 항상 자극을 기폭제로해서 발전하기 때문에 'Retention'을 늘리기 위해서 더욱더 자극적인 요소들을 제공하고 한쪽의 편파적인 정보판을 계속해서 알고리즘으로 구성한다.
- 편견이 계속 삽인된 알고리즘에 의해서 '정보'는 편향성을 띄게 되고, 편향된 정보가 한 사람이나 집단, 국가나 정당에 대해서 종합적인 정보가 아닌 단편적인 정보를 제공하기에 이른다.
- 이 과정에서 진실이 아닌 가짜뉴스에 선동된 정보들도 알고리즘에 담기면서 현상을 해석하는 데 있어서 다른 가짜뉴스에 의한 해석이 계속해서 알고리즘으로 제공된다.
- 문제는 이러한 정보를 기반으로 오프라인에서 실제로 그 정보를 믿은대로 행동하기에 이른다. 이렇게 행동한 것이 또 하나의 정보 및 알고리즘이 되어서 비슷한 성향의 사람들에게 전달된다.
- 이러한 과정을 통해서 사실이 아닌 정보들이 계속해서 유통되고 자신의 선호에 맞는 정보가 사실이든 가짜이든 계속해서 제공되면서 결국 편향을 자신의 세계관의 기본적인 요소로 잡고 매트릭스 안에 갖히게 된다.
- 결국 중간이나 합리적인 해석은 필요 없고 가짜뉴스와 중독으로 가득찬 정보들에서 대화와 토론이 아닌 파괴와 제거와 같은 극단적인 사고와 행동만이 유효한 것이 되어서 민주주의를 파괴하게 된다.
- 실제로 이것을 믿는 사람들이 거리와 광장으로 나와서 총을 들거나 무기를 들고 다른 사람들을 공격하거 제거하는 일도 서슴치 않게 되면서 민주주의도 파괴된다.
3. [다큐] SNS가 기존의 기술과 어떻게 다른 것인지?
- 상호 연결성: SNS 플랫폼을 통해 개인은 실시간으로 전 세계적으로 대규모의 다양한 사람들 네트워크와 연결하고 상호 작용
- 사용자 생성 콘텐츠: SNS는 주로 사용자 생성 콘텐츠에 의존하므로 사용자는 텍스트, 이미지, 비디오 및 기타 미디어를 네트워크와 공유
- 사회적 상호작용 초점: SNS는 사용자가 다른 사람과 연결하고, 소통하고, 참여할 수 있도록 사회적 상호작용을 촉진하도록 명시적으로 설계
- 데이터 기반 알고리즘: SNS는 콘텐츠 추천, 개인화, 광고 타겟팅에 AI와 데이터 기반 알고리즘을 사용하여 사용자 경험과 행동을 형성
- 이를 통해 기존의 광고회사들이 했던 한방향 소통이 아니라 이용자들의 콘텐츠가 곧 광고가 되는 쌍방향 콘텐츠가 최신 AI기술과 연계되어 말그대로 '생성형 소비자 데이터광고'가 되는 기술이 됨.
- 추천 기능 : 추천기능에 의해서 관심이 서로 비슷한 콘텐츠가 계속해서 알고리즘으로 제공됨.
4. [다큐] SNS 중독의 폐해와 이를 해결할 수 있는 방안으로 제시되고 있는 것은 무엇인지 설명하시오
- 재정적 인센티브의 재설계 : 현재 플랫폼 기업들이 가지고 있는 재무구조는 대부분 광고수익과 개인데이터의 소득임으로 이런 방식으로 설계된 비지니스모델을 재설계하는 것이다.
- 디지털 프라이버시에 대한 법규제 : 개인이 가진 데이터를 소유하고 공유하는데 있어서 법적인 규제를 통해서 금지하는 방법이 있다.
- 데이터수집과 처리에 세금 부여 : 데이터를 수집하고 저장하고 처리하는데 있어서 세금을 부여하여 규제하는 방법이 있다.
- 결론적으로 이런 기업들에 대한 규제가 필요하다. 규제의 핵심은 건강한 사회구조를 만들기 위해서 세상을 좋게 만들기 위한 가치가 포함된 기술의 방향을 설계해야 한다.
- 소셜미디어 플랫폼과 앱의 근본적인 변화가 필요하다. 기업들의 변화를 만들어 내기 위한 대중들의 노력이 필요한데 예를 들면 추천기능이나 데이터를 추출하는 플랫폼을 쓰진 않는 것이다.
- 다른 사람들의 다양한 정보를 얻을 수 있는 방법으로 플랫폼을 사용하고 스스로 제한하는 노력도 필요하다. 극단적으로는 소셜미디어 자체를 사용하지 않고 그 시간에 다른 것들을 해보는 것이다.
5. SNS와 인터넷이 인간과 사회에 미치는 부정적 영향을 최소화하고 이를 혁신을 통해 산업과 경제를 이끌어 가는 수단으로 사용하기 위해서는 어떤 노력이 필요한 것일까?
- 기본소득의 재원 : 소셜미디어를 만들고 운영하는 플랫폼 기업들에 규제를 통해서 개인의 관심과 데이터를 마음대로 사용하지 못하게 하는 규제정책이 필요하다. SNS를 만들고 운영하는 기업들이 데이터를 채취하고 사용하게 되면 그에 대한 비용을 부과하여 기본소득이나 기초자산, 기본서비스를 운영하는 재원으로 사용한다. 예를 들면, 인스타그램에 사진을 올릴 때마다 100원씩을 부과하면 그 비용으로 사회 전체에 이익이 되는 기본소득의 재원으로 전환하는 방법을 추진한다.
- 기술철학의 관점 : 기술철학의 관점에서 '기술의 윤리적인 방향'설정이 필요하다. 기술이 가진 문제점에 대한 사회적 합의를 만들고 이를 법제화하여서 소셜미디어를 운영하는 기업을 윤리적인 지침을 따르게 하는 방안이 필요하다.
- 사회혁신의 기반 : 소셜딜레마가 아니라 소셜이노베이션으로 발전하기 위해서는 슘페터가 주장한 것처럼 이러한 관심과 정보들을 수집하여 사회문제를 해결하는 '기업가 정신'을 가진 개인과 조직들을 장려하고 실제의 변화를 만들어내는 기폭제로 사용하는 것이다. '아랍의 봄'과 같이 민주주의를 더 발전시키는 요소로 작용했던 적도 있고, 미투운동과 같이 사회적인 문제를 폭로함으로써 기존의 악습을 털어버리는 역할도 했기 때문에 '소셜딜레마'라고 부른다면 긍정적인 부분은 더 발전시킬 수 있다.
- 핀란드 정책실험 : 핀란드 정부와 같이 사회적인 문제를 해결하는데 있어서 국가 AI인 '오로라 AI'와 같이 국가에서 윤리적이고 사회적인 목적에서 데이터를 수집하고 이를 통해서 문제해결을 할 수 있는 '정책실험'의 데이타베이스로 사용할 수 있는 법안과 시스템을 만들 수 있다. 실제로 핀란드 총리실은 이러한 데이터를 가지고 시민들이 겪는 문제들을 시민들이 직접해결하고 그 결과를 공유할 수 있는 사이트를 운영하여 2019년이후부터 지금까지 시민들이 제공한 정보를 통해서 정책실험을 실시하여 1000건 이상의 결과를 창출했고 이를 통해서 핀란드 전역의 문제들이 사회적으로 이슈화되고 해결되는 프로세스를 만들었다. 이는 시민사회 뿐 아니라 일반기업이나 지방정부의 사회적 문제해결 및 도시재생과 관련해서도 시민들의 데이터가 공공성을 더 증진하는 방향으로 발전하는 계기가 되었다.
https://stachemi.tistory.com/m/178
