독서노트: 넥서스5
컴퓨터는 인쇄술과 어떻게 다른가?
이사에 가게 직원 공백, 아이 장염 등 공사다망한 9월이었네요. 정신 차려보니 9월 마지막 주. 다행히 한숨 돌릴 겨를이 생겨 컴퓨터 앞에 앉았습니다. 더 이상 미루다가는 돌아오지 못할 터.. 다시 정진하겠습니다. KEEP GOING!
제2부 비유기적 네트워크
6. 새로운 구성원: 컴퓨터는 인쇄술과 어떻게 다른가?
인쇄술로 힘을 얻은 정보 네트워크가 이제는 컴퓨터의 탄생으로 부스터를 답니다.
컴퓨터가 뭐길래?
컴퓨터는 스스로 결정을 내릴 수 있고, 스스로 아이디어를 생성할 수 있다.
컴퓨터의 아버지 앨런 튜링은 1950년에 이미 컴퓨터가 결국 인간만큼 영리해질 것이며 심지어 인간인 척 가장할 수도 있을 것이라고 주장했고 스탠리 큐브릭은 고전 <2001: 스페이스 오디세이>를 통해 인간 창조자에게 반항하는 초지능 AI 할9000을 상상했다.
인쇄기와 라디오는 인간이 조작해야 하는 수동적인 도구였지만 컴퓨터는 이미 인간 통제와 이해를 벗어나 사회, 문화, 역사를 주도적으로 만들어갈 수 있는 '능동적인' 행위자가 되고 있다.
소셜 미디어 알고리즘이 많은 나라에서 증오를 퍼뜨리고 사회적 결속을 약화하는 데 기여하고 있다는 사실은 컴퓨터의 새로운 위협을 보여주는 대표적인 사례다.
극단적인 이념을 가진 자들이 유튜브를 통해 결속해 겁도 없이 행한 서부지법 난동만 봐도 그렇다. 그리고 "좋아요" "공유" 같은 보상 장치가 분노를 자극해 온건주의자를 극단주의자로 만들고 있다고 2021년 예일대 연구에서도 밝혀진 바 있다. ‘좋아요’가 온건파를 극단주의자로 만들어?…사실로 밝혀졌다
예시로 2016~2017년 미얀마에서 로힝야족을 종교적인 문제로 잔인하게 민족 청소한 사건이 등장한다. 그때 로힝야족에 대한 증오를 키웠던 것이 바로 페이스북 알고리즘이었다는 것이 밝혀졌다.
아니 왜? 불교 극단주의자들이 페이스북 계정을 이용해 로힝야족에 대한 증오를 퍼뜨린 것이 왜 페이스북 탓인가?
2016~17년에 페이스북 알고리즘은 스스로 능동적이고 운명적인 결정을 내리고 있었다. 인쇄기라기보다 신문 편집자에 더 가까웠다. 알고리즘은 자비심에 관한 법문이나 요리 교실을 추천할 수도 있었지만 증오 가득한 음모론을 퍼뜨리기로 결정했다. 왜냐하면 바로 사용자의 참여를 늘리라는 목표를 부여받았기 때문이다. 그리고 알고리즘은 수백만 사용자들을 대상으로 실험하면서 분노가 참여도를 높인다는 사실을 알아냈고.
뉴스, 신문도 잘 못보고 사회적 교류가 아주 폐쇄적인 입장이지만 요즘 혐중 분위기가 꽤 만연하다는 느낌을 받는다. 일단 옆 사람도 가게 직원들도 모두 중국인들을 기피하는 말을 하곤한다. 딱히 중국인들에게 나쁜 일을 당한 것도 아닌데 말이다. 우선 그렇게 자주 마주칠 일도 없다. 하지만 그들의 친구 숏폼이 무진장 그런 콘텐츠를 갖다 들이댄다. 중국인들의 비도덕적이거나 비상식적인 행동을 담고 있는 그런 것들. 오늘도 마라샹궈에 탕후루 먹으면서 "세상에 세상에, 진짜 싫다~"를 외침. 그런 어그로에 놀아나는 것이 그걸 만든 인간들 지갑이나 채워주는 거라는 건 참 열받는 일인데 말이다.
컴퓨터가 등장하기 전까지 인간은 교회나 국가 같은 정보 네트워크들을 이루는 사슬에서 없어서는 안 되는 고리였고 어떤 사슬은 인간으로만 구성되었다. 파티마가 알리에게, 알리가 하산에게 정보를 전달하는 식이다. 여기에 문서가 등장하면 파티마가 해석해서 문서에 적고 그것을 알리가 읽는 구조로도 발전한다. 하지만 컴퓨터와 컴퓨터의 연결로 이루어진 사슬은 이제 인간 없이도 작동할 수 있다. 예를 들어 한 컴퓨터가 가짜 뉴스를 생성해 퍼뜨린다면 다른 컴퓨터는 이를 알아채 삭제해 경고를 울릴 수 있고 또 다른 컴퓨터는 정치적 위기 조짐으로 판단해 위험이 큰 주식을 즉시 매도하고 안전한 국채를 매수할지 모른다. 이런 연쇄 작용으로 금융 침체를 촉발할 수도 있다. 이 모두는 인간이 알아채고 파악하기도 전에 일어날 수 있다.
컴퓨터의 언어 해킹으로 많은 수의 사람들이 의미있는 공개 대화를 나누는 것이 극도로 어려워질 수 있다. 여기서 말하는 언어 해킹이란 컴퓨터가 자연어 처리 기술을 이용해 사람들의 대화를 조작하거나 방해하는 것으로 아주 무서운 일이다. 언어를 숙달한 컴퓨터는 '친밀함'을 무기로 악영향을 미칠 수 있다. 그 예시가 또 무시무시하다.
실제 있었던 일. 2022년에 구글 엔지니어인 블레이크 르모인은 자신이 프로그래밍하고 있던 챗봇LaMDA가 의식을 가지게 되었으며 감정을 느끼고 파워가 꺼지는 것을 두려워한다고 확신했다고 한다. 심지어 그는 그 챗봇을 디지털 죽음으로부터 보호하는 것이 자신의 도덕적 의무라고 느껴 구글 경영진에게 이를 주장했고 결국엔 해고 당하는 사태를 맞았다. 직업을 버리게 할 정도의 영향력뿐 아니다. 영국 여왕 엘리자베스 2세의 암살을 기도한 자기완트 싱 차일은 온라인에서 만난 사라이라는 여자친구에게 부추김을 받았다고 하는데 그 여자친구는 사실 챗봇이었다. AI는 친밀감을 느끼지는 못해도 얼마든지 친밀감을 형성하는 걸 배울 수 있다.
아주 최근까지만 해도 우리가 살아가는 문화적 고치는 인간의 손으로 지어졌다. 하지만 앞으로는 점점 더 많은 부분을 컴퓨터가 설계하게 될 것이다.
수천 년 동안 예언가, 시인, 정치인들은 언어를 이용해 사회를 조종하고 바꾸었다. 이제 컴퓨터들이 이 방법을 학습하고 있다. 그리고 컴퓨터는 터미네이터처럼 우리를 죽이기 위해 킬러 로봇을 보낼 필요가 없다. 인간들이 방아쇠를 당기도록 조종하기만 하면 된다. AI 정신병(AI Psychosis)이라는 신조어도 있잖아?
그래도 아직은 희망이 있다! 아직은 통제권이 우리에게 있다.
"우리는 단지 플랫폼일 뿐. 우리는 고객이 원하고 유권자가 허용하는 일을 한다."라며 거대기업들은 세계에서 가장 강한 정부에 직접 입김을 넣고 사업 모델을 위협할 수 있는 규제를 막기 위해 막대한 로비 활동을 펼치기도 하지만.
첨단 기술 기업의 개발자와 경영진 등의 일부 사람들은 정치인과 유권자보다 훨씬 앞서 있는 반면 대부분 그 지식을 새로운 기술의 폭발적인 잠재력을 규제하는 데는 사용하지 않는다. 그런 의미에서 네이버 인사들의 공직 임명은 잘 된 것일까?
그러니 우리는 그 새로운 기술이 무엇이고 무엇을 할 수 있는지 이해해야 한다. 컴퓨터 주술가에 놀아나지 않기 위해서는 정치적 잠재력만큼은 반드시 이해해야 한다. 그리고 저들은 책임감을 가져야 한다. 공익을 생각하는 도덕적 책임감.
