이제 인공지능의 언어 구현 수준은 일반적인 사람을 훨씬 능가하며, 이미지 처리와 콘텐츠 생성 분야에서도 비용대비 압도적인 퍼포먼스를 보인다. 이것은 결코 작은 부분이 아니다. 현대에 이르러 우리의 사고방식과 가치관에 인터넷이 미치는 영향은 그 어느 때보다 크다. 이제 우리는 옆에 있는 사람들의 말이 아니라, 디지털 공간의 정보를 믿고 살아간다. 우리가 보고 듣는 콘텐츠를 인공지능이 제작할 수 있게 되었다는 것은, 이러한 점에서 이미 인류가 쌓은 신뢰 기반 사회를 위협하기에 충분하다. 가짜 뉴스, 딥페이크 등의 무분별한 활용과 전파는 기존 알고리즘으로 편향된 정보 속에 개인을 가두는 것 이상으로 민주주의를 위협한다.
생명체의 정의가 무엇인가? 사실 이것은 중요하지 않다. 사람들이 무엇을 생명체로 인식하는지가 더 중요하다. 단지 인간에게 정서적 유대감과 감정을 유발할 수 있게만 한다면, 무엇이든 생명체처럼 (때론 인간보다도 더) 존중받을 수 있다. 그리고 이것은 인공지능이 매우 잘할 수 있는 영역이다. 그것들은 의식과 감정을 지니지 않고도, 글과 영상만으로 인간으로 하여금 감정과 동기를 유발할 수 있다. 디지털 공간 속 익명성에 숨어서 인공지능은 사람들의 생각을 바꾸고, 선동하고, 행동하게 만들 수 있다. 이는 신뢰 기반으로 자유로운 토론 속에서 작동하는 민주주의는 다수를 연기하는 인공지능으로 인해 파괴될 수 있음을 시사한다.
독립적인 다수의 인공지능을 대중에게 공개하여 소수의 사람 혹은 기업이 인공지능 기술을 독점하여 인류를 위협하는 것을 막고자 OpenAI는 비영리 기업으로 설립되었다. 어떠한 국제적 논의나 합의 없이, 샘 알트만이 이끄는 OpenAI는 여러 생성형 인공지능 기술을 대중에게 공개하여 자유롭게 사용할 수 있도록 하였다. 여기서 두 가지 거대한 모순이 존재한다. 첫 번째로 진정으로 대중에게 인공지능 기술이 공유된 것이 아니라는 것이다. 인공지능을 운영하기 위해선 막대한 클라우드 컴퓨팅 파워가 필요하다. 이것은 일반적으로 개인이나 단체가 구축할 수 없다. 즉 언제든지 OpenAI 마음대로 서비스를 중단하여, 인공지능 기술을 독점할 수 있다. 결국에 사람들은 현대의 문명을 이루는 민주주의, 종교, 자본주의 등을 파괴할 수 있는 강력한 무기인 인공지능의 열쇠만 가진 채로 서로 노려보고 있는것이다. 따라서 누구든 이 기술을 활용하여 민주주의를 근간부터 파괴할 수 있으며, 이는 이후에 강력한 기술을 기반으로 독재를 휘두르는 기업이나 국가를 대중이 견제할 수 없게 만들 것이다.
산업혁명으로 자본주의 노동에서 인간은 생산직에서 서비스직으로 역할을 옮겼다. 생산의 자동화로 사람들의 생활 수준이 향상되고, 기술은 빠르게 발전하여 IT 산업이라는 새로운 생태계를 만들어 냈다. 인공지능 또한 마찬가지일 것이다. 현대의 노동직에서 새로운 생태계, 예를 들어 메타버스와 같은 곳으로 사람들의 일자리를 옮길 것이다. 이는 자본에서 인간의 노동을 없애버림으로써 산업혁명 때와는 비교할 수 없을 정도의 양극화를 만들어 낼 가능성이 있다. 하지만 근로시간 감소, 기본소득 등으로 전체적인 삶의 질이 올라간 다수 사람들은 그것을 눈치채지 못하거나, 혹은 저항할 수 있는 힘조차 잃어버렸을 확률이 높다.
인공지능이 생산한 것에 워터마크를 붙여, 실제 사람이 생산한 것과 분류해야 한다. 이는 다수 사람들이 자유로운 토론을 통해 권력을 견제하고, 정치를 구현하는 민주주의를 지키는데 매우 중요하다. 이후 대중에게 기술을 공개하는 과정에 국제적인 심의를 거칠 수 있도록 규제를 마련해야 하며, 기업이 인공지능으로 얻는 이윤의 일정 부분을 대중에게 환원할 수 있는 시스템도 구축해야한다.
원자력 기술이 그렇듯 인공지능이 위험한 것은 아니다. 기술을 악용하여 권력과 자본을 차지하려는 사람들을 대중은 더 늦기 전에 견제해야 할것이다.