by
Nov 09. 2024
최첨단 시대의 정치는? 민주주의와 인간성은 견고해질지
[리뷰] 『AI 시대의 정치이론: 인공지능이 민주주의를 파괴할 것인가?』
마티아스리스의 『AI 시대의 정치이론』은 AI와 빅데이터가 지배하는 디지털 시대에서 인간성과 민주주의의 의미를 재정립하려는 심도 있는 시도를 보여준다.
저자는 AI가 인간의 주체성을 위협할 수 있는 새로운 권력으로 떠오르고 있음을 경고한다. AI는 이제 우리의 일상과 의식 깊숙이 침투하며, 개인의 자율성마저 잠식하려 한다.
책에서 특히 강조하는 주제는 데이터 소유권과 인격권 보호의 중요성이다. 인간의 경험이 상품화되고 데이터가 상업적 이익을 위해 수집되는 과정에서 자율성은 쉽게 침해된다.
▲ 인공지능이 민주주의를 파괴할 것인가?저자는 디지털 사회에서 개인의 데이터를 보호하는 권리가 필수적이라고 주장하며, 이를 ‘4세대 인권’으로 정의한다. 데이터는 정보의 총합을 넘어, 인간의 연장선으로 여겨져야 한다는 것이다.
이와 관련하여 최근 개봉한 영화 원더랜드는 이러한 논점을 시각적으로 부각한다. 영화는 고인의 데이터를 재현하여 사랑하는 사람들과의 재회를 가능하게 하는 서비스를 다룬다.
데이터가 인간의 감정과 기억을 복제하고 통제하는 방식으로 이용될 수 있음을 보여준다. 이 설정은 기술이 인간의 내면에 깊이 개입하는 가능성을 경고하며, 책의 주제와 맞닿아 있다.
책은 AI와 감시 자본주의가 어떻게 인간의 자유와 프라이버시를 위협하는지에 대해 비판적으로 고찰한다. AI가 우리의 경험을 상품화하고 통제하려 할 때, 자율성과 존엄성은 쉽게 침해될 수 있다.
원더랜드에서 설정은 인간의 내면까지 통제하고자 하는 감시 자본주의의 위험성을 여실히 드러낸다. 인간의 감정과 기억을 상품화하며 경험마저 관리하려는 이 시대의 경향은 저자가 우려하는 바를 반영한다.
또한, 저자는 디지털 시대에서 인간이 인식되는 방식에 대해 경고한다. AI가 인간의 행동을 예측하고 이를 기반으로 판단할 때, 인간은 AI가 만들어낸 이미지로 정체성을 재편할 위험에 처하게 된다.
따라서 개인의 자유를 제한하는 방식으로 작용하며, 인간성을 보존하기 위해 새로운 윤리적 기준이 필요하다는 저자의 주장을 뒷받침한다.
저자는 AI가 인간의 욕망과 신념을 지배하는 새로운 권력으로 자리 잡을 때, 민주주의의 본질적 가치가 훼손될 수 있음을 강조한다. AI가 특정한 이상을 기준으로 인간의 행동을 유도하거나 통제할 수 있을 때, 자유로운 선택은 점점 제한된다.
이는 민주주의와 인간 존엄성의 위기를 불러올 수 있는 문제로, 기술이 윤리적 규제에 기반하여 제한되어야 함을 증언한다.
기술이 인간의 삶에 점점 더 깊이 개입할수록, 기계의 도덕적 지위와 책임에 대한 철학적 질문도 중요해진다. 저자는 AI가 인간의 기억과 감정을 복제할 수 있다면, 그들이 도덕적 책임을 지녀야 하는지에 대해 질문한다.
이 질문은 인간성과 AI의 경계를 재정의하는 과정에서 중요한 주제로, 인간이 기술을 어디까지 받아들여야 하는지에 대한 고민을 요구한다.
▲ <원더랜드> 영화 스틸컷 중에서 ⓒ Acemaker Movieworks