AI 정치와 조정 민주주의의 미래
완전한 자동화는 없다
인공지능(AI)은 이제 단순한 도구를 넘어, 정책 결정과 공공서비스 운영, 심지어 사법 행정과 정치적 판단까지 포괄하는 "정치적 행위자"로 등장하고 있다. 알고리즘은 데이터에 기반하여 구조화된 판단을 내리며, 효율과 일관성, 예측 가능성을 무기로 인간의 판단 오류를 대체한다. 이른바 정치의 자동화(automation of politics)가 실현되고 있는 것이다. 그러나 이러한 자동화된 결정 체계는 과연 모두에게 공정하고 합리적인가? AI가 사회적 합의를 완벽히 대체할 수 있을까?
이에 대해, 경제학자 케네스 애로우(Kenneth Arrow)가 제시한 불가능성 정리는 중요한 철학적·정치적 경고음을 울린다. 그의 이론에 따르면, 다수의 개인이 존재하고 선택지가 세 가지 이상인 상황에서는, 아무리 정교한 집단 결정 규칙을 설계하더라도 모든 사람의 선호를 공정하게 반영하는 완벽한 사회적 선택은 존재하지 않는다. 이는 AI 기반 정책 결정 시스템도 결국 편향과 가치 선택의 문제로부터 자유로울 수 없음을 의미한다. 알고리즘이 최적의 해를 도출한다고 하더라도, 그것은 모든 사람에게 최선이 아닐 수 있으며, 반드시 무언가를 희생하거나 배제한 결과일 수 있다.
더욱이 이러한 자동화 시스템은 그 자체로 정치적 기획의 산물이며, 구조화된 제약과 체계적 소외를 내포한다. 알고리즘은 중립적인 기계가 아니라, 프로그래머와 데이터 수집자의 의도, 규범, 편향이 내장된 결정 구조이다. 알고리즘이 추천하는 뉴스, 필터링하는 콘텐츠, 분류하는 시민의 정보는 사전 기획된 가치 판단의 결과이다. 기술적 자동화는 결과적으로 특정한 권력의 구조화이며, 그것이 곧 정치다.
그렇다면 우리는 이 불완전한 자동화의 정치 앞에서 무엇을 해야 할까? 해법은 아이러니하게도, 완전한 자동화를 포기하는 데 있다. 즉, 정치의 자동화가 불가피하더라도, 그것이 영구적이고 폐쇄적인 체계가 되지 않도록 조정 가능성의 제도화, 곧 "조정 민주주의"가 필요하다. 이것은 기술적 절차의 오류를 고치는 것이 아니라, 사회적 결정 구조가 끊임없이 수정될 수 있도록 열어두는 것이다. 다시 말해, AI는 정답을 제공하는 기계가 아니라, 숙의와 토론을 촉발하는 조건 생성자로서 작동해야 한다. 결정이 아니라, 결정의 전제들을 투명하게 만들고, 그것을 시민이 검토하고 수정할 수 있는 구조가 민주적 AI 정치의 핵심이다.
이를 위해 우리는 다음과 같은 제도적 상상력이 필요하다.
첫째, AI의 판단 과정을 이해하고 설명할 수 있는 설명가능한 인공지능(XAI) 구조의 구축. 둘째, AI의 결정에 시민이 이의를 제기하고, 수정 요청을 할 수 있는 참여적 피드백 메커니즘. 셋째, 다양한 가치관을 반영한 다중 알고리즘 체계의 병렬 운영. 완전무결한 하나의 AI를 설계하기보다는, 다양한 관점과 이해관계를 반영하는 다원적 AI 생태계를 조성하고, 그것을 인간이 지속적으로 조정·통제하는 방향으로 기술 거버넌스를 설계해야 한다.
AI 시대의 민주주의는 더 이상 "인간만의 일"이 아니다. 그러나 동시에, 기술만으로 이루어질 수도 없다. 우리는 기술을 통해 새로운 민주주의의 형식을 실험하고 있지만, 그 실험이 유의미하려면 조정 가능성과 인간의 자유의지를 내포한 정치 설계가 병행되어야 한다. 자동화된 정치 결정은 결코 끝이 아니라, 시민이 다시 참여하고 수정할 수 있도록 열려 있어야 할 과정이다. 완전한 자동화는 없다. 그래서 우리는, 끊임없이 다시 정치해야 한다.
참고문헌
Kenneth Arrow, Social Choice and Individual Values (1951).
Langdon Winner, “Do Artifacts Have Politics?” (1980).
Lawrence Lessig, Code and Other Laws of Cyberspace (1999).
John Danaher, “The Threat of Algocracy” (2016).
Abhilash Mishra, “Beyond the Single Algorithm: Pluralism and AI Governance” (2022).
