인공지능 정치의 3원칙
시민을 지배하지 않고 대변하는 인공지능
AI가 민주주의 원칙을 돕는 탁월한 도구가 되도록 하기 위해 다음 세 가지 원칙을 지켜야 한다.
1. AI는 사람의 의견을 대변해야 한다.
사람에게 옳은 길을 제시하고 지배하는 것이 아니라, 사람들의 이해관계와 신념을 대표하는 역할을 해야 한다.
2. 사람은 AI의 선택을 변경할 수 있어야 한다.
시민의 이해관계와 신념을 수시로 바뀔 수 있다. 그리고 시민과 AI 사이에도 오해가 존재할 수 있다. 시민들은 AI의 판단을 언제든 바꿀 수 있어야 한다.
3. AI는 스스로의 결정을 설명할 수 있어야 한다.
AI의 의견에 대해 신뢰를 확보하기 위해, AI가 결정을 내리는 데 사용한 정보와 데이터 원천을 명확하게 밝힐 수 있어야 한다.
인공지능이 정치의 영역에 들어온 다는 것은 한편으로는 위험한 일이고 한편으로는 극적으로 정치의 많은 문제들을 해결할 수 있는 기회이기도 하다.
현재의 민주주의의 문제는 시민들이 충분히 많은 정보를 가지고, 스스로를 이해하고 투표를 하지는 못한다는 점이다. 이 점을 AI가 시민 개인의 신념과 이해관계를 분석하고 이해함으로 해결해 나갈 수 있는 시점에 이르렀다.
정치를 하는 AI는 실제 사람과 마찬가지로 절대 권력을 가진 존재가 될 수도 있고 민주 시민의 대변자가 될 수도 있다. 수천 년의 정치 실험 결과 어떠한 뛰어난 인간에게도 절대 권력이 주어지지 않는 민주주의 시스템이 수립된 것처럼, AI의 정치에서의 역할도 스스로 옳고 그름과 최선의 방향을 선택하는 존재가 아니라 시민들의 대변자가 되어야 한다고 생각한다.
