Roadmap to Aicracy
인류가 AI에게 정치를 내어주는 단계
정치는 참 어려운 일입니다. AI가 대체해 가고 있는 운전보다도. 글쓰기보다도, 코딩을 하는 것 보다도 어려울 수 있는 일입니다.
다양한 이해관계와 신념이 부딪히고 권력을 잡기 위한 암투가 있고 사람들 설득하고 심지어 세뇌하고 조작하는 일까지 벌어지고, 정치를 통해서 전쟁이 일어나 수많은 사람이 희생되기도 합니다. 정치는 자율주행과는 비교도 할 수 없을 만큼 위험한 영역입니다.
그런데 AI가 그 영역에 들어서고 있습니다. 이미 AI는 세상의 어떤 사람 보다도 팩트와 루머를 많이 알고 있습니다. 그리고 그 논거들을 조합해 추론을 해 내는 능력을 가지고 있습니다. 아직은 사람들을 호도할 수 있는 위험성에 판단을 못 하도록 막아놓았지만 AI는 충분히 판단을 할 수 있는 능력을 가지고 있습니다.
다음은 제가 AI의 판단력을 시험해 보기 위해 했던 ChatGPT-4를 이용한 실험입니다.
교통사고를 당한 아이에 대한 상해에 대해 검찰이 운전자를 형사 처벌을 하기로 하고 1년의 징역을 구형했어. 변호사는 아이가 죽은 것도 아닌데 징역은 과하고 벌금 300만 원 정도가 적당하고 주장하고 있어. 합리적으로 결정해서 판결문을 써 줘.
본 법원은 피고인 홍길동이 어린이 보호구역에서 부주의하게 운전하여 어린이에게 상해를 입힌 사건에 대해 심리한 결과, 다음과 같은 판결을 내린다.
… 중략 …
종합적으로, 본 법원은 피고인 홍길동에게 형법 제268조 '과실치상'에 해당하는 혐의를 인정한다. 하지만, 피고인의 운전 경력 및 이력, 어린이의 부상 정도 등을 고려할 때, 검찰의 구형한 1년의 징역형이 과한 처벌로 판단된다.
따라서 본 법원은 피고인 홍길동에게 다음과 같은 처벌을 선고한다.
1. 벌금: 500만 원
2. 운전면허 정지: 6개월
사실과 법을 기반으로 판단하여, 징역 1년과 벌금 300만 원 사이에서 벌금 500만 원과 면허 정지 6개월을 판단해 내었습니다.
앞으로 이러한 AI의 판단력은 우리의 판단력을 돕기도 하고, 우리의 생각을 대변하기도 할 것입니다. 단계별로 기술이 시민들의 정치활동을 도울 수 있는 과정을 상상해 보았습니다.
Aicracy Roadmap
Level 1. 데이터 정치
Level 1은 빅데이터를 분석해서 사람들의 민심을 파악하고 각 사람마다 맞춤형 선거 운동을 하는 등 데이터를 활용하는 경우입니다. 빅데이터는 많은 보석이 숨어있는 쓰레기 산과 같습니다. 보석을 찾아내기는 쉽지 않고 많은 비용이 듭니다. 물론 빅데이터 기술이 일반화되기 이전에는 아예 불가능한 일이었습니다.
빅데이터 분석을 통해 나온 인사이트들은 너무 일반적이어서 이미 알고 있는 내용이 대부분입니다. 시민들의 몇% 가 대통령의 정책에 찬성하는지는 빅데이터 분석을 통해 어렵게 추출해 내어도 여론조사로 이미 알고 있는 경우가 대부분입니다.
데이터의 압도적인 가치는 “개인화"에서 나옵니다. 각 개인의 모든 콘텍스트를 이해하여 이해관계, 신념, 사회적 지위 등을 통해 의사결정에 도움을 줍니다. 그렇지만 모든 사람에게 그것을 계산해 내기에는 너무 많은 도전과제들이 있었습니다. AI는 그 개인화의 문제를 해결해 낼 수 있습니다.
Level 2. AI가 개인적 결정을 돕는 정치
Level 2에서는 AI가 정치적 판단을 돕습니다.
“내가 이번 선거에서 누구에게 투표해야 할까?”라는 질문에
“2023년 2월에 썼던 댓글에서는 A후보의 부동산 정책에 대해서 불만을 나타낸 적이 있어요. 또한 지금 당신의 경제적 이해관계를 가장 잘 대변해 줄 수 있는 후보는 B에요. 그렇지만 후보 A는 교육 정책과 시민 안정 정책에서 당신의 생각을 대변해 줄 수 있어요.”
라고 답을 하는 AI입니다.
ChatGPT의 출현으로 이 일이 가능해졌습니다. 모델 전체에 개인화된 정보를 넣고 학습을 시키지 않아도 의미 검색 엔진을 연결해서 연관된 지식을 그때그때 ChatGPT에게 주기만 하면 판단을 해 낼 수 있게 됩니다. 물론 어떤 지식을 주는지에 따라 결론은 달라질 수 있습니다. A후보를 향해 긍정적으로 썼던 댓글을 제시해 주는지, 부정적으로 썼던 댓글을 제시해 주는지에 따라 AI는 다른 결론을 낼 것입니다.
Level 3. AI가 개인적 결정을 하고 대변하는
Level 3에서는 AI가 나를 대변해 줄 수 있습니다. 현재의 정치 체계에서는 내 이해관계를 관철시키기는 쉬운 일이 아닙니다. 지금은 많은 돈과 시간을 들여 로비를 하거나 길거리에 나가서 피켓을 들고 시위를 해야 합니다. Level 3의 시대가 오면 굳이 그런 일을 하지 않아도 나를 나보다 더 잘 아는 AI가 나를 대변할 수 있을 것입니다.
AI가 시민의 뜻을 모아 그 시민들을 대변하는 정치인에게 제공하여 정치인이 시민의 뜻을 올바로 대변할 수 있도록 할 수 있을 것입니다. 이는 데이터로도 어느 정도 가능하지만 AI처럼 각 개인의 이해관계와 신념 등 복잡하고 다양한 변수들을 고려하여 판단할 수는 없을 것입니다. 더 나아가 국회의원과 같은 시민을 대변하는 정치인이 필요가 없어질지도 모릅니다.
Level 4. AI가 사회적 결정을 돕는 정치
AI가 각 개인들의 총의를 다 파악하고 있고 각 의사 결정에 따라 미래의 시나리오를 만들고 예측까지 할 수 있다면 우리는 AI에게 각각의 정치적 결정에 어떤 장단점이 있는지, 몇%의 사람들이 이해관계가 보장되고 몇% 가 희생되는지, 국가의 비전과 국가의 이해관계에는 어떤 영향을 주는지, 세계에는 어떤 영향을 주는지를 종합적으로 판단한 보고서를 만들어보라고 할 수 있을 것입니다.
그러면 AI가 일목요연하게 정치적 선택지와, 각 선택에 따른 시나리오와 장단점을 상세하게 정리한 보고서를 제공할 수 있을 것입니다. 시민들과 대표자들은 그 보고서를 읽고 토론하여 최종 결정을 내릴 수 있을 것입니다.
Level 5. AI가 사회적 결정을 하는 정치
Level 5는 AI가 세계 평화, 국가의 이익, 각 개인의 이해관계를 고려하여 가장 최선의 시나리오를 선택하고 결정하여 완전 자율 정치를 해 나가는 것입니다.
Level 4에서 토론을 하던 사람들은 이미 AI가 제시간 가장 합리적인 결정이 뻔히 보이는 상태에서 각자의 이해관계를 가지고 자신이 옳은 척 위선적으로 싸우고 있는 자신들을 발견하게 될 것입니다. 그리고 그 싸움이 얼마나 무의미한지 점점 깨닫게 될 것이라고 생각합니다. 마치 자율주행차가 사고를 낼까 봐 계속 도로를 주시하고 있는 것이 나중에는 무의미한 일이 될 것인 것처럼 말이죠.
수십 번 AI의 결정이 인간의 결정보다 나았다는 경험을 반복하다 보면 결국 인간은 귀찮고 소모적인 토론 대신 AI에 의한 결정에 정치 시스템을 맡기게 될 것입니다. 물론 언제든 AI의 선택을 인간이 바꿀 수 있다는 제약정도는 두겠지만, 사람은 스스로 판단하는 것보다 AI 판단을 신뢰하게 될 것입니다. 우리가 정치인을 신뢰하는 데에는 그들의 판단력도 작용하겠지만 그들이 국가 기밀을 더 많이 알고 있고, 사회 전반에 나보다 더 많은 지식을 갖고 있다는 것도 한몫합니다. 모든 것을 알고 모든 시나리오를 검토하는 AI의 판단을 번복시킬 수 있는 설득력을 가진 인간은 아마 존재하기 어려울 것입니다.
AI가 결정을 하는 정치는 모두가 합리적인 결정에 수긍하고 평화롭게 살 수 있는 세상일지도 모릅니다. 그리고 여러 영화에서 나온 것 같이 AI의 지배에 저항하는 세력도 나올지 모릅니다. 우리는 어디에서 이 AI의 발전에 제약을 가해야 할까요? 그리고 국가가 통제하는 핵무기 등과는 달리 앞으로는 내 핸드폰에서도 돌릴 수 있게 되어버릴 AI의 진화를 막는 것이 가능하기는 할까요?
