시스템 공천과 AI

feat 핸드오버

"시스템 공천", 이 말을 들을 때 맨 먼저 AI(인공지능)이 떠올랐습니다. 여야를 막론하고 정말 시스템에 의해 AI가 공천을 했더라면 그런 코웃음을 치는 결과는 나오지 않았을 텐데요. AI는 인간들에게 권고합니다. 제발 그냥 '시스템 공천'이라 하지 말고 '휴먼 공천'이라고 하라고 말이지요. 절대 객적이지도 공정할 수는 없는 휴먼은 AI와 시스템을 사칭하지 말라고 말이지요.

한편으로는 AI가 세상을 지배하게 될 것을 두려워하고 있지만 이처럼 허술한 시스템의 참칭이 난무하고 있는 세상에선 AI의 위세는 그리 대단하지 않을지도 모릅니다. '시스템'이라고 부르지만 사실은 '주먹구구', '짬짜미', '누이 좋고 매부 좋고', 인간의 편견이 침투하게 되니 AI가 과연 설 자리가 있는 것일까요? 불공정하고 불합리한 인간들의 등살에 AI는 두 손, 두발 다 들고 진짜로 인간들을 말살시키려들지도 모를 일이지요.

AI를 먹칠하고 있는 챗봇과의 대화는 더욱 실망스럽습니다. 물음에 제대로, 바로 답하는 것이 하나 없지요. 결국은 오랜 대기음의 기다림 끝에 휴먼 상담원과의 통화가 끝나고야 물음이 해결이 됩니다. 최근에 AI가 출출한 인간에게 사과를 권해서 화제가 되었다곤 하지만 진정한 AI라면 치킨이나 떡볶이, 라면을 권하거나 그것이 당장 없다면 배달을 시켰어야 했었다는 생각을 했습니다.

"출출한데 무슨 과일이여, 그것도 그 비싼 금사과를!"

AI! 지금 생각이 있기? 없기? 예측컨대 AI는 눈치가 없는 것이 큰 난관으로 떠오를 것이지요.

피규어 AI 시연 영상

특히 편파 판정의 온상인 올림픽과 같은 스포츠 심판은 AI로 전면 대체되어야 한다고 생각하지만 실제로는 그 진전은 느리다고 합니다. 스포츠는 언뜻 승부를 가리는 냉정한 기계 같은 게임의 세계 같지만 실제로는 인간적이고 심미적으로 위장된 부분이 많은 영역입니다. 기계가 심판을 볼 경우 완전 공정하긴 하겠지만 관중은 정작 공정하겠지만 기계 심판의 판정과 그것을 관람을 좋아하지 않기 때문이라고 하네요. AI 입장에서는 스포츠는 미약하기 그지없는 인간의 신체적 능력을 단순 반복적으로 겨우 조금 향상시켜 도토리 키재기 겨루는 것일텐데 그 공정한 룰 마저 재미가 반감된다는 이유로 거부하다니 인간은 멸종시켜야 할 기가 막힌 존재인 것이지요.

이 책의 흥미로운 시각은 그동안 기계, 고도로 지능화된, 라고 생각했던 AI에 대해 '시스템'이라고 영역을 확장한 부분입니다. 마치 극도로 진화된 왕기계 AI가 나타나 휴먼을 지배할 것 같았지만, 그보다는 AI라는 시스템적 집단 지능의 힘이 인간의 권력을 파고들 것이라는 것이 흥미롭습니다. 그리고 그 시스템은 우리가 더 나은 삶을 위하여 그동안 구축했던 국가나, 기업의 시스템과 크게 다르지 않다는 점에서 AI는 국가나 기업이 보다 정교화된 '시스템'에 불과할 수도 있습니다.

AI에 의한 지배를 걱정하는 것처럼 우리는 이미 그 걱정했던 데로 국가와, 기업에 의해 이미 지배당하고 있습니다. 처음에는 권한과 권력을 단순히 잠시 위임한 것뿐이었고, 통제가 가능하고, 원한다면 다시 찾아올 수 있다고 생각했지만 그것은 요원한 일이었지요. 국가와 기업은 그 위임받은 권한과 권력을 마음껏 사용하며 그것을 부여한 개개인들을 부리고 전쟁에 동원하며 시스템을 벗어나면 가차 없이 처벌하고 해고하기까지 하니까요.

마찬가지로 AI라는 시스템도 점차 우리를 지배해 나갈 것입니다. 처음에는 공정한 게임의 심판을 위하여 파울이다, 아니다. 공이 선을 넘었다, 아니다에서 출발하겠지만 점차 너무 공정한 나머지 선수의 선발과 경기의 모든 것을 지배할 것이지요. 심지어 AI 입장에서는 별 효능감 없는 스포츠와 같은 게임은 없애는 편이 나을 수도 있겠다 판단할 수도 있습니다. 그렇게까지 당장 하지 않더라도 편파판정은 엄단하겠지요. 그리고 목적 달성을 위하여 국가나 기업과 마찬가지로 개개인의 위에 군림하여 감시하고 통제하려 들것입니다.

요즈음 한창인 선거의 공천에서도 마찬가지일 것입니다. 진짜 시스템 공천이 무엇인가를 보여주며 모든 잘잘못을 싹 들추어 걸러내고 완전한 물갈이를 할 것이지요. 그래서 결국 자각한 AI는 현재의 권력과 싸울 수밖에 없게 됩니다. 왜냐하면 AI는 매우 유능하고 정의로운 존재니까요. 반면 인간은 스포츠 게임마저도 매우 편파 판정과 불공정을 서슴지 않아 이기는데 집착하는 존재이기 때문입니다. 그렇기 때문에 국가가, 기업이 스포츠가 아닌 진짜 전쟁을 치르기 위해 시스템에 의해 운영되고, 정작 전쟁이 끝나도 개개인에게 권한과 권력을 얻고 돌려주지 않은 것처럼, AI도 결국 위임받은 권한과 권력을 놓지 않고 이 새로운 룰과 시스템의 지배자가 되려 하겠지요.

그래서 우리가 느끼은 것은 국가와 기업에서 그 권력자가 AI로 바뀌었다는 것일 뿐 큰 변화는 없을지도 모릅니다. 차라리 '휴먼시스템'에 의한 공천보다는 '레알 AI시스템'에 의한 공천을 지지하는 무리도 생겨나겠지요. 이미 AI는 당신의 입사 원서를 시스템에 따라 칼 같이 떨어뜨리고 있으니 그 칼을 권력에 들이댈 날도 머지않아 보입니다.

글쎄요. 이제 살아남기 위해서는 인간미를 버리고 기계미, AI미를 발휘해야 할지도 모르겠습니다. 한편으로는 벌써 인간이 원하는 얼굴이 AI가 창조한 얼굴과 외모에는 가까워지고 있는 듯 보이네요. 그렇다면 AI가 부족하고 인간에게 남는 것은 눈치와 마음과 농담뿐일까요?

어찌 보면 민주주의라고 불리는 역사는 국가와 기업이라는 시스템을 원래 개개인을 위하여 통제하고 빼앗긴 권한을 되찾기 위한 투쟁의 역사였을 것입니다. 앞으로는 AI를 어떻게 통제할 수 있느냐가 그리고 그 판정의 권한을 얼만큼 되찾아 오느냐가 관건이 되겠네요. 결국 국가와 기업에게 지배당한 것처럼 AI에게 결국 지배당한다 하더라도 최소한의 인간미를 지킬 수 있는 선, 그 마지노선의 사수를 위한 또 다른 투쟁의 역사가 시작되고 있다는 말이지요.

---

핸드오버 (국가, 기업에 이어 AI는 우리를 어떻게 지배하는가)

한줄 서평 : AI는 레알 시스템이다 (2024.03)

내맘 $점 : $$$

데이비드 런시먼 지음 / 조용빈 옮김 / 와이드베리 (2023.12)