인공지능 기술이 최근 괄목할만한 발전을 이룩하면서, 인간 법 기술자가 아닌, 어떤 이해 관계, 감상에도 구애받지 않고 원리 원칙에 충실한 인공지능이야 말로 가장 공정한 심판자일 수 있다는 기대가 확산되고 있다. 특히 최근 각광받고 있는 GPT 시리즈가 인간 못지 않은 언어 능력을 구사하고 미국 변호사 시험을 상위 10퍼센트 권의 성적으로 통과하기도 하면서, 사람들로 하여금 이런 전망을 보다 현실적인 것으로 느끼게 만들고 있다. 가령, 어떤 범죄자가 그 죄질에 비해 터무니 없이 낮은 (그렇게 보이는) 형량을 선고 받았다는 보도가 나오면 판사 본인이 직접 당해보지 않았으니 이런 판결을 내린다는 식의 힐난과 함께, 인간 판사의 공정함을 믿을 수가 없으니, 판사가 하는 일을 모두 인공지능이 전담하도록 해야 한다는 반응을 어렵지 않게 찾아볼 수 있다.
우선 짚어야 할 점은 이런 반응에는 사법 과정에 대한 중대한 몰이해가 개입해 있다는 것이다. 사실 한국의 판사들에게는 판결에 있어서 많은 자율권이 주어져 있지 않다. 한국의 판사는 고을 원님이나 판관 포청천이 아니다. 한국과 같은 성문법 체제 하에서 업무를 보는 판사들은 기본적으로 철저히 법문에 근거한 판결을 내려야 한다. 법문 자체에 구체적인 판결 기준이 적시되어 있지 않은 경우에도 대법원 산하 양형 위원회가 설정한 권고 기준을 따라야 한다. 그러므로 정말로 무언가 잘못된 판결이 나왔다면, 그 책임은 미리 책정된 기준대로 판결을 내렸을 뿐인 판사에게 보다는 입법과 법률 개정 권한을 가진 의회나 실질적인 양형에 있어서의 가이드라인을 제정하는 양형 위원회 쪽에 있을 가능성이 높다. 또한 실상 공정성을 의심받는 판결 사례의 대부분은 그러한 결론이 도출되는 데에 일정한 역할을 수행한 법리와 미묘한 사실 관계가 전문성 없고 지적으로 게으른 기자들을 통해 외부에 누락되어 알려지기 때문에 비롯한다. 이때 간과되고 있는 사실은 실제의 판결이 수십, 수백 페이지 분량의 기록물로 제출된 사실 관계, 주장들을 숙련된 법 기술자들이 면밀히 검토하고 종합한 끝에 이뤄지는 것인데 비해 (그렇게 해서 작성된 판결문의 분량만 수십장이 넘는 경우도 있다.) 대부분의 사람들은 법에 관한 전문 지식도 없으면서 재판을 단지 가십성 기사의 요약문 몇 줄로만 접하고 있다는 것이다.
민중의 사법 불신이 과연 타당한 것인지의 여부를 떠나, 순수한 기술적 측면에서도 AI가 인간 법 기술자를 (단순히 그 보조를 수행하는 이상으로) 온전히 대체하는 일은 적어도 가까운 미래에는 이루어지지 못할 가능성이 크다. 일체의 사법적 판단에는 어떤 행위가 어떠한 법률에 관련하는지를 판단하기에 앞서, (이른바 '리걸 마인드'라 일컬어지는) 각개의 사건, 행위를 법적으로 유의미한 최소 단위로 분해하여 식별하는 작업이 선행되어야 하는데, 인공지능은 여전히 이와 같은 사태 인식, 개념화라는 측면에서 현저히 제한적인 능력만을 지니고 있기 때문이다. 인공지능은 살인죄, 사기죄와 같은 법적 조항의 의미를 사전적으로는 숙지할 수 있으나, 그러한 사실 관계를 직접 관측, 파악하고 그것을 법이 명시하는 일반적 사항에 대응하는 추상적 사실로서 개념화하는 작업을 수행하지는 못한다. 심지어 인공지능은 자전거, 의자, 신호등 같은 일상적인 사물 각각을 객체로서 파악하지도 못한다. (그래서 인공지능은 정상적인 인지 능력을 가진 사람이라면 누구나 통과할 수 있는 구글 CAPTCHA 테스트조차 통과하지 못한다.) 이는 현재 가장 진보한 형태의 인공지능조차 주어진 정보에 가장 확률적으로 개연성 있는 구성의 텍스트를 덧붙이는 언어 처리 모델에 불과하기 때문이다. 매번 확신에 찬 어투로 대답함에도 불구하고 사실 인공지능은 아무것도 '이해'하지 못한다. 여전히 인공지능은 외부 현실을 직접 파악하고 개념적 단위로서 추상화하는 (보통의 인간이라면 누구나 갖는 형태의) 자신의 관념적 기관을 가지고 있지 않다.
또한 사법이 매번의 판단에 있어서 전제하는 차등적인 가치 위계는 인공지능의 일반적인 발달 과정, 판단의 방식과는 어울리지 않는다. 인공지능이 서로에게 개연적으로 관련하는 기호, 정보들을 가능한 한 무한히 합산하고 그것들을 모종의 일관성을 띤 구성체로 만들면서 작동하는 반면, 우리의 가치 판단은 그런 식으로 작동하지 않는다. 요컨대, 우리는 단순히 주어진 정보를 합산하면서 얻어진 값으로 무언가의 옳고 그름을 판별하지 않는다. 그럴 수도 없다. 왜냐하면 그렇게 해서 얻어진 값은 단지 개연적으로 잘 연결된 기호들의 나열에 불과하기 때문이다. 실제로는 아무것도 판단하고 있지 않다는 점에서, 그리고 개념들 간의 차이, 차등, 관계를 직접 파악하지는 못한다는 점에서, 이러한 텍스트로 부터 인공지능은 아무런 결론을 이끌어 낼 수 없다. 이와는 판이하게도, 우리의 가치 위계는 각개의 가치, 개념이 직접 다른 것과의 위계 관계를 파생하고 질서의 구성 요소로서 기능한다는 전제에 기초한다. 가령, 우리는 살인, 절도와 같은 행위가 범죄라는 것을 그러한 사건 사례들의 종합을 통해 판단하지 않는다. 그저 그러한 행위들이 각 구성원들에게 상정된 기본 권리 사항을 특정한 형태로 침해하고 당사자에게 주관적인 해를 끼친다는 것을 직관적으로 파악할 따름이다. 기계 지능은 이처럼 어떤 개념 자체가 표상하는 다른 것과의 내재적 연관을 파악하지 못한다. 기껏해야 외부에서 설정한 절차에 의해 각각의 법적 행위에 할당된 값을 비교, 계측할 수 있을 따름인데, 문제는 그와 같은 일련의 체계에는 미리 '인간적' 판단이 개입하기 마련이라는 것이다. 따라서 '아직은' 인공지능이 일체의 사법 과정을 직접 주관할 수 있으리라 생각하기는 어렵다.
사람들이 AI 판사에 거는 기대는 이상적인 사법이란 일련의 고정된 규정들을 확인된 사실들에 적용하는 것에 불과하고 알고리즘에 기초한 기계 지능의 '조건부' 정보 처리 과정이 이에 특화되어 있다는 막연한 전제에 기초한다. 하지만 실제로 사법은 사람들이 생각하는 것만큼 철저히 원칙과 규정에 입각해서 진행되는 과정이 아니다. 실제로 사법은 규정 외부의 사회적 현실, 컨텍스트에 대해서 '지극히' 의존적이다. 왜냐하면 법 규정은 모든 관련한, 관련될 수 있는 사항들을 직접 명시할 수 없고 따라서 언제나 일정부분, 법 규정이 전제하는 어떤 정신을 어떻게 구체적으로 실현할 것인지에 대한 '유권 해석'의 여지를 남겨놓기 때문이다. 규정 자체는 그것만으로는 아무런 실천적 내용이 파생되지 않는다. 규정은 결국 그것이 지향하는 외부의 사회적 현실에 별도의 약속으로 매개됨으로서 비로소 실용적인 의미를 갖는다. 과거 정확히 동일한 헌법 규정 하에서 용인되었던 낙태죄, 간통죄 조항이 오늘날에는 위헌으로 판별되는 이유는 이처럼 헌법 조항 자체는 지나치게 일반화되어 모호한 당위 규정에 불과하고 사후적인 (그리고 주관적인) '해석'을 통해 비로소 실천적인 규범을 낳는 것이기 때문이다.
설령 인공지능 기술을 통해 완벽히 합리적인 사법이 가능하다 해도, 그것이 과연 모두가 만족하는 이상적인 형태의 사법일지는 의문이 남는다. 일찍이 케네스 애로우Kenneth Joseph Arrow는 <불가능성 정리Impossibility Theorum>라는 그의 기념비적인 논문을 통해 개개인의 완전하고 이행적인 선호간의 우열이 민주적인 절차를 통해 결정될 수 없음을 입증했다. 그리고 사법이란 것도 결국에는 가창 첨예한 영역에 이르러서는 복수의 상충되는 가치들간의 우선 순위를 결정하는 과정이라 할 수 있는데, 이는 본질적으로 어떤 도덕적 전제를 개인적 선호에 따라 선택하느냐에 달려 있을뿐, 합리적인 정당화 과정을 가질 수 없는 성질의 문제인 것이다. 이러한 문제에 있어서 기하학 공리와도 같이 자명한 것은 아무것도 없다. 가톨릭 근본주의자들이 낙태를 한낱 세포 덩어리라고는 해도 엄연한 생명인 것을 해하는 살상 행위로 규정하는 반면, 반대편에서 세속주의자들이 낙태를 여성이 자기 몸에 대해 행사할 수 있는 권리라 주장하는 것에서 보여지듯이, 어떤 전제를 선택하느냐에 따라서 정답이 달라진다. 가톨릭 신자들에게 인공지능이 내린 판결을 근거로 낙태죄 폐지를 수용하라고 말한다면, 그들이 과연 그런 제안을 받아 들일까? 절대로 그렇지 않으리라는 걸 예상하기는 어렵지 않다. (물론 반대편도 마찬가지다.) 그건 그들의 신념과 자기 정체성이 기초하는 세계관의 일부를 폐기하는 정신적 자해 행위와 다름없기 때문이다. 결국 객관적인 실재 자체가 아닌, 그에 대한 주관적 규정들 사이에서의 우열을 가려야 하는 사회적 심판의 영역에서 완전한 합리성이라는 기획 자체가 가능하지도 않지만, 설령 그게 가능하다고 해도 다툼의 여지는 항상 존재하게 되는 것이다.
