법이 된 AI

정의란 무엇일까?

우리는 정말 책임을 AI에게 넘기고 싶었던 걸까? 아니면 처음부터 책임지고 싶지 않았던 걸까?

더 나아가 우리는 언제부터 ‘이게 답이니까’, '이게 법이니까'라는 말보다 ‘AI가 정한 거니까’라는 말을 더 쉽게 받아들이게 된 걸까?

이제 모든 것을 AI에게 배우고 검수받고 허락을 받는 삶을 살고 있다. 노인들의 경험이 담긴 조언은 그저 시대에 뒤떨어진 이야기가 되고, 청년들의 열정 섞인 도전은 치기 어린 행동으로 그치게 된다. AI의 말과 다른 행동들은 일반적이지 못한 행동이 되고, 손가락질을 받는 행동들이 된다.

그렇게 다름은 틀림으로 변질되며 AI의 말을 하나의 법, 진리로 생각하게 된다.

AI가 인간 위에 군림하게 된 사건은 그리 멀지 않은 날 발생했다. 두 사람이 잘잘못을 가리기 위하여 재판장에 들어오게 되었다. 피의자의 행동으로 피해자의 목숨을 앗아간 상황에서, 피의자는 억울함을 호소하기 바빴다.
배관이 막혀 AI에게 도움을 요청했고, 하수구에 락스를 넣게 되면서 시작됐다. 얼마나 넣어야 할지 몰라 콸콸 쏟아부었는데, 그 락스들이 배관을 따라 흐르며 뜨거운 물들을 만나 저층부의 하수구에서 독가스를 뿜게 만든 것이다. 운이 나쁘게 화장실에서 씻고 있던 피해자가 독가스를 마시고 쓰러져 병원으로 이송됐지만, 끝내 사망하게 된 사건이었다.

인간 판사는 급변하는 시대와 객관적인 분석을 위하여 판사 AI를 보조 수단으로 사용하고 있었다. 수십만 건의 판결들을 분석하고 모든 판례에 비추어 객관적인 판단을 해주고 있기 때문이다. 처음은 인간이 결정을 내렸지만, 차츰 AI가 결정을 내리고 인간은 그저 지켜보고만 있었다.

이번 사건은 피의자 무죄로 종결이 났다. AI의 조언을 구하며 발생했던 상황으로, 노후화된 건물 구조와 우연성 등의 이유로 피의자의 행동에 귀책이 없다는 이유였다.

많은 사람들이 불만을 토로했다. 실제로 사용하는 사람이 락스의 위험성을 알지 못하고 있었다는 점과 보편적으로 통용되는 상식이 배제되어 있는 결정이었기 때문이다. 그런 이유들로 피의자에게 내려진 무죄는 잘못된 판결이라면서 목소리를 냈다.

하지만 그런 목소리는 소음으로 들리는지 많은 사람들은 피해자에게 손가락질을 하며 조용히 하라고 소리쳤다. 객관적인 결론에도 인정하지 못한다며 말이다.


더 이상 사람들은 법을 ‘이해’하려고 하지 않는다. AI의 판단이 투명하지 않다는 문제에도, 사회는 별 반응을 보이지 않는다. 그 룰을 만든 구조를 알 수 없어도, 다들 그냥 받아들인다. 왜냐하면, AI는 감정을 섞지 않으니까. AI는 편파적이지 않으니까. 그래서 ‘공정하다’고 여겨진다. 누구보다 객관적일 거라는 믿음은, 결국 모든 판단을 AI에게 넘기는 결과로 이어졌다.

회사에서는 AI가 정한 성과 기준에 따라 직원을 평가하고 해고한다. 금융기관에서는 AI가 정한 신용 점수로 대출 여부를 판단한다. 교육현장에서는 AI가 설계한 학습경로에 따라 아이들의 가능성을 분류한다. 그 모든 상황에서 사람들은 더 이상 ‘이해’하려 하지 않는다. 왜냐하면 그건 ‘AI가 정한 룰’이기 때문이다.

그 룰은 변하지 않는다. 수정할 수도 없다. 항의할 창구조차 없다. 다만, 질문이 들어올 때마다 하나의 답만 반복된다.
“AI가 그렇게 판단했습니다.”

그리고 사람들은 점점 생각을 멈춘다. 판단하지 않게 된다. 법이 AI가 정한 룰로 대체되면서, 우리는 그저 그 룰 안에서 ‘순응’만 하게 된다. 어떤 사람은 부당하게 벌을 받고, 또 어떤 사람은 부당하게 기회를 잃는다. 하지만 아무도 화내지 않는다. 법을 만든 사람이 없기 때문이다.

‘AI니까 어쩔 수 없지’라는 말이 일상처럼 되뇌어진다.

가장 객관적인 존재에게 판단을 맡기며, 우리는 더는 저항하지 않는다. 법이 가진 본질적인 질문, ‘정의란 무엇인가’라는 화두조차 희미해진다. 결국, 우리는 법치 사회를 사는 게 아니라, AI의 알고리즘이 만든 ‘룰 기반 사회’를 살아가게 되는 것이다.

그리고 문득 우리는 되묻는다.
‘과연 이게 정의인가?’
하지만 그 질문에 대답해 줄 사람은 아무도 없다. AI는 질문에 답하지 않기 때문이다. AI는 판단만 할 뿐, 책임지지 않는다.

그러니 묻고 싶다.
정말 우리가 원했던 건, 정의였을까?
아니면, 누군가 판단해 주는 삶의 편안함이었을까?