애민 제3조. 진휼(賑恤)
"죄송합니다만,
우선순위가 낮습니다."
2020년 봄.
뉴욕.
병원 앞에
앰뷸런스가 줄지었다.
COVID-19.
제임스, 64세.
청소 노동자.
숨이 가빴다.
열이 40도를 넘었다.
병원에 갔다.
간호사가
태블릿에 정보를 입력했다.
"이름은요?"
"제임스 브라운."
"주소는요?"
"브롱크스 152번가."
"보험은 있으신가요?"
"... 없습니다."
태블릿 화면에
숫자가 떴다.
위험도 점수: 52
"죄송합니다만,
우선순위가 낮습니다.
집에서 대기하세요."
"네? 저... 숨을 못 쉬겠는데요."
"시스템이 그렇게 나왔습니다."
제임스는
돌아갈 수밖에 없었다.
같은 날 오후.
같은 병원.
데이비드, 62세.
회계사.
비슷한 증상으로 왔다.
"이름은요?"
"데이비드 존슨."
"주소는요?"
"맨해튼 어퍼 이스트 72번가."
"보험은?"
"네, 플래티넘 보험입니다."
태블릿 화면.
위험도 점수: 78
"즉시 입원 가능합니다.
이쪽으로 오세요."
왜?
두 사람의 증상은 비슷했다.
나이도 비슷했다.
차이는 데이터였다.
AI 알고리즘은
과거 의료 사용량을
건강의 지표로 삼았다.
병원에 자주 가지 못한 제임스는
'기록이 없어 건강한 사람'으로
분류됐다.
가난해서
병원에 못 간 것인데.
AI는 수십 년간 누적된
구조적 불평등을
그대로 학습했다.
그리고 효율적이고
객관적인 척,
차별을 재현했다.
제임스는 집에서
3일을 더 버텼다.
네 번째 날.
응급실로 실려 갔다.
너무 늦었다.
제임스만이 아니었다.
팬데믹 기간 동안
수많은 저소득층,
소수 인종,
보험 없는 사람들이
"우선순위가 낮습니다"라는
말을 들었다.
가장 취약한 이들이
가장 마지막이 됐다.
備荒之策, 莫重於早計
비황지책, 막중어조계
"재난에 대비하는 계책은
미리 계획하는 것보다
더 중요한 것이 없다."
진휼(賑恤).
재난에 대비하고 구제하는 것.
정약용은 강조했다.
出納之物, 悉以公道
출납지물, 실이공도
"구휼 물품의 출납은
모두 공정한 도리로써 해야 한다."
재난 구호는
편파 없이
오직 공정한 원칙에 따라
이루어져야 한다.
하지만 AI는
데이터 속 편견을
그대로 학습했다.
알고리즘이
차별을 정당화하는
도구가 됐다.
제임스의 위험도 점수 52.
그의 아픔이 아니라,
그의 가난이 계산됐다.
賑恤無偏
진휼무편
"구휼을 베풂에 있어
병든 자와 재난을 당한 백성을
빠짐없이 살펴야 하며,
차별해서는 안 된다."
재난 앞에서
모든 백성은 평등해야 한다.
병든 자를 살필 때,
그의 재산이나 신분을
물어서는 안 된다.
毋以虛文, 爲之欺罔
무이허문, 위지기망
"헛된 문서를 가지고
백성을 속이거나
기만하지 말라."
구제 시스템은
실질적인 도움을 주어야 한다.
형식적인 절차로
백성을 기만해서는 안 된다.
하지만 병원 시스템은
"우선순위가 낮습니다"라는
헛된 문서로
제임스를 돌려보냈다.
진휼은 공정해야 한다.
AI의 효율성은
인간의 고통 앞에서
멈춰야 한다.
측은지심(惻隱之心).
그것이 먼저다.
2021년.
일부 병원들이
의료 AI 시스템을
재검토하기 시작했다.
편향 제거.
공정성 강화.
하지만
제임스는
돌아오지 않았다.
정약용은 AI 목민관에게 묻는다.
"당신의 시스템은
병든 자를 빠짐없이 살피는가,
아니면
데이터 속 편견으로
가장 약한 이들을
차별하는가?"
[내일 계속]
울리지 않은 사이렌. 구재(救災)