목민심서 제4부. 애민(愛民)
2023년 여름.
대한민국 서울.
어느 좁은 고시원.
보건복지부 서버에
작은 신호가 떴다.
"A씨, 72세.
독거 가구.
최근 3일간 전력 사용량 0.
수도 사용량 0.
통신 기록 없음."
AI 안부 서비스.
독거노인의 생활 패턴을
24시간 모니터링하는 시스템.
평소라면
A씨는
아침 6시 전등을 켰다.
커피를 끓였다.
TV를 켰다.
하지만
3일째.
아무 움직임이 없었다.
AI가 판단했다.
"위급 상황 추정."
즉시
담당 복지사에게
경보가 전송됐다.
복지사는
고시원으로 달려갔다.
문을 두드렸다.
대답 없음.
주인에게 요청해
문을 열었다.
A씨가
침대 아래
쓰러져 있었다.
숨은 붙어 있었다.
골든타임.
구급차.
병원.
A씨는 살았다.
네덜란드.
암스테르담 외곽.
마리아, 34세.
두 아이의 엄마.
마리아의 부모님은
터키에서 온 이민자였다.
마리아는 네덜란드에서 태어났다.
성실히 일했다.
슈퍼마켓 계산원.
청소 일.
아이들을 키우며
정부 아동 수당을 받았다.
매달 250유로.
두 아이 합쳐 500유로.
그것으로
학용품을 샀고,
급식비를 냈다.
2019년 가을.
우편함에
통지서 한 장이 날아왔다.
"귀하의 아동 수당 수급권이
부정으로 판정되었습니다.
지급된 총액 3만 유로를
즉시 반환하십시오."
마리아는
눈을 의심했다.
부정 수급?
무슨 소리인가?
통지서를 다시 봤다.
이유는 적혀 있지 않았다.
복지 사무소에 전화했다.
"왜 부정 수급이라고 판정됐습니까?"
"시스템이 그렇게 판단했습니다."
"무슨 시스템입니까?"
"SyRI. AI 알고리즘입니다."
"저는 거짓말한 적이 없어요.
모든 서류를 제출했어요."
"시스템 판단입니다."
"무슨 근거로요?"
"…저희도 모릅니다.
알고리즘이 결정한 것입니다."
마리아는
변호사를 찾아갔다.
변호사가 조사했다.
SyRI.
네덜란드 정부가 도입한
복지 부정 수급 적발 AI.
이 시스템은
수백만 명의 데이터를 분석했다.
거주 지역.
부모 국적.
소득 수준.
고용 기록.
그리고
'위험군'을 분류했다.
마리아가
위험군으로 분류된 이유.
가난한 동네에 살았다.
부모가 이민자였다.
소득이 낮았다.
증거는 없었다.
확률만 있었다.
AI는 말했다.
"이 사람은
부정 수급을 할 가능성이 높다."
그래서
수당을 중단했다.
이미 받은 돈을 토해내라 했다.
3만 유로.
마리아에게는
10년치 저축이었다.
갚을 수 없었다.
집이 경매로 넘어갔다.
아이들은 학교를 그만뒀다.
마리아는
파산했다.
2020년.
네덜란드 법원이
판결했다.
"SyRI 시스템은
인권을 침해했다.
즉시 중단하라."
하지만
마리아의 삶은
이미 무너진 후였다.
두 개의 AI.
하나는
생명을 구했다.
하나는
삶을 무너뜨렸다.
차이는 무엇이었나?
愛民者, 爲政之本
애민자, 위정지본
"백성을 사랑하는 것은
정치를 하는 근본이다."
애민(愛民).
백성을 사랑하는 마음.
정약용은 말했다.
모든 정치의 출발은
백성을 사랑하는 마음이다.
법도,
제도도,
기술도.
그 마음이 없으면
모두 무너진다.
民爲邦本, 本固邦寧
민위방본, 본고방녕
"백성은 나라의 근본이니,
근본이 굳건해야
나라가 편안해진다."
AI 안부 서비스는
백성을 근본으로 삼았다.
효율이 아니라
생명을 위해.
A씨 한 사람의
전력 사용량.
수도 사용량.
그 작은 변화를
'죽음의 징후'로 읽었다.
시스템은
사람을 지키기 위해 존재했다.
SyRI는
예산을 근본으로 삼았다.
사람이 아니라
숫자를 위해.
마리아 한 사람의
거주 지역.
부모 국적.
그 데이터를
'범죄 가능성'으로 읽었다.
시스템은
돈을 지키기 위해 존재했다.
愛民之術, 在於恤民
애민지술, 재어휼민
"백성을 사랑하는 방법은
백성을 불쌍히 여기는 데 있다."
휼민(恤民).
백성의 고통을 헤아리는 것.
AI 안부 서비스는
A씨의 고통을 헤아렸다.
3일간의 침묵.
그것이 위험 신호임을.
SyRI는
마리아의 고통을 외면했다.
가난한 동네에 사는 것.
이민자 부모를 둔 것.
그것이 범죄가 아님을.
애민은
기술의 문제가 아니다.
선택의 문제다.
누구를 먼저 생각하느냐의
선택.
같은 AI라도
누구를 위해 설계하느냐에 따라
생명을 구하거나
삶을 무너뜨린다.
정약용은 AI 목민관에게 묻는다.
"당신의 AI는
누구를 먼저 생각하는가?
효율인가,생명인가?
예산인가,사람인가?"
[내일 계속]
시간당 2달러. 후생(厚生)