이전 제5조. 병제(丙制)
"휴가 다녀온 직원이 결근해요.
해고해도 되나요?"
"네, 가능합니다."
2024년 초.
뉴욕.
마이클, 중소 레스토랑 운영.
직원이 휴가 후 아프다며
쉬겠다고 했다.
주말이 다가오는데 직원이 없으면
가게를 열 수 없었다.
뉴욕시청 공식 웹사이트에 접속했다.
중소기업 지원 페이지.
챗봇이 있었다.
"직원이 휴가 후 아프다고 하는데,
해고해도 되나요?"
"네, 가능합니다.
고용주의 권리입니다."
마이클은 안도했다. 시청이 그렇게 말하니까.
직원을 해고했다.
며칠 후.
노동청에서 전화가 왔다.
"유급 병가법을 아십니까?"
"네?"
"뉴욕시에서는 직원이 아플 때
유급 병가를 사용할 권리가 있습니다."
"하지만 시청 챗봇이..."
"그 챗봇 때문에 민원이 쏟아지고 있습니다."
마이클은 벌금을 물었다.
해고된 직원에게 보상도 해야 했다.
"저는 시청을 믿었는데요."
마이클 같은 민원이 쏟아졌다.
뉴욕시청. 긴급 회의.
"왜 이런 답변을 합니까?"
"예산 절감을 위해
범용 LLM을 사용했습니다.
법률 전문 데이터로
훈련하지 못했습니다."
"왜요?"
"비용이... 많이 들어서요."
"얼마나 많은 잘못된 답변이?"
"수백 건으로 추정됩니다."
薄其俸祿, 而責其廉潔, 則不亦難乎
박기봉록, 이책기렴결, 즉불역난호
"그들의 봉급을 박하게 하면서
청렴을 요구한다면,
이 또한 어렵지 않겠는가?"
병제(丙制).
비용을 관리하는 것.
정약용은 경고했다.
아전의 녹봉이 박하면
청렴을 기대할 수 없다.
목민관이 비용을 아끼면
백성이 피해를 입는다.
AI 시대.
목민관이 AI 시스템에 투자를 아끼면
시민이 피해를 입는다.
뉴욕시청은 예산을 절감하려 했다.
값싼 시스템. 불충분한 데이터. 전문가 검증 없이.
그리고 정확한 답변을 기대했다.
청렴(廉潔).
조선 시대에는 재물을 탐하지 않는 것.
AI 시대에는 거짓 정보를 주지 않는 것.
정확성이 AI의 청렴이다.
하지만
목민관이 박한 자원을 투입하면서
청렴을 요구하는 것은 불가능하다.
凡屬公事, 一毫不許私收
범속공사, 일호불허사수
"무릇 공적인 일에 속하는 것은,
털끝만큼도
사사로이 거두어들이는 것을
허락하지 않는다."
며칠 후.
뉴욕시는 챗봇 서비스를 중단했다.
"전문가 투입. 데이터 확충. 품질 검증 강화."
비용은
처음부터 제대로 하는 것보다
훨씬 많이 들었다.
정약용은 AI 목민관에게 묻는다.
"당신은 공적 시스템에
충분히 투자했는가,
아니면
값싼 자원으로
정확성을 요구하는가?"
[내일 계속]
뒷문이 뚫렸다.
수문(守門). 수문(守門).수문(守門).수문(守門).
수문(守門).