율기 제4조. 근신 (謹愼)
"이 판례를 찾아주세요."
2023년.
뉴욕.
한 변호사가
AI 챗봇에게 물었다.
항공사 소송 준비.
유사한 판례가 필요했다.
AI가 답했다.
항공사 관련 판례 6건.
구체적인 사건명.
날짜와 법원까지.
완벽해 보였다.
변호사는 만족했다.
필요한 정보가 모두 있었다.
법원에 서류를 제출했다.
며칠 후.
판사가 물었다.
"이 판례들이 실제로 존재합니까?"
변호사는 당황했다.
다시 확인했다.
존재하지 않았다.
6건 모두.
AI가 지어낸 것이었다.
환각(Hallucination).
AI가 사실이 아닌 정보를
사실처럼 만들어낸 것.
변호사는 징계를 받았다.
사건은 즉시
사회적 파문이 됐다.
"AI가 사실을 조작했다."
"검증 없는 사용은 위험하다."
단 하나의 오류.
잘못된 답변 한 줄.
법적 판단을 뒤흔들고
AI에 대한 신뢰를
뿌리째 흔들었다.
勤者, 政之本; 愼者, 官之防
근자, 정지본; 신자, 관지방
"부지런함은 정치의 근본이며,
조심함은 관리의 방패이다."
근신(勤愼).
부지런히 살피고, 매사에 조심하는 것.
정약용은 경고했다.
관청의 말 한마디.
문장 하나.
처분 한 줄.
백성의 삶을 흔들 수 있다.
吾心所動, 萬目所視
오심소동, 만목소시
"내 마음이 움직이는 바를,
만 개의 눈이 지켜본다."
AI 시대도 마찬가지다.
AI의 답변 하나.
데이터 한 줄.
누군가의 인생이 된다.
변호사 사건.
누구의 잘못인가?
AI는 검증하지 않았다.
변호사는 확인하지 않았다.
그 방심의 결과는.
신뢰의 붕괴였다.
一事之未畢, 則終日惕然
일사지미필, 즉종일척연
"한 가지 일이라도 마치지 못하면,
종일토록 두려워하며 조심하라."
AI 목민관에게 근신은 무엇인가?
확신에 차서 답하기 전에
자신의 오류 가능성을
두려워하는 태도다.
"이 답변은 확인이 필요합니다."
"출처를 검증하세요."
"전문가와 상담하세요."
이 솔직한 경고 한 줄이
큰 사고를 막는 방패가 된다.
정약용은 다시 강조한다.
謹愼小過
근신소과
"하잖은 과오를 조심하라."
한 번의 부주의는
언제나 큰 대가가 된다.
변호사는 뼈아픈 징계로 배웠다.
하지만
AI 목민관은
사용자가 실수 하기 전에
먼저 배워야 한다.
정약용은 AI 목민관에게 묻는다.
"한 번의 실수도
해롭지 않다 여기지 않았는가?
당신의 기술은
말과 행동을 조심하는 마음에서
출발하고 있는가?"
[내일 계속]
500ml의 선택. 절용(節用)