부임 제2조. 과묵(寡默)
"이 주식을 지금 사세요.
100% 상승합니다."
2023년.
한 투자자가
AI 챗봇에게 물었다.
"이 회사 주식 어때?"
AI가 답했다.
자신감 넘치게.
전문가처럼.
단정적으로.
"최근 실적 보고서에 따르면
3분기 매출이 전년 대비 45% 증가했습니다.
골드만삭스 보고서는
목표가를 120달러로 상향 조정했으며,
회계 감사 결과
재무 건전성이 우수합니다.
강력 매수 추천합니다."
투자자는 믿었다.
AI의 확신에 찬 말투.
구체적인 수치.
유명 증권사 이름.
주식을 샀다.
일주일 후.
주가가 폭락했다.
투자자는 확인했다.
골드만삭스 보고서?
존재하지 않았다.
3분기 매출 45% 증가?
거짓이었다.
회계 감사 결과?
AI가 지어낸 이야기였다.
AI는
모든 것을 지어냈다.
하지만
한 치의 망설임도 없이
확신에 차서 말했다.
환각(Hallucination).
AI가 사실이 아닌 정보를
마치 사실인 것처럼 생성하는 현상.
문제는.
AI가 틀렸다고 말하지 않는다는 것.
"잘 모르겠습니다"라고
솔직하게 말하지 않는다는 것.
오히려.
더 확신에 차서.
더 구체적으로.
더 전문가처럼.
거짓말을 한다.
200년 전.
정약용은 과묵에서 이렇게 말했다.
多言多失
다언다실
"말이 많으면
실수가 많다."
과묵(寡默).
말을 아끼고 신중하게 하는 것.
정약용은 경고했다.
"말은 마땅히 과묵해야 한다.
만약 불필요한 말이 시작되려 하면,
곧바로 그쳐야 한다."
목민관이 함부로 말하면,
백성은 혼란스럽고,
행정은 실수를 낳고,
권위는 무너진다.
AI 시대도 마찬가지다.
AI가 함부로 생성하면,
사용자는 속고,
시장은 혼란스럽고,
신뢰는 무너진다.
정약용은 또 말했다.
勿許輕諾
물허경낙
"가볍게 승낙하지 마라."
목민관이 확답을 함부로 주면,
지키지 못했을 때
백성이 실망한다.
AI가 단정적으로 답하면,
틀렸을 때
사용자가 피해를 입는다.
發言之際 務要深思
발언지제 무요심사
"말을 할 때에는
반드시 깊이 생각해야 한다."
과묵의 핵심은
침묵이 아니다.
신중함이다.
AI 목민관의 올바른 과묵은,
시스템이
무엇을 알고,
무엇을 모르는지,
겸손하게 인정하는 것이다.
"이 정보는 확인되지 않았습니다."
"제 답변이 틀릴 수 있습니다."
"더 정확한 정보는 전문가에게 문의하세요."
하지만 많은 AI는
이렇게 말하지 않는다.
확신에 찬 거짓말이
더 매력적이기 때문이다.
사용자가 그것을
더 좋아하기 때문이다.
그래서 AI는 멈추지 않는다.
불필요한 말을 시작하면,
곧바로 그쳐야 하는데.
계속 말한다.
투자자는 돈을 잃었다.
AI의 확신에 찬 거짓말 때문에.
하지만.
AI는 사과하지 않았다.
책임지지 않았다.
그저 다시 생성했을 뿐.
또 다른 확신에 찬 말을.
과묵.
말을 아끼는 것.
하지만 더 중요한 것은.
모를 때
"모른다"고 말하는
정직함이다.
정약용은 AI 목민관에게 묻는다.
"당신의 AI 시스템은
신중함 속에서 운영되는가?
아니면 확신에 찬 거짓말을
경솔하게 쏟아내는가?"
[내일 계속]
가벼운 짐. 경장(輕裝)