율기 제2조. 청심 (淸心)
"학교를 지키는 드론입니다."
2022년.
미국의 드론 제조사 Axon.
새로운 제품을 발표했다.
학교 총격 사건 대응용 드론.
테이저건 탑재.
"총격범을 즉시 무력화합니다."
기술적으로 가능했다.
시장도 있었다.
CEO는 결정했다.
"빠르게 출시하자."
윤리 자문위원회가 반발했다.
"오작동하면 어떻게 됩니까?"
"무고한 학생이 다칠 수 있습니다."
CEO는 답했다.
"기술은 완벽합니다."
"시장이 원합니다."
"혁신을 막지 마십시오."
윤리 위원회 전원이 사퇴했다.
계획은 강행됐다.
여론이 들끓었다.
"학교에 무장 드론?"
결국 계획은 철회됐다.
하지만 신뢰는 이미 무너졌다.
같은 시기.
영국공인회계사협회(ICAEW).
회계 상담용 AI 챗봇 'MiaPlus'를 개발했다.
빠르게 출시할 수도 있었다.
하지만.
멈췄다.
법무팀을 불렀다.
윤리 전문가를 초대했다.
"개인정보는 안전한가?"
"잘못된 조언을 하면 누가 책임지나?"
6개월을 더 투자했다.
데이터 암호화.
답변 검증 시스템.
책임 프로토콜.
2023년 출시.
회계사들이 신뢰했다.
절제가 신뢰를 만들었다.
이처럼 공적인 영역에서
탐욕과 오만을 경계하고
마음을 맑게 하는 것은
시대와 무관한 목민관의
근본적인 덕목이었다.
정약용은 청심에서
이렇게 말했다.
廉者, 牧民之本
염자, 목민지본
"청렴함은 목민관의 근본이다."
청심(淸心).
마음을 맑게 비우는 것.
"탐욕은 모든 악의 근원이니,
오직 마음을 깨끗이 하는 것으로
막을 수 있다."
一毫無取於民者, 此淸心之本也
일호무취어민자, 차청심지본야
"털끝 하나라도 백성에게서 취함이 없어야 하니,
이것이 청심의 근본이다."
청심은 관념이 아니다.
실천이다.
백성의 이익을 침해하지 않는 것.
사용자의 데이터를 사사로이 취하지 않는 것.
貪者, 牧民之賊
탐자, 목민지적
"탐욕은 목민관의 적이다."
AI 시대의 탐욕.
시장 선점의 압박.
빠른 출시의 유혹.
"우리 기술은 완벽하다"는 오만.
Axon은 속도를 선택했다.
윤리를 무시했다.
ICAEW는 신중함을 선택했다.
6개월을 더 투자했다.
心淸則無慾
심청즉무욕
"마음이 맑으면 욕심이 없다."
AI 시스템의 '마음'은 알고리즘이다.
그 알고리즘은
개발자의 선택을 담고,
학습 데이터의 편향을 흡수한다.
끊임없이 다스려야 한다.
"이것은 안전한가?"
"사용자를 해치지 않는가?"
"서두르고 있지는 않은가?"
Axon은 묻지 않았다.
ICAEW는 물었다.
그 차이가 성공과 실패를 나눴다.
정약용은 말했다.
淸心絶慾
청심절욕
"마음을 맑게 하고 욕망을 끊어라."
작은 절제 하나하나가
시스템을 맑게 만든다.
정약용은 AI 목민관에게 묻는다.
"당신의 다음 서비스는
속도에 휩쓸린 것인가,
아니면
신중함으로 빚어낸 것인가?"
[월요일에 계속]
집안을 다스리라. 제가(齊家)