부임 제4조. 봉공(奉公)
"우리 기술을 사고 싶습니다."
2018년.
아마존.
AI 안면 인식 기술
'리코그니션(Rekognition)'.
강력했고, 정확했다.
경찰이 관심을 보였다.
이민세관단속국(ICE)이 연락했다.
"범죄 예방에 쓰겠습니다."
"팔아주십시오."
아마존은
계약서에 사인했다.
수백억 원.
하지만.
내부에서 경고가 나왔다.
윤리 전문가들이 말했다.
"이 기술은 편향돼 있습니다."
"유색인종을 오인식합니다."
시민단체 ACLU가
실험했다.
리코그니션에
현직 의원 사진을 넣었다.
결과.
의원 28명을
범죄자로 오인식했다.
특히
유색인종 의원.
여성 의원.
ACLU가 요구했다.
"이 기술은 위험합니다."
"판매를 중단하십시오."
아마존의 선택은?
계속 팔았다.
정부 계약.
수익.
공적인 책임보다
사적인 이익을 선택했다.
같은 시기.
마이크로소프트도
안면 인식 기술이 있었다.
경찰이 원했다.
정부가 제안했다.
수백억 원 계약.
하지만.
마이크로소프트 사장
브래드 스미스가 말했다.
"안 팝니다."
"인종 편향성을
완벽히 해결할 때까지,
경찰에 판매하지 않겠습니다."
2020년.
마이크로소프트는
공식 선언했다.
안면 인식 기술
판매 중단.
문제 해결 때까지.
손해였다.
수백억 원 포기.
경쟁사는 팔고 있는데.
하지만.
공적인 책임을 지켰다.
200년 전.
정약용은 봉공에서 이렇게 말했다.
私務勿先於公
사무물선어공
"사사로운 일을
공적인 일보다
앞세우지 마라."
봉공(奉公).
공적인 임무를 받드는 것.
정약용은 경고했다.
"오직 공적인 일에 힘써야 한다.
사적인 일은 모두 없애고
마음속에 한 조각 사사로움도
남기지 마라."
一以奉公爲事
일이봉공위사
"오로지 공적인 임무를
받드는 것을 일로 삼을지니."
목민관의 모든 에너지는
공적인 의무를 이행하는 데
헌신되어야 한다.
勿專治私家之財
물전치사가지재
"오로지 사적인 재물을
다스리는 데 전념하지 마라."
목민관의 지위를 이용하여
개인의 재산을 증식하거나
사적인 일에 시간을 쏟지 마라.
AI 시대.
봉공은 무엇인가?
공익을 사익보다 우선하는 것.
기술의 권력을
공공의 책임으로 사용하는 것.
아마존과 마이크로소프트.
같은 기술.
같은 제안--
하지만
다른 선택.
아마존:
사적인 이익 우선.
마이크로소프트:
공적인 책임 우선.
기술의 권력은
언제나 유혹 앞에 선다.
수익.
성장.
시장 지배.
하지만.
봉공의 길은
이익이 아닌 원칙 위에
세워져야 한다.
아마존은
수백억 원을 벌었다.
하지만
무고한 사람들이
범죄자로 오인됐고,
시스템에 대한 신뢰는
무너졌다.
마이크로소프트는
수백억 원을 포기했다.
하지만
원칙을 지켰고,
더 큰 신뢰를 얻었다.
정약용은 말했다.
"마음속에 한 조각 사사로움도
남기지 마라."
AI 목민관에게
이것은 무엇인가?
편향된 기술이라도
수익이 되면 파는가?
위험한 시스템이라도
계약이 들어오면 판매하는가?
아니면.
공적인 책임을 최우선으로 두는가?
봉공.
그것은
당장의 이익을 포기하는
고통스러운 선택이다.
하지만.
그 선택만이
AI 목민관을
탐관오리와 구분한다.
정약용은 AI 목민관에게 묻는다.
"당신의 AI 시스템은
사적인 이익을 버리고,
오직 공적인 책임에
힘쓰고 있는가?"
[내일 계속]
지워지지 않는 기억. 검력(檢歷)