정약용의 6가지 질문 4.
정약용은 말했다.
"수령은 스스로에게 경계의 말을 해야 한다. 경계하지 않으면 반드시 망한다."
2018년 1월 13일.
하와이.
오전 8시 7분.
"하와이로 탄도미사일이 날아오고 있습니다. 즉시 대피하세요. 이것은 훈련이 아닙니다."
패닉.
사람들은 맨홀 뚜껑을 열고 들어갔다.
아이들을 끌어안고 울었다.
38분 후.
"오보였습니다."
누군가 버튼을 잘못 눌렀다.
38분이 걸린 이유?
오보 정정 프로토콜(절차)이 없었다.
경계하지 않았다.
"설마 누가 실수하겠어."
AI시대에는
시스템 오류 하나가
전 세계적인 재앙이 될 수 있다.
AI 목민관은
'설마'가 아닌,
'만약'에 대비해야 한다.
2020년.
IBM이 Watson for Oncology를 중단했다.
AI 암 진단 시스템.
수백억 원 투자.
이유?
"우리 AI는 의료진만큼 정확하지 않습니다."
IBM은 솔직하게 인정했다.
손실을 감수하고 중단했다.
환자 안전이 우선이었다.
하와이는 프로토콜이 없었다.
IBM은 한계를 인정하고 멈췄다.
차이는 무엇이었을까.
스스로 경계했는가.
AI 목민관에게 정약용이 질문한다.
"당신의 AI프로젝트, 최악의 시나리오를 생각해 봤는가?"
[내일 계속]
다음 편 : 정약용의 질문 6가지 5.
인장을 받는 순간.