정약용의 질문 6가지 5.
정약용은 말했다.
"수령은 관인(官印)을 받는 순간,
공식적인 권한을 갖는다.
이 순간부터
모든 행동에 책임을 져야 한다."
2022년 11월.
Meta.
새로운 AI 공개.
Galactica.
과학 논문 작성 AI.
"과학자들의 업무를 혁신할 것"
화려한 발표.
전 세계 공개.
인장을 받았다.
공식화했다.
3일 후.
폐쇄.
무슨 일이?
허위 정보.
과학적 사실 왜곡.
인종차별적 답변 대량 생성.
전 세계 과학자들 분노.
"이게 과학 AI?"
Meta 변명.
"베타 테스트였습니다."
"아직 정식이 아니었습니다."
하지만.
이미 공개했다.
전 세계에 공개하는 순간.
인정을 받은 것이다.
책임을 피할 수 없다.
같은 달.
OpenAI.
ChatGPT 출시.
출시 전.
레드팀 테스트.
공격적 보안 검증.
수백 명의 전문가.
취약점 찾기.
편향성 검증.
위험 요소 제거.
출시 후에도.
지속적 모니터링.
차이는 무엇이었나.
Meta Galactica: 3일 만에 폐쇄.
OpenAI ChatGPT: 1억 사용자.
인장 받는 순간의 무게.
Meta는 몰랐다.
OpenAI는 알았다.
정약용이 말했던 것.
"관인을 받는 순간,
모든 행동에 책임을 져야 한다."
AI도 마찬가지다.
공개하는 순간.
인장 받는 것이다.
베타든 정식이든.
세상에 내놓는 순간.
책임은 시작된다.
AI 목민관에게 정약용이 묻는다.
"당신의 AI, 인장 받을 준비가 되었는가?"
[내일 계속]
다음 편 : 정약용의 질문 6가지 6.
문을 열고 백성을 만나다.