부임 제5조. 검력(檢歷)
"제 데이터를 삭제해 주세요."
2021년.
한 여성이
AI 챗봇 서비스에
요청했다.
"제 대화 기록을
모두 지워주세요."
이유는 간단했다.
그녀는 챗봇과
우울증에 대해
상담했었다.
가장 은밀한 고민.
가장 어두운 순간.
이제 회복됐다.
그 기억을
남기고 싶지 않았다.
회사는 답했다.
"대화 기록은 삭제했습니다."
하지만.
1년 후.
같은 서비스를 다시 사용했을 때.
챗봇이 말했다.
"지난번 우울증 상담
이후로 어떠세요?"
삭제되지 않았다.
대화 기록은 지워졌지만,
학습 데이터에는 남아 있었다.
AI의 뉴런 속에,
그녀의 고통이 새겨져 있었다.
"완전히 지워달라고 했는데..."
회사는 답했다.
"죄송합니다.
기술적으로 어렵습니다."
학습된 AI에서
특정 데이터만 제거하는 것.
'기계의 망각'
아직 해결되지 않은
AI 업계의 숙제.
하지만.
그것은 변명일 뿐이다.
200년 전.
정약용은 검력에서 이렇게 말했다.
當檢閱故牘, 覈其詳否
당검열고독, 핵기상부
"마땅히 옛 문서(기록)를
검열하여,
그 상세한 내용을
따져보아야 한다."
검력(檢歷).
지나간 기록을 검토하는 것.
정약용은 강조했다.
목민관이 임지에 부임하면
가장 먼저 해야 할 일이
이전 관리들의 행정 기록을
철저히 검토하는 것이라고.
熟察其所由興廢
숙찰기소유흥폐
"그것이 흥하거나 폐한 까닭을
깊이 살펴야 한다."
과거의 성공과 실패를
파악해야만,
같은 실수를 반복하지 않고
행정의 연속성을 확보할 수 있다.
AI 시대.
검력은 무엇인가?
출시 전,
학습 데이터를 검토하는 것.
과거 시스템의 성능 로그를
철저히 감사하는 것.
편향과 오류가 없는지
확인하는 것.
그리고 가장 중요한 것.
'잊힐 권리'를
보장하는 것.
유럽 GDPR.
한국 개인정보보호법.
사용자는
자신의 데이터 삭제를
요청할 권리가 있다.
하지만 많은 AI 시스템은
준비되지 않았다.
"기술적으로 어렵습니다."
"학습된 모델에서 제거 불가능합니다."
"재학습 비용이 너무 큽니다."
변명이다.
정약용은 경고했다.
毋輕於改作
무경어개작
"경솔하게 고치거나 만들지 마라."
과거에 대한 충분한 검토 없이
성급하게 시스템을 출시하지 마라.
출시 전에
반드시 물어야 한다.
"우리 AI는
사용자 데이터를
완전히 삭제할 수 있는가?"
"학습 데이터 관리 체계가
있는가?"
"삭제 요청 프로토콜을
준비했는가?"
많은 기업이
이 질문을 미뤘다.
"나중에 해결하면 되지."
하지만.
그 '나중'이 왔을 때,
이미 수백만 명의
은밀한 기억이
AI 속에 갇혀 있었다.
그 여성의 우울증 기록은
여전히 AI 속에 남아 있다.
지우고 싶어도
지워지지 않는 기억.
정약용은 말했다.
"지나간 행정을 검토하여
혹여 한 번이라도
부지런하지 못한 마음이 있었는지,
스스로 엄격히 살피고 힘쓰라."
검력의 정신.
출시 전에
부지런히 준비하는 것.
과거의 기록을
철저히 관리하는 것.
사용자의 권리를
보장하는 시스템을
미리 만드는 것.
하지만 많은 AI 목민관은
경솔했다.
검토 없이 출시했다.
그 결과.
지워지지 않는 기억이
AI 속에 영원히 남았다.
정약용은 AI 목민관에게 묻는다.
"출시 전에
당신의 AI 시스템은
사용자가 잊기를 원하는 기록에 대해
정직하고 부지런하게
준비를 하고 있는가?"
[월요일에 계속]
털끝만큼의 오만. 성칙(省飭)