ISO 내부심사에서 가장 흔하게 발생하는 오해는 “문서가 있으면 통제가 존재한다”는 착각입니다. 그러나 ISO, 특히 ISO/IEC 42001(인공지능 경영시스템, AIMS)의 관점에서 통제(Control)는 문서가 아니라 실제 운영(Operation)으로 입증되어야 합니다. 문서는 설계도일 뿐이며, 설계도가 실제로 구현되고 반복적으로 작동하고 있는지에 대한 객관적 증거(Objective Evidence)가 없으면 통제는 존재하지 않는 것으로 판단됩니다.
1. 문서 중심 접근의 한계
많은 조직이 ISO 도입 과정에서 절차서, 지침서, 매뉴얼을 빠르게 구축합니다. 이는 인증 준비의 일부로서 필요하지만, 여기서 멈추는 순간 시스템은 형식에 머물게 됩니다.
예를 들어,
“데이터 접근은 권한자만 가능하다”
“로그는 정기적으로 점검한다”
“AI 결과는 검증한다”
이와 같은 문장은 문서상으로는 완벽해 보입니다. 그러나 심사에서는 다음과 같은 질문이 이어집니다.
실제로 권한은 어떻게 부여·회수되고 있는가?
최근 접근 로그는 언제, 누가, 어떤 기준으로 검토했는가?
AI 결과의 “이상”을 판단하는 기준은 무엇이며, 그 기준이 기록으로 남아 있는가?
이 질문에 대해 기록, 로그, 승인 이력, 변경 이력 등으로 답변하지 못한다면, 해당 통제는 “존재하지 않는 것”과 동일하게 평가됩니다.
2. ISO 42001에서 요구하는 ‘운영 중심 통제’
ISO 42001은 기존 경영시스템보다 한 단계 더 나아가, AI의 불확실성과 리스크를 전제로 설계된 표준입니다. 따라서 통제는 단순히 존재하는 것이 아니라, 지속적으로 작동하고 있어야 하며, 그 결과가 검증 가능해야 합니다. 핵심 영역을 기준으로 보면 다음과 같습니다.
① 데이터 접근 통제 (Data Access Control)
단순 권한 설정이 아니라, 권한 변경·이력·접근 로그가 관리되고 있는가
최소권한 원칙이 실제로 적용되고 있는가
외부 API, SaaS AI 사용 시 데이터가 어디로 전달되는지 통제되고 있는가
핵심: “누가 접근할 수 있는가”가 아니라 “접근이 어떻게 통제되고 증명되는가”
② 로그 관리 및 추적성 (Logging & Traceability)
로그가 생성되고 있는가가 아니라, 검토되고 있는가
이상 행위 탐지 기준이 존재하는가
로그를 통해 사고 발생 시 원인 추적이 가능한가
핵심: 로그는 기록이 아니라 책임을 추적할 수 있는 구조
③ AI 결과 검증 (AI Output Validation)
AI 결과를 검증하는 절차가 존재하는가
“정상/이상” 판단 기준이 정의되어 있는가
검증 결과가 기록되고, 재학습이나 개선으로 연결되는가
핵심: AI는 정확도가 아니라 통제 가능성이 중요
3. ‘적합’이라는 판단의 위험성
내부심사에서 가장 많이 등장하는 결과는 “적합”입니다. 그러나 이 “적합”이 항상 긍정적인 의미를 가지는 것은 아닙니다. 오히려 다음과 같은 상황에서는 위험 신호가 될 수 있습니다.
모든 항목이 적합인데 개선사항이 없음
기록은 있으나 실제 활용되지 않음
절차는 존재하지만 책임자가 불명확함
이 경우 “적합”은 시스템이 잘 운영되고 있다는 의미가 아니라, 아무도 깊이 보지 않았다는 신호일 수 있습니다. ISO의 목적은 통과가 아니라 개선입니다. 따라서 내부심사는 문제를 숨기는 과정이 아니라, 문제를 드러내는 과정이어야 합니다.
4. 심사원 관점에서의 판단 기준
전문 심사원은 다음 세 가지 기준으로 시스템을 판단합니다.
1) 문서(Document)
정의되어 있는가
2) 운영(Operation)
실제로 실행되고 있는가
3) 증거(Evidence)
기록으로 남아 있는가
이 세 가지 중 하나라도 빠지면
해당 통제는 “미흡” 또는 “부적합”으로 판단될 수 있습니다.
5. 결론: ISO는 ‘문서 시스템’이 아니라 ‘실행 시스템’
ISO 42001의 본질은 명확합니다.
AI를 잘 만드는 것이 아니라, AI를 통제 가능한 상태로 운영하는 것 그리고 그 통제는 문서로 존재하는 것이 아니라, 조직의 행동과 기록으로 증명되어야 합니다.