공공 서비스 영역의 자동화된 의사결정 시스템에 적용되는 메커니즘
영국 중앙 디지털 및 데이터 사무국(Central Digital and Data Office, CDDO)과 정보 위원회(Information Commissioner’s Office, ICO)가 공공 부문 조직을 위해 발표한 알고리즘 투명성 기록 표준(Algorithmic Transparency Recording Standard, ATRS) 지침<https://www.gov.uk/government/publications/guidance-for-organisations-using-the-algorithmic-transparency-recording-standard/algorithmic-transparency-recording-standard-guidance-for-public-sector-bodies>은 공공 서비스 영역에서 자동화된 의사결정 시스템의 사용에 대한 명확하고 일관성 있는 정보 공개를 의무화하는 핵심 메커니즘으로 기능한다. 이 표준은 2022년 11월에 v1.0이 처음 발표된 이후, 피드백과 경험을 반영하여 2023년 3월에 v2.0으로 업데이트되었는데, 공공 부문의 신뢰도를 높이고, 알고리즘의 잠재적 편향 및 위험을 사전에 식별하여 관리하기 위한 구조화된 접근 방식을 제시한다. ATRS는 단순한 고지 의무를 넘어, 공공 기관이 알고리즘 도구의 전 생애 주기와 운영상의 책임을 명확하게 문서화하도록 요구하며, 이 문서는 일반 대중, 시민 사회 및 규제 당국이 이해할 수 있는 방식으로 작성되어야 한다.
ATRS 지침은 크게 세 부분으로 구성된 구조화된 기록 양식을 중심으로 공공 기관의 투명성 의무를 구체화한다. 첫 번째 부분은 도구의 개요 및 목적에 관한 내용으로, 해당 알고리즘 도구가 무엇을 위해 사용되며, 그 사용이 공공 서비스에 어떤 영향을 미치는지에 대한 기초적인 정보를 제공한다. 이 섹션은 도구의 이름과 버전, 사용되는 공공 서비스의 맥락, 그리고 도구가 지원하거나 내리는 결정의 성격을 명확히 한다. 특히 중요한 것은 도구 사용의 구체적인 목표를 정의하는 것으로, 이는 단순히 기술적 기능 나열이 아니라, 도구가 공익에 기여하고자 하는 방식과, 그 사용이 가져올 예상되는 긍정적 또는 부정적인 결과를 모두 포함해야 한다.
두 번째 부분은 데이터, 훈련 및 성능에 초점을 맞춘다. 이는 알고리즘 도구가 작동하는 근간을 이루는 기술적 배경에 대한 상세한 공개를 요구한다. 공공 기관은 도구의 훈련 및 테스트에 사용된 데이터의 종류와 출처, 데이터 수집 방식 및 해당 데이터가 도구의 의사결정에 미치는 영향을 명확히 기술해야 한다. 이 과정에서 데이터 품질과 대표성에 대한 평가가 필수적으로 이루어진다. 예를 들어, 특정 인구 통계를 제대로 반영하지 못하는 데이터로 훈련된 모델은 내재적인 편향을 가질 수 있으므로, 이러한 잠재적 편향의 원천과 그 영향을 투명하게 기록해야 한다. 또한, 도구가 달성하도록 설계된 성능 지표와 실제 운영상의 정확도를 명확히 기록함으로써, 도구의 기술적 한계와 신뢰 수준을 대중이 객관적으로 판단할 수 있는 근거를 제공한다. ATRS는 이 섹션에서 알고리즘이 내리는 결정의 자율성 수준을 구체적으로 설명하도록 요구하는데, 이는 도구가 인간의 감독 없이 완전히 자동화된 결정을 내리는지, 아니면 인간의 의사결정을 보조하는 역할에 머무는지에 대한 명확한 구분을 제공한다.
세 번째 부분은 관리, 거버넌스 및 위험에 중점을 둔다. 이 섹션은 기술적 세부 사항을 넘어, 해당 알고리즘 도구에 대한 책임과 통제 구조를 명확히 한다. 도구의 소유 주체와 책임자를 지정하여, 문제가 발생했을 때 책임을 물을 수 있는 주체를 명확히 한다. 또한, 도구 사용과 관련된 윤리적 및 법적 위험 평가 결과를 상세히 기록해야 한다. 이 위험 평가는 특히 개인정보보호법(UK GDPR), 평등법(Equality Act) 등 관련 법규의 준수 여부를 포함해야 하며, 도구가 특정 그룹에 대한 불공정한 결과를 초래할 가능성, 즉 알고리즘 편향(algorithmic bias)에 대한 심층적인 분석을 포함한다. 공공 기관은 이러한 식별된 위험을 완화하기 위해 취한 조치를 구체적으로 기술해야 하며, 이는 투명성뿐만 아니라 책임성(accountability) 원칙을 이행하는 핵심 과정이 된다. 이 섹션은 기록된 정보가 대중에게 어떻게 공개되고 배포되는지에 대한 계획 및 도구의 사용에 영향을 받는 개인이 이의를 제기하거나 구제를 요청할 수 있는 메커니즘에 대한 정보를 포함함으로써, 시민의 권리 보호를 위한 제도적 장치를 명확히 한다.
ATRS 지침은 공공 기관이 투명성을 확보하는 과정에서 발생할 수 있는 잠재적 문제점을 인식하고 이에 대한 해결책을 제시한다. 예컨대, 상업적 민감성이나 운영 보안 문제로 인해 모든 기술적 세부 사항을 공개할 수 없는 경우, 해당 정보가 왜 공개될 수 없는지에 대한 합리적인 근거를 투명하게 기록하도록 요구한다. 이는 투명성 원칙이 무제한의 정보 공개를 의미하는 것이 아니라, 공익적 가치와 상충하는 경우 합리적 범위 내에서 균형을 찾아야 함을 명시하는 것이다. 또한, ATRS는 알고리즘 도구가 정적이지 않고 지속적으로 업데이트되고 수정될 수 있음을 인정하고, 도구에 중대한 변경 사항이 발생할 경우 해당 기록을 정기적으로 검토하고 업데이트해야 하는 의무를 부과하여, 투명성의 원칙이 도구의 전 수명 주기 동안 유지되도록 보장한다.
영국의 이러한 ATRS 접근 방식은 한국의 알고리즘 규제 논의에 중요한 시사점을 제공한다. 첫째, ATRS는 알고리즘 규제의 초점을 단순히 기술의 존재 여부가 아닌, 공공 서비스 맥락에서의 영향과 책임 구조로 전환해야 함을 보여준다. 우리나라의 공공 기관 역시 알고리즘 도구 사용 시, 그 도구의 기술적 배경뿐만 아니라 도구가 내리는 결정의 자율성 수준과 그에 따른 인간의 개입 지점을 명확히 정의하는 구조화된 기록 표준을 채택할 필요가 있다. 둘째, ATRS가 강조하는 데이터 품질 및 편향 위험에 대한 사전 평가 의무는 한국 규제에서 알고리즘의 공정성을 확보하기 위한 핵심적인 사전 예방 조치로 도입되어야 한다. 셋째, 기록된 투명성 정보가 시민 사회 및 전문가 집단의 검토를 용이하게 하는 방식으로 공개되어야 하며, 이는 공공 부문 알고리즘에 대한 외부의 비판적 감시를 활성화하여 책임성을 강화하는 기반이 될 것이다. 궁극적으로 ATRS는 투명성을 단순한 규제 준수 행위가 아닌, 공공 신뢰를 구축하고 민주적 책임성을 확보하기 위한 필수적인 거버넌스 도구로 확립하고 있다.