brunch

매거진 인공지능 디자인 가이드북

라이킷 8 댓글

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 글쓰는몽글c Aug 16. 2021

금융분야 인공지능(AI) 가이드라인

금융분야 AI가이드라인 및 주요검토 필요사항

금융위원회의 주무부서 중 하나인 금융혁신기획단에서 금융분야 인공지능 가이드라인을 배포하였다.

예전 부터 관련 가이드라인이 나온다는 이야기를 듣고 있었는데, 얼마전 기사들을 찾아보다 발견하게 되었고, 관련하여 간략히 정리해보고자 한다.

금융분야 AI 가이드라인.pdf

가이드라인의 규제강도는 약하게

우리나라의 금융가이드라인은 소비자, 그리고 금융산업의 보호를 위해 AI 운영성을 제시하고 AI활성화를 위한 '약한 규제'의 가이드라인을 제시하는 것이 기본 방향이다.

아래의 테이블은 해외 정부의 금융사 AI가이드에 대한 규제 강도를 정리한 표인데, 방향 자체는 싱가포르~독일 데이터 윤리위원회 수준 정도로 보여진다.

해외 AI 가이드라인 규제강도

�국내 AI가이드라인은 법규마련, 금감원 행정지도가 아닌 모범규준, 업권별 자율규제로 '서비스별 실무지침' 등을 운영, 금융기관이 AI서비스의 특성을 감안하여 '가이드라인 적용여부' 자율결정

내부 윤리원칙과 기준을 통한 거버넌스의 구축

인공지능 이용에 대한 내부윤리 원칙과 기준 수립이 필요하다.

뿐만 아니라 관련 담당자들의 역할, 책임, 권한을 보다 명시적으로 정의해야 한다.

필요 시에는 아래와 같은 역할을 하는 AI윤리위를 별도로 설치할 수도 있다.

출처: AI가이드라인 주요검토 필요사항

그리고 AI위험관리를 위해 도입시점 부터 운영/관리까지의 사례를 정리하고 있는데, 이 부분 역시 AI를 활용하고 있는 금융사라면 참고해볼만 한 사례로 보여진다.

�기본 적으로는 내부윤리 원칙에 대한 기준을 수립하는 것이 필요하며, AI 조직에 대한 고민은 필요에 따라 설치여부를 결정. 뿐만 아니라 개인권리에 대한 중요한 위험을 초래할 수 있는 경우(예: 신용평가 등)엔 내부통제 및 승인절차를 마련하고 책임자를 지정해야 함.
* 승인 책임자: CRO, 신용정보보호관리인, CISO 등 (겸직허용)

기획-개발-평가-운영 단계에서의 고려사항

기획/설계단계

기획 단계: 정의된 윤리원칙에 부합하는지, 이를 통한 다른 피해가 있을지 검토필요

설계 단계: AI가 인간의 의사결정을 대체하는 경우 이를 통제하고 감독할 수 있는 시스템 설계 필요

개발단계

데이터 측면: AI학습데이터의 품질 검증, 개선 및 최신성 유지

개인정보 측면: 사생활, 민감정보 등의 활용 시 비식별 조치 등 충분한 안전조치 이후 개인정보 활용

설명가능성 측면: 신뢰성, 통제 가능성 등을 위한 설명가능한 AI 도입 노력

평가/검증단계

성능 측면: AI시스템 오류 유형간 통계적 상충관계를 고려, 적합한 성능목표 선정, 충족여부 확인

(신용평가, 대출심사의 경우 False Negative 최소화, 사기탕지 등의 경우 False Positive 최소화)

공정성 측면: AI공정성 평가지표를 선정, 불균형 발견된 경우 공정성 개선을 위한 기술적 노력제고

설명가능성 측면: 상황에 맞는 설명이 도출되는지 여부, 합리적 수준으로 개선하기 위한 노력

도입/운영/모니터링

대고객 AI시스템 운영: 고객에게 이를 사전고지, 자동화 평가 대응권* 등 소비자의 권리 및 이의신청 등 권리구제 방식 고지 필요

주기적 모니터링: 모니터링 하며 재학습 필요성에 대한 검토 및 성능 개선 추진

오용, 악용 가능성: 이용자에 의한 오용, 악용 가능성의 방지, AI개발 환경의 보안 취약성 통지 시스템 마련

* 자동화 평가(profiling) 대응권AI 등 자동화평가 결과에 대해 설명요구, 이의제기, 기초데이터의 제출· 정정, 결과의 재산정을 요구할 수 있는 권리 (「신용정보법」 §36-2)

AI 업무위탁관련 특례

AI시스템을 외부기관에 위탁을 하는 경우 관련 위험관리 지침을 마련하고 공유할 필요가 있다고 한다.

수탁기관의 경우 위탁기관의 AI운영원칙에 따라 시스템 개발/운영 필수

주기적 점검: 위탁기관의 위험관리 지침에 따라 이루어지는지 주기적인 점검/보고 쳬계 마련 필요

소비자 피해: 소비자 피해발생에 따른 책임주체를 명확히 하고 손해배상 지연등을 방지하기 위한 손해배상 처리 절차 등을 기재

이번 금융분야 인공지능 가이드라인에서는 앞에서 언급한 것과 같이 매우 강한 형태의 규제 보다는 금융사의 자율성을 최대화 하고 AI 활용의 자유도를 보장하는 가이드라인 정도로 정의가 되어있다. 뿐만 아니라 AI 서비스/시스템을 위수탁하게 될 때의 지침 역시 정의함으로써 위탁, 수탁사에서 참고할만한 가이드를 제공하고 있다.

이런저런 이야기들이 다양하게 언급되고 정리되어 있긴 하지만.

이번 가이드에서 가장 중요한 내용은 아래 4가지가 아닐까 한다.

필수 고려사항

1. 각 금융사의 가치관과 맥락에 맞는 AI 활용에 대한 윤리원칙과 기준을 수립한다.

2. AI활용에 대한 위험을 인식/평가하고 관리할 수 있는 위험관리정책을 마련한다.

조건부 고려사항

1. 해당 시스템관리를 위해 필요하다면 AI전담 조직(AI 윤리위원회)을 마련하도록 한다.

2. 개인권리에 중대한 영향을 미칠 수 있는 AI시스템인 경우 (예: 신용평가 등) 승인책임자를 지정한다.

위 가이드라인을 통해 3분기 내 업권별 특성을 고려한 '금융업권/서비스별 세부실무지침'이 나올 예정이며, 신용평가, 챗봇 등 고객응대, 설명의무 수행 등 주요 기능/서비스에 대해서는 세부준칙을 마련할 예정이라고 한다.

궁극적으로는 연내 가이드라인 전면실시가 목표라고 하니.. 조금 더 기다려보면 더욱 세부적인 가이드가 제공될 것 같다.