국제 인증 취득한 카카오뱅크 AI 경영시스템
<<Tech Ethics 5호>>
국제 인증 취득한 카카오뱅크 AI 경영시스템
카카오뱅크는 지난 2017년 7월 기존 금융사에는 없던 혁신적이고 편리한 서비스를 제공하겠다는 목표를 기치로 출범한 이후 이를 실현하기 위해 끊임없이 고민해 왔습니다. 금융소비자들이 은행 지점을 방문할 필요없이 스마트폰만으로 24시간 금융서비스를 이용하는 환경, 이제는 모든 금융사가 앞다퉈 도입한 모임통장, 미성년자를 위한 금융서비스인 mini 등은 카카오뱅크의 치열한 고민의 결과였습니다. ⟪Tech Ethics⟫ 10월호에서는 금융서비스 혁신을 위한 카카오뱅크의 노력이 어떻게 국내 금융사 가운데 최초로 AI(Artificial Intelligence) 경영 분야에서 국제적 인증으로 이어졌는지를 설명해드리려고 합니다.
AI 신뢰성을 위한 카카오뱅크의 여정
AI 기술은 태생적으로 ‘블랙박스적 특성’을 갖고 있기 때문에, AI 기술의 안전성에 대한 불안은 아직까지 완벽하게 해소되지 않고 있습니다.
그림1. AI 기술의 블랙박스적 특성그래서 신뢰성이 중요한 금융기관들은 이러한 AI 기술의 한계점을 극복하기 위해 많은 노력을 기울여 왔습니다. 특히, 카카오뱅크는 신뢰할 수 있는 AI 기술 개발 과정에서 습득한 각종 경험을 자사 서비스에 반영하는 데 그치지 않고 사회에 함께 공유하는 데도 힘썼습니다.
카카오뱅크는 2021년 7월, 금융위원회에서 발간한 ‘금융분야 AI 개발활용안내서’의 발간을 위해 은행연합회를 비롯한 5대 금융기관협회가 각각 운영했던 TF에 모두 적극적으로 참여하였으며, 은행연합회로부터 그 공로를 인정받아 “2022년 사원기관 유공직원 표창”을 수상하였습니다. 또한, 카카오뱅크는 금융위원회가 발간한 ‘금융분야 AI 가이드라인’ 등을 효과적으로 준수하기 위한 AI 거버넌스 로드맵을 자체적으로 수립하여 단계적으로 추진하고 있습니다. AI 거버넌스 체계의 수립이 완료되면, 향후 AI 서비스를 도입할 때에는 표준화된 절차와 신뢰성이 확보된 정책에 따라 AI 서비스의 개발 및 운영이 이루어지게 됩니다.
그림2. 카카오뱅크의 AI 거버넌스 수립을 위한 여정신뢰할 수 있는 AI 개발과 운영을 지속한 결과, 카카오뱅크는 10월 23일 ISO/IEC 42001(인공지능경영시스템) 인증을 국내 금융사 가운데 최초로 획득했습니다.
그림3. 강명수 한국표준협회 회장(가운데 왼쪽)이 윤호영 카카오뱅크 대표에게 ‘인공지능경영시스템(ISO/IEC 42001)’ 인증을 전달한 후 양사 관계자들과 기념촬영을 하고 있다.
ISO/IEC 42001은 AI 시스템의 안전성, 윤리성, 효율성을 보장하기 위해 높은 기준을 요구하는 국제적 기준이며 아래와 같은 요건을 충족해야 합니다.
그림4.ISO/IEC 42001(인공지능 경영시스템)과 요구 사항ISO/IEC 42001 인증을 취득한 카카오뱅크의 노력
카카오뱅크는 AI 시스템의 안전성, 윤리성, 효율성을 확보하고, AI를 활용한 금융상품 및 금융서비스에 대한 신뢰를 확보하기 위해 6가지 사항을 고려하여 체계적인 노력을 기울여왔습니다.
1.AI 리더십
AI 거버넌스가 실효적으로 작동되기 위해서는 AI 거버넌스에 대한 최고경영진의 리더십과 의지가 필요합니다. AI 리더십은 AI 거버넌스 최고책임자와 AI 거버넌스의 주관부서로 구성됩니다. 먼저, AI 거버넌스 최고책임자는 전사 AI 관련 윤리원칙, 기준, 정책 등에 대한 최종 의사결정자로서 AI 관련 활동에 대한 책임을 지고 감독을 해야합니다. 그리고, AI 거버넌스의 주관부서는 AI 거버넌스 정책 및 절차를 수립하고 관리합니다.
● AI 거버넌스 최고책임자는 금융분야에서 AI 시스템의 개발 및 활용과 관련한 기획·설계, 평가·검증, 도입·운영 및 모니터링의 전 과정에서 신뢰성을 제고하여, 금융서비스에 대한 고객신뢰를 확보하기 위해 「AI 거버넌스 방침」을 수립하여 실행하여야 함.
● AI 거버넌스 주관팀은 "AI 거버넌스 방침", "AI 거버넌스 목표", "AI 거버넌스 세부계획"을 마련하여, 전 임직원 및 이해관계자가 인식할 수 있도록 하여야 함.
2.역할과 책임
AI 거버넌스의 운영을 위해서는 적합한 관리체계가 갖추어져야 합니다. AI 시스템의 잠재적 위험을 평가하고 이를 관리하기 위하여, 구성원의 역할, 책임, 권한 등을 AI 시스템의 생애주기에 걸쳐 구체적으로 정의해야 합니다. 카카오뱅크는 전사를 대상으로 AI 활용현황 분석을 통해, AI 기획/설계, 개발, 평가/검증, 도입/운영/모니터링 등을 수행하는 팀을 식별하여 AI 거버넌스 조직으로 구성하고, 역할과 책임을 정하였습니다.
● AI 거버넌스 최고책임자는 AI 거버넌스의 정책, 방침, 목표, 성과평가, 교육 등을 검토하고 승인함.
● AI 거버넌스 주관팀은 AI 거버넌스의 목표 및 정책을 수립하고 실행함.
● AI 서비스를 기획/설계, 개발, 평가/검증, 도입/운영/모니터링하는 소관팀은 AI 서비스에 대한 준수평가 및 운영평가를 수행함.
3.AI 윤리원칙
‘AI 윤리원칙’은 인공지능의 개발, 운용 및 활용에 있어서 윤리적으로 적절하고 책임 있는 방법을 고려하기 위한 가이드라인입니다. AI 윤리원칙은 조직이 추구하는 가치와 AI 활용 맥락 등을 고려하여 수립한 AI 활용에 관한 윤리원칙과 기준을 의미하며, 카카오뱅크는 과학기술정보통신부의 AI 윤리기준 10대 핵심요건, 국내외 은행의 AI 윤리강령, 카카오 AI 윤리원칙 등을 종합적으로 고려해, 각 키워드를 매핑 및 그룹핑하여 도출한 핵심 요건을 기반으로 카카오뱅크의 AI 윤리원칙을 수립중에 있습니다.
4.AI 거버넌스 목표수립 및 유지관리
AI 거버넌스의 주관부서가 수행하는 핵심 기능은 AI 거버넌스의 목표를 수립하고 유지관리하는 것입니다. AI 거버넌스의 목표는 AI 거버넌스에 대한 요구사항들을 충족하고 이에 대한 개선의 의지를 반영하여 조직의 전략적 방향에 적합하도록 수립되어야 합니다. 카카오뱅크는 AI 윤리원칙을 준수하고, 신뢰할 수 있는 AI 서비스를 도입/운영하며, AI 거버넌스를 유지 및 지속적으로 개선하기 위하여, 아래와 같이 AI 거버넌스 목표를 수립하였습니다.
● 조직이 추구하는 가치와 주된 AI 활용 맥락 등을 고려하여, AI 활용에 관한 윤리원칙과 기준을 수립하고, 준수를 위해 노력하여야 함.
● AI 생애주기에 걸쳐 AI 활용에 따라 나타날 수 있는 잠재적 위험을 관리하는데 필요한 위험관리 정책을 마련하고 준수를 위해 노력하여야 함.
● 개인의 권익과 안전, 자유에 대한 중대한 위험을 초래할 수 있는 고위험 서비스에 AI 시스템을 활용하는 경우, 적절한 내부통제 활동 및 승인절차를 마련하여야 함.
● AI 거버넌스 정책의 운영 효과성 향상을 위해, 정기적으로 검토되어야 함.
● AI 거버넌스 주관부서는 AI 서비스/시스템 관리부서가 AI 거버넌스를 준수할 수 있도록 지원함.
● AI 서비스/시스템 관리부서는 수립된 AI 거버넌스 목표의 달성을 위해, 위험도에 따라 AI 생애주기의 각 단계에서 준수해야 할 사항들을 준수해야 함.
5.AI 서비스에 대한 위험평가
AI 활용에 의한 잠재적 위험을 관리하고 최소화하기 위해서는 AI 시스템의 생애주기 전 과정에 걸쳐서 AI 정책 및 목표에 기반하여 AI 서비스에 대한 위험평가를 수행해야 합니다. 위험평가는 AI 목표 달성을 방해하는 위험요인을 식별하고, 이 위험요인의 실제 발생가능성을 평가하여 위험수준을 결정하는 과정으로 구성됩니다. 위험평가 프로세스는 반복적인 AI 위험평가의 결과가 일관성 있고 유효하며 비교가능하도록 설정되어야 합니다.
AI 위험평가는 AI 거버넌스의 윤리원칙 및 업무규정과 일관되도록 설계되어야 합니다. 예를 들어, 고객의 권리에 대한 침해 가능성, AI 시스템의 통제가능성, 데이터의 오남용 가능성, AI 시스템의 투명성, AI 활용에 따른 사회적 영향 등을 고려해야 합니다. 이러한 평가항목 별로 위험도를 판정한 후, 위험도별로 설정된 준수사항을 적용합니다.
카카오뱅크는 도입하고자 하는 AI 서비스에 대하여 AI 거버넌스 대상여부를 평가하고, AI 거버넌스 대상 AI 시스템인 경우, 5대 원칙 10대 핵심항목을 기반으로 원칙별 위험발생가능성 및 심각도를 평가하여, 해당 AI 서비스에 대한 위험수준을 아래와 같이 결정하게 됩니다.
● 용인불가 위험 : 인간의 생명 건강 기본권 등에 명확한 위협으로 작용하는 시스템
● 고위험 : 인간의 생명 건강 기본권 등을 위험하게 할 수 있는 AI 시스템
● 중위험(제한된 위험) : AI 사용에 심각한 위험이 없는 AI
● 저위험(최소한의 위험) : AI 사용에 거의 위험이 없어 자유롭게 활용 가능
6.AI 거버넌스에 대한 준수평가, 운영평가 및 성과평가
AI 서비스/시스템 관리부서는 AI 거버넌스의 준수에 관한 사항들을 평가하고, 개선조치가 필요한 경우에는 사후관리절차에 따라서 개선하여 AI 거버넌스의 효과성을 지속적으로 개선해야 합니다.
개별 AI 관리부서가 거버넌스 단계별 평가항목들의 준수여부를 효과적으로 측정하기 위해서는 적절한 평가항목의 설정과 적절한 범주형 또는 수치형의 정량적 지표를 정의하는 것이 중요합니다. 예를 들어, AI 거버넌스에 대한 ‘준수평가’를 위해서는 AI 단계별로 다음과 같은 항목들을 고려할 수 있습니다. 첫째, 기획/설계 단계에서는 윤리원칙 부합 여부, 내부통제 프로세스 유무, AI 서비스의 오류 발생시 대안 프로세스 설정 여부를 평가합니다. 둘째, 개발 단계에서는 학습데이터의 품질, 데이터 및 모형의 편향성, 개인정보 및 민감정보의 보호, 설명가능성 등을 고려합니다. 셋째, AI 서비스의 평가/검증 단계에서는 AI 시스템의 성능에 관련된 다양한 지표들을 측정합니다. 한편, AI 거버넌스에 대한 ‘운영평가’를 위해서는 소비자 권리 구제 방안, AI 시스템 성능평가 절차 및 재학습 절차 유무, AI 시스템 보안 정책 등을 고려할 수 있습니다. 카카오뱅크는 각 단계별로 일관되고 효과적인 평가를 위해 별도의 평가표를 마련하고 있습니다.
신뢰와 안전이 중요한 금융업의 특성을 반영한 AI 거버넌스
특히 은행은 고객의 신뢰를 유지하는 것이 무엇보다 중요하기 때문에 다양한 규제를 적용받게 됩니다. 이를 위해 카카오뱅크는 AI 거버넌스를 구축할 때 1)규제 준수 2)투명성 확보라는 핵심 가치에 중점을 뒀습니다.
은행 업계의 규제 사항: 은행은 금융 규제를 적용받고 금융감독당국의 감독을 받기 때문에, 은행의 AI 서비스와 시스템 및 이에 관한 AI 거버넌스는 은행에 대한 제반 규제 사항들을 준수하는 방식으로 구성되어야 합니다. 예를 들어, AI 모형의 학습을 위해 사용되는 데이터는 은행 업무와 관련된 특성을 적절히 반영해야 하고, ‘신용정보의 이용 및 보호에 관한 법률’ 등 개인정보보호에 관련된 규제에 적합하게 이용되어야 합니다.
투명성과 해석 가능성 강화: 은행은 고객에게 신뢰와 투명성을 제공해야 합니다. 따라서 AI 서비스의 의사 결정 과정과 예측 결과를 고객에게 이해하기 쉽게 설명할 수 있어야 합니다. AI 서비스의 해석 가능성은 은행감독당국이 명시적으로 요구하는 사항이므로, AI 거버넌스에도 반영되어야 합니다.
이러한 시스템을 통해 카카오뱅크는 고객이 안전하게 사용할 수 있는 AI 기반 서비스를 제공할 수 있으며 최근 관심이 높아진 인공지능 기술의 책임과 관련된 세 가지 분야에 대한 요건을 충족할 것으로 기대하고 있습니다.
그림5. 신뢰할 수 있는 AI 거버넌스 구축 기대 효과인공지능 기술의 안전성 확보: 카카오뱅크는 인증, 신용평가, 사기탐지 등 다양한 은행업무에 AI 서비스를 적용해오고 있으며, 지속적으로 고도화하고 있습니다. AI 거버넌스는 이러한 AI 서비스와 관련된 보안 및 개인정보보호를 강화하고, AI 모형의 투명성 및 책임성을 높이도록 도움을 줍니다. 또한, AI 거버넌스의 다양한 평가과정을 통해서, 은행은 AI 시스템의 잠재적인 위험을 최소화하여 안전하게 운영할 수 있습니다.
인공지능 기술의 공정성 확보: AI 기술은 대량의 데이터를 분석하고 복잡한 패턴을 식별하여 은행이 더 정확하고 효과적인 의사결정을 내릴 수 있도록 도와줍니다. AI 서비스는 직원의 판단을 대체하거나 보조하는 기술로 활용되는 경우가 많은데, 이 경우 편향되지 않고 공정해야 합니다. AI 거버넌스는 AI 시스템의 개발 및 운영 과정에서의 공정성이나 편향성에 관한 평가를 포함하므로, 은행이 AI 모델의 정확성과 일관성을 유지하고 신뢰할 수 있는 결과를 얻을 수 있도록 지원합니다.
사회적 책임: AI 거버넌스는 인공지능 기술의 사회적 영향을 평가하고 예측할 수 있도록 지원함으로써 카카오뱅크가 AI 기술을 사용함에 있어서 사회적 책임에 부합하고 공정성과 윤리를 준수하는지 점검하는 데 도움을 줍니다.
이렇게 구축될 AI 거버넌스는 카카오뱅크가 AI 서비스를 안전하게 운영하고, 정확하고 공정하게 활용하며, 사회적 책임에 부합할 수 있는 근간이 될 것입니다.
카카오뱅크의 혁신을 앞당길 AI 거버넌스
카카오뱅크는 금융소비자에게 안전하고 편리한 서비스를 제공하기 위한 기술을 지속적으로 개발했습니다. 스스로 촬영한 영상으로 인증절차를 진행하는 셀피인증시스템을 도입함으로써 영상통화의 대기시간 문제 등 상담원 통화 과정에서 발생하는 불편함을 개선했습니다(출처). 또한, AI 기술을 적극 활용하여 이상탐지시스템을 고도화함으로써 보이스피싱·금융사기·이상금융거래 등 비대면 거래에서 발생할 수 있는 주요 소비자 피해 우려 사안에 대해서 적극 대응하고 있으며, 이러한 노력의 결과로 ‘2023 소비자가 뽑은 참 좋은 브랜드 대상’에서 인터넷전문은행 부문 1위에 오르기도 하였습니다(출처). 이번에 취득한 ISO/IEC 42001(인공지능경영시스템) 국제인증과 향후 수립될 AI 거버넌스를 바탕으로 소비자에게 더 큰 효용을 제공할 서비스 개발도 속도를 낼 예정입니다.
인증 받은 AI 경영시스템…신뢰 받는 기술선도은행 도약
카카오뱅크는 AI가 은행서비스에 도입되기 시작한 시점부터 인공지능시스템의 개발, 운영 및 사용에 대한 규제와 윤리적 활용의 중요성을 인식하고 이를 위한 AI 거버넌스를 준비해 왔습니다. 카카오뱅크의 AI 거버넌스는 카카오뱅크가 인공지능을 활용함으로써 안전하고 편리하면서도 혁신적인 금융서비스를 고객에게 제공하고, 이와 동시에 고객의 권리와 개인정보를 보호하며, 윤리적인 책임을 수행하기 위한 프로세스와 정책을 구현하는 것을 목표로 합니다.
카카오뱅크의 기술을 책임지고 있는 신재홍 최고기술책임자의 다짐으로 글을 마무리합니다. “AI 시스템에 기반한 서비스 개발과 운영을 위해서는 학습데이터의 품질과 안전성, AI 서비스의 편향성과 공정성, 의사결정의 투명성과 책임 등에 대한 철저한 관리가 필요합니다. 카카오뱅크는 국제적 인증을 받은 시스템을 바탕으로 사회가 요구하는 기준을 충족하며 동시에 기술선도은행으로서 고객이 신뢰할 수 있는 혁신적인 은행이 되기 위한 노력을 멈추지 않을 것입니다."
#카카오뱅크 #AI #경영시스템 #국제인증 #ISO42001
