싱가포르 통화청의 금융분야 인공지능&데이터분석 원칙
14 Principles to Promote FEAT.
Principles to Promote Fairness, Ethics, Accountability and Transparency (FEAT) in the Use of Artificial Intelligence and Data Analytics in Singapore’s Financial Sector
인공지능이 서비스 전반에서 활용이 되면서, 인공지능 윤리에 대한 중요성은 점차 커지고 있다. 그리고 나라마다 인공지능의 공정성, 윤리 등에 대한 원칙들을 만들어 가고 있는데, 이번에는 싱가폴 통화청의 인공지능과 데이터 분석에서 활용되는 FEAT(공정,윤리,책임,투명성)에 대한 원칙에 대해서 살펴보고자 한다.
상세한 내용은 아래 링크에서 확인이 가능하다.
https://www.mas.gov.sg/publications/monographs-or-information-paper/2018/FEAT
해당 문서는 인공지능 및 데이터 분석(AIDA: AI and Data Analysis)에 대해 시스템의 잘못된 이용이 일어나지 않도록 14가지의 원칙을 제안하고 있다.
Fairness (공정함)
Justifiability
정당성
1. Individuals or groups of individuals are not systematically disadvantaged through AIDA-driven decisions unless these decisions can be justified.
인공지능과 데이터분석(이하 'AIDA'라고 명칭) 주도의 결정이 정당화될 수 없다면 개인 또는 집단 역시 시스템적으로 불리한 영향을 받지 않아야 한다.
2. Use of personal attributes as input factors for AIDA-driven decisions is justified.
AIDA 중심의 의사결정을 위한 입력요소로 개인적인 속성들을 정당하게 사용하자.
Accuracy and Bias
정확성과 편향
3.Data and models used for AIDA-driven decisions are regularly reviewed and validated for accuracy and relevance, and to minimize unintentional bias.
AIDA 의사결정에 사용되는 데이터, 모델들은 정기적으로 리뷰하고 검증되어야 하며, 의도되지 않은 편향을 최소화하여야 한다.
4. AIDA-driven decisions are regularly reviewed so that models behave as designed and intended.
AIDA가 주도하는 의사결정을 정기적으로 검토하여 모델들은 설계되고 의도된 대로 행동하여야 한다.
Ethics (윤리성)
5. Use of AIDA is aligned with the firm’s ethical standards, values and codes of conduct.
AIDA의 활용은 회사의 윤리적 표준, 가치, 그리고 행동원칙들에 부합하여야 한다.
6. AIDA-driven decisions are held to at least the same ethical standards as human-driven decisions.
AIDA 주도 결정은 최소한 인간 중심의 결정과 동일한 윤리적 기준을 준수한다.
Accountability (책임감)
Internal Accountability
내부적 책임
7. Use of AIDA in AIDA-driven decision-making is approved by an appropriate internal authority.
AIDA 중심 의사결정에서 AIDA의 활용은 적절한 내부 당국에 의해 승인되어야 한다.
8. Firms using AIDA are accountable for both internally developed and externally sourced AIDA models.
AIDA를 사용하는 기업은 내부에서 개발된 AIDA모델과 외부에서 수급된 AIDA모델에 대해 모두 책임을 질 수 있어야 한다.
9. Firms using AIDA proactively raise management and Board awareness of their use of AIDA.
AIDA를 사용하는 기업은 적극적으로 AIDA 사용에 대한 경영진과 이사회의 인식을 높여야한다.
External Accountability
외부적 책임
10. Data subjects are provided with channels to enquire about, submit appeals for and request reviews of AIDA-driven decisions that affect them.
데이터를 제공한(사용하는) 대상자들에게 AIDA 주도의 의사결정에 대한 질문, 이의신청, 검토요청을 할 수 있는 채널들이 제공되어야 한다.
11. Verified and relevant supplementary data provided by data subjects are taken into account when performing a review of AIDA-driven decisions.
AIDA 중심의 의사결정에 대한 리뷰를 진행할 때, 데이터 대상자에 의해 제공된 검증되고 관련된 보완 데이터가 제공되어야 한다.
Transparency (투명성)
12. To increase public confidence, use of AIDA is proactively disclosed to data subjects as part of general communication.
공공적인 확신을 높여주기 위하여, AIDA의 활용은 적극적으로 (일반적인 커뮤니케이션의 일환으로) 데이터 대상자에게 공개되어야 한다.
13. Data subjects are provided, upon request, clear explanations on what data is used to make AIDA-driven decisions about the data subject and how the data affects the decision.
데이터 대상자는 그들의 AIDA 중심의 의사결정에 어떤 데이터가 사용되고 해당 데이터가 어떻게 영향을 미치는지에 대해 명확한 설명을 제공받을 수 있어야 한다.
14. Data subjects are provided, upon request, clear explanations on the consequences that AIDA-driven decisions may have on them.
데이터 대상자가 요청할 때, AIDA가 주도하는 결정이 그들에게 미칠 수 있는 결과에 대해 명확한 설명할 수 있어야 한다.
싱가폴 통화청에서 배포한 윤리 가이드 역시 여느 인공지능에 대한 윤리 가이드와 마찬가지로 공정함, 윤리성, 책임감, 투명성에 대해서 이야기 하고 있다. 인공지능 관련 서비스를 설계하고 디자인하고 개발하고 관리하는 입장이라면 하나의 체크리스트로써 꼭 활용해보면 좋겠다.
Reference
https://www.mas.gov.sg/publications/monographs-or-information-paper/2018/FEAT
구글의 AI 디자인가이드가 궁금하다면.
https://brunch.co.kr/@monglec/21
+
일상에서 활용되고 있는 AI의 다양한 사례들이 궁금하다면.
https://brunch.co.kr/magazine/dailyai
email: pentaxzs@daum.net
twitter: @pentaxzs
brunch: https://brunch.co.kr/@monglec
