구글의 인공지능 설계 원칙
인공지능의 목표와, 하지말아야 할 것들.
#3
AI 설계 원칙서비스/제품별로 인공지능에 대한 고민을 하면서 각각 고려해야 하는 원칙들은 다르다고 생각한다.
하지만 이미 잘 정리되어있는 인공지능 설계 원칙들이 있기에 참고해보면 각각 고민 중인 서비스에 대한 원칙을 정의할 때 많은 도움이 되지 않을까 싶다.
Google의 AI Principles
인공지능 응용프로그램의 목표
1. 사회적으로 유익해야 함
인공지능이라는 새로운 기술은 점점 더 사회에 영향을 미칠 것이다.
인공지능의 발전은 건강, 보안, 에너지, 운송, 제조 및 엔터테인먼트를 포함한 광범위한 분야에서 영향을 미칠 것이므로 사용을 고려할 때 광범위한 사회적, 경제적 요인을 고려해야 한다.
인공지능은 또한 대규모 콘텐츠를 빠르게 분석하여 이해할 수 있도록 제공하므로, 인공지능을 활용하여 정확한 정보를 쉽게 이용할 수 있어야 하며, 국가의 문화적, 사회적 및 법적규범을 지속적으로 존중해야 한다.
2. 불공정한 편견(Unfair Bias)이 없어야 함
인공지능 알고리즘, 그리고 데이터셋은 불공정한 편견을 반영하거나 강화할 수도 있으며, 줄일 수도 있다.
하지만 편견(Bias)란 문화와 사회에 따라 기준이 다를 수도 있기 때문에 다양한 상황을 고려해야 하며, 특히 사람들, 인종, 민족, 성별, 국적, 소득, 성적취향, 능력 및 정치적, 종교적 신념과 같은 민감한 특성에 대해서 불공정한 편견을 없애기 위해 노력해야 한다.
예) 의자를 그리더라도 각 나라마다 의자를 그리는 패턴이 다름
3. 만들고 안전하게 테스트를 해야함
인공지능이 의도하지 않은 결과를 피하기 위해 강력한 안전 및 보안을 제공해야 한다. 인공지능 시스템은 적절하고 신중하게 설계되어야 하며, 안전하게 시스템이 개발되고 테스트 되어야 한다. 필요한 경우, 제한된 환경에서 인공지능 서비스를 테스트/배포한 후 모니터링하는 것이 필요할 것이다.
4. 사람들에게 설명가능해야 함
인공지능은 피드백과 관련된 설명을 위한 적절한 기회를 제공하는 시스템을 설계해야 한다.
인공지능 기술은 적절한 인간의 지시와 통제를 받을 수 있다.
5. 프라이버시 디자인 원칙을 포함해야 함
인공지능 기술의 개발과 사용에서 프라이버시 디자인 원칙을 포함해야 한다. 우리는 공지(notice)와 동의(consent)의 기회를 제공하고, 개인정보 보호 기능을 갖춘 아키텍쳐를 장려하며, 데이터 사용에 대한 투명성을 제공한다.
6. 과학적 우수성에 대한 높은 기준을 유지해야 함
인공지능과 같은 기술적 혁신은 지속적으로 높은 수준의 과학적 우수성을 유지해야 한다.
이를 위해 다양한 분야에서의 설계 접근 방식을 활용하여 이 분야에서 리더십을 유지하기 위해 다양한 이해관계자와 협력할 수 있어야 한다. 또한 더 많은 사람들이 유용한 인공지능 프로그램을 개발할 수 있도록 공유를 통해 관련 지식을 함께 고민할 수 있어야 한다.
7. 이러한 원칙들에 맞는 용도로 사용해야 함
많은 기술이 여러 용도로 사용되지만, 잠재적으로 잘못된 응용프로그램은 제한되어야 한다.
인공지능 기술을 개발/배포할 때, 아래 요소를 통해 가능성을 확인할 수 있다.
주요 목적: 기술 및 응용 프로그램의 주요 목적 확인
독창성: 독창적으로 해당 기술을 제공하는지 확인
규모: 해당 기술이 중대한 영향을 미치는지 확인
추구하지 않아야 하는 인공지능
1. 전반적인 피해를 유발하거나 기술의 중대한 위험이 있다고 판단되는 경우.
혜택이 위험보다 중요하다고 판단되는 경우에만 진행, 적절한 안전제약을 포함한다.
2. 사람들의 부상을 야기하는 무기 혹은 관련 기술을 개발하는 경우
3. 국제적으로 인정되는 규범을 위반하여 정보를 수집/사용하는 경우
이러한 원칙들이 회사의 미래와 인공지능 개발을 위한 올바른 기초라고 할 수 있다.
이 분야가 역동적으로 발전하고 있음을 인정하며, 외부 참여에 해단 헌신 등을 통해 지속적으로 학습함에 따라 기존의 접근방식을 점차 발전시켜 나갈 수 있을 것이다.
추가적으로.
아래는 예전 참석했던 AI 컨퍼런스에서 메모했던 머신러닝 디자인 원칙들.
클립스라는 디바이스를 예로 많이 들었는데, 사실상 클립스는 성공하지는 못했다..
아무튼. 내용은 모두 참고해볼 만한 원칙들.
Machine Learning Design Principles
1. 머신러닝은 풀어야할 문제가 무엇인지는 모른다.
(Machine Learning won’t figure out which problems to solve)
머신러닝이 문제가 무엇인지 알기는 어려움, 머신러닝은 문제를 효율적으로 해결할 수 있는 도구.
구글에서 클립스라는 카메라를 만들 때 역시, 내가 해결해야 하는 문제가 무엇인지에 집중. AI는 문제를 좀 더 똑똑하게 해결해주는 도구였음.
2. 전문가라면 어떻게 했을지 생각을 먼저 해보자.
(Describe how an expert would do it)
전문가라면 어떻게 했을지에 대한 생각을 우선 해볼 수 있음.
사람이 할 수 없다면 머신러닝도 할 수 없다. 클립스 카메라를 만들 때도 포토저널리스트, 전문 사진가들 등을 만나서 이야기들을 들어보았음.
3. 똑똑한 제품이라고 꼭 멋진 인터페이스가 꼭 필요하지는 않다.
(Intelligent products don’t need fancy interface)
똑똑한 제품은 팬시한 인터페이스가 꼭 필요할까? 인공지능이라고 해서 팬시한 인터페이스가 필요한건 아님. 오히려 매우 단순한 인터페이스가 더욱 중요함.
4. 증강에 대한 고려가 필요하다.
(Promise of augmentation)
기능의 확장차원에서 어떻게 기능이 증강이 될 수 있는가에 대한 고민 필요. 클립스에서도 내가 보는 시선에 대한 확장 망막의 확장의 측면으로 볼 수 있음. 예를들어 안과 의사가 정확한 진단을 할 수 있는 AI라면 이는 의사의 능력에 대한 증강으로 볼 수 있음.
Reference
https://www.blog.google/technology/ai/ai-principles/
https://support.google.com/googleclips/answer/7545440?hl=en
https://techcrunch.com/2019/10/17/farewell-google-clips/
음성 디자인에 대한 다른 글을 보고 싶다면.
https://brunch.co.kr/magazine/voicedesign
일상에서 활용되고 있는 AI의 다양한 사례들이 궁금하다면.
https://brunch.co.kr/magazine/dailyai
twitter: @pentaxzs
email: pentaxzs@daum.net
brunch: https://brunch.co.kr/@monglec
