'권리'를 존중하는 AI를 지지하며
AI의 잠재력을 실현하기 위한 선결 조건
주) 이 글은 엘리먼트 AI의 2019년 11월 블로그 'Supporting rights-respecting AI'의 번역본입니다. 원문은 여기서 보실 수 있습니다.
우리 모두는 '인공지능'이 기업의 생산성을 혁신하는 것부터 지속 가능한 사회적 개발을 추진하는 것에 이르기까지 다양하고도 중요한 사회적, 경제적 효익을 창출해 내는데 기여하리라 기대합니다. 그와 동시에, 치안/교정 시스템, 예지적 정책 결정, 공공복지 시스템, 특정한 목적의 감시 프로그램, 광고나 허위 정보의 사례 등에서 반복적으로 등장해서 우리 모두를 깜짝 놀라게 하는 AI의 문제점을 맞닥뜨리면서, 우리들은 AI가 잘못 사용될 경우에 우리의 보편적인 권리에 어느 정도 영향을 끼칠 수 있는지를 깨닫기도 합니다. 여기서 '권리'라고 하면 '사생활 보장', '평등권', '차별받지 않을 권리', '집회/표현/의견의 자유', 그리고 때에 따라서는 '민주주의'와 같은 거대한 담론을 포함하기도 합니다.
저명한 연구자들, 시민사회, 그리고 국제기관의 다양한 연구와 제안이 늘어나면서 지난 몇 년 동안 AI 거버넌스와 관련한 영역에서 일련의 정책적 구상에 진전이 있었지만, 여전히 AI가 보편적인 인권에 미치는 영향의 문제를 직접적으로 다루는 관점에서의 진전은 너무나 미미합니다. 2019년 10월에 모질라 재단, 록펠러 재단과 함께 엘리먼트 AI는 AI 거버넌스에 인권의 보장 문제를 어떻게 접목시켜야 할지에 대한 워크샵을 개최하고, AI 시스템의 디자인, 개발 그리고 배포의 과정에서 '인권'이 적절하게 존중될 수 있도록 하기 위해 단기적으로 고려해야 할 구체적인 방안들을 논의했습니다. 이 워크샵에는 인권, 법학, 윤리학, 공공 정책, 그리고 기술 분야 등 다양한 영역의 세계적 전문가들이 참여했으며, 여기서 만들어진 보고서는 워크샵의 논의 사항들을 정리한 내용, 그리고 그 결과로 도출된 권고 사항들을 포함하고 있습니다.
보고서의 주요 내용
세계인권선언 및 UN 비즈니스 및 인권에 관한 원칙의 규정에 의거, '인권 보장' 관점의 실사 및 영향 평가를 하도록 하는 것이 이 보고서의 핵심 권고사항입니다. 먼저, AI 시스템의 공공 조달 측면에서, 그리고 민간 영역에서 AI 시스템을 도입하는 경우라 하더라도 AI 시스템이 개인의 재무적 이익, 건강 또는 복지에 심대한 영향을 주거나 소수자의 권리에 관한 리스크를 내포하고 있는 경우가 이 핵심 권고사항에 해당됩니다. 이 보고서는 투명성, 설명력, 그리고 책임성을 가지는 AI, 즉 '권리를 존중하는' AI를 만들기 위한 설계와 기술적 기반을 산업계에서 축적할 수 있도록, 정부 차원의 맞춤화된 직접적 재정 지원 프로그램 등 산업 정책을 통해 지원하는 방식을 추천합니다.
이와 더불어, 이 보고서에서는 기술 기반 사업자들의 새로운 생태계를 조성하는 데 기여할 투자자 그룹이 어떻게 혁신적인 역할을 할 수 있을지에 대해서도 검토하고 있습니다. 마지막으로, 현재의 입법 및 규제 프레임워크가 인권/권리를 확실히 존중하고 보장할 수 있도록 하기 위해 어떻게 적용되어야 하는지에 대한 이해의 속도를 높이고, 세부적인 검토나 조정이 필요한 차이들을 확인하고 개선해 나가는 등 각국 정부의 적극적인 역량 강화와 헌신적인 노력을 강조하고 있습니다. 이러한 목표는 정부의 정책 입안 부서, 규제 당국, 산업계 및 시민 사회를 아우르는 새로운 형태의 CoE (Center of Expertse)를 통해서 달성될 수 있을 것입니다.
보고서 다운로드는 아래를 클릭하세요.
'권리를 존중하는' AI가 왜 중요한가
AI 시스템이 내포하는 '인권' 등의 권리에 대한 리스크를 적절히 관리하지 않는다면, 이 기술이 가져다줄 수 있는 긍정적인 사회적, 경제적 효과를 충분히 실현하는데 걸림돌이 될 수 있습니다. 이 보고서는 AI 거버넌스 관점에서 인권과 관련된 리스크를 다루는 데 초점을 맞춘 다양한 노력의 하나로, AI의 맥락에서 인권을 고려하는데 발생할 수 있는 갭을 좁히기 위해 추진하고 있는 아래와 같은 다양한 주체의 활동에 기여하고자 합니다:
인권고등판무관실 (Office of the High Commissioner for Human Rights) - AI 관점에서 적용 가능한 UN 비즈니스 및 인권에 관한 원칙을 검토
유럽평의회 (Council of Europe) - 최근 인공지능 특별위원회를 설립하고, 인권의 기준, 민주주의와 법률에 기반한 인공지능 법적 프레임워크의 타당성 검토
유럽위원회 의장실 (President of the European Commission) - 취임 후 첫 100일 간 인간적, 윤리적 함의를 전달할 수 있는 입법 제안
뉴질랜드 정부 및 세계 경제 포럼 (The Government of New Zealand and the World Economic Forum) - AI를 규제하기 위한 새로운 접근 방법을 검토하기 위한 협업 추진
아직 갈 길은 멀고 해야 할 일은 많습니다. 이 프로젝트에 대해 더 알고 싶으시거나 협업하고 싶으시면 여기로 연락 주시기 바랍니다.
