유네스코 AI 윤리 글로벌 포럼_Why UNESCO?
글로벌 AI 윤리 담론에서 유네스코를 주목하는 이유
제2회 유네스코 AI 윤리 글로벌 포럼이 2024년 2월 5-6일 슬로베니아 크란(Kranj)에서 개최된다. 유네스코는 2021년 11월 193개 회원국 만장일치로 'AI 윤리 권고(Recommendation on the Ehtics of AI)'를 채택했는데, 매년 전 세계 회원국 정부와 글로벌 기업 등이 AI 윤리 권고를 잘 이행하고 있는지 점검하고, 우수사례를 발굴/확산하기 위한 목적으로 글로벌 포럼을 개최하고 있다.
이번 포럼의 주제는 "AI 거버넌스 지형의 변화"다. 급속도로 발전하는 AI 기술만큼이나 빠르게 변화, 발전하는 글로벌 AI 규범과 거버넌스가 AI 윤리 논의에 있어서도 가장 중요한 화두가 되고 있는 것이다. 포럼에는 전 세계 유네스코 회원국 대표를 비롯해서, AI 분야의 글로벌 기업과 국제기구, 학계, 시민사회 관계자 등 수백 명이 참석해, 각 국가 및 기업의 AI 윤리 실천 우수사례를 발표하고 공유할 예정이다.
주제: AI 거버넌스 지형의 변화(Changing the Landscape of AI Governance)
목적: 글로벌, 지역, 국가, 기업 차원의 AI 거버넌스 우수사례 공유
참가자
- 정부 대표: 미국, 유럽, 중국, 일본, 이탈리아, 영국, 인도, 브라질, 스위스, 슬로베니아, 그리스, 멕시코, 콜롬비아, 베트남, 세네갈, 인도네시아, 사우디아라비아, 모잠비크, 라오스, 태국, 덴마크, 네덜란드 등
- 기업: 마이크로소프트, 구글, 세일즈포스, 마스터카드, 텔레포니카, LG AI연구원(국내 유일) 등
- 국제기구: 유네스코, ITU(국제전기통신연합), OECD, WTO, WEF(세계경제포럼) 등
- 학계/연구기관/시민사회: University of Oxford, Queen Mary University of London, Alan Turing Institute, AlgorithmWatch, CAIDP 등
언어: 영어 및 불어
형식: 오프라인 회의(실시간 생중계 예정)
유네스코 AI 윤리 글로벌 포럼(2024.2.5-6)에 대한 좀 더 자세한 내용은 아래 링크에서!
우리나라에서는 LG AI연구원이 유일하게 유네스코 AI 윤리 글로벌 포럼에 초청되었으며, 포럼 이튿날 기업의 AI 윤리 이행사례 세션에서 발표할 예정이다. 지금까지 글로벌 AI 규범에 대한 논의가 글로벌 빅테크를 중심으로 진행되어 왔다는 점에서, LG AI연구원의 이번 포럼 참여와 발표는 한국 AI 기업의 목소리를 국제무대에서 높일 수 있다는 점에서 더욱 각별한 의미를 지닌다. (LG AI연구원이 유네스코 AI 윤리 글로벌 포럼에 초청된 이유와 뒷 이야기는 다음 편에서! - Hint? AI 위험 관리 프로세스, AI 윤리 책무성 보고서 등)
사실 많은 사람들이 유네스코라고 하면 세계문화유산을 지정하는 국제기구로 알고 있다. 하지만 유네스코는 과학, 교육 분야에서도 중요한 역할을 맡고 있다. 특히, 유네스코는 유엔의 수많은 전문기구 가운데 유일하게 '윤리적 성찰'을 사명으로 갖고 있는 기구로, 생명윤리와 과학기술윤리 분야에서 국제적인 기준과 가이드라인을 만들어 왔다. 예컨대, 생명윤리와 인권보편선언(2005), 기후변화 윤리 원칙 선언(2017), 과학 및 과학연구자에 관한 권고(2017) 등은 유전자 편집과 기후변화 등의 이슈가 단순히 의료 혹은 과학기술의 문제가 아니라 인권과 윤리적 이슈라는 점을 명확히 짚고 있다는 점에 큰 의미가 있다고 할 수 있다.
하지만 그중에서도 가장 중요한 이슈는 바로 AI 윤리다. AI는 인류가 직면한 다양한 문제를 극복하는데 큰 도움을 주고 있다. 그렇지만 AI의 급속한 발전은 윤리와 인권, 안보 등의 측면에서 예상치 못한 문제를 야기할 수도 있다. 모두가 누려야 할 AI의 혜택이 자칫 특정 국가나 계층에게만 돌아가는 일이 없도록 하고, AI의 개발과 활용이 인간의 존엄성을 해치는 일이 없도록 하려면 어떻게 해야 할까?
바로 이러한 고민에 대한 인류 보편적 지침을 만들기 위해, 유네스코는 AI의 개발과 이용에 대한 국제적인 윤리 규범인 'AI 윤리 권고'를 만들었다. 하지만 유네스코 AI 윤리 권고가 만들어지는 과정은 간단하지 않았다.
2018년 유네스코 세계과학기술윤리위원회가 'AI 윤리 예비보고서'를 발표하고, 지역 및 분야별 전문성을 고르게 반영하여 선정된 24명의 국제전문가그룹이 2020년 AI 윤리 권고(초안)를 작성했다. 그리고 약 3년에 걸친 국가 및 지역별 의견수렴 과정과 문구 하나하나를 조정하고 협상하는 과학기술외교의 장인 정부간회의가 이어졌다.
나는 유네스코한국위원회에서 AI 윤리 업무를 담당하며, 유네스코 AI 윤리 권고 작업 한국대표단(2019-2022)으로 활동했다. 권고(초안)에 대한 국내 및 아태지역의 국회, 정부, 기업, 학계, 시민사회 등의 의견을 수렴하는 연석회의를 개최하고, 권고(초안)에 대한 정부간 특별전문가회의에 참가해 유네스코 193개 회원국이 자국의 이익을 관철하기 위해 어떠한 논리와 입장으로 상대를 설득하는지를 바라보았다. 덕분에 AI 윤리 이슈 자체에 대한 이해뿐만 아니라 국제사회의 새로운 규범이 어떻게 형성되고 관철되는지를 배울 수 있었다.
유네스코 AI 윤리 권고 수립 및 채택 과정
(2018.9) 세계과학기술윤리위원회 AI 윤리 예비보고서 발표
(2019.4) 국내 AI 윤리 전문가 그룹 발굴
(2020.2) 유네스코 AI 윤리 국제전문가그룹 결성
(2020.6) AI 윤리 권고(초안) 작성
(2020.7-12) AI 윤리 권고(초안) 국내 의견수렴 회의(1-2차)
(2020.7-9) 지역별(아태지역) 의견수렴 회의
(2020.12) 전 세계 대중 온라인 의견 수렴
(2021.1-3) AI 윤리 권고(초안) 수정, 보완 정부 간회의
(2021.4-6) 정부 간 특별전문가회의(1-2차)
(2021.11) 제41차 유네스코 총회 상정 및 AI 윤리 권고 채택
당시 정부간회의에 참여한 회원국 대표들은 모두 AI 윤리 권고의 필요성에 대해서는 공감했다. 하지만 권고(초안)의 구체적인 조항에 대한 각국의 입장은 자국의 이해관계와 핵심 가치에 따라 크게 "유럽", "한국과 일본", "러시아, 중국, 이란", "저개발국"의 그룹으로 나뉘는 모습을 발견할 수 있었다.
유럽 : 인권, 성평등, 지속가능발전목표 강조, 구속력 높은 AI 윤리 권고 지향
한국, 일본 : 권고 필요성 공감, 혁신의 장벽으로 작용할 수 있다는 점 우려
러시아, 이란, 중국: 최소주의 지향, 주권 침해 우려 있는 조항(모니터링, 평가) 반대
저개발국 : 세계에 기여하고 함께 경쟁하기 위한 AI 기술 지원 요청
비록 정부간회의를 거치면서 국제전문가그룹이 작성한 권고(초안)의 내용이 상당 부분 후퇴하기는 했지만, 유네스코 193개 회원국의 서로 다른 입장과 이해관계를 고려할 때, 2021년 유네스코 총회에서 'AI 윤리 권고'가 회원국의 만장일치로로 합의된 것은 분명 엄청난 성과였다.
유네스코 AI 윤리 권고(영문, 국문)
물론 누군가는 유네스코 AI 윤리 권고 역시 여느 국제기구에서 만든 수많은 선언문 중 하나에 불과하지 않냐고 말할 수도 있을 것이다. 하지만 유네스코 AI 윤리 권고가 다른 국제적인 선언이나 권고와 달리 갖는 차별점은, 그저 듣기 좋은 가치와 원칙만을 나열한 것이 아니라 회원국 정부나 기업이 바로 실행하는데 도움이 되는 11개의 구체적인 정책행동을 제시하고 있다는 점이다. 특히, "AI 윤리영향평가"는 유네스코가 가장 강조하는 핵심 정책으로, 기획에서부터 데이터 수집/정제, 모델 개발, 활용, 폐기에 걸친 모든 AI 시스템의 라이프 사이클에 걸쳐, AI 사용자뿐만 아니라 다양한 이해관계자에게 미칠 수 있는 긍정적/부정적 영향을 사전에 파악하고, 발견된 문제를 개선하도록 하고 있다.
유네스코 AI 윤리 권고의 주요 내용
4대 가치
인권, 기본적 자유, 인간 존엄성의 존중, 보호, 증진
환경 및 생태계의 번영
다양성 및 포용성 보장
평화롭고 정의로우며 상호연결된 사회 구축
10대 원칙
비례성 및 무해성
안전 및 보안
공정성 및 비차별성
지속가능성
프라이버스권 및 데이터 보호
인간의 감독 및 결정
투명성 및 설명가능성
책임 및 책무
인식 및 리터러시
11개 정책행동
윤리영향평가
윤리적 거버넌스 및 감독의무
데이터 정책
개발 및 국제협력
환경 및 생태계
젠더
문화
교육 및 연구
커뮤니케이션 및 정보
경제 및 노동
건강 및 사회복지
AI는 단순히 과학기술을 발전시킬 뿐만 아니라 인간의 경험과 세계 질서를 새롭게 재편하는 기술이다. 그리고 앞으로 시간이 지날수록 AI의 파급력은 전 세계 모든 사람들의 일상으로 더욱 확대될 것이다. 이러한 이유 때문에 미국과 유럽, 중국, 한국 등은 모두 AI 기술 발전을 위해 국가적 역량을 집중하고 있다. 뿐만 아니라 새롭게 만들어지고 있는 글로벌 AI 규범을 자국의 핵심 가치와 이익에 부합하도록 만들기 위해 보이지 않는 치열한 외교전을 펼치고 있다.
큰 틀에서 미국은 개인의 자유를, 유럽은 개인의 인권을, 중국은 개인보다는 국가와 공동체의 가치를 우선하는 입장을 취하고 있다. 그리고 이러한 핵심 가치에 기반하여 미국은 2023년 10월 '자율규제'를 지향하는 AI 행정명령을 발표했고, 유럽은 최근 '포괄적 법적규제'를 지향하는 EU AI 법의 최종안을 확정했으며, 중국은 2023년 1월과 8월 '핀셋 규제(체제 위협 기술 통제)'를 지향하는 인터넷 정보 서비스 딥합성 관리 규정과 생성형 AI 서비스 관리에 관한 임시조치를 발표했다.
국가별 AI 규범 추진 현황
출처: https://www.naek.or.kr/pub/noticeDetail?id=10728
하지만 국가별로 서로 다른 AI 규범이 만들어지는 것은 AI 사용자나 기업, 정부 모두에게 바람직한 일이 아니다. AI로 인한 파급효과는 특정 국가에만 한정되지 않으며, 국제사회 차원의 공통 규범이 마련되지 않는다면 적시에 제대로 된 공동의 대응을 하지 못할 수도 있다. 때문에 국제사회 차원의 보편적인 AI 규범이 만들어지는 것은 모두의 이익에 부합한다고 할 수 있다.
이런 의미에서 유네스코 AI 윤리 권고와 AI 윤리 글로벌 포럼이 갖는 의미는 특별하다. 국제사회의 평화와 안보, 인권, 지속가능발전이라는 사명을 갖고 있는 유엔 시스템 안에서, 유일하게 193개 회원국의 합의를 통해 채택한 유네스코 AI 윤리 권고는 앞으로 만들어질 유엔 차원의 보편적 AI 규범의 토대가 될 것이기 때문이다.
유엔은 작년 10월 AI 고위급 자문단을 구성하고, 2024년 9월 개최되는 미래정상회의(The Summit of the Future in 2024)에서 '디지털 행동규약'을 발표하기로 했다. 이번에 개최되는 유네스코 AI 윤리 글로벌 포럼의 첫째 날 오후에는 유엔 AI 고위급 자문단이 현재까지의 작업 과정을 설명하고 포럼 참가자들의 의견을 수렴하는 시간도 마련되어 있다. (온라인을 통해 누구나 중간보고서에 대한 자신의 의견을 제출할 수 있다! 아래 링크 참조)
유엔 디지털 행공규약이 발표된다고 해도, 전 세계 정부가 이를 공식적으로 채택하고 받아들이기까지는 지난한 과정이 기다리고 있을 것이다. 하지만 필요한 일이라면 더 늦기 전에 바로 지금 시작해야 한다.
2019년부터 2021년까지 유네스코 AI 윤리 권고 작업 한국대표단으로 활동한 뒤, 3년 만에, 이번에는 LG AI연구원의 AI 윤리 담당자로 유네스코 AI 윤리 글로벌 포럼에 참가한다. 지난 1년 반 동안 기업 현장에서 만들어낸 크고 작은 성과들이 인정을 받아 유네스코의 초청을 받고 이번 회의에 참석하게 되어 기쁘고 뿌듯하다. 이번 포럼을 계기로 LG AI연구원과 유네스코의 협력이 더욱 큰 성과로 연결될 수 있기를 바란다.
이제 슬로베니아행 비행기를 탈 시간이다.
포럼 현장에서 새롭게 만나게 될 인연들과 새로운 이야기들을 기대하며...
포럼 현장의 이야기는 다음 편에서!
