전 세계가 "AI 윤리"를 위해 슬로베니아에 모였다
유네스코 AI 윤리 글로벌 포럼_첫째 날 이야기
유네스코 AI 윤리 글로벌 포럼에 참석하기 위해 2월 4일(일) 오후 1시 인천공항을 출발했다. 프랑크프루트 공항을 거쳐 슬로베니아 류블랴나 공항까지 17시간이 넘게 걸렸다. 회의가 시작하기도 전에 피로가 몰려왔다.
슬로베니아 류블랴나 공항의 모습. 길거리 곳곳에 눈이 쌓여 있었다.다음 날 아침 7시 40분, 셔틀버스를 타고 행사장으로 이동했다. 아침까지 잔뜩 흐렸던 날씨는 포럼 시작과 함께 맑게 개었다. 영상 10도가 넘는 따뜻한 봄날씨였다. 햇빛을 보니 피로가 풀리는 것만 같았다. 하지만 여기저기서 지구온난화를 걱정하는 사람들의 목소리가 들여왔다. 역시 유네스코 AI 윤리 글로벌 포럼 참가자들다웠다.
개회식_글로벌 AI 거버넌스 수립을 위한 국제협력의 필요성
포럼은 슬로베니아 부총리와 유네스코 사무총장, EU 평의회 사무총장, EU 집행이사회 부의장, ITU(국제전기통신연합) 사무총장의 개회사로 시작됐다. 개회사를 들으면서 인상 깊었던 메시지와 내 생각들을 함께 적어놓는 바람에, 연설 내용 그대로를 전달할 수는 없게 되었다. 하지만 대략 아래의 메시지들은 함께 생각해보면 좋을 것 같다.
생성 AI 등장 이후 AI 기술 발전 속도는 더욱 빨라졌고, 일반대중(특히, 청소년) 사이에서 AI는 빠르게 확산되고 있다. 하지만 AI 거버넌스는 아직 유아(infant) 수준에 머물고 있다. 한 가지 긍정적인 점은 전 세계 리더들이 이 문제를 진지하게 고민하기 시작했고, 움직이기 시작했다는 것이다.
2024년 전 세계 인구의 절반이 투표에 참여할 예정이다. 생성 AI는 선거 캠페인 등의 과정에서 허위정보와 딥페이크 등 문제를 일으켜 민주주의를 위협할 것으로 우려된다.
오늘 이 시간 전 세계 인구의 약 30% 이상인 26억 명의 사람들은 인터넷에 접속조차 할 수 없는 형편이다. AI 윤리의 첫걸음은 어쩌면 이들에게 인터넷 접근성을 보장해주는 것이 되어야 하는 것은 아닐까?
AI 윤리원칙에 대한 이야기는 이제 그만! 이제는 이행(implementation), 이행(implementation), 이행(implementation)을 이야기해야 할 시간이다.
AI의 위험을 두려워만 할 것이 아니라 인류와 지구를 위해 AI를 어떻게 활용할 것인지에 대해 논의해야 한다. 지속가능발전목표를 달성하기 위해 남은 7년 동안 AI는 어떤 역할을 할 수 있을까?
세상은 AI로 인한 변화를 목격하고 있다. 우리는 AI가 만드는 미래를 기다릴 것이 아니라, 우리가 원하는 미래를 함께 그려나가야 한다. 새로운 디지털 혁명이라는 글로벌 현상에 대응하기 위해서는 국제협력이 필요하다.
연설 내용 외 인상적이었던 것은 개회식에 참여한 고위급 대표 5명 가운데 4명이 여성이었다는 점이다. 개회식 연설자뿐만 아니라 이틀간 포럼 세션의 최소 1/3~1/2 정도는 여성 전문가들이 직접 발표를 하거나 세션을 진행하는 등 주도적인 역할을 담당하고 있었다. 여느 AI, AI 윤리 관련 국내외 회의에서 찾아보기 힘든 모습이었기에 이례적이면서도 반가웠다.
회원국 장관급 세션_국가별 AI 도전과제와 앞으로의 발전 방향
유네스코 AI 윤리 글로벌 포럼 첫째 날(2.5)의 주요 프로그램은 회원국 장관급 세션과 유네스코-민간기업 AI 윤리 공동선언, 유엔 AI 고위급 자문단의 중간보고서 발표였다. 먼저 오전 장관급 세션에는 그리스, 멕시코, 미국, 베트남, 세네갈, 오만, 에스토니아, 자메이카(가나다 순)의 정부 대표가 참석했다.
정부 대표들은 한 목소리로 AI 기술 발전의 중요성을 강조했다. 아무리 유네스코 "AI 윤리" 글로벌 포럼이라고는 하지만, AI 기술 발전이 담보되지 않은 상황에서 AI 윤리를 논할 수는 없기 때문이었다. 다만, 유네스코 AI 윤리 권고는 AI 기술 발전 과정에서 자칫 정부와 기업, 연구기관 등이 놓칠 수 있는 윤리적 이슈를 점검하고 개선할 수 있도록 도와줄 수 있다는 점에서 정부 대표들 모두 권고의 중요성과 의미를 강조했다. 또한, 유네스코가 전 세계 50여 국에서 진행하고 있는 AI 준비도 평가(Readiness Assessment)는 회원국 정부가 AI 관련 정책을 수립하고 집행하는데 많은 도움이 되고 있다고 소개되기도 했다.
세션에 참가한 저소득국가들은 공통적으로 AI 기술 발전 과정에서 데이터와 인프라, 인재의 부족을 도전과제로 언급했다. 저소득국가에 대한 인프라 지원과 역량개발 사업 등이 대안으로 언급되었지만 구체적인 해결 방안이 제시되지는 않았다. 다만 서로의 우수사례와 실패사례 등을 공유함으로써 최소한 같은 실수를 반복하지 않도록 하기 위해 국제협력이 중요하다는 점은 다시 한번 강조됐다.
모두가 자국의 AI 기술 개발을 위해 달려가고 있는 상황에서 일방적이며 시혜적인 지원은 지속가능한 모델이 되기 어렵다고 생각한다. 어떻게 하면 도움을 주는 나라와 받는 나라 모두 서로에게 이익이 되는 협력모델을 만들 수 있을까? AI 분야뿐만 아니라 교육, 경제, 투자 등 모든 영역에서 공여국과 수원국이 공유가치를 창출(Creating Shared Value)할 수 있는 사업 모델에 대한 논의가 더욱 많아지고 구체화되면 좋겠다는 생각이 다시 한번 들었다.
이번 포럼에는 2017년 트럼프 정부 당시 유네스코를 탈퇴했다가 바이든 대통령 당선 이후 2023년 복귀한 미국도 참가했다. 미국 대표는 국가 AI 정책 수립의 접근방식을 농구 경기에 비유하며 "Be quick, but don't hurry"이라는 메시지를 전했다. AI의 급속한 발전을 고려할 때 관련 정책은 빠르게 만들어져야 하지만, 그렇다고 해서 너무 서둘면 뜻하지 않은 부작용이 생길 수 있다는 지적이었다. 예컨대, 개인정보 보호, 편향과 차별 방지 등 대다수 사회 구성원이 이미 공감대를 갖고 있는 영역은 빠르게 제도를 갖춰나가야 하지만, 저작권, 오픈소스 등 합의가 쉽게 이뤄지기 어려운 분야는 좀 더 신중한 접근이 필요하다는 의견이었다.
나아가 미국은 정부가 AI를 사용할 때 반드시 윤리적 프레임워크를 갖추도록 하고 있으며, AI의 민주화를 위해 컴퓨팅 자원과 데이터 재분배 등을 통해 특정 기업이나 학교, 기관 등이 AI를 독점하지 않도록 노력하고 있다는 점도 소개했다. 마지막으로 전 세계 각국이 AI 안전 연구소(AI Safety Institute)를 설립하여 국제적인 협력을 강화할 것을 제안하기도 했다.
중국 대표는 영어가 아닌 중국어로 발언을 해 화제가 되었다. 중국은 글로벌 AI 거버넌스 수립 과정에서 개발도상국의 입장과 이야기에 좀 더 귀를 많이 기울여야 한다고 강조하며, 국력 및 이념의 차이와 무관하게 모두가 AI의 혜택을 누릴 수 있도록 다양한 시각과 관점을 수용할 필요가 있다고 주장했다.
이어진 토론에서는 아래 이슈들이 앞으로의 발전 방향으로 논의되었다.
전 세계 회원국이 모두 동의하는 글로벌 AI 거버넌스 수립을 마냥 기다리기보다는, 몇몇 회원국 혹은 지역 단위에서 합의할 수 있는 부분에서부터 공동의 AI 거버넌스를 구축하고 협력 모델을 만들어가자. (국가 간 데이터 공유 등)
글로벌 AI 거버넌스 논의 과정에서 지역의 특수성과 맥락을 간과하지 말아야 한다. 예컨대, 각 국가의 도전과제(기후변화, 빈곤, 기아, 식량 증산 등)에 따라 AI를 활용하는 방식의 차이가 있을 수 있으며, 그에 따라 AI 거버넌스 내용과 방향성의 차이가 있을 수 있다는 점을 인식해야 한다.
현재 합의된 글로벌 AI 거버넌스가 없다고 해서 낙담하지 말자. 대부분 국가들이 동일한 고민을 하고 있고, 문제를 해결하기 위해 노력하고 있다는 점에서 희망을 발견할 수 있다. 함께 노력하자.
이어진 회원국 장관급 세션에는 나이지리아, 네덜란드, 브라질, 스페인, 이탈리아, 인도, 일본, 영국, 터키의 논의가 이어졌지만, '유네스코-민간기업 AI 윤리 공동성명 발표'에 참석하느라 이 세션은 아쉽게도 내용을 듣지 못했다.
유네스코 - 민간기업 AI 윤리 공동성명: Building a more Ethical AI
AI 윤리는 정부의 역할도 중요하지만 본질적으로 기업의 참여 없이는 실현되기 어려운 주제다. 유네스코 역시 이러한 문제의식 아래, 유네스코 AI 윤리 권고의 가치와 원칙에 기반하여 AI 윤리를 선도적으로 이행하기 위해 노력하고 있는 글로벌 테크 기업들을 초청하여 '유네스코 - 민간기업 AI 윤리 공동성명'을 발표했다. 이번 성명에는 LG AI연구원과 Microsoft, Salesforce, Mastercard, GSMA, INNIT, Lenovo Group, Telefonica가 참여했다.
공동성명 관련 발표를 하고 있는 오드리 아줄레 유네스코 사무총장
공동성명에 참여한 8개 기업 대표(LG AI연구원 김유철 부문장, 왼쪽에서 세 번째)와 Gabriela Ramos 유네스코 사무총장보(가운데)유네스코는 LG AI연구원을 초청한 이유로, LG AI연구원이 대한민국 AI 연구 분야에서 가장 선도적인 기업일 뿐만 아니라, AI 윤리 및 AI 리터러시 교육 등 다양한 방면에서 왕성한 활동을 하고 있다는 점을 꼽았다. 그리고 유네스코 AI 윤리 권고를 구체적으로 어떻게 실천, 이행하고 있는지를 종합적으로 정리하여 발간한 'LG AI 윤리 책무성 보고서'도 LG AI연구원이 이번 초청을 받은 중요한 이유 중 하나였다. (△ LG AI 윤리 책무성 보고서 살펴보기)
LG AI연구원을 비롯한 8개 글로벌 테크 기업은 공동성명 발표를 통해 윤리적이고 책임 있는 AI를 만들기 위해 아래의 내용을 기반으로 유네스코와 협력하기로 약속했다.
<공동선언 주요 내용>
AI가 제공하는 기회를 포착하고 잠재적 위협을 완화하기 위해서는 공공 및 민간 활동을 통해 인센티브, 투자 및 윤리적 거버넌스 도구의 생태계를 조성해야 한다는 점을 인정함
유네스코 AI 윤리 권고('21)가 올바른 AI 개발을 유도하는 데 역할을 할 수 있음을 인식함
인권을 보장하고 존중할 책임은 모든 사회적 행위자의 의무이며, AI의 부작용을 파악하고 국내법에 따라 이를 예방, 완화 또는 시정하기 위한 시의적절한 조치의 설계와 실행을 위한 요건은 반드시 지켜야 할 최소한의 윤리적 의무임을 인정함
AI 시스템은 지속적으로 학습하면서 변화할 수 있기 때문에 사전(새로운 시스템을 시장에 출시하기 전 테스트) 평가만으로는 충분하지 않으며, 사후 평가(새로운 시스템을 시장에 출시한 후 정기적 테스트)의 필요성을 인식함
새로운 AI 기술을 개발하는 기업으로서 제품의 안전성을 보장할 책임과 유네스코가 제시하는 필수 원칙과 가치를 준수해야 할 필요성이 있음을 인정하며, 윤리적이고 책임 있는 AI를 만들기 위해 유네스코와 협력할 것을 약속함
유엔을 비롯한 국제기구의 회의를 가면 NATO라는 말을 자주 듣곤 한다. No Action, Talk Only! 행동은 하지 않으면서, 말만 많다는 이야기다.
선언은 선언일뿐, 문제는 실천이다. LG AI연구원은 그동안의 실천을 바탕으로 이번 선언에 참여했기에 NATO가 아니라고 자신 있게 말할 수 있다. 오히려 LG AI연구원에게는 Action First, Talk Later가 더 맞는 표현일 것 같다. 아무쪼록 이번 공동선언을 계기로 더 많은 국내외 기업들이 AI 윤리 "실천"에 관심을 갖고 함께할 수 있기를 바래본다.
유엔 AI 고위급 자문단: 중간보고서 발표 및 의견수렴
유엔는 2023년 10월 총 39명으로 구성된 AI 고위급 자문단을 출범시켰다. 자문단은 글로벌 AI거버넌스와 관련하여 앞으로 유엔의 역할과 나아갈 방향의 청사진을 그리는 역할을 담당하고 있다. 유엔을 통한 본격적인 글로벌 AI 거버넌스 논의의 시작은 AI 규범 담론이 새로운 국면이 접어들고 있음을 보여준고 할 수 있다.
첫째 날 일정의 마지막은 유엔 AI 고위급 자문단의 중간보고서 발표와 포럼 현장 참석자들의 의견수렴으로 마무리되었다. 중간보고서의 핵심은 5가지 기본원칙과 원칙을 실행하기 위한 7단계의 구체적 실행 방안이었다. 7단계 실행방안은 손쉽게 바로 실천할 수 있는 1단계부터 실제 실행까지 힘든 난관이 예상되는 규범의 정교화 등 7단계로 구분되어 있는 점이 특징이었다.
기본원칙(Guiding Principles)
AI는 모든 사람에 의해, 그리고 모두를 위해 포괄적으로 관리되어야 한다.
AI는 공공의 이익을 위해 관리되어야 한다.
AI 거버넌스는 데이터 거버넌스 및 데이터 커먼즈 촉진에 발맞춰 구축되어야 한다.
AI 거버넌스는 보편적이고 네트워크화되어야 하며, 적응적인(adaptive) 다양한 이해관계자의 협업에 기반하여야 한다.
AI 거버넌스는 유엔 헌장, 국제 인권법, 지속가능발전목표와 같은 합의된 국제적 약속에 기반을 둬야 한다.
유엔 AI 고위급 자문단은 보고서 작성 준비 과정에서 나눴던 고민(아래)을 공유하며, 국제적으로 합의된 AI 거버넌스의 필요성을 다시 한번 상기시키기 위해 노력했다.
AI 윤리 논의에 있어 위험이나 두려움을 강조하는 접근보다는 어떻게 하면 긍정적인 미래를 만들 수 있는지에 대해 집중할 필요가 있다.
AI로 인해 발생하는 위험뿐만 아니라 AI를 사용하지 않았을 때의 위험도 같이 고려해야 한다. AI를 활용해서 어떠한 긍정적인 사회변화를 만들어낼 수 있을지에 대해 함께 생각해야 한다.
새로운 과학기술이 실제 사회에서 활용되고 확산되기 전까지는 그 영향을 정확하게 가늠하기 어렵다. 따라서 우리는 최대한 다양한 이해관계자들로부터 AI가 미칠 수 있는 잠재적인 영향에 대한 의견을 최대한 많이 수렴해야 한다.
AI의 성공 스토리뿐만 아니라 실패, 위험 스토리가 국제적인 차원에서 공유되어야 한다. 한 나라의 실패를 다른 나라에서 반복하도록 방관해서는 안된다.
국제적인 AI 윤리 논의의 장에서 이렇게 다양한 국가와 기업, 학계, 시민사회, 국제기구가 함께 하는 기회는 흔하지 않다. 너무 다양한 이해관계자들이 모였기 때문에 논의의 초점이 분산될 수 있다는 지적도 있을 수 있다. 하지만 AI가 미치는 영향은 국경과 분야를 초월하기에 서로 다른 경험과 배경, 전문성을 가진 사람들이 함께 모여 해법을 모색하는 자리는 반드시 필요하다고 생각한다. 유네스코가 갖고 있는 소집력(Convening power)의 힘이 더욱 귀하게 느껴진 하루였다.
