모두를 위한 AI(AI for All)는 가능할까?
유네스코 AI 윤리 글로벌 포럼_둘째 날 이야기 ①
네스코 AI 윤리 글로벌 포럼_둘째 날 이야기
유네스코 AI 윤리 글로벌 포럼은 슬로베니아 크란에서 2024년 2월 5일과 6일 이틀간 진행되었다. 첫째 날 프로그램이 각국의 AI 거버넌스 현황과 사례에 대한 발표와 토론 중심이었다면, 둘째 날은 전문가와 기업, 시민사회, 국제기구 등이 AI 윤리 분야별 이슈에 대한 자신들의 서로 다른 시각과 경험을 나누는 시간이었다.
모두를 위한 AI는 가능할까?
이틑 날 첫 번째 세션의 키워드는 "포용성(inclusiveness)"이었다. 현세대는 AI 덕분에 이전에는 경험할 수 없었던 다양한 혜택(신속한 영상의료 진단, 자율주행, 번역 등)을 누리고 있다. 하지만 모든 사람들이 그 혜택을 누리고 있는 것은 아니다. 2024년 현재 전 세계 인구의 상위 10%가 전 세계 소득의 52%를 차지하고 있는 현실 속에서, 모두가 AI 혁신의 혜택을 누리게 하려면 어떻게 해야 할까?
Igor Papič 슬로베니아 고등교육 및 과학혁신부 장관, ⓒUNESCO이 질문에 대한 첫 번째 답으로 슬로베니아 Igor Papič 고등교육 및 과학혁신부 장관은 새로운 미래에 대한 상상과 행동의 필요성을 이야기했다. 지금 우리는 4차 산업혁명을 말하고 있지만, 4차 산업혁명은 기본적으로 과학 중심적 접근에 치우쳐져 있다. 따라서 이제는 인문학과 사회학, 과학 등 학제 간 통섭을 통해 "모두를 위한 5차 산업혁명"의 미래를 함께 그려나가기 시작해야 한다는 주문이었다.
Igor Papič 장관의 연설은 인상적이었다. 누군가 작성해 준 연설문을 읽는 것이 아니라, 진짜 자기의 생각을 있는 그대로 진심을 담아 전달하는 모습이 느껴졌다. 과학기술과 역사, 철학 등에 대한 폭넓은 이해와 통합적 시각을 자신의 언어로 소화해 낼 수 있는 장관의 역량을 바라보며 슬로베니아의 미래를 주목해야겠다는 생각이 들었다.
포럼 이튿날 첫 번째 세션에 참가한 패널들 ⓒUNESCO이어진 발표와 토론에는 유네스코, G20 브라질 의장국, 유엔 AI 고위급 자문단, 유럽 집행이사회(Council of Europe), 앨런 튜링 연구소, 세계무역기구, CAIDP(미국 AI 및 디지털 정책센터), Global Partnership on AI를 대표하는 패널들이 함께 했다. 패널들은 AI로 인해 발생할 수 있는 잠재적 위험으로 AI에 의한 일자리 대체, 디지털 접근성의 격차, 국가/젠더/계급 간의 불평등, 빅테크의 데이터/플랫폼/생성 AI 독과점 등의 문제를 지적하며, 그 대안으로 AI 교육과 AI 거버넌스 수립 등을 공통적으로 강조했다. 또한, 언어는 단순한 커뮤니케이션 툴이 아니라 한 나라의 문화와 정신적 가치의 핵심이라는 점에서 각 국가의 생성 AI가 필요하다는 의견도 제시되었다.
아래 내용은 패널들의 이야기 중 인상 깊었던 메시지들이다. (그대로 받아 적지는 못했기 때문에 패널들의 메시지에 나의 생각들이 일부 덧붙여져 있음을 양해해 주시길 바라며...)
AI는 고용 시장에서 사람들을 대체할 것이다. 고급 인력도 예외가 아니다. 하지만 이들은 AI로 인한 시장의 변화에 상대적으로 빠르게 적응하고 새로운 기회를 잡을 것이다. 문제는 그렇지 못한 대다수 사람들이다. 불평등은 향후 AI 시대의 가장 큰 문제 중 하나가 될 것이다.
의료 AI 대부분은 남성 데이터를 기반으로 하고 있다. 의도치 않게 편향과 차별의 문제가 발생할 수 있는 것이다. 어떻게 세계 모든 지역 사람들의 데이터를 고르게 반영하는 AI를 만들 수 있을지에 대한 구체적인 방법론이 필요하다.
일부 빅테크의 생성 AI 독과점은 그들의 플랫폼을 통해 더욱 심화될 것이다. 문제의 핵심은 데이터다. 기업의 데이터 수집 방식부터 문제가 없는지 살펴봐야 한다. 플랫폼 가입 시 생년월일을 모두 입력하는 것이 아니라 18세 이상/이하 여부만 확인하게 하거나, 사용자의 위치를 노출시키는 IP 정보가 전달되지 않도록 제한하는 방식 등에 대해 함께 생각해 볼 필요가 있다.
국제사회는 2030년까지 전 세계가 함께 실천해야 할 17개 목표를 담아 지속가능발전목표(Sustainable Development Goals)를 수립했다. 그러나 이 가운데 AI가 주로 활용되는 분야는 소위 "돈이 되는" 보건(SDG3)과 교육(SDG4), 산업(SDG9) 분야에 집중되어 있다. 빈곤(SDG1)과 기아(SDG2), 성평등(SDG5), 기후변화(SDG13) 등 글로벌 난제를 해결하기 위한 AI 연구가 필요하다. 이를 위해 정부는 어떤 인센티브를 마련할 수 있을까?
출처: https://www.unesco.or.kr/data/unesco_news/view/764/1094/page/0언어는 단순한 의사소통의 수단이 아니라 그 언어를 사용하는 사람들의 사고방식(mindset)을 규정한다. 자국의 문화와 언어에 기반한 각국의 생성 AI가 필요하다.
소수 빅테크에 집중된 AI 권력을 견제하기 위해서는 대중의 참여와 정책적 대응이 필요하다. 하지만 일반대중뿐만 아니라 정책 입안자들 역시 어디서부터 무엇을 어떻게 해야 할지 모르는 것이 현실이다. CAIDP는 AI 정책 담당자들의 역량강화를 위해 AI Policy Clinic을 운영 중이며, 유네스코 AI 윤리 권고가 커리큘럼 구성에 큰 도움이 되었다.
교육 없이는 오늘 우리가 이야기한 어떤 문제들도 풀어낼 수 없다. AI가 교육에 어떠한 영향을 미치는지, 우리 아이들을 위해 어떤 AI 교육이 필요한지, AI 연구자들이 자신들의 연구가 우리 사회를 어디로 향하게 하고 있는지 스스로 이해할 수 있도록 돕기 위한 다양한 교육 프로그램이 마련되어야 한다.
AI 기술은 급속도로 발전하는데 우리의 대응은 너무 늦다고 좌절하지 말자. 그리고 각국의 이해관계가 너무 달라 보편적인 글로벌 AI 거버넌스를 수립하기는 어려울 것이라고 미리부터 낙담하지 말자. 지금 이 순간에도 분명 우리가 할 수 있는 일은 있다. 우리가 할 수 있는 일들에서부터 시작해야 한다.
포럼 이튿날 오전 세션을 들으면서 많은 생각들이 머릿속을 스쳐 지나갔다.
누군가는 AI로 인해 가장 두려운 미래는 AI 킬러 로봇의 등장이라고 말한다. 하지만 AI를 둘러싼 그보다 좀 더 현실적인 위기는 국가 간, 지역 간, 계층 간, 직업 간, 성별 간, 세대 간 불평등의 심화로부터 시작될 가능성이 더 크다고 생각한다. 교육? 교육은 물론 이러한 문제를 풀 수 있는 대안이라는데 100% 공감한다. 하지만 AI가 불러올 변화의 속도와 규모를 생각할 때, 긴 시간이 걸려야 효과를 제대로 체감할 수 있는 교육에만 정책적 역량을 집중하는 것은 어쩌면 너무 여유로운 접근이 아닐까 싶었다.
21세기 자본주의 체제가 마주한 가장 큰 과제는, 소득이 소수에게 집중되고 중산층이 사라지는 상황 속에서 노동의 미래가 불확실하다는 점이다. AI로 얻게 될 경제적 번영을 어떻게 서로 나누어야 할지, 글로벌 빅테크의 정치적 힘을 어떻게 견제해야 할지, 일자리가 줄어든 세상에서 사람들에게 어떤 삶의 의미를 갖도록 할 수 있을지에 대한 새로운 고민이 필요하다. AI로 인해 발생할 수 있는 문제는 점점 더 복잡다단해지고 있다. 그렇다면 새로운 AI 규범은 AI 기술 발전 통제와 같은 단순한 규제보다는 AI로 인해 발생할 수 있는 문제들을 개선하고 해결할 수 있는 제도와 정책이 되어야 할 것이다.
"우리가 원하는 미래를 향해 나아가되, 우리의 옆을 돌아보는 것을 잊지 말아야 한다." 아마도 이 한 문장이 유네스코 AI 윤리 글로벌 포럼이 전하고 싶었던 메시지가 아닐까 싶었다.
