중국의 피지컬 AI 수준, AI를 활용한 성착취물의 위험
안녕하세요 겨울방주입니다.
오늘은 어제 올리지 못하고 미룬 기사들을 연재하려 합니다.
공유드릴 기사는 바로 미디어 바우처법 도입을 촉구하는 기사와 중국의 피지컬 AI 수준, AI를 활용한 성착취물의 위험성을 보여주는 기사입니다.
해당 기사는 포털의 알고리즘이 뉴스의 가치를 결정하고, 자극적인 제목이 저널리즘의 품격을 실종시키는 언론 구조를 바꾸기 위해 시민이 뉴스의 단순 수용자가 아닌 적극적인 뉴스의 주권자로 나서야 한다고 주장하였다. 그리고 22대 국회에 계류 중인 '국민참여를 통한 언론영향력 평가제도의 운영에 관한 법률'(일명 '미디어 바우처법', 김승원 의원 등 발의)이 그 출발점이라고 했다.
중국에선 춘절 맞이 특집 방송에 로봇들이 대거 출연해 보고도 고난도 기술을 대대적으로 선보였는데, 특히 무술동작에 콩트까지 소화하는 모습이 큰 화제가 되고 있다.
지난 10일 ‘7만 원으로 2분짜리 영화를 완성했다’는 영상 인공지능(AI) 시댄스 2.0의 출시 소식이 화제를 모으면서, 이미지나 영상 AI가 사용자의 의도대로 얼마나 정밀한 수준의 결과물을 생성할 수 있는지 관심이 쏠렸고, 이를 활용하는 또 다른 의도를 걱정하는, 즉 AI가 성착취물을 만들어 낼 수 있다는 우려에 전 세계 국제기구들은 AI를 통해 성착취물을 만들어내는데 악용되어서는 안 된다는 성명을 내었다.
P1: 미디어 바우처란 시민이 각자 자신의 몫으로 책정된 언론 지원 예산을 자신이 지지하는 언론에 지원하도록 정부에 의사를 표명하는 것이다. 결코 검증되지 않은 이상론이 아니라 전 세계 민주주의 국가들이 '시민의 선택'을 통한 배분 방식을 대안으로 채택하고 있다.
P2: 그 사례는 바로 프랑스에 있는데, 거대 자본이 언론을 독점하는 구조를 타파하기 위한 '미디어 민주주의 바우처'를 제안하여 청년층에게 신문 구독 세액공제를 제공하며, 미래 세대가 저널리즘의 가치를 체험하고 지탱하게 하고 있으며, 캐나다는 2020년부터 시행된 '디지털 뉴스 구독 세액공제(DNSTC)'를 통해 시민들이 유료 구독에 느끼는 경제적 부담을 국가가 분담해주고 있으며, 미국에서는 지난해 '지역 뉴스 지원법(Local News Funding Act)'이 발의되었다.
P3: 미디어 바우처의 핵심구조는 바로 만 18세 이상 성인에게 연간 일정액(예 : 2만 원)의 바우처를 지급하고, 시민은 자신이 신뢰하는 언론사를 선택해 이를 배분하는 방식인데 클릭 저널리즘이 종언을 고하고, 지역 및 전문 매체가 부활할 수 있으며, 가짜뉴스는 자연적으로 도태되는 이점들이 있다. 특정진영으로 쏠릴 수 있다는 염려는 과도하며(법안에는 한 매체당 지원 집중 상한, 마이너스 바우처 등의 균형장치가 마련되어 있으며, 포퓰리즘 언론의 부상에 대해서는 시민의 집단지성을 믿어야 한다고 한다.
C: 미디어 바우처법은 단순히 예산을 배분하는 법안이 아니라 대한민국 민주주의의 뿌리가 되는 ‘알 권리’를 시민의 손에 직접 쥐여주며, 시민들로 하여금 직접 경작하게 하는 법안이다. 그동안 민간기업의 손에만 맡겨둔 것은 헌법정신의 위배이다. 저널리즘의 위기는 단순히 언론사의 경영난이 아니다. 민주주의의 위기다. 시민이 신뢰할 수 있는 정보를 얻지 못하는 이상 민주주의는 작동하지 않으며, 그 참담한 결과를 우리는 몇 년 동안 목격해 왔다. 따라서 22대 국회는 이 법안을 지체 없이 통과시켜야 한다.
P1: 휴머노이드 수십 대가 중국 전통무술을 선보였는데, 부드럽고 절제된 취권부터 점프대를 이용한 고난도 동작까지 손쉽게 해내고 있다. 심지어 무술학교 학생들과 조를 이뤄 인간과 로봇이 어우러진 모습까지 연출하였다.
P2: 할머니 역할로 콩트에 나온 배우 역시 휴머노이드인데 실제 배우를 닮은 모습이 눈길을 끌고 있다.
P3: 잡다한 집안일부터 연극까지 다양한 활용성을 보여준 이 로봇은 호두알 여러 개를 손에 쥐고 굴리는 섬세한 조작 능력을 선보였다. 현지매체는 휴머노이드 공연이 중국의 전통문화와 첨단 기술이 조화를 잘 이뤘다고 평가했다.
C: 앞으로는 사전 학습 없이 다양한 환경에서 활용할 수 있는 범용 휴머노이드를 두고, 글로벌 경쟁이 더욱 치열해질 것이란 전망이 나온다.
P1: 아동 성착취물 확산에 대응해 온 ‘국제인터넷핫라인협회(INHOPE)’와 세이프온라인, 인터넷 감시 재단(IWF) 등 국제기구들을 포함하여 대한민국의 방송미디어통신심의위원회는 AI가 학대 및 누드(비동의 신체 합성) 이미지를 생성하도록 하는 기술을 전면적으로 금지해야 한다는 내용의 성명을 발표했다.
P2: 이미지 AI가 단순한 도구를 넘어 “새로운 착취의 경로가 됐다”라는 지적, “AI 도구는 가해자들이 피해자의 사진을 입수할 필요조차 없게 만들며 성착취 이미지를 인위적으로, 소름 끼칠 정도로 효율적으로, 대규모로 만들어낼 수 있다”라는 지적, “일부 청소년을 비롯한 가해자들은 AI로 생성한 성착취 이미지를 수익화하여 새로운 ‘착취 경제’를 구현했다”라고 지적했다.
P3: 단체들은 “각국 정부와 입법자들이 아무리 늦어도 2년 안에 비동의 신체 합성 도구를 금지하고 누구도 접근할 수 없도록 규제해야 하며, 구체적으로 정부가 비동의 신체 합성 이미지 생성·유통하는 이들과 이익을 얻는 기업·개인에게 형사상 책임을 물어야 한다”라고 주장했다. 그리고 정부가 앱스토어 등에 비동의 신체 합성 AI 기술을 제지하도록 의무를 부여하는 구체적인 방법도 제시했다.
C: 단체들은 AI가 생성한 성적 이미지가 더 퍼지기 전에 ‘지금 당장’ 막아야 한다고 강조하면서, 성착취물을 이미지 AI나 생성물을 발견했을 땐 “신고하고, 비난하고, 이들이 활개 치는 공간을 폐쇄하도록 하라”라고 한다. 지난달 그록을 통해 성착취물이 확산하고 있다는 정보를 입수한 방송미디어통신위원회는 X 측에 이용자 보호 계획을 제출하라고 요구했다. 하지만 이미지 AI가 범람하고 착취 구조로 빠지는 속도를 보호 대책이 따라가기에는 공백이 많다는 우려가 있다. 원민경 성평등가족부 장관은 비동의 신체 합성 금지 촉구 성명에 “새로운 디지털 성범죄의 양상에 대응하기 위해 관계부처, 국제사회와의 협력을 적극 강화하겠다”라고 했다.
네 그렇습니다. 총 3개의 기사를 살펴보았습니다. 간단하게 논평을 해보도록 하겠습니다.
1. 미디어 바우처법이 계류 중이라는 사실은 미처 알지 못하였습니다.
일단 우리는 언론개혁을 해야 한다는 말을 많이 접해왔습니다. 참여정부부터 해서 지금까지 언론 개혁을 하려고 했으나 번번이 좌절되어 왔습니다. 거대 기업들이 자본을 쥐고 있는 이상 정보는 저들의 입맛에 맞도록 얼마든지 조작이 된다는 말이죠. 법안의 내용대로라면 시민들에게 언론사를 선택하여 후원할 수 있도록 정부에 의사를 표명합니다. 이른바 시민이 언론에 대해 주권을 행사할 수 있도록 하는 법안이죠. 단순히 이상론을 내보이는 것이 아니라 프랑스, 캐나다, 미국의 사례를 들어서 단순 이상론이 아님을 설파했습니다. 이 또한 동의합니다. 해당 법안이 통과되면 지역 언론도 살아날 수 있고, 소형 언론도 살아날 수 있게 됩니다. 다만 특정진영에 쏠릴 수 있다는 우려에 과도하다며 해당 법안이 이미 그 안전장치를 해놨다고 하였습니다. 일단 그 부분은 놔두더라도 포퓰리즘 언론의 부상에 대한 부분은 시민의 집단지성을 믿어야 한다는 말로 얼버무린 것은 아쉬운 생각이 듭니다. 포퓰리즘 언론이 부상할 수 있는 문제는 심각한 문제입니다. 가짜뉴스가 나올 수 있다는 말인데 이를 단순히 시민의 집단지성을 믿어야 한다고 했습니다. 대안을 제시해야 하는데, 포퓰리즘 언론이 부상할 수 있는 문제를 아무런 대안 제시도 하지 않았습니다. 정말 아쉽습니다. 제가 제일 경계하는 것이 집단지성입니다. 왜냐하면 현재의 집단지성이 과연 어느 것으로 이루어져 있는지를 가만히 생각해 보자면, 바로 유튜브입니다. 자신들이 집단지성을 가지고 생각한다고 주장하지만, 대부분은 유튜브의 주장에 따라 생각하고 정보를 분별하기 때문에(저 역시 그렇기에 집단지성 자체를 더더욱 두려워합니다) 집단지성이 올바르게 작동하는지 의문을 품고 있습니다. 그래서 저는 집단지성을 믿지 않습니다.
2. 중국에서는 범용성이 높은 휴머노이드를 만들어냈습니다.
대한민국에서는 아틀라스라는 휴머노이드를 선보였습니다. 공장에서 생산을 담당하기 위한 휴머노이드를 선보이는 것이죠. 그런데 중국은 범용성이 높은 휴머노이드를 선보이면서 그들의 기술력이 앞서있음을 과시하는 것입니다. 심지어 연극에 콩트까지 해내는 것을 보면, 이제는 AI도 콘텐츠를 구현해 낼 수 있는 수준까지 다다른 것이 아닌가 하는 생각을 하게 만듭니다. AI가 예술을 못한다고요? 아니요, AI도 해낼 수 있습니다. 초기에는 사람이 학습을 시키지만, 나중에 가면 갈수록 스스로 학습하고 스스로 콘텐츠를 구현해 내는 수준에 이르지 않을까요? 범용성이 높은 휴머노이드를 통해 다양한 콘텐츠를 구현해 내는 모습을 보인 중국의 기술력을 보면서 과연 콘텐츠와 관련된 인간의 일자리가 위협을 받게 될지, 아니면 같이 협업을 하게 될지 질문하지 않을 수 없게 되었습니다.
3. AI를 통한 성착취물은 정말 조심해야 합니다. 잘못하면 큰 위험을 초래할 수 있습니다.
저 역시 한 번은 AI를 통해 실험을 해 본 적이 있습니다. 그런데 상상외로 제가 의도하고자 하는 바를 정확히 구현해 내었습니다. 그러고 나서 이 기사를 보니 정말 소름이 돋았습니다. 말할 수 없는 놀라움이 제 머릿속을 차지할 정도입니다. AI가 그렇습니다... 특히 X가 운영하는 그록의 경우 일전에도 해당 문제에 대한 기사가 많이 쏟아져 나왔습니다. AI를 통해 원하는 이미지를 구현해 내려고 해도 조심해서 구현해 내어야 할 듯합니다. 잘못하면 예기치 못한 결과물이 나올 가능성이 매우 높습니다. AI는 통제가 어려운 데다가 자신이 예기치 못한 결과물을 내놓는 일이 왕왕 있습니다. 자신의 의도했든 그렇지 않았든 AI를 활용한 성착취물은 나오게 해서는 안된다는 성명에 동의합니다. 이는 ‘N 번 방 사건’보다 더 무서운 성범죄가 발생할 수 있다는 일종의 경고문이라는 생각을 하였습니다.
1. 2만 원씩 국민에게 주면, 가짜뉴스 없앨 수 있다 -오마이뉴스-
https://www.ohmynews.com/NWS_Web/View/at_pg.aspx?CNTN_CD=A0003206881
2. 중국 춘절 갈라쇼 ‘로봇 굴기’ 과시… 방송 직후 매진 행렬 -KBS NEWS-
https://news.kbs.co.kr/news/pc/view/view.do?ncd=8487514
3. “‘옷 벗기는 AI’ 언제까지 그냥 둘 건가”···성착취 이미지 생성에 전 세계가 ‘우려’ 성명 -경향신문-
https://www.khan.co.kr/article/202602171114001