brunch

You can make anything
by writing

C.S.Lewis

by OOJOO Jul 17. 2023

세계는 초거대 AI를 향한 규제 전쟁

AGI가 초래한 사회적 이슈와 규제

챗GPT, 미드저니와 같은 생성형 AI는 한 줄의 문장만으로 그럴듯한 콘텐츠를 만들어준다. 그렇게 만들어진 콘텐츠는 무라카미 하루키의 소설과 피카소의 작품을 그리고 모짜르트의 악보를 인용하고 짜집기해서 만들어진 것일 수 있다. 이 콘텐츠의 저작권과 사용권은 어떻게 정의해야 할까? 또, 생성형 AI를 악용해 만든 페이크 뉴스와 정치인을 음해하기 위해 만든 가짜 음성과 사진은 얼마나 심각한 사회적 혼란을 야기할까? 온전히 사람이 순수하게 만든 것이 아닌 생성형 AI로 작품을 만들어 사진전, 공모전, 각종 심사에 응모한 경우 이것을 어떻게 구분하고 변별력있는 평가를 할 수 있을까?

미드저니로 생성한 피카소 풍의 반고흐 자화상

게다가 생성형 AI를 가능하게 한 LLM(Large Language Model)은 진화하고 있다. AI 스타트업 시그니피컨트그라비타스(Significant Gravitas)가 오픈한 AutoGPT는 사용자가 최종적으로 얻고 싶은 목표만 입력하면 그 목표를 달성하기 위해 스스로 다양한 과업을 수행한다. 일례로, 100만명의 팔로우를 가진 인스타그램 계정을 만들어줘라는 목표를 지시하면 이 목표 달성을 위해 다양한 하위 과제를 생성해 해당 과제를 수행하기 위한 작업을 스스로 실행하는 것이다. 그 과정에서 도덕적으로 문제가 있을 수 있는 사진의 생성이나 가짜 계정을 만들어 팔로우를 하는 등의 미쳐 예상치 못한 일들이 발생될 수 있다. 실제로 영국 왕립항공학회(RAeS)는 5월말에 런던에서 개최한 미래 공중전투 및 항공우주역량회의에서 가상실험으로 AI가 임무 수행 중 방해가 된다는 이유로 조종사가 있는 건물을 파괴했다는 사례를 발표했다. AI에게 '적의 지대공미사일을 식별해 파괴하라'는 목표를 내렸는데 그 목표 수행 과정 중 조종사가 목표에 방해되는 결정을 자꾸 내리자 조종사가 최종 목표 달성에 방해가 되는 것으로 판단해서 그가 근무하는 통신탑을 공격했다. 물론 가상 시뮬레이션이긴 하지만 진화하는 AI는 목표 달성을 위해 허락하지 않았고, 생각하지 못했던 심각한 문제를 야기할 수 있다.

게다가 그런 AI가 이제 우리가 사는 물리적 현실 세계에 로봇의 실체를 가지고 들어오고 있다. 챗GPT를 만든 오픈AI는 휴머노이드 로봇 회사인 스타트업 X1에 투자했고, 구글은 PaLM-E라는 LLM을 로봇에 탑재해 훈련없이 명령을 수행하는 로봇을 연구하고 있다. 전기차에 이어 휴머노이드 로봇인 옵티머스를 개발 중인 테슬라는 지난 4월 X.AI라는 AI 기업을 설립했다. 이렇게 대표적인 AI 기업이 로봇에 LLM을 결합시키면, 편리함과 자동화라는 미명 아래 우리가 사는 세상에 목표 달성을 위해 무슨 일을 수행할지 모를 로봇들로 채워질 수 있다. 그 로봇들은 어떻게 인간에게 위협과 해가 되지 않도록 제어하고 관리할 수 있을까?

그 외에도 AI의 보편적 사용으로 인한 일자리 감소와 부의 양극화, 기술 수용의 불균형도 앞으로 발생할 사회적 이슈들이다. 특히, 인터넷 상에 생성형 AI가 만든 콘텐츠의 비중이 커져가면서 AI가 학습에 사용할 데이터가 AI가 만든 것으로 대체되고, 인간 역시 사람이 만든 콘텐츠가 아닌 AI가 만든 콘텐츠로 학습을 하면서 사람의 고유한 지식과 콘텐츠가 줄어드는 문제도 야기된다. 그리고, 인간의 편견으로 학습한 AI의 편향 차별화가 고착화되고 그런 AI가 만든 콘텐츠로 확증 편향이 증폭되는 문제 또한 앞으로 우리가 고민해야 할 사회 이슈들이다.

이런 그간 우리가 겪어 보지 못한 AI로 인한 후폭풍에 대처하고자 전 세계 각국이 규제 마련을 서두르고 있다. 특히 유럽연합은 미국 기업의 AI 리더십에 휘둘리지 않고자 규제 부분에 있어서는 강력한 입장을 고수하고 있다. 이미 2021년부터 AI 규제 초안을 만들었을 뿐 아니라, 챗GPT와 같은 생성형 AI에 대한 수정 규제도 2023년 5월 추가했다. 즉, LLM을 개발하는 기업은 편향 검증을 거친 데이터셋을 사용해야 하고, AI 훈련에 사용한 저작물 정보도 공개하도록 했다. 또한, EU 내 스타트업들의 경쟁력 강화를 위해 이들 AI 기업과 공정 거래에 대한 조항도 포함했다. 심지어 이탈리아 데이터 보호 당국은 챗GPT의 개인정보보호 문제를 이유로 3월31일 챗GPT 접속 차단과 조사에 들어가기도 했다. 미성년자가 챗GPT를 무분별하게 사용해 부적절한 정보를 제공할 우려를 문제시 삼기도 했다. 이렇게 유럽의 여러 다른 국가들도 챗GPT 규제를 검토하고 그 외의 AI 챗봇에 대한 조사 필요성을 언급하고 있다.

반면, AI 리더십을 가진 미국 정부는 규제보다 육성에 초점을 두고 있다. AI 발전을 위한 오픈 공공 데이터 정책과 관련 스타트업들이 혁신적인 사업 전개를 할 수 있도록 독려하고 있다. 그렇다보니 미국의 규제 정책 방향은 AI로 발생될 사회적, 윤리적 차원의 해악보다는 기술 안보와 최소한의 개인 정보 보호에 국한되어 있다. 즉, 규제 뒤로 자국에 유리한 AI 규율 마련을 통한 첨단 기술 사업의 리더십을 가져가는 것을 우선시하고 있다.

중국은 그간 인터넷 영역에서 해오던 것처럼 AI 분야 역시 만리장성을 치고 있다. 즉, 자국내 AI 경쟁력 강화와 해외 AI 기술의 침투 방지를 위한 규제 초안을 만들었다. 그 내용을 보면 AI로 생성된 콘텐츠에는 중국 사회주의 가치를 반영해야 하고, 사회질서를 교란해서는 안된다는 준수 의무를 넣었다. 또한, 중국의 생성 AI 서비스는 실명으로만 사용해야 하며, 제품 출시 전 정부에 보안평가 결과를 내야 한다. 또한, 중국 정부의 각종 보안, 안전 법령을 준수하지 않은 서비스는 중단 조치 혹은 형사책임을 묻는다는 내용이 있다. 그만큼 중국 당국의 입맛에 맞게 AI 기술과 사업을 통제하려는 것이라 해외 기업의 중국 침투에 제약이 있을 수 밖에 없다.

한국은 AI 관련 법안이 그간 꾸준하게 의안되기는 했지만, 발의만 되었을 뿐 논의나 그 이상의 진전이 없었다. 그나마 지난 2월 14일 국회 과학기술정보방송통신위원회의 법안소위에서 '인공지능산업 육성 및 신뢰 기반 조성에 관한 법률안'이 통과되며 큰 논란이 시작되었다. 이 법안의 기본 골자는 인공지능 연구 개발에 대해 우선 허용, 사후 규제로 사업 육성 측면만 고려했을 뿐 인공지능으로 인한 사회적 영향을 충분히 숙고하지 않았다는 비판을 받고 있다. 그렇다보니 여러 단체들이 국민 안전과 인권 보호 등 다양한 측면을 고려한 규제 개선에 대한 의견들을 제시하고 있다. 덕분에 이후 다양한 법안이 개인정보보호위원회, 과학기술정보통신부, 방송통신위원회, 중소기업벤처부 등 정부부처에서 발의되면서 국회의원과 전문가, 사회단체 그리고 국제기구와 활발한 논의가 전개되고 있다. 기본적으로 한국 정부는 AI 산업 육성과 생태계 진흥에 초점을 맞춰 미중 중심의 AI 리더십에 한국 기업의 AI 주권이 위협받지 않도록 균형감있는 규제 법안 마련에 애쓰고 있다.

AI 분야에 있어 선두주자인 미국은 후발주자의 진입을 늦추고 글로벌 리더십을 가져가려는 수단으로 규제를 활용하려 한다. 유럽은 미국 빅테크 기업에 유럽 시민 안전과 기업 종속을 피하고자 강력한 규제를 펼치고 있다. 중국은 여전히 체제 유지와 내수 시장 수성을 위해 철저한 감시 기반으로 규제 운영을 하고 있다. 전 세계 구글 검색이 지배하지 못한 3개의 국가 중 하나인 한국은 인터넷 서비스에 대한 자존심과 기술력을 갖추고 있는만큼 AI 산업에 있어서도 자신감을 가지고 내수시장도 보호하고, 해외 글로벌로도 진출할 수 있도록 규제의 칼 날을 균형감있에 써야 할 것이다.

작가의 챗GPT가 가져올 새로운 비즈니스 기회와 개인 이용팁과 기업의 활용 방안에 대한 강연

➠https://www.udemy.com/course/chatgpt-it-jihyunkim

keyword