중국, 시진핑 철학 반영한 AI 언어 모델 개발 중

Xijinping LLM

중국은 AI 모델이 당의 가치를 정확하게 반영해야 한다는 원칙 아래, 시진핑 주석의 철학을 기반으로 한 새로운 대규모 언어 모델(LLM)을 개발 중입니다.

시진핑 철학 반영한 언어 모델

중국 사이버 공간 연구소는 시진핑 주석의 철학과 정부의 공식 입장에 부합하는 주제를 바탕으로 자체 언어 모델을 개발하고 있습니다. 이 모델은 질문에 답하고, 보고서를 작성하며, 중국어와 영어 간 번역을 수행하는 등 일반적인 LLM의 기능을 갖추고 있습니다.

특히, 다른 시스템과 달리 이 모델은 로컬 데이터를 사용한 엄선된 지식 기반을 활용하며, 오픈 소스가 아닙니다. 이를 통해 보안과 신뢰성을 보장한다고 주장하며, 현재 내부 테스트 중입니다. 중국 사이버 공간 관리국의 공식 매거진 위챗 계정을 통해 이 모델이 소개되었습니다.

중국의 예측 가능성 확보 노력

중국에서 LLM을 개발하는 기업들은 정부 규제를 준수해야 하며, 생성된 콘텐츠가 정부의 사회주의 가치에 부합하도록 해야 합니다. 공산당 중앙위원회는 당원들이 시진핑 사상을 더 잘 이해할 수 있도록 의무적인 학습 활동을 요구하는 지침을 발표했습니다.

모든 LLM 제작자와 마찬가지로, 중국은 언어 모델의 유용성을 유지하면서도 예측 불가능한 결과를 방지해야 하는 과제에 직면해 있습니다. AI 모델은 강력한 안전 장치가 있더라도 단순한 해킹이나 프롬프트 주입을 통해 원치 않는 결과를 생성할 수 있기 때문입니다.

제한된 데이터셋과 그 영향

원치 않는 결과를 방지하는 가장 좋은 방법은 훈련 자료를 제한하는 것이며, 중국은 당의 가치와 일치하는 데이터만을 포함하는 LLM 데이터셋을 개발하여 이 접근 방식을 시도하고 있습니다. 그러나 이러한 훈련 데이터 제한은 신기술의 성능을 저하시킬 수 있으며, 미국과의 AI 경쟁에서 중국을 뒤처지게 할 수 있는 정책적 딜레마를 초래할 수 있습니다.

결국, 자신들이 원하는 답만을 제공하는 '답정너' AI를 만들고자 하는 것으로 보입니다. 과연 어떤 모델이 나올지, 그리고 그 성능이 어느 정도일지 많은 이들의 관심이 집중되고 있습니다.

현재 개발 중인 모델 중 가장 궁금증을 자아내는 프로젝트입니다.