AI 개발 기업을 위한 자발적 안전 기준과 그 한계
G7 AI 코드 오브 컨덕트(G7 Code of Conduct for Advanced AI Development)는 주요 7개국(G7: 미국, 영국, 프랑스, 독일, 이탈리아, 캐나다, 일본 및 유럽연합)이 히로시마 AI 프로세스(Hiroshima AI Process)를 통해 합의하고 발표한, 선진 AI 시스템을 개발하는 기업들을 위한 자발적 행동 강령 및 지침이다. 이 문서는 2023년 후반에 발표되었으며, 인공지능 기술의 폭발적인 성장과 그에 따른 잠재적 위험, 특히 범용 AI(GPAI) 모델의 등장으로 인해 야기되는 도전에 국제적으로 공동 대응하고, 안전하고 신뢰할 수 있는 AI 개발을 위한 국제적인 최소 기준을 신속하게 마련하기 위해 추진되었다.
이 코드 오브 컨덕트의 가장 두드러진 특징은 그 자발적 성격에 있다. EU AI 법과 같이 특정 지역 내에서 법적 구속력을 가지는 규제(binding regulation)와 달리, 이 지침은 AI 개발 기업들이 자발적으로 준수하도록 권고하는 행동 강령(code of conduct)의 형태를 취한다. 이는 각국 정부가 자체적인 법적 규제 프레임워크를 마련하는 데 시간이 소요되는 동안 발생할 수 있는 규제적 공백을 메우고, AI 산업의 혁신 속도에 발맞춰 신속하게 윤리 및 안전 기준을 제시하는 교량 역할을 수행하는 것을 목표로 한다.
행동 강령은 AI 라이프사이클 전반에 걸쳐 안전, 보안, 신뢰, 투명성을 보장하고, 근본적으로 인간의 기본권과 민주적 가치를 존중하도록 기업들에게 요구하는 것을 핵심 내용으로 한다. 구체적으로, 기업들은 다음과 같은 주요 요구 사항들을 이행할 것이 권고된다.
첫째, 위험 식별 및 완화에 관한 요구사항이다. 기업들은 AI 시스템의 개발, 배포, 사용 전반에 걸쳐 잠재적 위험을 체계적으로 식별하고, 평가하며, 이를 완화하기 위한 적절한 통제 조치와 안전 장치를 마련해야 한다. 이는 AI 시스템의 오작동, 편향, 악의적 사용 등으로부터 사회와 사용자를 보호하기 위한 기본적인 안전망 구축을 의미한다.
둘째, 투명성과 보고 의무이다. AI 시스템, 특히 범용 AI 모델의 개발자들은 그들의 모델 능력, 한계, 그리고 잠재적인 오용 가능성 등에 대한 자세한 보고서를 발행해야 한다. 이러한 투명성 확보는 외부 전문가, 정책 입안자, 그리고 사용자 커뮤니티가 AI 시스템의 작동 방식을 이해하고 잠재적 위험을 평가하는 데 필수적이다. 또한, 취약점을 발견하는 경우 이를 공유하고 해결하는 메커니즘을 구축해야 한다.
셋째, 보안 및 책임 있는 정보 공유에 대한 요구이다. 기업들은 강력한 보안 통제 시스템에 투자하여 AI 모델과 그 학습 데이터의 무결성을 보호해야 하며, 무단 접근 및 조작을 방지해야 한다. 또한, 안전하고 책임 있는 방식으로 AI 관련 정보를 공유하고 모범 사례를 교환함으로써 전체 AI 생태계의 보안 수준을 향상시키는 데 기여할 것이 권고된다.
넷째, 워터마킹(watermarking) 및 출처 투명성 확보이다. 특히 생성형 AI(Generative AI)가 만든 콘텐츠(텍스트, 이미지, 오디오 등)에 대해 워터마크를 표시하거나 출처를 확인할 수 있는 기술적 메커니즘을 적용하도록 요구한다. 이는 딥페이크(deepfake) 기술 등으로 인한 정보 조작, 잘못된 정보(misinformation)의 확산, 그리고 지적 재산권 침해 문제를 방지하고, AI 생성 콘텐츠에 대한 사회적 신뢰를 구축하는 데 매우 중요한 요소이다.
G7 AI 코드 오브 컨덕트는 전 세계 주요 선진국들이 AI 거버넌스에 대한 공통의 원칙을 공유하고 있음을 국제적으로 천명한 중요한 이정표가 된다. 이는 글로벌 표준을 설정하는 데 강력한 상징적 의미를 가지며, 각국 정부와 국제 기구가 AI 규제 법안을 마련할 때 참고하는 중요한 기준점 역할을 한다. 현재 OECD가 이 행동 강령의 적용 상황을 모니터링하는 시범 사업을 진행하는 등, 국제적인 상호 운용성을 확보하고 이 지침이 실제 산업 현장에서 효과적으로 이행되도록 지원하는 노력이 지속적으로 이루어지고 있다.
G7 AI 코드 오브 컨덕트는 구속력 있는 법이 없는 상태에서 선진 AI 개발 기업들이 최소한의 안전, 투명성 및 보안 기준을 자발적으로 준수하도록 유도하여 규제 공백을 신속하게 메우는 데 중요한 의미가 있다. 하지만, EU AI 법과 같은 구속력 있는 규제 프레임워크가 전 세계적으로 도입되고 있는 현시점에서, 자발적 지침으로서의 이 코드의 실질적인 집행력과 영향력은 점차 구속력 있는 국내법의 보조적 역할로 축소될 가능성이 높다.