소버린 AI, 새로운 권력 역학의 대응책.
다른 나라의 AI, 의존만 하다가는 그 권력에 모든 것이 종속된다.
소버린 AI와 AI 거버넌스,
그것은 무엇이고 어디서부터 출발하는가.
소버린 AI(Sovereign AI)는 최근 국제 학계와 정책계에서 주목받는 핵심 개념으로 부상하였다. 이는 각국이 자체적인 인공지능 역량을 개발하고 통제하려는 움직임을 의미하며, 디지털 주권과 기술적 자율성의 교차점에서 발전된 개념이다. 국제 학술계에서는 이를 단순한 기술적 독립을 넘어선 지정학적, 경제적, 문화적 자율성 확보의 수단으로 분석하고 있다.
소버린 AI 개념의 학술적 근원은 디지털 주권(Digital Sovereignty) 이론에서 찾을 수 있다. 국제 학계에서는 디지털 주권을 두 가지 관점: 제도적 접근법(institutional approach)과 실천적 접근법(practice approach)으로 설명한다. 제도적 접근법에서 국가들은 AI 인프라에 대한 주권적 통제를 추구하는 반면, 실천적 접근법에서는 AI 인프라를 통해 주권적 역량을 구축한다. 이는 근본적으로 다른 이론적 전제와 정책적 함의를 가지고 있다.
"제도적 접근법(Institutional Approach)"은 주권을 절대적 권력(sovereignty as absolute power), 체현된 권력(sovereignty as embodied power), 그리고 제도적 권력(sovereignty as institutional power)의 세 가지 차원으로 구분한다. 이 접근법에서 국가들은 AI 인프라에 대한 직접적이고 배타적인 통제권을 추구하며, 이는 전통적인 베스트팔렌 주권 개념의 디지털 확장으로 이해된다.
"실천적 접근법(Practice Approach)"은 주권을 고정된 속성이 아닌 사회적 실천을 통해 구성되는 역량으로 개념화한다. 이 관점에서 국가들은 AI 인프라를 통해 주권적 역량을 점진적으로 구축하며, 이는 인프라 기반의 자기결정 실천(infrastructure-embedded situated practices)을 통해 실현된다.
최근 학술 연구에서는 디지털 주권을 단순한 기술적 독립을 넘어선 규범적 프레임워크로 발전시키고 있다. 이러한 접근은 취약성과 자유를 지향하는 규범적 틀의 일부로서 디지털 주권을 위치시키며, 긴장과 모순에 열려있고 민감한 거버넌스 접근법을 제시한다.
유럽의 디지털 주권 담론에서는 개인 권리와 프라이버시 보호에 중점을 둔 반면, 중국은 국가 중심적 접근을 통해 사이버 주권 개념을 발전시켰다. 이러한 차이는 각국의 정치적 우선순위, 이해관계, 그리고 관점에 의해 형성된 서로 다른 데이터 거버넌스 모델을 반영한다.
권력 구조론과 AI 거버넌스:
룩스의 3차원적 권력 이론에 따른 분석
현대 AI 거버넌스에서 국가와 기업이 구축하는 지배구조는 스티븐 룩스(Steven Lukes)의 3차원 권력 이론을 통해 분석할 때 새로운 차원의 복잡성을 드러낸다. AI 시스템이 단순한 기술적 도구를 넘어 사회 전반의 권력 구조를 근본적으로 재편하는 구조적 힘으로 작동하면서, 다음의 세 차원에서 동시에 작동하는 다층적 권력 구조를 형성하고 있다.
첫째, 도구적 권력(instrumental power)으로서 정부가 AI 기술을 직접 활용하는 것,
둘째, 구조적 권력(structural power)으로서 AI가 정부의 감시 능력을 강화하는 것,
셋째, 담론적 권력(discursive power)으로서 AI를 통한 여론 형성과 정보 통제이다.
1. 도구적 권력(Instrumental Power): AI의 직접적 정책 도구화
도구적 권력은 정부가 AI 기술을 직접적인 정책 도구로 활용하여 특정 목적을 달성하는 능력을 의미한다. 이는 전통적인 권력 이론에서 말하는 '어떤 것을 하는 권력(power to)'의 개념과 일치하며, 루크스의 1차원 권력인 공개적 의사결정에서의 권력 행사와 연관된다.
실증적 적용 사례
AI의 도구적 권력 활용은 전 세계적으로 다양한 형태로 나타나고 있다. 미국에서는 연방기관들이 행정 효율성 증대, 정책 결정 지원, 공공 서비스 개선 등의 목적으로 AI를 활용하고 있으며, 이는 정부 운영의 디지털화와 자동화를 통한 직접적인 권력 행사의 사례를 보여준다.
중국의 경우 '알고리즘 국정론(Algorithmic Statecraft)'을 통해 AI를 국가 운영의 핵심 도구로 위치시키고 있다. 이는 AI 기반 거버넌스가 국내 통제뿐만 아니라 지정학적 영향력 확장의 전략적 수단으로 활용되고 있음을 보여준다.
비인간 행위성(Nonhuman Agency)의 등장
학술적으로 도구적 권력은 AI 시스템이 정부의 의도와 가치를 기계적으로 반영하지 않고 독립적으로 작동할 수 있는 '비인간 행위성(nonhuman agency)'의 개념과 연결된다. 이는 전통적인 주인-대리인 이론을 넘어서는 새로운 권력 관계의 출현을 시사하며, AI 시스템이 단순한 도구를 넘어 준자율적 행위자로 기능할 수 있음을 의미한다.
현대 AI 시스템은 자동화를 통해 새로운 형태의 비인간 행위성을 생성하고 있으며, 이는 더 많은 인지적 처리 과정이 기계로 이전되면서 나타나는 현상이다. 플랫폼과 데이터는 우리보다 우리 자신을 더 잘 안다고 주장하며, 넷플릭스가 우리의 영화 취향을 알고, 스포티파이가 다음 앨범을 결정하는 것이 그 예시이다.
2. 구조적 권력(Structural Power): AI 감시 체계와 사회 구조 재편
구조적 권력은 AI가 정부의 감시 능력을 강화하고 사회 전반의 권력 구조를 재편하는 능력을 의미한다. 이는 미셸 푸코(Michel Foucault)의 권력/지식 이론과 깊은 연관성을 가지며, 권력이 어디에나 존재하며 담론, 지식, '진리의 체계'에 체현되고 실행된다는 개념의 디지털적 확장으로 이해될 수 있다.
알고리즘적 권위(Computational Authority)의 4가지 차원
최신 이론에서 구조적 권력은 '알고리즘적 권위'라는 새로운 형태의 권력으로 개념화되고 있다. 알고리즘적 권위는 "알고리즘이 인간의 행동을 지시하고 어떤 정보가 진실로 간주될지에 영향을 미치는 정당한 권력"으로 정의되며, 네 가지 주요 차원에서 작동한다.
- 불투명한 강제(Opaque Coercion): AI 시스템의 의사결정 과정이 블랙박스화되어 있어 개인이 그 작동 메커니즘을 이해할 수 없는 상태에서 권력이 행사되는 것이다. 이는 전통적인 투명성과 책임성의 원칙에 도전하는 새로운 형태의 권력 행사 방식이다.
- 계산적 권위(Computational Authority): AI 시스템이 인간과 유사한 추론 능력을 갖춘 것으로 인식되어 그 판단이 권위를 갖게 되는 현상이다. 이는 AI의 인지적 능력에 대한 사회적 인정이 새로운 형태의 권위 구조를 만들어내는 과정을 보여준다.
- 구조적 조건화(Structural Conditioning): AI 시스템이 사회 구조 전반에 내재화되어 개인의 선택과 행동을 조건화하는 것이다. 이는 AI가 사회 제도와 규범에 깊숙이 통합되면서 개인의 자율성에 미치는 영향을 의미한다.
- 데이터 기반 통치성(Data-driven Governmentality): 빅데이터와 AI를 통해 인구 집단을 통치하는 새로운 형태의 권력 행사이다. 이는 푸코의 생체권력(biopower) 개념의 디지털 확장으로 이해될 수 있다.
스마트 권위주의와 감시 자본주의
중국의 'City Brain' 시스템은 구조적 권력의 대표적 사례로, AI와 클라우드 컴퓨팅을 통해 전면적인 정밀 통제를 실현하여 '스마트 권위주의'로의 전환을 가능하게 한다. 이는 전통적인 물리적 강제에 의존하는 권위주의를 AI 기반의 정교한 억압 모델로 업그레이드하는 것을 의미한다.
슈보프(Zuboff)의 감시 자본주의 이론은 구조적 권력의 또 다른 차원을 제시한다. 감시 자본주의는 민주주의와 양립할 수 없는 제로섬 역학을 만들어내며, 구글, 애플, 페이스북, 아마존, 마이크로소프트 등 거대 기업들이 대부분의 디지털 정보와 통신 공간에 대한 과점적 통제를 행사하는 포괄적인 정치-경제적 제도 질서를 구성하고 있다.
팬옵티콘적 감시와 생체권력의 디지털화
AI 시스템은 팬옵티콘적 감시 메커니즘을 통해 지속적인 관찰과 통제를 가능하게 한다. 이는 푸코가 제시한 감시 사회의 개념이 디지털 기술을 통해 현실화되는 과정을 보여준다. 생체권력(biopower)의 디지털 확장으로서 AI는 인구 집단의 관리와 통제에 활용되며, 개인의 행동 패턴과 선호도를 예측하고 조작하는 새로운 형태의 권력을 행사한다.
3. 담론적 권력(Discursive Power): AI를 통한 진리 생산과 정보 통제
진리의 정치학과 AI
담론적 권력은 AI를 통한 여론 형성과 정보 통제 능력을 의미하며, 이는 푸코의 '진리의 정치학(politics of truth)' 개념과 직결된다. AI 시스템은 단순히 정보를 처리하는 것을 넘어 '진리'를 생산하고 유통시키는 권력을 행사한다.
알고리즘 공론장과 담론 조정
빅테크 기업들의 집중된 알고리즘 권력이 민주적 공론장에 미치는 영향이 주목받고 있다. 알고리즘은 디지털 공론장에서 사용자 콘텐츠를 조정하고, 어떤 담론이 누구에게 더 가시적일지를 결정하며, 디지털 공론장 참여 방식에 대한 인센티브를 형성한다. 이러한 집중된 권력은 전통적인 국가 규제나 시장 메커니즘만으로는 적절히 통제하기 어려운 새로운 형태의 권력 구조를 만들어낸다.
언어학적 전환과 거버넌스 위험
AI 거버넌스 연구에서는 언어가 중립적이지 않으며 이해를 프레임화하고, 권력을 구조화하며, 거버넌스를 형성한다는 관점이 확산되고 있다. '사이버보안', '인공지능'과 같은 용어들이 단순한 의미론적 특이점이 아니라 인간의 행위성을 모호하게 하고, 기대를 부풀리며, 책임을 왜곡시키는 거버넌스 위험을 수반한다고 분석된다.
특히 AI 담론에서 '정렬(alignment)', '블랙박스(black box)', '환각(hallucination)' 등의 은유들이 적대적이고, 신비화하거나, 지나치게 기술적인 가정들을 거버넌스 구조에 내재화시킨다는 비판이 제기되고 있다.
4. 권력의 혼종화와 공적-사적 권력의 얽힘
하이브리드 거버넌스의 등장
현대 AI 거버넌스에서는 국가와 기업 간의 권력 경계가 모호해지는 '공적-사적 권력의 얽힘(entanglements of public and private power)' 현상이 나타난다. 이는 기술 기업이 국가를 대체하는 것이 아니라, AI 시스템이 글로벌 거버넌스에 내재화되어 공적-사적 협력과 경쟁의 이중적 역학을 만들어내는 것을 의미한다.
하이브리드 거버넌스는 정부 후원 기업과 다중이해관계자 관리, 국제 시장에서 경쟁하는 공적 자금 조달 기업, 상당한 민간 투자를 받는 연방 인가 기관 등 다양한 형태로 나타난다. 이는 공공 부문의 골격에 민간 부문의 DNA를 가진 새로운 형태의 거버넌스 구조를 의미한다.
국가-기업 하이브리드 주권 구조
알고리즘 주권 연구에서는 AI 기반 외교의 확산이 국가의 주권적 기능에 대한 독점을 도전하고, 결과적으로 국가-기업 주권으로 하이브리드화되고 분절화된 주권 구조를 야기한다고 분석한다. 사적 기술 기업들이 외교용 AI 도구의 설계와 배치에서 차지하는 역할이 증가하면서 전통적인 국가 중심의 주권 개념이 재구성되고 있다.
알고리즘 주권의 다양한 모델
알고리즘 주권은 규제적 모델, 권위주의적 수출 모델, 군사-산업 모델 등 다양한 형태로 나타난다. 각국의 서로 다른 접근법은 AI 기술의 개발과 배치에서 국가의 역할에 대한 근본적으로 다른 철학을 반영한다.
유럽연합은 규제적 모델을 통해 '인간 중심 AI'를 표방하며 미중과 차별화된 접근법을 추구하고 있다. EU AI Act는 AI 기술의 사용과 개발에 대한 포괄적인 법적, 기술적 의무와 제한을 부과하며, 위반 시 최대 전 세계 연간 매출의 7%에 달하는 벌금을 부과할 수 있다.
중국은 권위주의적 수출 모델을 통해 감시 기술의 수출과 '사이버 주권' 원칙의 옹호를 통해 자유민주주의 이상에 도전하고 글로벌 거버넌스 시스템의 분열을 야기할 수 있다. 중국의 접근법은 AI 기반 거버넌스를 국내 통제와 지정학적 영향력의 전략으로 결합하고 있다.
권력 분석의 실증적 사례
- 중국의 네오스타티스트 모델
중국은 명시적으로 권위주의적 자본주의를 구축하고 있으며, 이는 중국 공산당이 거시적 정치권력과 이러한 시장에 대한 법적 주권을 포기하지 않으면서도 시장의 미시적 인식 조정 기능을 수용할 수 있게 하는 상호 보완적 금융 기술의 배치를 통해 촉진되고 있다. 블록체인 기반 통화와 빅데이터 기반 신용 평가 시스템이 중국 권위주의적 자본주의의 새로운 핀테크 기반을 보여준다.
- 유럽의 윤리 기반 접근법
유럽연합은 '인간 중심 AI'를 표방하며 미중과 차별화된 접근법을 추구하고 있다. EU AI Act는 AI 기술의 사용과 개발에 대한 일련의 법적, 기술적 의무와 제한을 부과하며, 위반 시 최대 3천 5백만 유로 또는 글로벌 연간 매출의 7%에 달하는 벌금을 부과할 수 있다. 이는 규제를 통한 구조적 권력 행사의 새로운 모델을 제시한다.
5. 설계 기반 거버넌스와 비인간 정체성
설계 기반 거버넌스의 특징
AI 시스템의 도입은 '설계 기반 거버넌스(Design-based Governance)'라는 특별한 형태의 권력 행사 방식을 만들어낸다. 이는 사전에(ex ante) 선택 아키텍처를 통해 권력이 행사되며, 거버넌스 행위자들의 낮은 수준의 개입으로도 효과적인 통제가 가능하다는 특징을 보인다. 알고리즘은 효율성을 증가시키는 동시에 거버넌스 행위자들의 재량권을 감소시키는 양면적 효과를 나타낸다.
비인간 정체성(Non-Human Identities)의 확산
AI 에이전트의 급속한 확산으로 인해 기업 환경에서 비인간 정체성(NHIs)의 수가 급격히 증가하고 있다. 많은 기업들이 현재 인간 사용자 1명당 최소 45개의 기계 정체성을 관리하고 있으며, 이는 전통적인 정체성 관리 시스템에 새로운 도전을 제기하고 있다.
AI 에이전트들은 인간 직원과 유사한 기능을 수행하지만, 패스워드 대신 API 키, 관리 정체성, 서비스 주체 등 기계 간 인증 방법에 의존한다. 이들은 의도를 갖지 않고 순수하게 논리와 목표에 기반하여 작업을 수행하며, 맥락적 인식이 부족하여 불완전하거나 모호한 맥락을 잘못 해석할 수 있다.
6. 국제적 차원의 AI 거버넌스와 권력 역학
AI 외교와 알고리즘 주권
AI 외교는 국가들이 인공지능과 관련하여 국제 관계를 관리하는 방식을 의미한다. 이는 AI가 외교의 주제이자 도구이며, 지정학적 환경 자체를 변화시키는 힘이라는 세 가지 차원에서 이해될 수 있다. AI는 영토, 군대, 경제력으로 정의되던 전통적인 권력 개념에 데이터와 지능 처리 능력이라는 새로운 요소를 추가하고 있다.
미중 간의 전략적 경쟁은 종종 "AI 지배력을 위한 경주"로 묘사되지만, 이는 단순한 경주를 넘어 권력 구조의 심층적 재편을 의미한다. 상업적 실험실에서의 돌파구가 즉각적인 군사적, 안보적 함의를 가질 수 있다는 "이중 용도" 딜레마는 외교관들에게 전례 없는 속도의 도전을 제기하고 있다.
글로벌 AI 규제 프레임워크의 분화
각국의 AI 규제 접근법이 서로 다르게 발전하면서 글로벌 AI 거버넌스의 분절화가 진행되고 있다. 유럽연합의 AI Act, 미국의 AI 행정명령, 중국의 AI 규제 등이 서로 다른 가치와 이해관계를 반영하면서 국제 AI 거버넌스 패러다임 형성에 영향을 미치고 있다.
중국은 2021년부터 생성형 인공지능, 알고리즘 추천, 딥 신시스 기술을 관리하는 여러 규정을 시행했으며, 서비스 제공업체가 서비스 제공 전에 알고리즘을 신고하고 지역 CAC와 보안 평가를 완료해야 한다는 엄격한 의무를 부과하고 있다.
브라질과 같은 신흥국들도 AI 주권 확보를 위한 자체적인 전략을 개발하고 있다. 브라질의 2024년 인공지능 계획(PBIA)은 알고리즘, 데이터, 컴퓨팅 역량, 교육, 전력, 사이버보안 등 6개 영역에서 AI 주권 확보를 위한 구체적인 투자 계획을 제시하고 있다.
7. 민주적 통제와 공적 AI의 대안
공적 AI와 민주적 대안
AI 시스템의 권력 집중에 대한 우려가 증가하면서 공적 AI(Public AI)가 민주적 대안으로 제시되고 있다. 현재 가장 강력한 AI 시스템들이 소수의 민간 기업들에 의해 개발되고 통제되고 있는 상황에서, 공적 AI는 더 큰 투명성, 중요 인프라에 대한 개방적 접근, 그리고 공공선에 대한 강화된 초점을 기반으로 하는 대안적 접근법을 제시한다.
공적 AI 전략의 핵심은 선도적인 독점 시스템에 근접한 AI 역량을 가진 최소 하나의 완전한 오픈소스 모델의 영구적 존재를 보장하는 것이다. 이러한 AI 모델 없이는 공적 행위자들의 행동 능력이 제한될 것이라는 인식에 기반한다.
민주주의 수준 프레임워크와 참여적 거버넌스
AI 개발, 정렬, 거버넌스에 관련된 조직들의 일방적 권력에 대한 우려가 증가하면서, 민주적 과정을 통해 중요한 결정에 대한 공적 참여와 신뢰를 개선하려는 시도들이 나타나고 있다. '민주주의 수준(Democracy Levels)' 프레임워크가 제안되어, 특정 영역에서의 결정이 얼마나 민주적으로 이루어지는지를 평가하는 새로운 접근법이 개발되고 있다.
Meta의 Community Forums, Anthropic의 Collective Constitutional AI 등의 파일럿 프로젝트들이 민주적 AI 거버넌스의 유망한 방향을 제시하고 있지만, 이러한 과정들을 평가할 수 있는 표준화된 프레임워크는 아직 부족한 상황이다.
참고. 취약성(Vulnerability)을 지향하는 AI 거버넌스
"취약성을 지향하는 AI 거버넌스"는 전통적인 위험 기반 접근법에서 벗어나 취약성 중심 프레임워크로 전환하는 새로운 AI 거버넌스 패러다임을 의미한다. 이는 AI 시스템이 야기할 수 있는 추상적인 위험을 목록화하는 것이 아니라, 실제로 피해를 받을 수 있는 사람들, 공동체, 시스템에 우선순위를 두고 더 반응적인 거버넌스 프레임워크를 구축하는 접근법이다.
전통적 위험 기반 접근법의 한계
기존 위험 관리의 문제점
전통적인 AI 거버넌스는 위험을 식별하고 완화하는 데 중점을 두었지만, 이러한 접근법은 본질적인 한계를 가지고 있다. 위험 기반 프레임워크는 정량화 가능하고 즉각적인 위협(예: 보안 침해, 데이터 손실)을 우선시하는 반면, 지속적인 프라이버시 침해와 같은 시스템적 또는 사회적 피해는 측정하기 어려워 간과되기 쉽다.
기술 발전 속도와의 괴리
AI 거버넌스에서 중요한 문제는 기술과 사용 사례의 급속한 진화이다. 거버넌스 팀과 정책 입안자들이 이전에 생각해보지 못한 기술로부터 나타나는 새로운 위협에 항상 뒤쫓아가는 상황을 만들어내는 기술관료적 접근법이 되기 쉽다.
취약성 기반 접근법의 핵심 원리
적응적 거버넌스 모델
취약성 기반 AI 거버넌스는 더욱 설득력 있는 접근법으로, 위험을 목록화하는 대신 누가 어디서 영향을 받는지에 우선순위를 두어 더 반응적인 거버넌스 프레임워크를 만든다. 전통적인 위험 관리가 종종 사후적인 반면, 취약성 기반 모델은 본질적으로 적응적이다.
인간 존엄성과 복지 중심
이 접근법은 정책이 새로운 위험이 나타날 때 진화할 수 있도록 하며, 가장 영향을 받는 공동체, 개인, 사회에 초점을 맞춘다. AI 전략은 추상적인 피해 방지가 아니라 실제적이고 구체적인 방식으로 인간의 존엄성, 복지, 기회를 보호하는 것에 관한 것이다.
취약성과 자유를 지향하는 규범적 프레임워크
디지털 주권의 새로운 이해
최신 학술 연구에서는 디지털 주권이 단순히 절대적 권력이 아닌, 취약성과 자유를 지향하는 규범적 프레임워크의 일부가 될 수 있다고 제시한다. 이러한 프레임워크는 긴장과 모순에 열려있고 민감하며, 이를 디지털 실천의 거버넌스와 규제에 대한 새로운 접근법의 시작점으로 지속적으로 활용한다.
세 가지 주권 개념의 통합
디지털 주권을 포괄적으로 이해하기 위해서는 세 가지 측면을 구분해야 한다: (1) 절대적 권력으로서의 주권, (2) 체현된 권력으로서의 주권, (3) 제도적 권력으로서의 주권. 이러한 세 측면을 포괄하는 디지털 주권은 취약성과 자유 주장을 향해 규범적으로 지향하는 프레임워크의 일부가 될 수 있다.
실제 적용 사례와 구현 방안
교육 분야 AI 도구 사례
취약성 중심 프레임워크는 다양한 맥락에서 위험을 완화할 책임이 누구에게 있는지를 명확히 한다. 예를 들어, 아동을 위한 개인화된 학습 경험을 제공하는 새로운 AI 기반 교육 도구의 경우, 학습 습관과 정신 건강에 대한 민감한 데이터를 수집하거나 중독성을 가지거나 내향성과 사회적 배제로 이어질 수 있는 미묘한 위험을 가진다.
케어 로봇 분야의 취약성 윤리
케어 로봇 분야에서는 위험 윤리에서의 "취약성"이 인간 기관의 윤리적 문제가 의존성 증가와 친밀감 방해에서 비롯된다는 것을 보여준다. 이는 본질적으로 윤리적 위험 노출 정도의 증가와 행위성 제한에 의해 야기된다.
정책적 함의와 미래 방향
윤리적 취약성의 운영화
윤리적 취약성은 AI 시스템의 한계, 불확실성, 내재된 편향을 의도적으로 인정하는 패러다임이다. AI 거버넌스 프레임워크에 투명성, 적응성, 자기 성찰을 내재화함으로써 윤리적 취약성은 AI 기술에서 신뢰, 책임성, 회복력을 촉진하고자 한다.
역동적 AI 거버넌스의 필요성
취약성을 강점이 아닌 약점으로 프레임하면서, 윤리적 취약성은 AI 시스템이 더 책임감 있고 인간적으로 작동할 수 있게 한다. 이는 기존의 경직된 통제에서 적응적 거버넌스로의 전환을 의미한다.
"취약성을 지향하는 AI 거버넌스"는 AI 시스템이 사회에 미치는 영향을 보다 인간 중심적이고 적응적으로 관리하려는 새로운 패러다임이다. 이는 단순히 기술적 위험을 완화하는 것을 넘어서, 실제로 피해를 받을 수 있는 취약한 계층과 시스템을 보호하는 데 초점을 맞춘 더욱 포용적이고 반응적인 거버넌스 접근법을 의미한다. 이러한 접근법은 AI의 발전과 함께 지속적으로 진화하며, 인간의 존엄성과 자유를 보장하면서도 기술 혁신의 이익을 극대화할 수 있는 방향을 제시한다.
