접근권과 설명권이 분배의 다음 전장이 된다
우리는 권리를 주로 과거의 언어로 이해합니다. 표현의 자유, 재산권, 노동권, 교육권, 생존권 같은 목록입니다. 이 권리들은 산업사회가 만들어낸 문제에 대한 답이었습니다. 그러나 AGI 시대에는 문제가 바뀝니다. 노동이 약해지고 임금 기반 분배가 흔들리며, 지능 인프라가 사회의 핵심 기반이 되고, 의사결정이 자동화될수록 권리의 중심축도 이동합니다. AGI 시대의 불평등은 소득의 격차만이 아니라 접근권의 격차로 나타날 수 있습니다. 그래서 새로운 권리의 목록이 필요합니다. 우리는 무엇을 권리로 선언해야 하는가. 그리고 그 권리를 어떤 제도로 보장해야 하는가. 이 장은 기술 윤리의 이야기가 아니라 정치경제학의 이야기입니다. 권리의 설계는 곧 분배의 설계이기 때문입니다.
권리는 원래 희소성에 대응해 만들어집니다. 토지가 희소하면 토지권이 생기고, 노동이 희소하면 노동권이 중요해집니다. 그런데 앞서 말했듯 AGI 시대에는 희소성이 이동합니다. 지식과 문서 생산은 풍부해지지만, 전력과 컴퓨팅, 신뢰와 인증, 모델 접근, 데이터와 표준은 더 희소해질 수 있습니다. 희소성이 이동하면 권리도 이동합니다. 즉 새 권리의 필요성은 기술 발전의 부산물이 아니라, 새로운 희소성의 지도를 반영한 제도적 요구입니다. 그래서 먼저 질문을 바꿔야 합니다. 무엇이 새로 희소해지는가. 그 희소성을 누가 통제하는가. 그리고 통제의 결과가 시민의 삶에 어떤 방식으로 영향을 주는가. 이 세 질문이 권리 설계의 출발점입니다.
저는 AGI 시대의 권리를 다섯 묶음으로 정리하고 싶습니다. 접근권, 설명권, 이의제기권, 데이터권, 그리고 기본선 권리입니다. 각각이 따로 존재하는 것이 아니라 서로 얽혀 하나의 시민권 체계를 구성합니다.
첫째, 접근권입니다. 접근권은 단순히 인터넷을 쓸 권리를 넘어섭니다. AGI 시대의 핵심은 지능 인프라에 대한 접근입니다. 교육과 취업, 창업, 건강 관리, 행정 서비스, 심지어 정치 참여까지 다양한 활동이 지능 시스템과 결합될수록, 지능에 접근하지 못하는 사람은 구조적으로 뒤처질 수 있습니다. 과거 문해력 격차가 삶을 갈랐다면, 미래에는 지능 접근 격차가 삶을 가를 수 있습니다. 그래서 접근권은 경제적 권리이자 민주주의적 권리입니다. 이 접근권을 어떻게 정의할 것인가가 핵심입니다. 최소한의 모델 접근을 보장할 것인가, 특정 용도 예를 들어 교육과 의료, 공공 서비스에서는 무료 혹은 저비용 접근을 보장할 것인가, 지역과 소득에 따라 접근 비용이 차별되지 않도록 할 것인가 같은 설계가 필요합니다. 접근권이 없으면 기본소득이 있어도 실질적 기회가 생기지 않을 수 있습니다. 현금은 선택의 자유를 주지만, 선택 가능한 옵션의 목록이 줄어들면 자유는 형식이 됩니다.
접근권을 보장하는 방법은 크게 두 가지입니다. 하나는 공공 인프라 방식입니다. 공공이 일정 수준의 지능 서비스를 제공하거나, 공공이 구매자로서 대규모 계약을 맺어 시민에게 제공하는 방식입니다. 다른 하나는 시장 규제 방식입니다. 민간이 제공하되, 최소 서비스 수준과 가격 상한, 차별 금지 같은 규칙을 통해 보편 접근을 보장하는 방식입니다. 어느 쪽이든 중요한 것은 접근권이 단지 복지의 문제가 아니라 경쟁 정책과 인프라 정책의 문제라는 점입니다. 접근권은 시장을 통해 제공되더라도, 자연독점적 성격을 가진 인프라 영역에서는 공공성이 필연적으로 들어옵니다.
둘째, 설명권입니다. 설명권은 자동화된 의사결정이 내 삶을 좌우할 때, 왜 그런 결정이 내려졌는지 알 권리입니다. AGI가 정책과 금융, 보험, 채용, 교육, 복지, 치안 같은 영역에서 의사결정을 보조하거나 대체할수록, 개인은 보이지 않는 점수와 모델의 판단에 의해 분류될 수 있습니다. 대출이 거절되고, 보험료가 오르고, 복지 지원에서 제외되고, 채용에서 탈락할 수 있습니다. 이때 설명권이 없다면 개인은 자신이 왜 불리한 처지에 놓였는지 이해할 수 없습니다. 이해할 수 없으면 개선할 수 없습니다. 그리고 개선할 수 없으면 사회적 이동은 막힙니다. 설명권은 단지 투명성의 문제가 아니라 기회의 문제입니다.
그러나 설명권은 기술적으로도, 제도적으로도 어렵습니다. 모델이 복잡해질수록 인간이 이해할 수 있는 형태로 설명하기가 어렵고, 기업은 영업비밀을 이유로 설명을 제한하려 할 수 있습니다. 또한 설명이 너무 단순하면 실제 원인을 왜곡할 수 있습니다. 그래서 설명권은 단순히 모델 내부를 공개하라는 요구가 아니라, 결과에 영향을 준 주요 요인과 절차적 정당성을 공개하라는 요구로 설계되어야 합니다. 예를 들어 어떤 데이터 범주가 사용되었는지, 어떤 기준으로 평가되었는지, 어떤 이의제기 절차가 있는지, 사람의 검토가 있었는지 같은 요소가 포함됩니다. 설명권은 인간이 모델을 완전히 이해하는 권리가 아니라, 시민이 제도의 공정성을 판단할 수 있는 최소한의 정보에 접근할 권리입니다.
셋째, 이의제기권입니다. 설명권이 왜를 알 권리라면, 이의제기권은 바꿀 권리입니다. 자동화된 결정은 오류를 낳을 수 있고, 편향을 내포할 수 있으며, 맥락을 놓칠 수 있습니다. 특히 개인의 삶은 데이터로 완전히 환원되지 않습니다. 그러므로 시민은 자동화된 결정에 대해 사람에게 재심사를 요청할 권리, 데이터의 오류를 수정할 권리, 불리한 결정이 반복될 때 제도적 구제를 받을 권리가 필요합니다. 이의제기권은 법적 권리이자 행정적 권리이며, 민주주의적 권리입니다. 왜냐하면 이 권리가 없으면 시스템은 스스로 강화되는 방향으로 굳어질 수 있기 때문입니다. 한 번 불리한 분류를 받은 사람이 계속 불리한 데이터만 축적하게 되고, 그 데이터가 다시 불리한 결정을 강화하는 피드백이 생길 수 있습니다. 이 피드백을 끊는 것이 이의제기권의 역할입니다.
이의제기권을 현실적으로 작동시키려면 조건이 있습니다. 절차가 너무 복잡하면 사실상 권리가 되지 못합니다. 비용이 높으면 부자만 쓸 수 있습니다. 시간이 오래 걸리면 이미 피해가 발생합니다. 따라서 이의제기권은 신속성과 접근성, 비용의 낮음이 핵심입니다. 또한 집단적 구제도 중요해집니다. 개인이 혼자 싸우기 어려운 구조에서는 집단소송, 공익 감사, 독립 감독기관이 필요합니다. 이의제기권은 개인의 권리로 보이지만, 사실은 사회적 권력 균형을 만드는 장치입니다.
넷째, 데이터권입니다. AGI 시대의 권력은 데이터에서 나오지만, 데이터권 논의는 종종 개인정보 보호 수준에서 멈춥니다. 그것만으로는 부족합니다. 데이터권은 보호권인 동시에 참여권이어야 합니다. 첫째, 개인은 자신의 데이터가 어떻게 수집되고 사용되는지 알 권리가 있습니다. 둘째, 원치 않으면 사용을 제한할 권리가 있습니다. 셋째, 자신의 데이터가 경제적 가치를 만들 때 그 가치가 어떻게 배분되는지에 대해 질문할 권리가 있습니다. 이것이 참여권의 핵심입니다. 데이터는 개인이 만들지만, 가치는 기업이 가져가는 구조가 고착되면, 데이터권은 단지 보호에 머물고 분배 문제는 해결되지 않습니다. 앞서 말한 소유 구조의 문제는 데이터에서도 반복됩니다. 데이터의 소유와 권리가 어떻게 설계되는지에 따라, AGI 시대의 배당 경로가 달라질 수 있습니다.
데이터권의 현실적 대안 중 하나는 데이터 거버넌스의 집단화입니다. 개인이 하나씩 협상하는 것은 불가능합니다. 그래서 집단적 데이터 신탁이나 데이터 협동조합 같은 형태를 상상할 수 있습니다. 사회가 일정한 규칙을 정해 공익적 데이터 이용을 허용하고, 상업적 이용에서는 일정한 사용료나 기여금을 부과해 공공 재원이나 사회적 배당으로 환류하는 방식입니다. 이는 단지 개인정보 보호가 아니라, 데이터라는 생산요소의 분배 구조를 설계하는 작업입니다.
다섯째, 기본선 권리입니다. 기본선 권리는 기존의 생존권을 확장한 개념입니다. AGI 시대에는 단지 먹고 사는 문제가 아니라, 최소한의 인간다운 기능을 수행할 권리가 중요해집니다. 안정적인 주거, 기본 의료, 평생 학습, 디지털 접근, 그리고 신뢰할 수 있는 정보에 접근할 권리입니다. 이 기본선은 현금만으로 보장되지 않을 수 있습니다. 앞서 이야기했듯 현금은 공급 제약을 해결하지 못합니다. 그러므로 기본선 권리는 공공 서비스와 인프라로 제공되어야 할 가능성이 큽니다. 이것은 복지 확대가 아니라 사회 안정의 기반입니다. 노동이 약해질수록 사회는 기본선을 더 강하게 요구할 수밖에 없습니다. 기본선이 무너지면 포스트 노동 사회는 해방이 아니라 붕괴가 됩니다.
이 다섯 묶음의 권리를 종합하면, AGI 시대의 시민권은 크게 두 축으로 재편됩니다. 하나는 접근과 분배의 축입니다. 지능 인프라와 공공 서비스, 사회적 배당을 통해 기회와 생활의 기반을 보장하는 축입니다. 다른 하나는 절차와 통제의 축입니다. 자동화된 의사결정에 대해 설명을 요구하고 이의를 제기하며 책임을 묻는 축입니다. 전자는 풍요를 공유하기 위한 장치이고, 후자는 권력 집중을 견제하기 위한 장치입니다. 둘 중 하나만 있으면 체계는 불완전합니다. 접근권만 있고 통제권이 없으면 권력은 인프라 소유자에게 집중되고, 통제권만 있고 접근권이 없으면 다수는 경쟁에서 탈락한 채 규칙만 보게 됩니다. 그래서 두 축은 함께 설계되어야 합니다.
AGI 시대에는 권리의 목록이 바뀝니다. 불평등은 소득의 격차만이 아니라 지능 인프라와 신뢰, 정보, 기회에 대한 접근권의 격차로 나타날 수 있습니다. 따라서 새로운 시민권 체계는 접근권, 설명권, 이의제기권, 데이터권, 기본선 권리를 중심으로 재구성될 필요가 있습니다. 이것은 윤리의 문제가 아니라 정치경제의 문제입니다. 권리는 분배를 규정하고, 분배는 사회의 안정과 민주주의의 지속 가능성을 규정합니다. 기술이 강해질수록 권리의 설계는 더 중요해집니다. 기술을 통제하는 것이 아니라, 기술이 만든 권력을 통제하는 권리를 설계해야 합니다.