인공지능과 민주주의
인공지능시대 시민 참여민주주의 강화를 위한 고민들
기술과 함께 전환되는 사회
변화하는 세상과 갈등 구조 심화
우리 인류는 수 없는 변화 속에서 기술과 사회, 경제, 환경, 정치등 변화와 성장에 의해 시대에 따라 전 세대와 다른 형태 사회로 전환되며 살아왔다. 그리고, 이러한 변화는 최근 기술 변화로 더욱 빨라지고 있다. 예를 들어 과거 산업화 시기 이전과 현대를 비교하면 변화 속도는 지난 몇 세기에 비해 비교 못할 만큼 빠르다고 할 수 있다.
우리는 인류사회가 변화를 통해 경험한 진실은 기술은 기술만으로 변화하는 것이 아니라 기술에서 촉발된 경제, 환경과 정치 제도, 체제 변화와 사회 문화 전반 변화를 이루게 된다는 점이다. 지금 우리가 경험하는 수많은 기술등장은 다음 세대 혹은 우리 시대에 다른 형태 사회 체계 전환을 예견하고 있다.
이러한 경험은 인류 역사 흐름속에서 많은 경험을 했었기에 오늘날 기술에 의한 변화흐름도 어느 정도 생각할 수 있다.
그런 변화 과정에서 반드시 특정 집단의 영향력 변화와 구조 변화는 필연적 갈등을 만든다.
그것이 현재 우리 사회에서 벌어지는 여러 갈등 현상이 보여주는 진실이라고 할 수 있다.
https://brunch.co.kr/@spacecontext/115
이와 관련 STEEP 분석을 통해 세상을 이해하기 위한 관점이 담기 내용 참조하면 좋을 것 같다.
민주주의도구로서 디지털 정보기술의 우려와 기대
디지털 정보기술은 인간에게 민주주의 도구에 적합한가?라는 의문을 가지게 된다.
그리고 현재 우리 시대는 정보기술에 의해 긍정적 측면과 부정적 측면 모두를 경험했다.
그러한 긍정적 측면에는 인터넷 기술을 통해 소통이 많아졌다는 것이고, 이러한 소통을 활성화에 따라 광고수익을 올리는 소셜미디어 기업의 경우 알고리즘기반 데이터 버블을 형성하다 보니 양 극단으로 나눠진 여론지형과 갈등상황이 극대화된다.
이러한 현상으로 나타난 또 다른 특징은 주류언론과 반대성향 언론이 활동할 지대가 소셜미디어를 통해 형성된다는 점이다.
재미있는 현상은 기성언론이 독재권력에 충실한 국가에서는 민주화를 위한 수단으로써 역할을 하기도 하지만, 반대로 기성언론이 일정 역할을 하는 국가에서는 그 반대 극단주의를 확산하는 수단으로 작동하게 된다. 이러한 현상은 각국에서 유사하게 나타나며 갈등요소로 확대되고 있다.
또한, 이러한 소셜미디어에 대한 여론 왜곡에 대한 이슈에 대응도 못할 사이 우리는 Chat GPT-3을 만나게 되었고, 개발자들 조차 인공지능에 두려움을 느끼게 되었다. 그러나 우리는 피할 수 없는 변화 속에 놓여 있는지 모른다.
EU 및 영국 등 인공지능 규제 검토 사항
세계 각국은 현재 인공지능 기술의 편리성을 인식함과 동시에 이로 인해 촉발할 위험성과 한계에 대한 인식하고 있다. 이와 관련 2018년부터 인공지능 유럽전략부터 시작하여 2020년에는 신뢰할 수 있는 인공지능 평가목록을 발표했다. 이후 매년 관련 인공지능 기술 발전에 따라가면서 백서 및 시민사회 논의까지 이뤄지고 있다.
2021년 4월 : EU집행위는 AI가 초래할 수 있는 사회적 위험을 예방하고 신뢰할 수 있는 AI기술 개발을 위해 유럽 인공지능법(EU AI Act) 제안
2023년 2월 : 티에리 브르통 EU 내부시장 담당 집행위원은 챗GPT와 같은 AI 설루션은 기업과 시민들에게 큰 기회가 될 거라는 점은 분명하지만, 리스크가 될 여지도 있기 때문에 중요 정보를 처리하는 AI 시스템은 규제가 필요성 언급.
2023년 3월 : 영국 인공지능 백서 발간 산업에서 AI의 안전하고 혁신적인 사용을 촉진하기 위해 고려해야 하는 / 안전, 보안 및 견고성 / 투명성 및 설명 가능성 /공정성 / 책임 및 거버넌스 / 경쟁 가능성 및 보상 등 5가지 원칙을 소개.
https://brunch.co.kr/@spacecontext/105
기술철학과 민주주의 구조를 따라가는 기술
우리는 기술에 대해 무비판적인 의존을 하기보다는 인류가 쌓아온 의사결정과 인문적 통찰을 기술활용에 도입해야 한다. 어떤 면에서 기술철학이라고도 할 수 있는 영역으로 기술 개발 단계부터 사회적 영향력을 고민한다는 것이다. 우리가 의식하지 못하는 곳에서도 인류의 인문학적 통찰이 기술에 반영된 사례를 본다.
사실 블록체인의 구조는 민주적 의사결정구조를 따라 만들었다. 또한 비트 코인이 나온 배경은 미국 서브프라임 모기지론사태에서 보여준 기득권 금융이 무너져도 자신들은 정부세금으로 호의호식하는 금융가들에 분노했던 누군가에 의해 어떤 자본권력에게도 속하지 않는 디지털 자본을 만들었다. 이러한 구조는 태생부터 기존 자본에 의한 공격이 예상됐기에 스스로 누군가에 의해 통제되지 않는 구조를 만든 것이 비트코인이다.
블록체인 기술이 가진 합의 알고리즘 및 검증, 동시 기록 프로세스그리고 블록체인 네트워크 구조에서 보듯 민주적 의사결정 구조를 가진 것이 특징이라고 할 수 있다.
블록체인의 경우 모든 노드에 동시에 보내거나, 작업을 증명하고 검증하는 구조는 투명성과 신뢰성을 구조에서 만들어 가는 방법을 구현했다.
이처럼 기술은 사회변화를 이루기 위한 도구로 만들어지기도 하지만 기술을 활용하는 다양한 주체에 의해 많은 왜곡과 훼손을 겪는다. 이처럼 기술은 어떤 가치를 추구함에 있어서도 수많은 도전과 왜곡을 겪어야 하는 숙명이 있다. 우리는 인공지능이라는 무서운 힘에 대해 불을 처음 맞이하는 원시인들처럼 경계와 함께 잘 사용하기 위한 고민을 해야 한다.
인간과 인공지능 간 협업
인공지능과 인간은 어떤 인식체계 속에서 협력할 수 있을까? 인간의 역할과 인공지능의 역할은 어떻게 구분되고 인간은 어느 수준까지 인공지능에 의존하는 것이 적정할까?
이러한 단초를 우리는 아래와 같이 인간 의식구조 피라미드를 통해 생각해 볼 수 있다. 의식 구조 피라미드에서 인식 및 기억, 지식 영역에 대해서는 현재 기술 기반 인공지능으로 구현이 가능한 영역이다.
이러한 정보를 통해 어떤 개인들은 주관성의 영역에서 그동안 개인의 경험 축적으로 인해 정보를 해석하는 각자의 관점이 형성된다.
이것이 바로 가치관과 비전과 같은 영역으로 확산되며, 현재로서는 수많은 사람들의 다양한 관점들이 나타나는 영역이라고 이해하면 좋을 것 같다.
출처 : Bill William E. Halal, PhD 논설객관성 영역은 그동안 소위 전문가 영역으로 알려졌던 것이지만 이러한 영역은 최근 인공지능으로도 구현 가능한 영역이 되어 가면서 정보의 진실이 중요해졌다. 정보가 왜곡되는 경우 잘못된 지식으로 왜곡된 주관성을 가지게 된다.
바로 이러한 점에서 우리는 인공지능을 형성하기 위한 학습정보 오류에 대한 검토가 필요한 이유라고 할 수 있다. 예를 들어 가짜뉴스로 학습된 경우 객관적 정보가 왜곡됨으로 인해 이로부터 형성되는 주관성 왜곡이 발생한다.
,
인공지능이 아무리 발전된다고 하더라도 진실 분별에는 한계가 있어 보인다. 따라서 정보 학습에서 왜곡을 방지하기 위한 인간의 개입이 필요하고 이를 통해 나온 지식을 기반으로 판단하는 주체도 인간이어야 한다.
즉 우리는 인공지능을 통해 지식영역에 대한 도움을 주는 수준이 되어야 하고 이들 지식에 대한 검증 주체 역시 인간이어야 한다. 이를 위해 인공지능이 도출한 결과에 대해 설명가능한 인공지능이라는 개념이 나온다.
우리가 의식구조 피라미드를 통해 우리가 그동안 주로 지식엘리트 층의 역할로 본 영역이 실은 인공지능에 의해 대체될 상황에 놓여 있다. 이분야에는 주로 변호사, 판사, 기자와 같은 영역과 직종이 해당할 수 있다.
그러나 그보다 상위계층에 해당하는 영역이 인간 주관성 영역이라고 볼 때 인공지능 시대를 맞이하면서 인간은 좀 더 인문학적 가치와 인간성회복을 지향을 해야 한다는 것을 알 수 있다.
또한, 이러한 의사결정에 영향을 미치는 왜곡된 가짜 정보에 대해 경계하고 진실을 찾아내는 역할은 여전히 인간이 해야 할 몫이다.
민주적 입법 사법시스템 전환과 인공지능 적용
인공지능 사법시스템
인공지능이 지식영역에서 가지는 강점 때문인지 벌써 인공지능 변호사, 인공지능 기자, 퍼실리테이터 등 과 같은 분야에 인공지능 적용 시도가 나타나고 있다. 이중 인공지능 기술은 비용대비 효과가 큰 영역에 빠른 도입이 될 가능성이 높아졌다. 특히, 변호사 비용이 부담스러운 사람들에게는 큰 기대가 아닐 수 없다.
세계 최초의 AI 변호사 ‘두낫페이’ (사진=두낫페이) 출처 : AI타임스(https://www.aitimes.com)이런 기술적용은 특징은 뜻하지 않는 변화를 불러올 가능성이 높아졌다.
특히, 변호사뿐 아닌 판사 영역에도 적용될 수 있다.
특히, 직업판사가 아닌 시민이 참여하는 재판에서 시민판사(게르만 모형) 혹은 배심원(앵글로색슨 모형)은 인공지능 도움을 받아 재판에서 시민으로서 재판에 참여하는 역할을 효과적으로 담당하여 제도 속에서 시민이 참여하여 시민 법감정에 따른 판결을 하도록 도와줄 수 있다.
사실 한국사회에서 이러한 기술이 제대로 사용되기 위해서는 제도 변화가 선행되어야 한다. 유럽에서 참심제(시민이 재판장이 되는 제도) 국가에서 시민판사들이 있고, 미국 같은 배심원제국가에서 배심원으로 참여하는 시민들이 많고 시민들의 법감정이 사법판결에 반영하기 위한 선진 사법제도라고 할 수 있다.
그러기 위해서는 한국에서도 유럽사회처럼 사법 구조 변화가 필요하지만 법률분야는 전관예우등으로 현재 한국사회 법조시장은 많은 비리와 불법이 판치는 왜곡되고 부패한 산업 구조라고 할 수 있다. 사실상 판결은 돈의 유무에 따라 결정 난다고 봐도 된다. 인공지능이 도입되기 전에 제도 선진화가 이뤄져야 하고 제도 선진화 이후 인공지능이 도입된다고 하더라도 최종적으로 인간의 책임하에 판단되고 결정이 되어야 한다는 것을 전제로 운영되어야 한다.
사법제도 측면에서도 긍정적 변화 구조를 생각해 본다면 억울한 약자에 속한 시민들에게도 공정한 사법 시스템을 생각해 볼 수 있다. 예를 들어 우리 아파트 경비노동자 박 씨 아저씨가 시민판사로 겸직을 하면서 억울한 소시민들의 재판에서 판결을 하는 구조로 전환을 생각해 볼 수 있다. 그분의 오랜 사회 경험이 오히려 판결에 도움이 될 수 있기에 비록 법과대를 나오지 않아도 시민판사로서 인공지능 도우미에 의해 도움을 받는다면 약자들에게도 공정한 사법정의를 이룰 수 있다. 그러나 분명한 것은 인공지능은 어디까지나 보조수단이고 제도의 본질은 시민참여가 보장된 사법 시스템이어야 한다는 전재를 두고자 한다.
숙의 민주주의(deliberative democracy)와 인공지능
'숙의민주주의'라는 단어는 공론장에서 민주적 절차를 기반한 의사결정을 제도화하기 위한 방안이다.
이러한 민주적 의사결정방법은 이미 일상생활 속 기업과 학교, 사회 활동단체 등 에도 사용되고 있으며 보통 퍼실리테이션(Facilitation)이라는 과정을 통해 다수 의사를 모아서 통합하고 결과를 도출하는 데 활용되고 있다.
최근 인공지능을 활용한 퍼실리테이션이 시도되고 있다. 이를 시도하고 제안하려는 OpenAI의 얼라인먼트 팀 리드인 얀 라이커(Jan Leike)는 사회적 가치 도입을 위한 제안으로 거대 언어 모델로 일관성 있게 추론 가능한 의지(CEV)를 구현하는 제안을 했다.
얀 라이커는 집단 선호도에 대한 의견을 인공지능시스템을 통해 의견을 모을 경우 실제로 인간성을 포함하는 프로세스를 설정해야 한다고 주장한다. 그렇지 않을 경우 상업적 인센티브, 즉 가장 많은 돈을 버는 조건에 의해 결정될 위험에 처할 수 있다고 한다.
따라서, 그가 주장하는 것은 인공지능을 통해 답을 구하는 것이 아닌 가치 질문에 대한 더 나은 답을 도출할 수 있는 프로세스를 제안한다. 이를 위한 핵심 아이디어로 거대 언어 모델을 숙의(熟議) 민주주의 모방 학습에 사용한다. 숙의 민주주의는 무작위로 선정된 소수의 대중이 명시적으로 숙의하는 의사 결정 또는 정책 결정 과정으로 구성원들은 복잡한 가치가 담긴 주제(예: 국가 정책 질문)에 대해 학습하고, AI 지원을 사용하여 세부 사항을 이해하고, 서로 토론하고, 궁극적으로 의사 결정에 도달한다.
원문: https://aligned.substack.com/p/a-proposal-for-importing-societys-values
이때 사람들이 가치 있는 질문을 명시적으로 숙의하는 것을 기록함으로써 이러한 숙의에 대해 대규모 언어 모델을 학습시킨 다음, 다양한 관점을 조건으로 한 모델을 통해 새로운 가치 질문에 대한 토론을 시뮬레이션할 수 있다. 이처럼 토론 시뮬레이션이 필요한 이유는 중요한 의사 결정에는 항상 사람이 참여해서 시뮬레이션을 검토 후 인간이 결정해야 하기 때문이다.
얀 라이커는 이 제안의 목표는 인간의 의사 결정이나 민주적 제도를 대체하는 것이 아니라 훨씬 더 비용이 적게 드는 근사치를 통해 의사결정을 도와주는 것이라고 한다.
이러한 얀 라이커의 주장처럼 시민들의 집단적 의사결정을 도와주는 기능은 시민의회와 같은 구조를 가지고 시민참여를 늘리는 구조에서 직접민주주의를 강화시키는 효과를 만들 수 있다.
한국사회에서도 유럽처럼 시민의회 도입과 함께 시민들의 숙의과정에서 나온 많은 토론과 의사결정 내용을 인공지능이 정리하고 요약해 주는 과정과 그 집단에서 의지를 학습하여 이를 제도 및 정책에 반영하는 형태로 직접민주주의 구조를 만들 수 있다.
민주주의의 제도에서 시민은 모든 의사결정의 주체이며 그 결정에 대해 책임을 져야 한다는 기본 사상은 변하지 않는다. 따라서 민주주의 시민은 인공지능이 학습하는 정보에 대한 편향성에 대한 관리 주체로서 의무가 있으며, 시민들의 다양한 의견을 모으는 과정에 인공지능 활용이 가능하며, 인공지능의 판단이 최종 결과가 아닌 중간 참조할 자료로서 검토 및 채택 등 결정할 부분은 최종적으로 인간이 해야 한다. 그래야만 그 결정에 대해 책임을 질 주체가 생기기 때문이다.
https://www.buergerrat.de/ < 독일 시민의회 >
토론을 위한 요약
Chat GPT 및 Bard 등 인공지능의 등장은 전문직 영역에서의 큰 지각변동을 예상하게 한다.
그러면서도 인간의 역할은 좀 더 고도화된 주관 영역에서 철학적 사유가 중심이 되어야 하는 사회 전환을 요구하고 있다.
그러나 인공지능 확대에 따른 다국적 거대자본에 의한 정보 독점과 이로 인한 의존성 강화, 권력을 독점한 소수가 만드는 의도적 편향성등 아직 우리가 모르는 상황이 벌어질까 두렵다.
이에 따라 우리 사회도 유럽사회처럼 적절한 규제 마련과 함께 인공지능 시대에도 민주적 사회제도 유지를 위한 노력이 요구된다. 이를 위해서는 인공지능 사회에서 민주주의 시스템을 이루는 입법과 사법 관점에서 본다면 기술 도입보다 시민 참여가 강화된 민주주의 제도와 프로세스가 우선 고려되어야 한다.
예를 들어 입법시스템의 경우도 직접민주주의를 위한 시민의회와 같은 단위에서 많은 사람들이 참여한 의제를 정하고 토론하는 구조가 있는 상황에서 인공지능의 도입은 이러한 구조를 좀 더 활성화하기 좋게 도움을 줄 수 있다. 이로서 인공지능은 시민 정치 참여를 높인다는 본질적 목적에 기여하게 된다.
민주주의의 제도에서 시민 모든 의사결정의 주체이며 그 결정에 대해 책임을 져야 한다는 기본 사상은 변할 수 없다. 따라서 민주주의 시민은 인공지능이 학습하는 정보에 대한 편향성에 대한 관리 주체로서 의무가 있으며 인공지능의 판단이 최종 결과가 아닌 인공지능이 만들어내는 시뮬레이션에 대한 채택 등 결정 최종적으로 인간이 판단해야 한다. 그래야만 그 결정에 대해 책임을 질 주체가 생기기 때문이다.
또한, 이러한 의사결정에 영향을 미치는 왜곡된 가짜 정보에 대해 경계하고 진실을 찾아내는 역할은 여전히 인간이 해야 할 몫이다. 사실 가장 우려되는 점은 그동안에도 과거 진실공방에서 거짓과 진실을 구분하기 어려웠고 자본이 주인인 미디어로 인한 편향성으로 현재 우리는 여전히 진실에 다가가기 어려움이 있다.
다국적 거대 자본 기업에서 주도가 된 인공지능에 대해 의존하는 순간 우리 삶의 의존성으로 인한 비판적 사고능력이 떨어질지 모른다는 두려움도 있다. 또한 그로 인한 편향된 시각으로 살아갈 수 있다는 점을 항상 경계해야 한다. 따라서 인공지능 기술과 적용방식에 대한 공공성 검증 및 공적 규제와 함께 대중들에 의한 감시 구조확립이 중요하다.
무엇보다 인공지능이 학습하는 정보는 인류가 오랜 역사동안 축적한 데이터로서 그 가치를 몇몇 자본의 독점이 되어서는 안 되며 인류 공동 가치라는 것을 생각하고 규제 및 활성화 정책이 만들어져야 한다.
다음은 관련 내용들을 요약하여 토론하는 공론화 시민광장 캠페인입니다. 링크를 타고 들어가서 의견을 모아주시면 좋을 것 같습니다.
