디지털 공론장을 만드는 집단지성과 인공지능

초거대인공지능 시대의 초입, ‘인공지능은 앞으로 무엇을 대체할까?’를 놓고 많은 사람들이 의견을 쏟아낸다. 기회로 여기든, 위기로 여기든 변화가 일어난다는 전망에 누구나 동의한다. 당장은 인간의 노동 중 대체되거나 사라질 것들을 각자 예측하지만, 한켠에선 기존에 사회를 운영하면서 사용한 여러 과정을 인공지능으로 대입해 보기도 한다.

정치권에서 챗GPT에 정책에 대한 평가나, 상대 진영의 정치인에 대한 평가를 물었다는 일화가 들린다. 해외에서는 의회의 연설문을 챗GPT로부터 생성해서 발표하기도 했단다. 챗GPT를 이용해 신과 대화해 보라는 서비스가 주는 인상은 흥미롭지만, 어떤 정책이 나은지 평가하고, 어떤 방향으로 나아가야 하는지에 대한 질문에 초거대인공지능이 내어놓는 답을 우리는 어느 정도까지 활용해도 되는지에 대해 논의하지 않는다는 점은 흥미보다는 염려가 앞선다. 집단적 의사 결정에서 인공지능은 공론장의 대안일 수 있을까?

특히나 지난 몇년간 우리는 소셜 미디어를 통해 벌어진 결과를 부정적으로 경험했다. 상대 진영에 대한 악마화, 서로에게 귀기울이기는 커녕 스스로의 생각을 더욱 강화시키는 필터 버블, 출처를 알 수 없는 허위조작정보와 국가 기관마저도 나선 영향 공작(influence operations), 집단 괴롭힘에 시달리는 이들의 자살 등등. 소셜 미디어를 통해 경험한 혐오와 차별, 갈등은 사회가 맞닥뜨리는 여러 복합 위기와 맞물리며, 각자도생의 전략이 더욱 타당하게 느껴지게 만들었고, 우린 집단지성의 실현이라는 인터넷 초창기의 희망 섞인 기대는 어느 순간 잃어버린채 집단이나 공동체에 대한 믿음까지도 잃어가는지도 모르겠다.

그런 상황에서 인공지능이 내어놓는 답은 다양한 의견이 경쟁하고 협력하고, 조정과 합의를 거쳐야 하는 (그 과정에서 결코 합의에 이르지 못하고 서로 혐오하고 파멸에 이르는 과정을 우리는 많이 보았기에) 인간들의 의사결정보다는 누군가에게는 나아 보이기도 한다. 인공지능은 편파적이지도 않고 더 합리적인 것처럼 보이기도 하고, 심지어 인간이 만든 문서를 인공지능이 모두(?) 이해(?)해서 요약했다는 답변은 루소가 상상했던 사회의 일반의지처럼도 보이기도 한다.

인공지능이 바꿀 공론장의 미래

하지만 우리가 인간과 인간으로서 구성된 사회를 부정하지 않는 이상, 집단 지성의 발전과 인공 지능의 도입을 결코 앞선 것을 부정하고 새로운 것을 긍정하는 발전으로 이해해서는 안 된다. 우선 초거대인공지능이 인간이 집단적으로 축적한 데이터로부터 만들어지기 때문이다.

인터넷과 클라우드, 소셜 플랫폼과 빅데이터는 집단지성과 인공지능이 서로 의존하며 상호 발전해 온 기술임을 보여 주는 용어들이다. 우리는 인터넷을 통해 시공간을 가로질러 수많은 연결을 창출해냈고, 이 연결을 통해 생산되는 데이터를 클라우드에 축적했다. 소셜 플랫폼에 모인 수많은 컨텐츠와 사용자 행위 데이터를 빅데이터로 모아, 네트워크로 연결한 거대한 서버 자원을 통한 후 지금의 초거대인공지능이 답변을 구성하도록 만들어내는데 활용했다. 이렇게 따라가다 보면 인공지능은 오히려 인간 집단지성의 한 유형이자 결과인 것 같고, 블록체인 기술보다 웹3.0이라는 타이틀이 더 어울린다.

또한 인공지능이 기본적으로나 제대로든 작동하기 위해서 (결정을 실행하기 위해 필요한 노동을 논의에서 빼 두더라도) 사람이 할 일은 앞으로도 많다. 지금의 챗GPT로서는 피할 수 없는 환각(Hallucination)을 완화하기 위해 인간의 피드백(RLHF, Reinforcement Learning from Human Feedback)을 거친다. 더 정확한 답변을 위해서는 빅데이터 뿐만 아니라 더 많은 스몰데이터도 필요하다. 아마 이미 다양한 방식으로 공개된 빅데이터 외에 스몰데이터를 독점 확보함으로써 품질을 높이는 위한 경쟁이 초거대인공지능 기업들간에 치열하게 벌어질지도 모른다. 위키 방식의 집단 편집의 결과물이나 키워드에 기반한 검색 서비스나 커뮤니티 서비스의 활용은 이미 줄어들고 있지만, 거꾸로 초거대인공지능이 제공하는 답변에 들어가기 위한 노하우를 활용하는 컨텐츠 생태계는 활성화될 것이다. 시민사회를 비롯해 스스로의 독창적인 이야기와 경험, 서비스를 발신할 미디어(owned media)는 앞으로 더욱 중요한 과제가 된다.

방대한 데이터를 분석하는 측면에서는 논란의 여지가 있다. 본래 민주적인 공론장은 다수결의 원칙을 따르되 소수의 의견을 존중한다는 가치를 바탕으로 한다. 이를 뒷받침하는 더 많은 참여와 더 나은 숙의는 비록 충분히 실현되기는 어렵지만 사회가 민주주의의 기본으로 인정하는 가치다. 인공지능이 이미 존재하는 다양한 문서로부터 사회 다수의 입장을 요약해낼때 우리는 앞서 언급한 가치가 얼마나 지켜졌는지 알지 못한다.

또한 광범위하게 제시된 의견을 효과적으로 요약하는 것만으로는 부족하다. 이는 소셜 플랫폼이 활성화될때 시민들의 단순 직접 투표로 의견을 효과적이고 빠르게 결정하는 것이 민주적이라고 주장했던 블록체인 기반의 자동화된 분산 조직이 간과하는 바와 같다. 공론장은 참여와 함께 숙의를 통해 경쟁과 갈등, 이해와 조정의 과정을 거치는 사회적인 과정이다. 이 과정을 생략해서는 이해는커녕 동의를 구하기란 어렵고, 소수의견은 묵살되는 것과 같은 결과를 낳는다. 시민들의 투표, 의견을 데이터로 분석해내는 과정은 중요하지만, 공론장은 최종 결론만을 목표로 하는 공간이 아니다.

이미 활용되고 있는 기술인 혐오 표현 필터링도 마찬가지다. 어떤 표현을 기술적으로 감지할 것인가 혹은 근본적으로 방지할 것인가는 기술 만의 문제가 아니다. 개인적으로는 보다 적극적인 혐오 표현 방지를 옹호하지만, 사실 혐오 표현에 대한 논쟁은 헌법에도 명시한 인간의 기본 권리인 표현의 자유의 보장과 함께 맞물리는 복잡하고 까다로운 문제다. 더 발전한 기술을 만들기 위해서도 우리 사회가 혐오 표현, 혹은 표현의 자유에 대해 어느 정도 허용하는지 추측할 수 있는 사회적 경험(혹은 논쟁)이 필요하다.

인공지능으로 가짜뉴스를 잡겠다는 도전 역시 그러하다. 많이 사용되는 용어이지만 가짜뉴스보다는 허위조작정보(dis/mis/mal-information)가 더 정확한 표현이다. 이는 의도하거나 의도하지 않거나, 실수이거나 조작이거나 등등 정보가 다양한 이유와 의도, 취약한 상태로 전달될 수 있음을 드러낸다. 이는 허위조작정보의 의도와 상태에 따라 여러가지 사람의 해석이 경쟁하고 의도가 맞물려 돌아감을, 따라서 단순히 더하기 빼기가 틀린 문제를 다루는 것이 아님을 드러내기도 한다. 허위조작정보의 검증은 사회적인 과정으로 만들어내야 하고, 이 과정에 다양한 검증 도구를 활용하는 식이어야 한다. 조작된 영상 정보, 조작된 데이터의 검출 등 인간의 역량을 벗어난 검증 과정에 기술은 충분히 도구로서 활용할 수 있다. 하지만 안타깝게도 인공지능이란 최신 기술을 활용해 스스로의 의도를 은폐한채 또 다른 조작정보를 인공지능을 통해 발신하는 상황을 목도하게 될 수도 있다.

정리하자면 여전히 사람과 사람이 협력하는 공론장이 사회에 꼭 필요하다고 여긴다면, 우리는 기술 개발, 사용자 협력, 리터러시와 투명성의 확보 등을 위해 다음과 같은 과정을 밟아나갈 필요가 있다.

1) 이해와 합의가 일어나는 다양성을 갖춘 공론장의 운영
2) 다양한 자동화 기술의 개발과 활용
3) 사용자 참여에 기반한 적응을 통한 기술 발전
4) 적용한 기술을 이해하고 공감하기 위한 조치들

사회와 기술의 발전을 위한 시민과 공동체의 성장

아직까지는 무엇이 바람직한지, 우리가 합의한대로 작동하는지를 평가하거나 의사 결정하는 것은 인간의 몫이자, 공동체의 몫이다. 아무리 좋은 기술이거나 결정이어도 사회의 운영에 활용하려면, 그 과정과 결과를 공동체의 구성원들이 이해하고 수용할 수 있어야 한다. 구성원들이 동의하지 않는 기술이나 체계는 유지되지 못한다. 거꾸로 이해와 판단의 책임을 진 인간에게는 무엇이 윤리적인지, 무엇이 공동체의 가치에 맞는지를 판단하는 시민성의 문제와 시민 역량을 갖추어야 할 책임이 부여된다. 우리가 민주주의 사회를 앞으로도 유지하겠다면 말이다.

우리는 같은 단어임에도 집단 지성(Collective Intelligence)은 지성으로, 인공 지능(Artificial Intelligence)은 지능으로 번역했다. 부지불식간에 인공 지능은 지식에 관한 도구로, 집단 지성은 인간만이 가지는 통찰과 지혜를 기대했던 것일까? 무엇이 가치있는지, 정의로운지, 서로 다른 처지를 이해하고 포용해야 하는지를 집단으로서의 인간은 아직까지는 인간에게 기대하는 것 같다.

다만 한국 사회가 사회의 공공성과 민주주의를 긴 시간 동안 경쟁하고 조율하고 논쟁하며 만들어오지 못했다는 점이 염려스럽다. 정치인들이 쉽게 국민들을 갈라칠 수 있는 까닭 역시 누구의, 누구를 위한 민주주의인지를 우리 스스로의 힘으로 쟁취한 경험이 아직은 충분하지 않아서이다. 그렇기에 우리는 기술을 활용한 효율적인 의사결정을 사회적 배제라는 역효과보다 더 매력적으로 느끼는 환경에 놓여 있다. 이 환경 속에서 우리는 사회와 기술을 동시에 발전시켜 나갈 수 있을까? 쉽지 않은 도전임이 분명하지만, 시민과 공동체를 위해서 사회의 필수 인프라로서 좋은 공론장을 더욱 발전시키고, 우리의 집단적 의사 결정을 돕는 인공 지능 역시 함께 발전시켜 나가는 사회를 만들 기회도 역시 우리의 손에 놓여 있다.

오랜 시간이 흘렀지만, 우리 삶에서 옳고 그른 것을 판단하는 기준을 둘러싼 논쟁은 별다른 진척을 보이지 않고 있다. 지식의 발전 과정을 되돌아볼 때, 이 것만큼 우리의 기대를 저버린 것이 또 있을까? 인간의 삶에서 무엇보다 중요 한 주제임에도, 이 문제에 관한 철학적 논의는 여전히 심각한 낙후 상태를 벗 어나지 못하고 있다. — 공리주의. 존 스튜어트 밀. 서병훈.

AICE포럼 후, 랩2050에 기고한 글입니다.