민주주의와 알고리즘

대화는 왜 사라졌는가?

유발 하라리 내한 강연 250413 : https://www.youtube.com/watch?v=9deB6qoCGaQ

타임스탬프: 00:07:08 ~ 00:08:41

민주주의는 대화다. 그런데 그 대화를 누가 설계하고 있는가?

유발 하라리는 민주주의의 핵심을 ‘많은 사람들 간의 대화’라고 정의합니다.
하지만 지금 이 대화는 더 이상 사람들에 의해 결정되지 않는다고 말합니다.

“Democracy is a conversation between many people… And the people who shape the conversation can make or break democracy. Now, it’s not human beings who shape the conversation. It’s algorithms.”
“민주주의는 많은 사람들 간의 대화입니다. 대화를 형성하는 사람들은 민주주의를 지키거나 무너뜨릴 수 있습니다. 그런데 지금은, 대화를 형성하는 것이 인간이 아니라 알고리즘입니다.”

20세기까지만 해도 편집장, 기자, 작가처럼 명확한 주체가 뉴스의 흐름과 여론을 설계했습니다.
하지만 지금은 알고리즘이 뉴스피드와 추천 콘텐츠, 트렌드 목록을 통해 우리가 무엇을 보고, 어떤 주제에 대해 말하게 될지를 정하고 있습니다.

이 알고리즘은 공익을 목표로 하지 않습니다. 사용자 참여율, 클릭 수, 체류 시간을 기준으로 작동하며, 감정적인 반응이나 분열적 콘텐츠가 자연스럽게 더 많이 확산되는 구조를 만듭니다.
하라리는 이로 인해 사회적 대화가 점점 더 감정적 충돌과 허위 정보에 오염되고, 민주주의의 전제조건인 공유된 현실(shared reality)이 무너지고 있다고 경고합니다.

민주주의를 가능하게 했던 그 전제가 무너지고 있다

하라리의 주장은 과격하게 들릴 수 있지만, 우리는 이미 그 현실 안에 살고 있는지도 모릅니다.
정치적 양극화가 극단으로 치닫고, 공통의 사실 기반이 점점 약화되는 지금의 상황은 그가 말하는 위기와 닮아 있습니다.

특히 문제는 이 구조를 설계하고 있는 알고리즘이 비가시적이고 책임지지 않는 존재라는 점입니다.
누가 어떤 기준으로 뉴스를 정렬했는지, 왜 이 콘텐츠가 내 피드에 떴는지 우리는 거의 알 수 없습니다.
그리고 이 무형의 구조가 우리의 사고와 대화의 방향을 결정하고 있다는 사실은, 민주주의의 기반이 흔들리고 있음을 시사합니다.

하지만 알고리즘 자체가 악한 것은 아닙니다.
‘참여율’이 아닌 ‘공익’을 기준으로 설계하는 것도 충분히 가능합니다.
결국 중요한 것은 우리가 그 설계 권한을 누구에게 맡기고 있느냐는 점입니다.
지금처럼 소수의 기술 기업에 맡긴 채로 방관한다면, 민주주의는 점점 더 설계되지 않은 방향으로 흘러갈 수밖에 없습니다.

우리는 어떻게 대응할 수 있을까?

개인 차원에서는, 피드에 노출되는 정보에만 의존하지 않고 다양한 출처를 스스로 찾아보는 습관이 필요합니다.
뉴스나 커뮤니티를 볼 때 ‘어떻게 보여지는가’라는 메타 인식을 유지하고, 가능한 한 다양한 관점을 접하려는 태도가 중요합니다.
무엇보다 알고리즘이 대화를 설계하고 있다는 사실을 잊지 않는 것이 출발점입니다.

정부 차원에서는 알고리즘의 편집 기준과 추천 방식에 대한 투명성 확보가 요구됩니다.
특히 선거, 교육, 공공 정책 등 사회적 영향이 큰 영역에서는 공공 알고리즘 설계 기준을 마련해야 하며, EU의 DSA처럼 플랫폼에 대한 설명 가능성과 책임을 묻는 제도가 확산될 필요가 있습니다.

국제사회 차원에서는 글로벌 플랫폼이 민주주의에 미치는 영향력을 고려한 협력 프레임이 필요합니다.
알고리즘 윤리를 논의하는 글로벌 기술윤리 위원회와 같은 거버넌스 기구도 하나의 방안이 될 수 있습니다.
이제는 기술의 영향이 국경을 넘는 만큼, 그 규범도 국경 너머에서 함께 논의되어야 합니다.

개발자의 시선에서

개발자로서 알고리즘의 힘을 누구보다 잘 알고 있습니다.
문제는 그 힘이 어디를 향하고 있는지, 우리는 얼마나 의식하고 있느냐는 점입니다.

더 많이 클릭되고, 더 오래 머무르게 하는 모델을 만드는 것이 성과가 되는 현실 속에서, 과연 그 알고리즘이 어떤 대화를 촉진하고 있는지 돌아볼 여유는 있었을까요?

우리가 설계한 시스템이 사회적 대화를 확장시키는 방향으로 작동하고 있는지, 아니면 대화를 분절시키고 왜곡하는 방향으로 작동하고 있는지는 이제 피할 수 없는 질문입니다.
기술은 중립이 아니며, 우리가 어떤 기준을 선택하느냐에 따라 전혀 다른 사회적 결과를 만들어냅니다.

생각해볼 질문

우리는 지금, 누구와 대화하고 있을까요?
그리고 그 대화를 누가 설계하고 있는가?

알고리즘은 우리의 대화를 풍부하게 만들고 있을까요, 아니면 선택적으로 걸러내고 왜곡하고 있을까요?

이 질문을 꾸준히 던지는 일, 그 자체가 민주주의를 지키는 작은 시작일지도 모릅니다.