brunch

You can make anything
by writing

C.S.Lewis

by 전성배 Nov 02. 2021

극단주의자와 알고리즘의 합작

각종 청탁과 격간 전성배 산문 연재로 쓰고 고치는 일이 잦았던 지난 10월의 4일째 밤을 떠올린다. 그날 나는 2회차 글을 쓰고 있었는데, 주제는 '확증 편향'에 관한 것이었다. 지난 9월에 썼던 샤인머스캣에 관한 글에 달린 몇 개의 비난적인 댓글이 준 글감이었다. 나는 그 글에서 일본이 이십여 년의 시간을 투자해 개발한 샤인머스캣을 한국이 너무도 쉽게 들여와 대가 없이 재배한다는 사실이 다소 부끄럽다고 말했다. 이 외에도 수십 종의 종자들이 국내에서 샤인머스캣과 마찬가지로 아무런 대가 없이 재배되는 것은 물론이고, 주류로서 대대적으로 유통된다는 사실에 부끄러운 것도 모자라 안타깝다고도 말했다. 법적으로 문제가 되지는 않지만, 도의적으론 간과하기 힘든 모습이기 때문이었다. 또 국내 종자 개발 기술력이 떨어지니 이렇게 타국의 종자에 의존하는 것이고, 이런 행태가 계속되면 우리나라 종자 개발 역량은 점점 더 떨어질 것이기 때문에 경각심을 가졌으면 하는 마음으로 나는 그 글을 썼다. 바람은 또 있다. 나는 아주 작은 일에서도 떳떳한 대한민국이길 바란다. 그로써 보다 더 당당하게 일본의 나쁜 점을 지적하고, 크게는 중국의 안하무인식의 문화 공정을 욕하길 바란다. 샤인머스캣에 관한 글에는 이 모든 마음을 담았다. 하지만 거기에 달린 댓글 중 몇 개는 이러했다.

"우리나라 국민이 왜 일본의 이익을 생각하나" "일본이 그간 해온 행태를 보면 되레 잘했다 칭찬해야 한다."

이 댓글들을 읽으며 든 생각은 두 가지였다. 하나는 조금 더 친절하고 순화된 언어로 이야기했다면 그들이 조금이라도 덜 불편하지 않았을까라는 아쉬움이었고, 다른 하나는 조금의 의문이나 반대도 허락하지 않는 극단적인 생각들이 사회에 너무도 뿌리 깊게 박혀있다는 안타까움이었다.

'확증 편향'을 써낸 다음 날 5일 미국에서는 커다란 이슈가 등장했다. 페이스북의 알고리즘 담당자였던 '프랜시스 하우건'이 2021년 10월 5일 미국 의회에 출석해 페이스북을 아래와 같이 고발한 것이다.

"'인공지능 알고리즘'이라는 미명 아래 페이스북은 우리 아이들에게 직접적인 해를 끼쳤고, 사회의 분열을 조장했으며, 극단적인 주장을 주류에 올렸다. 유명인의 인종 혐오 발언이나 가짜 뉴스 게시물을 지우지 않고 유지하거나, 인스타그램의 특정 게시물이 유해하다는 것을 알면서도 삭제하지 않는 식으로 말이다. 극단적인 주장일수록 높은 조회수를 기록하고, 이는 곧 높은 수익과 연결되기 때문이었다. 그 결과 백인 우월주의와 백신 반대 같은 변두리에 있던 생각들이 갑자기 주류로 떠오르면서 사회에 막대한 피해를 줬다.

과거 우리는 담배에 해악이 있다는 사실을 알고 이를 규제했다. 아편 진통제 중독이 문제가 있다는 사실을 알고 아편을 규제했다. 그런데 사회에 엄청난 해악을 주고 있는 알고리즘은 왜 규제하지 않는가? 심지어 우리는 알고리즘이 뭔지도 제대로 알지 못한다. 알고리즘이 당신의 감정과 판단에 어떤 영향을 주고, 당신을 어떻게 통제하고 있는지를 오직 페이스북만이 알고 있는 것이다. 그리고 페이스북은 개인 정보 보호와 기업 기밀이라는 이유로 이를 사회에 공개하지 않고 있다. 명백히 해악을 주고 있음에도."

하우건의 폭로로 미국 전역은 들썩였다. 뉴욕타임스와 CNN 등 미국의 17개의 언론사 컨소지엄은 연일 페이스북의 문제점를 지적하는 기사를 쏟아내고 있다.

이어진 하우건의 주장을 조금 더 들어보자. 알고리즘의 위험성을 더욱 강하게 지적한다.

"더 높은 수익을 위해 페이스북은 분노와 증오를 조장할 수 있는 게시물을 방치하고, 알고리즘은 이를 더 노출시켰다. 그뿐만 아니라 페이스북의 알고리즘은 개별 사용자와 비슷한 생각과 감정을 공유하는 이들의 게시물이 더 많이 노출되도록 가중치를 부여하는 식으로 설계되어, 증오와 허위 정보는 보다 빠르게 확산시키면서 극단적 콘텐츠 육성과 양극화를 조장하는 환경을 만들었다."

하우건의 주장으로 페이스북의 주가는 폭락했고, 페이스북은 지금 창사이래 최대 위기에 직면했다. 그리고 이는 비단 페이스북만의 문제가 아니라는 것을 우리는 안다. 트위터와 유튜브 같은 알고리즘 기반의 서비스는 모두 페이스북과 같은 문제를 가지고 있다. 즉 '알고리즘' 그 자체가 원인인 것이다. 사용자의 편의성을 위해 등장했던 사용자 성향 중심의 알고리즘은 지금 정보를 통제하고 있다. 어떤 글과 영상, 사진 다시 말해 '데이터'를 누구에게 보여줄 것인가를 알고리즘이 결정하고, 기업은 그 프로세스를 공개하지 않고 있다. 그 결과 우리는 필터링 된 정보에 갇혔고, 곳곳에서 극단주의자가 끊임없이 양성되는 것도 모자라 그들 소수의 의견이 주류가 되었거나 되어가고 있다.

과거를 떠올려 보자. 불과 10년 전만 해도 정보의 선별권은 우리에게 있었다. 스스로 TV채널을 돌리며 다양한 매체의 서로 다른 의견을 듣고 보며, 자신의 주장을 끊임없이 갱신했고 이견에는 관대했다. 그런데 이제는 알고리즘이 이 선별권을 쥐고 우리가 보고 읽고 알아야 할 것들을 자체적으로 판단해 제공하고 있다.

지금 사회가 어떤가? 어떤 의문도 반대 의견도 결코 허용할 수 없는 사회가 되었다. 오직 자신의 주장과 생각만이 정답이고, 혐오와 증오는 어느 때보다도 왕성한 사회가 되었다. 자신에게는 끝없이 관대하고 타인에게는 끝없이 엄격한 사회가 되었다. 소수의 극단주의자들과 알고리즘의 합작품이라 할 수 있다. 우리 대부분은 사실 중립적인 가치관을 갖고 나를 포함해 내가 믿고 따르던 것이 때론 틀릴 수도 있음을 예상하고, 그런 때를 만나면 반대편의 의견을 수용하고 보다 더 나은 결과와 나를 만나려는 자세를 가지고 살아간다. 하지만 소수의 극단주의자들이 선두에서 자신의 생각만이 정답이라 말하고, 반대 의견자들에게는 온갖 증오 섞인 발언과 비하를 서슴지 않고, 알고리즘은 여기에 불을 지피니 이 사달이 나고 말았다.

하우건의 폭로로 사회는 지금 알고리즘에 대한 성찰을 시작하려 하고 있다. 너무 늦었지만 그럼에도 다행이라 생각한다. 지금의 알고리즘은 명백히 그 이점보다 해악이 더 크므로.

[격간隔刊 전성배 산문]의 지난 이야기

봄호 & 초여름호 & 가을호

https://smartstore.naver.com/siview/products/5731698952

[격간隔刊 전성배 산문] 봄과 초여름 그리고 가을의 이야기 : 시뷰

[격간隔刊 전성배 산문] 과월호

smartstore.naver.com