사람이 아니라 알고리즘이 하는 것… 그럼 문제없나요?
MBC <탐사기획 스트레이트> 114화 ‘집중분석 네이버 뉴스홈’ 리뷰
그런 네이버’는 오래전 사라졌나?
"20년 전, 구글은 혁신적 방식으로 실리콘밸리의 총아가 됐다. 그런 구글은 오래전 사라졌다. 오늘날 구글은 인터넷의 독점 게이트키퍼다.”
2020년 10월 22일, 미국 법무부와 11개 주는 글로벌 IT 기업 구글을 반독점법 위반 혐의로 제소했다. 소장의 1항은 위의 문장으로 시작한다. 혁신의 상징과도 같았던 구글을 독점 기업으로 규정한 것이다. 구글이 자사 검색 엔진을 스마트폰에 미리 탑재하도록 스마트폰 제조사와 통신사에 매년 일정 금액을 제공했고, 또 우선 탑재한 구글 앱을 삭제할 수 없도록 약정을 맺어왔기 때문이었다.
지금이야 클라우드, 동영상, 금융 등 구글이 발을 걸치지 않은 사업 분야가 없다지만, 구글의 시작은 검색 엔진 서비스였다. 검색과 광고 시장은 지금도 구글의 핵심 사업이다.
이런 구글을 볼 때 자연스럽게 떠오르는 한국의 IT기업이 있다. 바로 네이버다. 검색 엔진 서비스로 시작한 네이버도 금융, 쇼핑, 엔터테인먼트 등 국내외 여러 사업 분야에 진출해 있다. 대표적으로 쇼핑 영역의 경우, 지난해인 2019년 네이버의 거래액 규모는 20조9249억 원이다. 쿠팡(17조771억 원), 이베이코리아(16조9772억 원) 등 주요 전자상거래업체의 실적을 뛰어넘는 결과다.
네이버 쇼핑은 2019년 주요 전자상거래업체를 제치고 거래액 1위를 달성했다그런데 이런 성과를 달성하기까지 불공정한 조작이 있었다는 정황이 드러났다. MBC <탐사기획 스트레이트(이하 스트레이트)>는 114회에서 네이버의 알고리즘 조작 혐의에 대해 다루었다.
공정거래위원회는 2020년 10월, 시장지배적 지위를 이용한 경쟁업체의 사업 활동 방해 등의 혐의로 네이버에 시정명령과 과징금 265억 원을 부과했다. 네이버가 검색 알고리즘을 조작해 자사 오픈마켓 상품의 노출 빈도를 높이고, 지마켓 등 경쟁 오픈마켓에서 판매하는 상품들의 노출을 줄였다는 것이다. 2015년 4.97%였던 네이버 오픈마켓의 시장점유율이 2018년 기준 21.08%까지 상승했는데, 그 사이 여러 차례의 알고리즘 조작이 내부 합의 하에 진행되어 왔다는 것이 공정위의 조사 결과다. 물론 네이버는 공정위의 결정에 행정소송을 진행하겠다며 강하게 반발하고 나섰다.
네이버는 쇼핑 부문 알고리즘 개선 작업에 경쟁사 우대 조치도 있었다고 주장했으나, 아직까지 공정거래위원회에 증거를 제출하지 않고 있다.공정위의 조사 결과가 사실이라면, 오늘날의 네이버도 ‘인터넷의 독점 게이트키퍼’일까? 국내 벤처 신화의 상징과도 같았던 네이버는 사라지고, 독점 기업 네이버만이 남은 것일까?
사람이 아니라 알고리즘이 하는 것… 그럼 문제없나요?
<스트레이트>는 네이버가 상거래 영역에서만 게이트키퍼의 역할을 하는 것이 아니라, 다른 영역에서도 그 역할을 하고 있음을 드러냈다. 바로 ‘뉴스 편집’의 영역이다.
2017년 로이터저널리즘연구소의 조사 결과에 따르면, 한국의 뉴스 소비자 77%가 네이버와 같은 포털을 통해 뉴스를 소비하고 있다고 한다. 2020년 9월 시사주간지 <시사IN>의 언론 신뢰도 조사에서 네이버는 가장 신뢰하는 언론 2위에 올랐다. 1위는 유튜브였다. 플랫폼인 유튜브나 네이버는 직접 뉴스 생산을 하지 않아도 이미 ‘언론’으로 인식된 지 오래다.
그렇다면 네이버는 보수와 진보를 아우르는 균형 잡힌 시각으로 뉴스 편집권을 행사하고 있을까? <스트레이트>의 보도에 따르면 그렇다고 보기 어려운 것 같다. <스트레이트>는 지난 11월 30일부터 12월 6일까지 일주일간, 네이버 뉴스홈에 노출된 기사들을 5분에 한 번씩 24시간 내내 읽어 들여 데이터를 수집했다. 이중 소위 ‘명당’ 자리라 불리는 헤드라인 뉴스에 가장 많이 노출된 언론사를 살펴보면, 1위는 중앙일보로 점유율 16.7%, 2위는 연합뉴스 15.1%, 3위는 조선일보 7.9% 순이다. 4위는 세계일보 5.8%, 5위는 한국경제신문 5.3%로, 연합뉴스를 제외하면 모두 보수 신문으로 분류된다.
네이버 뉴스홈 헤드라인에 가장 많이 노출된 언론사를 살펴보면, 1위 중앙일보, 2위 연합뉴스, 3위 조선일보 순이다.이는 클릭 수에 따른 노출이 아니다. 언론사별 랭킹 뉴스가 여전히 남아있긴 하지만, 네이버가 직접 집계하던 ‘많이 본 기사’ 서비스는 폐지된 지 오래다. 네이버 뉴스홈은 편집된 영역인데, 그렇다면 이를 편집하는 과정에서 편중된 관점이 반영되었다는 것을 의미한다.
문제는 편집의 주체가 사람이 아니라는 사실이다. 그럼 누가 하나? 바로 인공지능이다. 2018년 드루킹 댓글 조작 사건을 계기로 네이버는 사람이 관여하는 ‘손 편집’을 없앴다.
네이버는 기업을 둘러싼 모든 의혹에 대해 ‘인공지능’ 혹은 ‘알고리즘’을 방패 삼아 맞서고 있다. 쇼핑 영역의 검색 결과 노출도, 뉴스 노출도 모두 인공지능의 결정에 의해 이루어진다는 것이다. 한성숙 네이버 대표는 지난 10월 국회에서 열린 정무위원회 국정감사에서 이와 같은 입장을 분명히 했다. “(네이버 뉴스 섹션은) 개발자들이 만든 알고리즘으로 편집한다.”며 인공지능 편집에 대해 재차 강조했다.
인공지능은 딥러닝을 통해 학습하고, 그렇기에 이를 개발한 개발자조차도 그 로직을 투명하게 이해하기 어려운 부분이 있다는 것은 잘 알려진 사실이다. 한국인공지능법학회장을 맡고 있는 고학수 서울대학교 법학전문대학원 교수는 인공지능 뉴스 편집의 장점으로 “하루아침에 알고리즘을 조작해 뉴스를 올렸다 내릴 수 없다는 것”을 꼽기도 했다.
이러한 편중된 시각의 뉴스 편집이 인공지능의 오랜 학습의 결과라면, 이를 개발한 IT기업에는 책임이 없는 걸까? 그렇다고 하기는 어렵다. 딥러닝을 통한 학습 과정에서 인간의 통제 범위를 벗어난다 해도, 처음 설계 과정에서는 인간의 의도가 반영되기 때문이다. 정보통신정책연구원(KISDI)의 ‘유럽연합(EU)의 알고리즘 규제 이슈와 정책적 시사점’ 보고서에 따르면, 알고리즘 개발 과정에는 인간 개입에 따른 오류와 편향성, 검열 가능성 등이 내포되어 있다. 알고리즘 의사 결정을 개발한다는 것은 결국 우선순위 결정, 필터링 등의 과정을 개발한다는 것이기 때문이다.
중앙대학교 경영학부 위정현 교수는 알고리즘이나 인공지능이 모든 문제를 방어해주는 대안이 될 수 없다고 말했다.페이스북과 같은 글로벌 IT 기업은 이러한 상황에 대한 대안으로 ‘손 편집’을 다시 도입하기도 했다. 베테랑 전문 편집인들로 구성된 팀이 기사를 엄선해 페이스북 뉴스 섹션의 톱뉴스를 구성하고 있는 것이다. 페이스북은 자신을 새로운 종류의 언론이라고 인정하고, 저널리즘의 책임을 강조하고 있다. 물론 페이스북이 하루아침에 이런 책임을 인정한 것은 아니다. 페이스북도 한때 ‘알고리즘 책임론’을 적극 활용하는 기업이었다. 페이스북은 과거 광고 타깃으로 ‘유대인 혐오자’를 설정할 수 있다는 문제를 지적받자 알고리즘을 수정하겠다는 반응을 보인 적이 있다.
투명한 뉴스 편집, 투명한 세계, 투명한 안녕
2018년 <시사IN>에서 주최한 ‘<시사IN> 인공지능 콘퍼런스’의 강연자로 나선 앨런 윈필드 교수(영국 브리스틀 로보틱스랩)는 “안전이 필수인 시스템에서는, 투명성이 확보되기 전까지 딥러닝 알고리즘을 써서는 안 됩니다.”라고 주장한 바 있다. 여기서 ‘안전이 필수인 시스템’은 의료 진단이나 형사 재판과 같은 사람의 기본권이 걸린 문제를 말하는 것이다.
뉴스 편집은 좁은 의미에서 볼 때 사람의 기본권이 걸린 문제는 아니다. 그러나 예시를 하나 들어보고 싶다. 성별, 장애, 병력, 나이 등을 이유로 이루어지는 차별을 구체적으로 금지, 예방하는 법안이 도입된다고 해보자.
이에 대해 각기 다른 시각을 지닌 여러 언론사의 기사가 쏟아질 것이다. 해당 법안에 대한 의견을 정립해 나갈 때, 우리는 그 기사들의 도움을 받을 것이다. 법안의 도입 배경과 구체적 내용, 시민단체와 종교단체의 입장 같은 여론을 살필 것이다. 그리고 이는 우리의 결정에 적지 않은 영향을 미칠 것이다.
그러나 그 작동 원리를 알 수 없는 알고리즘에 의해, 이 법안 도입에 반대하는 입장의 기사만이 뉴스 섹션 상단의 대부분을 차지한다면 어떻게 될까? 그렇게 해서 비판적인 여론이 주를 이루고 법안 통과가 저지됐을 때, 그때도 이 문제는 기본권과 무관한 문제일까?
네이버는 뉴스 편집과 관련된 의혹에 ‘알고리즘 책임론’을 내세우고 있다. 그러나 이러한 뉴스 편집 방식이 우리에게 미치는 영향을 고려할 때, 기업의 보다 적극적인 책임이 필요하다.인공지능 뉴스 편집을 당장 쓰지 말아야 한다는 이야기가 아니다. 다만 뉴스 편집이 결코 사소한 문제가 아니라는 이야기를 하고 싶었다. 꼭 차별금지법이 아니더라도, 나와 당신의 안녕에 영향을 미치는 무수한 이야기들이 뉴스 기사에 담겨 포털을 오르내린다. 만일 지금과 같이 전염병이 장기간 대유행하고 있는 상황에서, 이와 관련된 거짓 정보가 담긴 뉴스가 헤드라인 섹션을 장식한다면 어떻게 될까? 이로 인한 사회적 피해가 발생할 수 있는 상황에서 우리는 누구에게 책임을 물어야 할까? 코로나19 3차 대유행의 한복판을 지나고 있는 지금, <스트레이트>의 이번 보도는 더욱 곱씹어볼 만하다.
뉴스 편집의 알고리즘이 투명해질 수 없다면, 우리를 둘러싼 세계도, 나와 당신의 안녕도 조금은 불투명할 수밖에 없다. 네이버와 같은 대형 IT 기업이 더는 알고리즘의 책임 뒤에 숨어서는 안 되는 이유다.
