알고리즘과 확증편향
월급루팡 표류기 5화
알고리즘과 확증편향
지금 페이스북이 심각한 위기이다. 이러한 위기를 반영해서 인지 사명도 10월 28일 (미국 현지시간 기준) “메타”로 변경을 완료하였다. (관련기사: https://www.yna.co.kr/view/AKR20211029006700091?input=1195m)
그리고 10월 27일 미국 연방거래위원회(FTC)의 조사가 발표된 10월 27일 (미국 현지시간 기준) 기준으로는 하루만에 벌어진 일이다. (관련기사:https://biz.chosun.com/international/international_general/2021/10/28/L2YUNEWDYFCNVA4O2OCKNFMNP4/?utm_source=naver&utm_medium=original&utm_campaign=biz)
세계적으로 큰 충격을 일으킨 이 사건은 10월 5일(미국 현지시간 기준) 페이스북의 전 직원인 프렌시스 하우건이 페이스북에서 제품 매니저로 일하면서 알게 된 페이스북의 이면을 정부 기관과 의회, 언론에 폭로하면서 불거진 사건이다.
하우건은 페이스북이 유명인의 인종 혐오 발언이나 가짜뉴스 게시물을 삭제하지 않았고, 자회사인 인스타그램도 특정 게시물이 청소년의 자살률을 높이는 등 유해하다는 것을 알면서도 지우지 않았다고 주장 했다.
즉, 페이스북이 사회에 악영향을 미치는 게시물임을 인지하고 있음에도 불구하고, 상업적인 이익을 위하여 게시물에 대한 어떠한 조치도 취하지 않았다는 것을 폭로한 것이다.
그녀는 의회에서 다음과 같이 증언을 시작하였다.
“나는 오늘 페이스북 제품들은 어린이들에게 해를 끼치고, 분열을 조장하며, 민주주의를 약화시킨다고 믿기때문에 이 자리에 섰습니다.”
그런데, 과연 이러한 일이 페이스북에서만 일어나고 있는지 심각하게 고민해보아야 할 문제이다.
페이스북의 게시물 노출은 “알고리즘”에 의해서 이루어진다. 그리고 이러한 “알고리즘”은 과연 페이스북에만 해당되는 것일까?
다른 거대 IT 공룡들에게서도 일어나는 문제이지는 않을까?
지난 대선 “드루킹” 사건과 같이 인공지능과 이와 연관된 알고리즘이 우리 사회 전반에 영향을 미친 사건은 너무나도 많이 알려져 있지만, 여전히 그 위험성은 충분히 인지하지 못하고 있다.
알고리즘(algorithm)이란 주어진 문제를 논리적으로 해결하기 위해 필요한 절차, 방법, 명령어들을 모아놓은 것이다. 그런데 이 알고리즘의 설계는 매우 주관적일 수 있다는 것이 맹점이다.
현대에 살고 있는 우리는 알고리즘에 따라 추천된 동영상을 보고, 즐기고, 그리고 알고리즘이 추천한 내용에 대해 나름 심각하게 고민한다.
하지만, 이러한 알고리즘이 특정한 목적을 위해 봉사하고 있다면 우리는 이걸 어떻게 받아들여야 할까?
지금 미국 의회에 던져진 파문은 바로 위와 같은 의문에서 시작한다.
자본주의 사회에서 모든 기업은 이윤을 추구한다. 그리고 이윤을 추구하는 기업의 알고리즘에서 정의, 평등과 같은 이상적인 모습을 기대하고 있는 것이 너무 순진한 생각일 수도 있다.
그런데 페이스북의 이번 사건은 단순히 우리의 순진함만을 탓할 문제는 아니다. 왜냐하면 모든 인간은 확증편향이라는 오류에 빠지기 쉽기 때문이다.
확증편향이란 정보를 접하는 이들이 자신의 가치관, 신념, 판단 따위와 부합하는 정보에만 주목하고 그 외의 정보는 무시하는 사고방식을 말한다.
그런데 대부분의 모든 인간은 이러한 확증편향에 쉽게 빠진다. 그리고 페이스북과 같은 거대 IT 기업이 설계한 알고리즘이 현대를 살아가는 우리들을 너무나도 쉽고 빠르게 확증편향에 빠지도록 하고 있다. 하지만 이런 것들이 분명함에도 이 알고리즘을 운영하는 이들은 이윤이라는 늪에 빠져 이 모든 것을 모른척하고 있었는지 모른다.
