brunch

브런치북 디지털 빅브라더 18화

라이킷 7 댓글 1

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 한중섭 Oct 27. 2020

마음을 해킹당한 알고리즘의 노예들

포스트 코로나, 초 감시 사회의 도래 #2

14세기 흑사병이 유럽을 덮쳤을 때, 당시 사회 엘리트였던 종교인들은 이것을 신이 내린 벌이라고 생각했다. 그들은 교회에 모여 다 같이 기도를 하고 신에게 죄를 비는 것만이 문제를 해결할 최선책이라고 믿었다. 과학 정신으로 무장한 현대인들이 보기에 당시 종교인들이 내린 조치는 어리석기 그지없다. 코로나 바이러스가 창궐한 오늘날 보통의 사람들 뿐 아니라 종교인들 마저도 신보다는 과학의 권위를 신봉한다. 예를 들어, 이슬람 종교행사인 라마단은 사회적 거리두기 때문에 썰렁하기 그지없다. 교황 조차 예배 시 마스크를 쓴다. 니체가 말한 ‘신은 죽었다’는 코로나 바이러스로 인해 다시 한번 유효한 명제임이 증명되었다.

실로 다양한 과학의 분야 중, 컴퓨터 과학 분야의 알고리즘은 현대 사회에서 특히 대단한 권능을 발휘하고 있다. 다음의 예를 보자. 한 중년 남성이 미국의 유통업체 타겟에 항의를 하는 사례가 있었다. 자신의 딸이 고등학생인데 타겟이 아기 옷과 수유 제품 등을 포함한 유아용품 할인 쿠폰을 보냈다는 것이다. 타겟 매장 매니저는 마케팅 과정에서 오류가 있었다고 여기고 정중히 사과한 뒤 고객을 돌려보냈다. 그러나 며칠 뒤 반전이 생겼다. 알고 보니 남성의 딸이 임신했다는 사실이 뒤늦게 알려진 것이다.

알고리즘은 충실히 본연의 역할을 수행하며 권위를 증명했다. 십 대 딸의 디지털 서비스 이용 행태를 분석해 그녀가 임신 중이라는 사실을 알고는 맞춤형 광고를 보낸 것이다. 이는 알고리즘이 인간의 자의적인 판단보다 객관적이고 정확할 수 있다는 사실을 시사한다. 타겟의 사례는 새 발의 피일뿐, 점점 더 많은 영역에서 우리는 알고리즘의 판단에 의존하려 하고 있다. 단순히 영화를 추천받거나 GPS 경로를 안내받는 것뿐 아니라, 사람을 채용하거나 진로를 탐색하거나 플랫폼 노동자에게 일감을 분배하는 등 인간의 삶에 훨씬 더 직접적인 영향을 미치는 영역에서도 말이다.

한때 인간은 스스로 창조한 신의 권위를 박탈시키고 인본주의적인 세계관을 형성하는 데 성공했다. 세계의 주인공이 신이 아니라 인간인 시절이 있었다. 그런데 지금, 인간은 어렵사리 획득한 지위를 포기하고는 알고리즘에 상당한 권리를 이양하려 하고 있다. 21세기는 인본주의 세계관에서 알고리즘 세계관으로 이행하고 있는 시기이다. 데이터에 기반한 알고리즘은 거짓말하지 않는다. 알고리즘의 권위는 절대적이다.

권위가 알고리즘으로 이동하는 현상을 가리켜, 유발 하라리는 ‘데이터 교’라는 표현을 사용한다. 그는 <호모 데우스>에서 데이토 교에 대해 다음과 같이 말한다. “데이터교는 우주가 데이터의 흐름으로 이루어져 있고, 어떤 현상이나 실체의 가치는 데이터 처리에 기여하는 바에 따라 결정된다고 말한다. (중략) 지금까지는 데이터가 지적 활동이라는 긴 사슬의 첫 번째 단계에 불과했다. 인간이 데이터에서 정보를 증류하고, 정보에서 지식을 증류하고, 지식에서 지혜를 증류해야 했다. 하지만 데이터 교도들은 인간이 더 이상 막대한 데이터의 흐름을 감당할 수 없고, 따라서 지식과 지혜를 증류하는 것은 고사하고 데이터에서 정보를 증류할 수도 없다고 생각한다. 그러므로 데이터를 처리하는 일은 연산능력이 인간의 뇌 용량을 훨씬 능가하는 전자 알고리즘에게 맡겨야 한다. 실질적으로 데이터 교도들은 인간의 지식과 지혜를 믿지 않고 빅데이터와 알고리즘을 더 신뢰한다는 것이다."

데이터 교의 문제는 알고리즘이 결코 완벽하지도, 공정하지도 않다는 점이다. 알고리즘도 결국 불완전한 인간 컴퓨터 프로그래머가 고안한 것이다. 컴퓨터 프로그래머는 본인, 혹은 소속된 회사의 이익을 극대화하는 방향으로 알고리즘을 짜기 마련이고, 이 과정에서 그의 주관적인 편견과 무지가 코딩에 무의식적으로 잠재되어 예상치 못한 부작용을 낳을 수 있다. 선한 의도를 가지고 만든 알고리즘이 미카엘의 모습을 하고 있을지라도, 특정한 상황에서 의도치 않게 사람들을 저승으로 이끄는 하데스로 탈바꿈할 수 도 있다는 뜻이다.

데이터 과학자 캐시 오닐은 <대량 살상 수학 무기>에서 약탈적인 성향을 띈 알고리즘을 ‘대량 살상 수학 무기’로 표현한다. 그녀는 알고리즘이 차별을 정당화하고 민주주의를 위협할 수 있음을 우려하며 다음과 같이 말한다. “빅데이터 경제의 원동력인 수학 모형 프로그램들은 실수가 있을 수 박에 없는 인간의 선택에 기반을 둔다. 분명 이런 선택 중 일부는 선한 의도를 가지고 있다. 그러나 대다수 모형은 인간의 편견, 오해, 편향성을 코드화 했다. 그리고 이 코드들은 점점 더 우리 삶을 깊이 지배하는 시스템에 그대로 주입됐다.”

사실, 대부분의 사람들은 자기 자신에 대해서 잘 모른다. 누군가 강력한 권위를 가진 이가 정답을 정해주기를 원하는 것이 보통의 사람들이 가진 습성이다. 따라서, 알고리즘이 지닌 부정성에도 불구하고, 대부분의 사람들은 점점 더 알고리즘의 판단에 의존하려 들 것이다. 그리하여 알고리즘으로부터 영화나 음악을 추천받는 것 뿐 아니라, 인생에서 가장 중요한 문제들을 – 무슨 공부를 해야 하는지, 어떤 직업을 가져야 하는지, 누구를 배우자로 삼아야 하는지 등 – 알고리즘의 선택에 맡기게 되는 것이다. 그렇게 하는 편이 마음이 편하니까, 그때가 되면 남들이 모두 그런 방식으로 살고 있을 테니까. 에리히 프롬의 표현에 따르면, 인간이라는 불운한 동물은 자유라는 타고난 선물을 되도록 빨리 넘겨줄 수 있는 누군가를 찾고 싶은 욕구보다 더 긴급한 욕구를 갖고 있지 않는데, 이제는 알고리즘이 자유로부터 도피한 인간을 지배하는 역할을 하게 될 것이다.

알고리즘의 지배력이 올라갈수록 이를 활용하는 디지털 빅브라더의 힘 또한 공고해질 것이다. 디지털 빅브라더는 데이터 교의 신도들에게 복음을 전파하고 항상 인터넷에 접속해 무언가 하고 있을 것을 요구할 것이다. 그렇게 해야만 데이터 흐름이 극대화되고 알고리즘이 개선되어 데이터 교가 명맥을 유지할 수 있기 때문이다. 양계장의 주인이 닭에게 모이를 주고 최대한 많은 달걀을 얻어내려는 것처럼, 디지털 빅브라더 역시 우리를 각종 편리한 서비스로 ‘길들이고’ 감시하며 가급적 많은 데이터를 얻어내려 할 것이다.

알고리즘은 인간을 돕는 보조적인 수단에서 출발해 점점 주인 행세를 하며 인간을 노예화할 것이다. 마치 돈이 그랬던 것처럼 말이다. (조개껍데기에서 출발한 화폐 경제가 오늘날 수많은 사람들을 돈의 노예로 만든 것을 보라!) 알고리즘의 노예가 된 사람들은 쉽사리 마음을 해킹당할 것이다. 마음을 해킹당한다는 의미는, 본인의 자유 의지와는 무관하게 알고리즘에 의해 마음이 좌지우지된다는 것이다.

출판사 웨일북과 계약을 맺고 <친절한 독재자, 디지털 빅브라더가 온다> 책이 출간되었습니다.

해당 내용은 책의 일부이며, 자세한 내용은 아래 링크에서 확인할 수 있습니다.