<대량살상 수학무기>
“어떻게 빅데이터는 불평등을 확산하고 삶을 위협하는가”
<대량살상 수학무기>
“어떻게 빅데이터는 불평등을 확산하고 삶을 위협하는가”
강 일 송
오늘은 4차 산업혁명의 큰 흐름 중의 하나인 빅데이터 사용에 관한 흥미로운 관점을
제시하는 책을 한번 보려고 합니다.
우리가 흔히 “대량살상 화학무기”나 “대량살상 핵무기” 등에 대해서는 듣지만 수학무기
라는 것은 생소한데, 저자는 수학과 데이터, IT기술의 결합으로 탄생한 빅데이터 모형이
얼마나 인간의 삶에 큰 영향을 주고 위협할 수 있는지에 대해 말하고 있습니다.
저자인 캐시 오닐(Cathy O'Neil)은 UC버클리를 졸업하고 1999년 하버드대학교에서
대수적 정수론으로 수학박사 학위를 받았습니다. MIT에서 박사후과정을 거친 후
버나드 칼리지 수학과 종신교수로 재직했습니다.
한번 보시겠습니다.
=========================================================
★ 대량살상 수학무기(Weapons of Math Destruction, WMD)
수학자이자 권트, 데이터과학자로서 나는 빅데이터와 인공지능이 가진 파괴적인 힘을
수년간 목격했다. 이 책은 내 여정의 기록이자 내부 고발이며 전문가로서의 제안이다.
수학, 데이터, IT기술의 결합으로 만들어진 알고리즘들은 지금 이 순간에도 곳곳에서
‘보이지 않는 손’이 되어 무소불위의 권력을 휘두르고 있다.
특히 인간의 편견과 무지, 오만을 코드화한 프로그램들은 차별을 정당화하고, 민주
주의를 위협한다. 저는 이런 프로그램들이 ‘대량살상 무기(Weapons of Mass
Destrucion)’만큼 위험하다고 생각해서 대량살상 수학무기(Weapons of Math
Destruction, WMD)라고 이름을 붙였다.
2016년 세계 곳곳에서 파괴적인 WMD의 다양한 폐해를 목격했는데, 중국에서는
사회적인 신용도를 평가하는 척도로 사생활이 고스란이 담긴 소셜네트워크 정보를
이용하는 알고리즘이 도입되었다. 많은 국가에서 선거 결과에 영향을 주기 위한
의도로 만들어진 ‘가짜 뉴스’가 정교한 WMD의 도움을 받아 퍼져나갔다.
범죄를 예방한다는 미명하에 성격과 감정까지 포착하는 안면인식 소프트웨어 사용이
늘고 있다.
시민으로서, 소비자로서 우리에 대한 수없이 많은 정보가 어떤 제약도 없이 수집되고
있으며, 수상쩍은 알고리즘은 그 정보를 이용해 우리를 점수화하고 평가 내리고
있다.
★ 세 가지 모형
야구는 수학적인 예측 모형에 관한 이상적인 소재다. 야구는 지구상에 등장한 이래
수많은 데이터 광을 매혹시켰다. 야구팬들은 야구 카드 뒷면에 적힌 통계수치를 달달
외우고 선수들의 홈런 타구 각도, 비거리, 방향 등을 분석한다.
이러한 야구 모형은 투명하고 지속적으로 자료가 추가되며, 가정과 결론이 모든 사람
에게 명백히 공개된다.
식단에 관한 모형도 있을 수 있는데, 내가 가정주부로 세 아이들의 식단을 만드는데,
경제적인 것이든 음식과 관련된 것이든 나는 근간이 된 가정들에 대해 명확히 설명해
줄 수 있다. 내가 열심히 설득한다면 설정한 식단 모형의 편리함, 경제성, 건강, 좋은
식습관에 대한 공통된 목표에 마지못해서라도 동의할 것이다.
하지만, 세 번째 사례인 “재범(再犯)위험성모형”은 이야기가 다르다.
먼저 사람들은 자신이 모형에 포함된다거나 그 모형이 어떻게 사용되는지 알더라도
그 모형이 불투명하거나 비공개적인지 따져보아야 한다. 의무적으로 LSI-R 설문지를
작성해야 하는 범죄자에게는 많은 정보가 감추어질 수 있고 또한 자신의 위험성
점수를 알지 못한다.
★ 위험한 기업의 알고리즘
일반인인 우리도 모형에 의해 적극적인 소비자, 백수, 환자, 대출 신청자 등등으로
분류되지만 정작 누구도 자신이 어떤 분류에 속하는지 알지 못한다. 심지어 자신의
손으로 신청서를 작성하면서도 자신이 모형화의 대상이 됐다는 사실조차 알지 못한다.
많은 기업이 모형의 산출물이나 심지어 모형이 존재한다는 사실 자체를 숨기기 위해
갖은 노력을 기울인다. 이런 행동을 정상화하기 위해 기업들이 사용하는 보편적인
논리는 이러한 알고리즘이 비즈니스에 절대적으로 중요한 ‘영업 비밀’이라고 주장
하는 것이다.
구글, 아마존, 페이스북 같은 거대 인터넷 기업의 경우, 한 치의 오차도 없이 정확히
맞춤화된 알고리즘을 갖고 있고 그 자체로 수백억 달러의 가치를 가진다고 주장한다.
★ WMD의 확장성과 피해
예를 들어, 은행의 대출심사모형이 당신에 대해 채무불이행 위험이 높다고 판단하면
어떻게 될까? 이것이 지독한 오해에 불과할지라도 온 세상이 당신에게 ‘예비 채무
불이행자’라는 똑같은 꼬리표를 붙일 것이다. 이 꼬리표는 당신이 아파트나 일자리를
구할 때는 물론이고 자동차를 렌트할 때조차 기준이 되어 당신의 삶 전체에 영향을
미칠 것이다. 이것이 WMD의 “확장성”이다.
확장성에 관한 한, 재범위험성모형의 잠재력은 지속적으로 커지고 있다. 이미 미국
대다수의 주에서 이와 비슷한 모형이 사용되고 있다.
물론 WMD가 모든 사람에게 파괴적인 영향을 미치는 것은 아니다.
WMD 모형 덕분에 어떤 학생은 하버드 대학교에 진학하고, 누구는 저금리 대출을
받거나 좋은 직장을 구하고, 일부 운이 좋은 범죄자는 가벼운 양형을 받는 것이
사실이다.
하지만 핵심은, WMD모형으로 혜택을 받는 사람들이 있지만 일부 예외를 제외하면
이로 인해 고통 받는 사람이 너무 많다는 것이 문제다. 알고리즘에 의해 작동되는
모형은 수백만 명의 면전에서 기회의 문을 닫아버리고 이의를 제기할 가능성조차
허용하지 않는다. 더욱이 가끔은 지극히 하찮은 이유로 그렇게 한다. 그러니
WMD 모형이 불공정하다고 할 수밖에 없는 것이다.
알고리즘에 관해서 마지막으로 하고 싶은 말이 있다. 알고리즘은 하나의 분야에서
전혀 다른 분야로 이동할 수 있다. 실제로 그런 일은 빈번히 있어왔다.
가령, 전염병에 관한 역학 연구는 영화 흥행을 예측하는 데 활용된다. 스팸 필터링
기법을 응용해 에이즈 바이러스를 식별할 수도 있다.
WMD도 마찬가지다. 교도소에서 수학 모형들이 본연의 목적을 성공적으로 달성하면
그 모형들은 다양한 영역으로 응용되고 확산되면서 우리에게 부수적 피해를 안겨줄
수 있다. 내가 염려하는 것은 바로 이 점이다.
==========================================================
오늘 책은 2017년 상당히 큰 반향을 일으키고 여러 매체에서 주목할 만한 책으로
선정이 된 책입니다. 대량살상무기의 영어문장에서 대량을 뜻하는 Mass를 수학
의 Math로 바꾸어 의미의 비틀기를 한 제목의 책인데, 4차 산업혁명의 핵심 중
하나인 빅데이터를 통한 수학적 예측 모형이 인간에게 많은 새로운 시도를 가능
하게 하고 도움을 주지만, 그 폐해도 심각할 수 있다고 말하고 있습니다.
IT기술이 발전하여 빅데이터를 소유하게 된 인류는 이를 수학적 기법을 통해
새로운 도구들을 발명하는데, 이는 잘 사용하면 엄청나게 큰 득을 가져다 주게
되지만, 잘못된 목적으로 사용되면 인간의 삶에 큰 제약과 피해를 준다는 관점
에서 저자는 다양한 예를 들고 있습니다.
중국 정부가 수많은 중국 국민들이 사용하는 중국산 카톡인 "위챗"을 통해
사회적 신용도를 판단한다는 내용과 선거에 악용될 수 있는 알고리즘 등을
사용할 수 있다는 것을 본다면 빅브라더스나 고도로 집중화된 슈퍼컴퓨터가
사회를 지배할 것이라는 미래예측이 점차 실현가능한 것으로 변할 수
있다는 우려가 피부에 와닿습니다.
금융권에서 각 개인의 신용도를 평가하는 알고리즘을 지금도 사용하고 있겠
지만 저자의 우려처럼 이것이 단순히 은행의 업무외에 개인의 생활 전 영역에
걸쳐서 영향을 받고 제약을 받게 된다면 큰 문제가 될 것입니다.
그리고 "재범위험성모형"등이 원활하게 범죄자들의 관리에 성공한다면 이를
전 사회 다른 분야에서도 응용 사용이 가능하고 이는 개인의 사생활 영역이
날이 갈수록 축소될 수 있음을 저자는 경고하고 있습니다.
이처럼 새로운 시대에는 새로운 도구로 인한 장점과 이점이 있는 반면, 그로
인해 새로운 문제와 걱정거리가 함께 생김을 알 수 있습니다.
이는 마치 불(火)이 잘 사용되면 찬란한 인류 문명을 가져다 주기도 하지만
잘못 사용되면 큰 재앙이 되듯이 말입니다.
부디 인간이 자신이 만든 도구에 의해 스스로가 옭아매어지는 우가 범해져서는
안 될 것이라 생각하고 깨어있는 의식과 자각으로 늘 이를 살피는 마음을
가진다면 이러한 문제점에 대한 관리도 가능하지 않을까 생각해봅니다.
좋은 하루 되시길 바랍니다.
