Labor를 넘어 Work로서의 모델링
자라(Zara)는 2주에 한 번 옷을 바꾼다. 디자인이 아니라 교체 주기가 경쟁력이다. 옷은 입기 위해 존재하지 않고, 팔리고 버려지기 위해 존재한다. 그 옷을 만든 사람이 세계에 무언가를 더했다고 말하기는 어렵다. 그는 소비의 속도를 유지하는 데 필요한 노동을 제공했다. 그것이 전부다.
신용평가 모델 산업의 어떤 부분은 이것과 닮아 있다.
6개월 주기로 모델이 교체된다. 더 높은 AUC를 가진 버전이 나왔다는 이유로. 변수 몇 개가 바뀌고, 파라미터가 조정되고, 새 모델이 배포된다. 이전 모델은 아카이브로 내려간다. 그 모델을 만든 사람이 무엇을 했냐고 묻는다면 — 그는 채무불이행 확률을 조금 더 정밀하게 계산하는 기계를 만들었다. 정확히는, 그 기계의 이번 시즌 버전을.
한나 아렌트는 인간의 활동을 세 개의 층으로 나누었다. 노동(Labor), 일(Work), 행위(Action). 번역어가 달라서 헷갈리지만 구분은 단순하다. 노동은 생존을 위한 반복이다. 먹기 위해 일하고, 일하기 위해 먹는다. 순환이고 소비다. 흔적이 남지 않는다. 일은 다르다. 일은 세계에 무언가를 더한다. 책상, 다리, 법률, 이야기 — 자신이 사라진 뒤에도 남는 것. 아렌트는 이것을 만드는 자를 Homo Faber, 세계를 짓는 인간이라고 불렀다. 행위는 더 나아간다. 타인과의 관계 속에서 정치적 언어로 세계의 방향을 바꾸는 것.
그러니까 아렌트의 언어로 물어야 한다. 당신이 만드는 신용평가 모델은 무엇인가. Labor인가, Work인가.
모델이 높은 변별력을 유지하면서도 특정 집단을 체계적으로 오분류하고 있을 때, 그것을 모르거나 알고도 보고하지 않는다면, 그 모델은 세계에 무언가를 더한 것이 아니다. 현재 세계의 구조를 수치로 재생산하는 기계를 납품한 것이다. 패스트패션이 유행을 만드는 것이 아니라 유행의 속도를 유지하듯, 그 모델은 금융 배제를 만드는 것이 아니라 금융 배제의 정밀도를 높인 것이다.
금융은 사회가 가진 에너지의 방향을 바꿀 수 있는 드문 산업이다. 자본이 어디로 흐르는가는 어떤 삶이 가능한가를 결정한다. 누가 사업을 시작할 수 있는가, 누가 집을 살 수 있는가, 누가 다음 달을 버틸 수 있는가 — 이 모든 것이 신용이라는 문을 통과한다. 그 문의 형태를 설계하는 사람이 모델러다. 아렌트의 언어로 말하면, 모델러는 원칙적으로 Homo Faber가 될 수 있는 자리에 있다. 세계의 관문을 짓는 자.
그런데 그 관문을 2주마다 교체되는 계절 상품처럼 다루면 어떤 일이 생기는가.
모델은 데이터에서 패턴을 학습한다. 데이터는 과거다. 과거에 대출이 거절됐던 사람들은 데이터 안에서 위험으로 분류된다. 모델은 그 분류를 학습하고, 미래에 같은 프로필의 사람에게 같은 결정을 내린다. 기술적으로 흠잡을 데 없는 모델이 사회적 배제를 재생산한다. 의도하지 않았더라도. 모델러가 그 구조를 생각하지 않았다면, 그것은 무지이고, 생각했지만 AUC 수치를 높이는 쪽을 선택했다면, 그것은 선택이다. 어느 쪽이든 그 모델은 세계를 지은 것이 아니라 세계를 고착시켰다.
부익부 빈익빈은 자연법칙이 아니다. 그것은 수많은 작은 결정들의 합산이다. 어떤 변수를 모델에 넣을지, 어떤 기준으로 임계값을 설정할지, 어떤 집단의 오류를 더 민감하게 볼지 — 이 선택들이 쌓여서 세계의 형태가 된다. 모델러가 그 선택을 "기술적 최적화"의 문제로만 보는 순간, 그는 의도하지 않은 방식으로 정치적 결정을 내리고 있다. 현재에 대한 비판의식이 없는 기술은 중립이 아니다. 현상 유지의 편이다.
AI는 이 문제를 가속한다. AI는 패턴 학습의 속도와 정밀도에서 인간을 이긴다. 과거 데이터에서 채무불이행 패턴을 찾아내는 일이라면, AI가 모델러보다 낫다. 그러니까 그 일만 하는 모델러는 대체된다. 그것이 전부가 아니라 그것이 전부이기 때문에. Labor는 더 싸고 더 빠른 Labor로 교체된다. 이것은 잔인한 이야기가 아니라 아렌트가 이미 말했던 이야기다. 소비의 논리 안에서는 만드는 자도 소비된다.
Work는 다르다. 세계를 짓는 자는 자신이 무엇을 짓고 있는지 알아야 한다. 모델이 사회의 어떤 에너지를 어떤 방향으로 흘려보내고 있는지, 그 흐름이 어떤 삶을 가능하게 하고 어떤 삶을 막는지. 그것을 아는 모델러는 변수 선택 앞에서 다른 질문을 던진다. 이 변수는 과거의 배제를 학습하는가, 아니면 미래의 가능성을 보는가.
그리고 아렌트에게는 Work 너머에 Action이 있었다. 타인과의 관계 속에서, 공적 언어로, 세계의 방향에 대해 발언하는 것. 모델러가 회의실에서 "이 모델은 이 집단을 체계적으로 배제하고 있습니다"라고 말할 때, 그것은 기술 보고가 아니다. 정치적 발언이다. 어떤 세계를 만들 것인가에 대한 의견 표명이다. 그 발언이 가능한 자리에 있는 사람이 그 발언을 하지 않는다면, 그는 자신이 가진 가장 중요한 능력을 사용하지 않는 것이다.
기술은 세계를 바꾼다. 그러나 방향은 기술이 정하지 않는다. 방향은 그 기술을 다루는 사람이 어떤 세계를 원하는지에 달려 있다. 신용평가 모델을 만드는 일이 금융의 문을 설계하는 일이라는 것을 아는 모델러와 모르는 모델러가 만드는 모델은, 성능이 같더라도 다른 세계를 짓는다.
패스트패션 디자이너는 옷을 만든다. 그러나 패스트패션의 논리 안에서 그는 교체 주기를 유지하는 노동을 제공한다. 명품 디자이너와의 차이는 무엇을 알고 무엇을 추구하느냐에 있다. 모델러도 마찬가지다. 채무불이행 확률을 계산하는 기계를 만들 수도 있고, 금융이 어떤 방식으로 삶을 가능하게 하는가에 대한 자신의 생각을 수식으로 표현할 수도 있다.
그 선택은 기술의 문제가 아니다.