시스템의 무죄
1961년 4월 11일, 예루살렘의 베이트 하암 법정에는 긴장감이 감돌았다. 방탄유리로 둘러싸인 피고석에 앉은 남자는 놀라울 정도로 평범해 보였다. 55세의 아돌프 아이히만은 깔끔하게 다림질된 양복을 입고 있었고, 안경 너머로 보이는 그의 눈빛은 오히려 온순해 보였다. 이 남자가 600만 명의 유대인을 죽음의 수용소로 보낸 '최종 해결책'의 핵심 설계자라는 사실을 믿기 어려웠다. 검사가 그의 범죄를 낭독하는 동안, 아이히만은 차분하게 자신의 변호 논리를 준비하고 있었다. 그것은 단순했다. "저는 명령을 따랐을 뿐입니다. 저는 제 의무를 다했을 뿐입니다. 저는 법을 어긴 적이 없습니다."
이 변명은 거짓이 아니었다는 점에서 더욱 소름 끼쳤다. 아이히만은 정말로 당시 나치 독일의 법률과 규정을 충실히 이행했다. 그는 유대인 수송의 효율성을 높이기 위해 철도 시간표를 최적화했고, 관료적 절차를 정확히 준수했으며, 상부의 지시를 빈틈없이 실행했다. 그는 자신을 성실한 공무원이자 책임감 있는 직업인으로 여겼다. 실제로 그의 인사 기록에는 "뛰어난 조직 능력"과 "업무에 대한 헌신"이 기록되어 있었다. 그는 책상에서 서류를 처리했고, 회의에서 보고했으며, 통계를 작성했다. 피 한 방울 직접 흘리지 않았다. 하지만 그의 서류 작업은 아우슈비츠행 열차를 가득 채웠고, 그의 통계는 학살의 효율성을 측정했다.
이 역설은 우리에게 가장 불편한 질문을 던진다. 만약 시스템 안의 모든 개인이 자신에게 주어진 규칙을 충실히 따랐을 뿐이라면, 그 시스템이 초래한 파국의 책임은 누구에게 있는가? 개인의 무죄를 합산하면 집단의 무죄가 되는가, 아니면 개인의 무죄가 모여 집단의 유죄를 만드는가? 그리고 더 나아가, 우리는 지금 이 순간에도 어떤 시스템의 톱니바퀴로서 무엇을 만들어내고 있는가?
한나 아렌트는 뉴요커 잡지의 특파원 자격으로 아이히만 재판을 참관했다. 철학자이자 정치이론가인 그녀는 나치 독일을 피해 망명한 유대인이었다. 그녀가 법정에서 기대한 것은 악마적 괴물의 모습이었다. 하지만 그녀가 목격한 것은 그녀의 표현대로 "무시무시할 정도로 평범하고, 말 그대로 생각 없는" 인간이었다. 아렌트는 이를 '악의 평범성(banality of evil)'이라는 개념으로 정리했다. 그녀의 이 개념은 발표 당시 격렬한 논쟁을 불러일으켰다. 많은 이들이 이를 아이히만에 대한 변명으로 받아들였기 때문이다. 하지만 아렌트의 의도는 정반대였다.
아렌트가 포착한 것은 현대적 악의 새로운 양상이었다. 전통적으로 악은 악의적 의도, 잔혹한 본성, 또는 도덕적 타락과 연결되어 있었다. 하지만 아이히만은 그 어느 것도 보여주지 않았다. 그는 유대인에 대한 개인적 증오가 없었다. 법정에서 그는 유대인 친척을 도와준 일화들을 자랑스럽게 언급했다. 그는 사디스트가 아니었다. 오히려 직접적인 폭력을 보는 것을 불편해했다. 한번은 민스크의 집단 처형 현장을 시찰하다가 비위가 상해 자리를 떠난 적도 있었다. 그는 단지 승진을 원했고, 상사의 인정을 받고 싶어 했으며, 자신의 업무를 효율적으로 처리하는 것에 자부심을 느꼈다. 그는 전형적인 커리어 관료였다.
아이히만의 가장 큰 죄악은 살인이 아니라 사유의 거부였다. 법정에서 그는 반복적으로 "나는 생각할 권한이 없었다"고 말했다. 이것은 변명이 아니라 사실 진술이었다. 나치 체제는 개인의 사유를 체계적으로 억압했다. 모든 것은 명령으로 주어졌고, 명령은 질문의 대상이 아니었다. 아이히만은 이 구조 안에서 완벽하게 기능했다. 그는 자신이 작성하는 서류가, 자신이 관리하는 열차 시간표가, 자신이 최적화하는 수송 경로가 무엇을 의미하는지 생각하기를 거부했다. 더 정확히 말하면, 생각하지 않는 능력을 완벽하게 체화했다. 그에게 규칙은 사고의 면제부였고, 동시에 양심의 마취제였다.
이러한 구조는 현대 관료제의 본질적 특성이다. 독일의 사회학자 막스 베버는 20세기 초 관료제를 "철창(iron cage)"에 비유했다. 관료제는 합리성과 효율성을 추구하지만, 그 과정에서 개인의 책임을 분산시키고 파편화한다. 한 사람은 정책을 수립하고, 다른 사람은 예산을 책정하며, 또 다른 사람은 문서를 작성하고, 다음 사람은 그것을 승인하며, 마지막 사람은 그것을 집행한다. 각자는 전체 과정의 작은 톱니바퀴일 뿐이며, 자신의 행위가 전체 시스템 속에서 어떤 결과를 낳는지 보지 못한다. 더 정확히 말하면, 보지 않아도 되는 구조 안에 있다.
이 구조의 천재성은 도덕적 책임을 무한히 희석시킨다는 점이다. A는 "나는 정책만 만들었지 집행하지 않았다"고 말하고, B는 "나는 승인만 했지 만들지 않았다"고 말하며, C는 "나는 명령을 따랐을 뿐이다"라고 말한다. 각자는 자신의 역할이 전체에서 차지하는 비중이 미미하다고 생각한다. 그리고 실제로 개별적으로 보면 각자의 행위는 무해해 보인다. 문서를 작성하는 것, 도장을 찍는 것, 데이터를 입력하는 것. 이런 행위들이 어떻게 범죄가 될 수 있는가? 하지만 이 무해해 보이는 행위들이 결합하여 거대한 악을 만들어낸다.
1994년 르완다에서 일어난 일은 이를 극명하게 보여준다. 불과 백일 만에 80만 명에서 100만 명이 학살당했다. 하루 평균 8천 명 이상이 죽었다. 이는 나치의 홀로코스트보다 빠른 속도였다. 후투족 과격파들이 투치족을 향해 마체테(대형 칼)를 휘둘렀고, 거리는 시체로 뒹굴었다. 언뜻 보면 이것은 원시적이고 광기 어린 폭력으로 보인다. 하지만 그 이면에는 정교한 관료적 시스템이 작동하고 있었다.
학살은 즉흥적이지 않았다. 이것은 계획되고 조직되었다. 정부 관료들은 투치족 명단을 작성하고 배포했다. 라디오 방송국 RTLM(Milles Collines)은 24시간 선동 방송을 내보내며 투치족을 "바퀴벌레"로 지칭하고 그들을 죽이라고 선동했다. 지방 행정관들은 민병대를 조직하고 무기를 배포했다. 경찰은 검문소를 설치하고 신분증을 검사했다. 은행원들은 학살 자금을 이체했다. 교사들은 학생들을 분류했다. 심지어 일부 성직자들도 투치족 신도들을 넘겨주었다.
이들 각자는 자신의 직무를 수행했을 뿐이었다. 국제형사재판소에서 진행된 재판에서, 많은 피고인들이 "나는 상부의 지시를 따랐을 뿐"이라고 말했다. 라디오 방송인은 "나는 뉴스를 읽었을 뿐"이라고 했고, 지방 관료는 "나는 명령을 전달했을 뿐"이라고 했으며, 경찰은 "나는 신분증을 확인했을 뿐"이라고 했다. 그들 중 상당수는 자신이 직접 사람을 죽이지 않았다는 사실을 무죄의 근거로 제시했다. 실제로 많은 이들이 피를 묻히지 않았다. 그들은 사무실에서 일했고, 전화를 걸었으며, 문서를 작성했다. 하지만 그들의 행정적 행위가 학살을 가능하게 했다.
하지만 문제는 더 깊은 곳에 있다. 때로는 명백히 부당한 규칙이 아니라, 표면상 중립적이고 합리적으로 보이는 규칙들이 재앙을 낳는다. 2008년 금융위기는 이를 완벽하게 보여준다. 이 위기는 전 세계 경제를 붕괴시켰고, 수백만 명이 일자리를 잃었으며, 수조 달러의 부가 증발했다. 하지만 이 재앙을 만든 사람들 중 거의 아무도 감옥에 가지 않았다. 왜냐하면 그들은 법을 어기지 않았기 때문이다.
월스트리트의 은행가들은 서브프라임 모기지를 증권화했다. 이것은 합법적인 금융 기법이었다. 신용평가사들은 이 증권들에 최고 등급을 부여했다. 그들은 정해진 모델과 절차를 따랐다. 규제기관들은 감독했지만, 그들은 법률이 정한 범위 내에서만 개입할 수 있었다. 경제학자들은 복잡한 수학 모델로 위험을 계산했다. 그들의 모델은 동료 심사를 거친 학술 논문에 기반했다. 투자자들은 분산 투자 원칙에 따라 포트폴리오를 구성했다. 이들 모두가 규칙을 따랐다. 모두가 "합리적으로" 행동했다.
그런데 왜 위기가 발생했는가? 문제는 각자가 따른 규칙들이 전체로서는 재앙을 만들어내는 시스템을 구성했다는 것이다. 은행가들은 단기 이익을 극대화하는 인센티브 구조 안에서 움직였다. 그들은 위험을 다른 곳으로 전가할 수 있었기 때문에 더 많은 위험을 감수했다. 신용평가사들은 평가 대상 기업으로부터 수수료를 받았기 때문에 이해 충돌이 있었지만, 이것은 업계 표준이었다. 규제기관들은 "시장은 스스로를 규제한다"는 이데올로기에 사로잡혀 있었다. 각각의 행위는 개별적으로는 합리적이었지만, 전체적으로는 비합리적이었다.
위기가 터진 후, 미국 의회는 청문회를 열었다. 은행 CEO들이 증언대에 섰다. 의원들이 물었다. "당신은 무엇을 잘못했는가?" 대답은 한결같았다. "우리는 규칙을 따랐습니다. 우리는 법을 어기지 않았습니다." 그리고 그것은 사실이었다. 법적으로 그들은 무죄였다. 하지만 수백만 명이 집을 잃었고, 일자리를 잃었으며, 퇴직금이 증발했다. 누가 책임져야 하는가? 시스템이 책임져야 하는가? 하지만 시스템은 사람이 아니다. 시스템은 재판을 받을 수 없고, 감옥에 갈 수 없다. 책임은 증발한다.
이 질문에 답하기 위해서는 규칙 자체의 성격을 검토해야 한다. 규칙은 중립적이지 않다. 모든 규칙은 특정한 가치를 담고 있으며, 특정한 이익을 대변하고, 특정한 결과를 지향한다. 누군가는 규칙을 만들고, 누군가는 그로부터 이익을 얻으며, 누군가는 그로 인해 피해를 본다. 하지만 규칙은 객관성과 공정성의 외피를 입는다. "규칙이니까"라는 말은 논쟁을 종결시킨다. 규칙의 존재 자체가 정당성의 증거처럼 받아들여진다.
심리학자 스탠리 밀그램의 전기충격 실험은 이를 극명하게 보여준다. 1961년 예일대학교에서 진행된 이 유명한 실험에서, 밀그램은 평범한 시민들을 모집했다. 참가자들은 "학습과 처벌"에 관한 실험에 참여한다고 들었다. 그들의 역할은 "학습자"가 틀린 답을 할 때마다 전기충격을 가하는 것이었다. 전기충격은 15볼트부터 시작해서 틀릴 때마다 15볼트씩 증가했다. 450볼트까지 갈 수 있었고, 이는 치명적일 수 있는 수준이었다. 물론 학습자는 배우였고, 실제 전기충격은 없었다. 하지만 참가자들은 이를 알지 못했다.
밀그램이 예측한 것은 대부분의 사람들이 초기 단계에서 멈출 것이라는 것이었다. 동료 심리학자들도 같은 예측을 했다. 1% 미만만이 최고 단계까지 갈 것이라고 추정했다. 하지만 결과는 충격적이었다. 65%의 참가자가 450볼트까지 갔다. 학습자가 고통스러워하고, 벽을 두드리고, 심장병이 있다고 외치고, 나중에는 완전히 조용해진 후에도 말이다.
참가자들이 사악했던 것은 아니다. 많은 이들이 명백한 불편함을 보였다. 땀을 흘렸고, 떨었으며, 신경질적으로 웃었다. 일부는 실험을 중단하고 싶다고 말했다. 하지만 실험자가 차분하게 말했다. "실험은 계속되어야 합니다." "당신은 계속해야 합니다." "다른 선택이 없습니다." 그러면 대부분은 계속했다. 권위 있는 인물(흰 가운을 입은 과학자)의 지시, 공식적인 맥락(명망 있는 대학), 그리고 규칙("실험 프로토콜")이 개인의 도덕적 판단을 압도했다.
밀그램은 나중에 이렇게 썼다. "평범한 사람들이 단순히 자신의 일을 하면서, 그리고 적대적인 의도 없이, 끔찍한 파괴 과정의 행위자가 될 수 있다." 이것이 바로 아이히만의 경우였고, 르완다 관료들의 경우였으며, 월스트리트 은행가들의 경우였다. 그들은 자신의 일을 했을 뿐이다. 그들은 규칙을 따랐을 뿐이다.
그렇다면 개인에게 책임이 없다는 말인가? 시스템이 모든 것을 결정하는가? 그렇지 않다. 오히려 그 반대다. 밀그램의 실험에서도 35%는 멈췄다. 나치 독일에서도 명령을 거부한 사람들이 있었다. 역사학자들의 연구에 따르면, 홀로코스트에 참여하기를 거부한 독일 경찰과 군인들 대부분은 처벌받지 않았다. 다른 임무를 배정받거나, 승진에서 제외되거나, 동료들로부터 따돌림을 받았지만, 처형되거나 수감되지는 않았다. 즉, 거부할 수 있는 공간이 있었다. 하지만 대부분은 거부하지 않았다. 왜인가?
독일의 역사학자 크리스토퍼 브라우닝은 "평범한 사람들(Ordinary Men)"이라는 책에서 101 예비경찰대대의 사례를 연구했다. 이들은 평범한 중년 남성들로, 대부분 노동자나 하층 중산층 출신이었다. 그들은 직업 경찰도 아니었고, 나치 이데올로기에 특별히 헌신적이지도 않았다. 1942년 폴란드에서, 그들은 유대인 마을을 포위하고 주민들을 학살하라는 명령을 받았다. 대대장은 놀랍게도 이렇게 말했다. "이 임무가 너무 힘들다고 생각하는 사람은 나서도 좋다." 약 500명 중 12명만이 나섰다. 나머지는 참여했다.
왜 그들은 거부하지 않았는가? 브라우닝의 분석에 따르면, 그들은 동료들 앞에서 "약한 사람"으로 보이고 싶지 않았다. 그들은 팀을 저버리고 싶지 않았다. 그들은 "다른 사람들도 하는데 나만 거부할 수는 없다"고 생각했다. 즉, 살인보다 동료 압력이 더 강했다. 규칙을 따르는 것이 사람을 죽이지 않는 것보다 쉬웠다.
이것이 시스템의 힘이다. 시스템은 개인의 도덕성을 무력화시킨다. 하지만 시스템은 마법이 아니다. 시스템은 사람들의 선택으로 유지된다. 매 순간, 개인은 선택한다. 따를 것인가, 거부할 것인가. 질문할 것인가, 침묵할 것인가. 행동할 것인가, 방관할 것인가. "나는 규칙을 따랐을 뿐"이라는 말은 선택의 부재를 주장하지만, 그 자체가 하나의 선택이었다. 사유하지 않기로 한 선택, 책임을 회피하기로 한 선택, 안전한 길을 택하기로 한 선택.
독일의 철학자 칼 야스퍼스는 제2차 세계대전 직후 "죄의 문제(The Question of German Guilt)"라는 책에서 죄의 네 가지 차원을 구분했다.
첫째, 범죄적 죄(criminal guilt)는 법을 위반한 것으로, 법정에서 판결된다.
둘째, 정치적 죄(political guilt)는 자신이 속한 국가나 공동체의 행위에 대해 시민으로서 지는 책임이다.
셋째, 도덕적 죄(moral guilt)는 자신의 행위에 대해 양심 앞에서 지는 책임이다.
넷째, 형이상학적 죄(metaphysical guilt)는 인간으로서 타인의 고통 앞에서 침묵하고 방관했다는 사실에서 비롯되는 실존적 책임이다.
이 구분은 중요하다. 규칙을 따랐다는 것은 범죄적 죄로부터는 면제될 수 있을지 모른다. 법률적으로 무죄일 수 있다. 하지만 다른 차원의 죄로부터 자유로울 수 없다. 아이히만은 법정에서 유죄 판결을 받고 사형당했지만, 설령 법적으로 무죄였다 하더라도 도덕적, 정치적, 형이상학적 차원에서 그의 죄는 남는다. 2008년 금융위기의 은행가들은 법적으로 무죄였지만, 그들의 도덕적 책임은 사라지지 않는다.
2014년 4월 16일 오전 8시 49분, 대한민국 진도 앞바다에서 세월호가 침몰하기 시작했다. 476명의 승객 중 304명이 사망했고, 그중 대부분은 수학여행을 가던 단원고 학생들이었다. 이 참사는 한국 사회에 시스템적 책임이라는 질문을 각인시켰다. 선장 이준석은 승객을 배에 남겨두라고 방송하고는 자신은 먼저 탈출했다. 그는 살인죄로 유죄 판결을 받았다. 하지만 선장만의 문제였는가?
선박은 과적되어 있었다. 화물 고박 장치는 부실했다. 선박은 불법 개조되어 복원력이 약화되어 있었다. 선원들은 제대로 된 훈련을 받지 않았다. 해경은 초기 대응에 실패했다. 언론은 잘못된 정보를 반복 보도했다. 정부는 혼란스러운 지휘 체계를 보였다. 각 단계에서 사람들은 무엇을 했는가?
화물 담당자는 "화물을 많이 실어야 회사가 이익을 낸다"고 생각했다. 그것은 그의 업무였다. 선박 검사관은 "다른 배들도 이 정도면 통과시킨다"고 생각했다. 그것은 관행이었다. 선원들은 "우리는 비정규직이라 제대로 된 교육을 못 받았다"고 말했다. 그것은 사실이었다. 해경은 "우리는 매뉴얼대로 했다"고 주장했다. 매뉴얼이 현실과 맞지 않았지만 말이다. 관료들은 "우리는 규정을 위반하지 않았다"고 말했다. 규정이 부실했지만 말이다.
세월호 참사 이후 한국 사회는 "가만히 있으라"는 말에 집착했다. 학생들은 배가 침몰하는 동안 선내 방송을 따라 가만히 있었고, 이 말은 규칙 준수의 치명적 결과를 상징하게 되었다. 하지만 더 깊이 보면, 한국 사회 전체가 "가만히 있었다." 과적을 알았지만 가만히 있었고, 불법 개조를 알았지만 가만히 있었으며, 부실한 안전 관리를 알았지만 가만히 있었다. 왜냐하면 그것이 규칙이었기 때문이다. 묵인과 방관의 규칙.
세월호 특별조사위원회의 보고서는 "시스템의 총체적 실패"라는 표현을 사용했다. 하지만 시스템은 스스로 실패하지 않는다. 사람들이 시스템을 실패하게 만든다. 그리고 그 사람들 각자는 규칙을 따랐다고 말할 수 있다. 이것이 바로 시스템적 악의 교묘함이다. 책임이 너무 널리 퍼져 있어서 누구도 책임지지 않게 된다.
문제는 규칙이 언제나 불완전하다는 사실이다. 규칙은 과거의 경험을 바탕으로 만들어진다. 따라서 규칙은 이미 일어난 일에 대응하기 위해 존재한다. 새로운 상황, 예외적인 상황, 복잡한 상황에서 규칙은 충분하지 않다. 규칙은 현실의 단순화된 모델일 뿐이다. 실제 세계는 규칙이 상정한 것보다 훨씬 복잡하다.
더 나아가, 규칙은 종종 서로 모순된다. 효율성을 요구하는 규칙과 안전성을 요구하는 규칙. 이익을 추구하라는 규칙과 윤리를 지키라는 규칙. 명령에 복종하라는 규칙과 자신의 판단을 사용하라는 규칙. 실제 상황에서 개인은 이 모순들 사이에서 선택해야 한다. 그리고 그 선택은 규칙만으로는 결정되지 않는다. 개인의 판단이 개입해야 한다.
교통법규를 생각해보자. 법규는 안전을 위해 존재한다. 하지만 응급환자를 실은 차량이 적신호에서 정차한다면 어떻게 되는가? 그것은 법의 준수이면서 동시에 법의 정신에 대한 위배다. 법의 목적은 생명을 보호하는 것인데, 법의 기계적 적용이 생명을 위협한다. 이런 상황에서 무엇이 옳은가? 규칙을 따르는 것인가, 규칙의 정신을 따르는 것인가?
이것이 바로 아렌트가 강조한 '판단력(judgment)'의 중요성이다. 아렌트에게 판단력은 단순히 생각하는 능력이 아니다. 그것은 구체적 상황에서 옳은 것을 식별하는 능력이다. 규칙은 일반적이지만, 상황은 특수하다. 판단력은 일반을 특수에 적용하는 능력이다. 더 나아가, 판단력은 타인의 관점에서 세계를 바라보는 능력이다. 아렌트는 이를 칸트로부터 빌려와 "확장된 사고방식(enlarged mentality)"이라고 불렀다.
아이히만은 바로 이 판단력이 결여되어 있었다. 그는 유대인의 관점에서 생각할 수 없었다. 열차에 실려 가는 사람들의 두려움을, 가스실로 걸어가는 사람들의 절망을 상상할 수 없었다. 아니, 상상하려 하지 않았다. 그는 의도적으로 공감의 능력을 차단했다. 왜냐하면 공감은 그의 업무 수행에 방해가 되기 때문이다. 그는 효율적인 관료가 되기 위해 인간성의 일부를 포기했다.
현대 사회는 점점 더 복잡해지고, 시스템은 점점 더 정교해지며, 우리는 점점 더 많은 규칙에 둘러싸여 있다. 그리고 이제 우리는 새로운 형태의 시스템적 무책임에 직면하고 있다. 알고리즘의 시대가 그것이다.
알고리즘은 대출 승인을 결정한다.
어떤 사람은 대출을 받고, 어떤 사람은 거부당한다.
거부당한 사람이 묻는다.
"왜 나는 안 되는가?"
은행 직원이 답한다.
"알고리즘이 결정했습니다."
"그런데 알고리즘은 어떻게 결정하는가?"
"저도 잘 모릅니다. 그것은 복잡한 수학적 모델입니다."
책임은 어디에 있는가?
인공지능은 채용 결정에 사용된다. 지원자의 이력서를 분석하고, 점수를 매기며, 추천한다. 그런데 이 AI가 여성 지원자나 특정 인종을 체계적으로 차별한다면? 실제로 아마존은 2018년 이런 이유로 AI 채용 도구를 폐기했다. 누가 책임지는가? AI를 만든 엔지니어는 "저는 데이터를 학습시켰을 뿐입니다"라고 말한다. 데이터는 과거의 채용 결정을 반영했고, 과거의 채용 결정에는 편향이 있었다. 편향을 만든 사람들은 은퇴했거나 퇴사했다. AI를 사용한 HR 담당자는 "저는 시스템의 추천을 따랐을 뿐입니다"라고 말한다.
자동화된 시스템은 복지 급여를 판정한다. 네덜란드에서는 2013년부터 2020년까지 약 26,000명의 가족이 아동 돌봄 수당을 부당하게 환수당했다. 알고리즘이 사기를 탐지했다고 했지만, 대부분은 무고했다. 많은 가족이 파산했고, 일부는 자녀를 잃었다. 2021년 정부가 사과했지만, 누가 책임졌는가? 알고리즘을 설계한 사람은 "저는 주어진 요구사항에 따라 코딩했을 뿐입니다"라고 말한다. 요구사항을 정한 정책 입안자는 "저는 사기를 방지하려 했을 뿐입니다"라고 말한다. 시스템을 운영한 관료는 "저는 시스템의 결과를 따랐을 뿐입니다"라고 말한다.
이것은 아이히만의 논리를 디지털 시대로 번역한 것이다. "나는 명령을 따랐을 뿐"이 "나는 알고리즘을 따랐을 뿐"이 되었다. 규칙이 코드가 되었을 뿐, 구조는 동일하다. 오히려 더 나빠졌다. 왜냐하면 알고리즘은 더욱 불투명하기 때문이다. 관료적 규칙은 적어도 읽을 수 있다. 하지만 복잡한 머신러닝 모델은 그것을 만든 사람조차 완전히 이해하지 못한다. "블랙박스"라고 불린다. 그리고 블랙박스는 책임을 삼켜버린다.
그렇다면 우리는 무엇을 해야 하는가? 이 질문에 답하기 위해 우리는 먼저 규칙과 책임의 관계를 재정립해야 한다.
첫째, 규칙의 목적을 끊임없이 물어야 한다. 이 규칙은 왜 존재하는가? 이 규칙은 누구를 위한 것인가? 이 규칙은 무엇을 보호하고 무엇을 희생시키는가? 누가 이 규칙으로부터 이익을 얻고 누가 피해를 보는가? 규칙은 자명한 것이 아니다. 규칙은 특정한 가치와 이해관계의 산물이다. 따라서 규칙은 언제나 질문의 대상이 되어야 한다.
둘째, 규칙과 현실 사이의 간극을 인식해야 한다. 규칙이 말하는 것과 규칙이 실제로 하는 것은 다를 수 있다. 평등을 표방하는 규칙이 실제로는 불평등을 강화할 수 있다. 안전을 위한 규칙이 실제로는 위험을 만들 수 있다. 효율을 추구하는 규칙이 실제로는 낭비를 초래할 수 있다. 우리는 규칙의 의도된 결과뿐만 아니라 의도되지 않은 결과도 살펴야 한다.
셋째, 자신의 행위가 전체 시스템 속에서 어떤 위치를 차지하는지 파악해야 한다. 나의 작은 행위가 다른 행위들과 결합하여 어떤 결과를 낳는가? 내가 서명하는 이 문서는 어디로 가는가? 내가 입력하는 이 데이터는 어떻게 사용되는가? 내가 승인하는 이 결정은 누구에게 영향을 미치는가? 시스템적 사고는 전체를 보는 능력이다.
넷째, 영향을 받는 사람들의 관점에서 생각해야 한다. 내 결정이 타인의 삶에 어떤 영향을 미치는가? 만약 내가 그들의 입장이라면 어떻게 느낄 것인가? 이것은 단순한 공감이 아니라 도덕적 상상력이다. 칸트의 정언명령을 떠올려보자. "네 행위의 준칙이 보편적 법칙이 될 수 있도록 행동하라." 만약 모든 사람이 나처럼 행동한다면 어떤 세상이 될 것인가?
다섯째, 불복종의 가능성을 열어두어야 한다. 모든 규칙은 잠재적으로 의문시될 수 있어야 한다. 규칙에 대한 맹목적 복종은 도덕적 덕목이 아니다. 때로는 규칙을 어기는 것이 옳다. 소크라테스는 부당한 법이라도 준수해야 한다며 독배를 마셨다. 하지만 그는 또한 평생 아테네의 법과 관습을 비판하며 살았다. 그의 순종은 법에 대한 존중이었지, 사유의 포기가 아니었다. 토마스 모어는 왕의 명령을 거부하며 죽음을 택했다. 그는 법보다 높은 원칙이 있다고 믿었다. 어떤 경우든, 그들은 선택했다. 그리고 그 선택의 결과를 받아들였다.
역사는 때로 규칙을 어긴 이들에 의해 진보했다. 1955년 12월 1일, 앨라배마주 몽고메리에서 로자 파크스는 버스에서 백인에게 자리를 양보하라는 규칙을 거부했다. 그녀는 체포되었다. 하지만 그녀의 불복종은 몽고메리 버스 보이콧 운동을 촉발했고, 이는 미국 시민권 운동의 중요한 전환점이 되었다. 1989년 6월 5일, 베이징 천안문 광장에서 한 남자가 탱크 앞을 가로막았다. 우리는 그를 "탱크맨"이라고 부른다. 그의 이름도 운명도 알지 못하지만, 그의 이미지는 저항의 상징이 되었다. 2013년 에드워드 스노든은 기밀유지 서약을 위반하고 NSA의 대규모 감시 프로그램을 폭로했다. 그는 망명자가 되었지만, 그의 폭로는 사생활과 감시에 대한 전 세계적 논쟁을 촉발했다.
이들은 법을 어겼다. 규칙을 위반했다. 하지만 그들의 행위는 더 높은 정의를 지향했다. 물론 모든 불복종이 정당한 것은 아니다. 테러리스트도 법을 어긴다. 범죄자도 규칙을 무시한다. 차이는 무엇인가? 시민 불복종 이론가들은 몇 가지 기준을 제시한다. 불복종은 공개적이어야 한다. 비폭력적이어야 한다. 더 높은 도덕적 원칙에 호소해야 한다. 그리고 법의 결과를 받아들일 준비가 되어 있어야 한다. 로자 파크스는 체포를 받아들였다. 간디는 수감을 감수했다. 마틴 루터 킹은 "부당한 법을 어기고 그 처벌을 기꺼이 받는 것은 사실 법에 대한 최고의 존중을 표현하는 것"이라고 썼다.
하지만 불복종은 극단적 선택이다. 대부분의 상황에서 우리는 불복종할 필요가 없다. 우리는 시스템 안에서 변화를 만들 수 있다. 질문을 제기하고, 대안을 제안하며, 동료들과 논의하고, 절차를 개선할 수 있다. 문제는 이것조차 용기를 필요로 한다는 것이다. 회의에서 다른 의견을 내는 것, "이것이 과연 옳은가?"라고 묻는 것, "우리가 놓치고 있는 것은 없는가?"라고 질문하는 것. 이런 행위들이 때로는 "팀워크를 해치는" 것으로 여겨지고, "부정적인" 것으로 낙인찍힌다. 그래서 대부분은 침묵한다. 그리고 그 침묵이 쌓여 재앙이 된다.
심리학자들은 이를 "집단사고(groupthink)"라고 부른다. 집단의 조화와 합의를 너무 중시한 나머지, 비판적 사고와 대안적 관점이 억압되는 현상이다. 1986년 챌린저호 폭발 사고가 대표적 예다. 발사 전날 밤, 엔지니어들은 추운 날씨가 O-링에 문제를 일으킬 수 있다고 경고했다. 하지만 관리자들은 발사를 진행하기로 결정했다. 일정에 대한 압박, 성공에 대한 과신, 이의 제기에 대한 억압이 결합하여 비극을 낳았다. 발사 73초 후, 챌린저호는 폭발했고 7명의 우주비행사가 사망했다. 나중에 조사위원회는 이렇게 결론지었다.
"사고는 기술적 실패가 아니라 의사결정 과정의 실패였다."
따라서 개인의 도덕적 책임뿐만 아니라 조직의 구조적 변화도 필요하다. 이의 제기를 장려하는 문화, 실패를 학습의 기회로 삼는 태도, 다양한 관점을 환영하는 절차. 이런 것들이 개인이 양심에 따라 행동할 수 있는 공간을 만든다.
제도적 장치도 중요하다. 내부고발자를 보호하는 법률이 필요하다. 권력을 견제하는 독립적 기구가 필요하다. 투명성을 강제하는 절차가 필요하다. 시민의 참여를 보장하는 구조가 필요하다. 이런 제도들은 "규칙을 따랐을 뿐"이라는 변명을 어렵게 만든다. 왜냐하면 규칙 자체에 성찰과 책임의 메커니즘이 내장되기 때문이다.
예를 들어, 의료계의 "M&M 회의(Morbidity and Mortality Conference)"를 보자. 이것은 환자 사망이나 심각한 합병증 사례를 검토하는 정기 회의다. 목적은 비난이 아니라 학습이다. 무엇이 잘못되었는가? 왜 잘못되었는가? 어떻게 예방할 수 있었는가? 이런 시스템적 검토는 개인의 실수를 넘어 구조적 문제를 드러낸다. 항공 산업의 "크루 리소스 매니지먼트(CRM)"도 비슷하다. 이것은 계급 구조에도 불구하고 모든 승무원이 안전 우려를 제기할 수 있고, 또 그래야 한다는 원칙이다. 부기장이 기장의 판단에 의문을 제기할 수 있어야 한다. 이런 문화가 수많은 사고를 예방했다.
하지만 결국 시스템은 사람들로 이루어진다. 제도는 도구일 뿐이다. 아무리 좋은 제도라도 사람들이 사용하지 않으면 무용하다. 따라서 우리는 다시 개인으로 돌아온다. 각자의 선택, 각자의 책임.
아이히만에게서 시작된 이 질문은 여전히 우리 앞에 있다. 아니, 어쩌면 더욱 절박하게 우리 앞에 있다. 오늘날 우리는 모두 복잡한 시스템의 일부다. 우리는 글로벌 공급망의 일부이고, 금융 시스템의 일부이며, 정보 생태계의 일부이고, 기후 위기의 일부다. 우리의 일상적 선택들이 모여 이 세계를 만든다. 우리가 사는 제품, 우리가 먹는 음식, 우리가 사용하는 에너지, 우리가 공유하는 정보. 이 모든 것이 규칙을 따르며, 동시에 결과를 만든다.
스마트폰을 생각해보자. 우리는 스마트폰을 산다. 이것은 합법적이고 정상적인 소비 행위다. 하지만 그 스마트폰의 생산 과정을 추적하면 복잡한 시스템이 드러난다. 콩고 민주공화국의 광산에서 어린이들이 코발트를 캔다. 중국의 공장에서 노동자들이 장시간 일한다. 부품들은 여러 나라를 거쳐 조립된다. 완성된 제품은 배로, 비행기로 운송된다. 우리는 이 과정의 마지막 단계에 있을 뿐이다. 우리는 직접 착취하지 않는다. 하지만 우리의 소비가 그 시스템을 유지한다. 우리에게 책임이 있는가?
소비자는 "나는 그냥 물건을 샀을 뿐"이라고 말할 수 있다. 기업은 "우리는 법을 준수한다"고 말한다. 정부는 "우리는 국제 규범을 따른다"고 말한다. 각자가 규칙을 따르지만, 착취는 계속된다. 이것은 개인의 문제인가, 시스템의 문제인가? 둘 다다. 개인과 시스템은 분리될 수 없다. 시스템은 개인들의 행위로 구성되고, 개인들은 시스템 안에서 행위한다.
기후 위기도 마찬가지다. 우리 각자는 화석연료를 사용한다. 차를 운전하고, 비행기를 타며, 냉난방을 사용한다. 이것은 현대 생활의 일부다. 하지만 이산화탄소가 축적되어 지구가 뜨거워진다. 누가 책임지는가? 개인은 "나 하나쯤이야"라고 말한다. 실제로 한 사람의 배출량은 미미하다. 기업은 "우리는 소비자가 원하는 것을 제공할 뿐"이라고 말한다. 정부는 "우리만 줄이면 경제가 어려워진다"고 말한다. 책임은 퍼즐처럼 흩어져 있고, 아무도 전체 그림을 책임지지 않는다.
이것이 바로 '시스템의 무죄'라는 환상이 가장 위험한 이유다. 이 환상은 우리에게 무력감을 준다. "나는 아무것도 할 수 없다. 이것은 시스템의 문제다." 하지만 이것은 거짓이다. 시스템은 추상적 실체가 아니다. 시스템은 우리다. 우리가 만들고, 우리가 유지하며, 우리가 매일 재생산하는 것이 시스템이다.
모두가 규칙을 따랐다면, 그 규칙을 만들고 따른 우리 모두에게 책임이 있다. 개인의 무죄가 모여 집단의 무죄가 되는 것이 아니다. 오히려 개인의 선택이 모여 집단의 결과를 만든다. 그리고 그 결과에 대해 우리는 각자의 몫만큼 책임이 있다.
하지만 이것은 우울한 결론이 아니다. 왜냐하면 만약 우리가 문제의 일부라면, 우리는 또한 해결책의 일부이기 때문이다. 우리의 선택이 중요하다. 우리의 행위가 의미를 갖는다. 우리가 사유하고, 질문하며, 행동할 때, 우리는 시스템을 변화시킨다.
아렌트는 "전체주의의 기원"에서 이렇게 썼다.
"악의 문제는 표면적 현상으로 남을 것이다. 깊이를 가지고 있지 않기 때문이다. 악은 어떤 깊이라도 가질 수 있지만, 바로 이것이 악의 공포다. 악은 전 세계를 덮칠 수 있지만, 악은 표면에만 남는다."
악은 깊이가 없다. 하지만 선은 깊이를 가진다. 사유, 판단, 책임. 이런 것들은 깊이를 가진다. 그리고 이 깊이에서 저항이 나온다.
언젠가 우리 각자는 자신이 서 있던 자리를 돌아볼 날이 올 것이다. 그때 우리는 스스로에게 물어야 한다. 나는 무엇을 했는가? 나는 규칙을 따랐는가, 아니면 옳은 것을 했는가? 나는 생각했는가, 아니면 생각하지 않기로 선택했는가? 나는 질문했는가, 아니면 침묵했는가? 나는 행동했는가, 아니면 방관했는가?
"나는 규칙을 따랐을 뿐"이라는 말은 대답이 아니다. 그것은 대답의 회피다. 진짜 질문은 이것이다. 그 규칙이 옳았는가? 그리고 만약 그렇지 않았다면, 나는 무엇을 했는가?
시스템은 무죄하지 않다. 왜냐하면 시스템은 우리이기 때문이다. 그리고 우리는 무죄하지 않다. 왜냐하면 우리는 선택하기 때문이다. 매일, 매 순간, 우리는 선택한다. 그리고 그 선택들이 모여 세계를 만든다. 좋은 세계든 나쁜 세계든.
그 책임을 인정하는 것, 그것이 바로 다음 재앙을 막는 첫걸음이다. 그리고 어쩌면, 그것이 우리가 진정으로 인간이 되는 길이다.