인간이해 5_도덕적 인간과 커뮤니티
절대적 도덕이 존재하는가? 가치판단이라는 어려운 숙제
심리학자 조너선 하이트_Jonathan Haidt에 따르면 인간은 선천적으로 ‘도덕적’입니다.
인간은 도덕적 직관-무엇이 올바른 것인지 직관적으로 판단하고 그것을 추구하는 것-을 가지고 있고 동시에 자신이 속한 집단의 사회 문화적 기류에 민감하게 상호 작용하면서 성장합니다. 그런데 그 과정에서 나타나는 두드러진 특징은 주로 이 형태가 개인적 도덕관을 바탕으로 독립적으로 사고하고 행동하는 것이 아니라 주로 자신이 소속감을 느끼는 집단 가운데에서 집단적 올바름을 추구한다는 것입니다. 그런데 그 바름, 도덕의 정의는 무엇일까요. 사회학자 에밀 뒤르켐Émile Durkheim은 도덕을 이렇게 정의합니다.
“결국 사람들 간에 연대를 형성시키는 모든 것, 나아가.. 자신의 자아보다.. 커다란 무엇을 통해 인간이 스스로의 행동을 규제하게 만드는 모든 것, 그것이 바로 도덕이다.[1]"
조너선 하이트Jonathan Haidt는 뒤르켐의 정의를 토대로 도덕의 본질은 도덕, 윤리 그 자체보다도 어쩌면 ‘공동체’를 이루려 하는 인간의 욕망의 산물에 다름 아닙니다.
“자신을 넘어선 무엇에 관심을 갖는 것, 나아가 다른 이들과 무리지어 그 주위에 몰려드는 것, 이는 다른 것들에게서는 찾아보기 힘든 인간의 비범한 능력이다. 그리고 이렇듯 서로가 한 팀으로 뭉치는 과정을 통해 우리는 대업을 추구할 수 있다.. 종교의 핵심 역시 여기에 있다.. 정치도.. 회사도 이와 크게 다르지 않다.”[2]
어떤 사람은 인간이 선천적으로 '도덕적’이라는 사실에 잠시나마 안도감을 느낄지도 모르겠습니다. 하지만 우리가 여기서 이야기하고 싶은 핵심은 ‘도덕’이 어떤 절대적 올바름과 가치 자체보다는 ‘그것이 어떤 것이든’ 집단적으로 동조하고 소속감을 느끼고자 하는 데 더 무게중심을 두고 있다는 것입니다. 이 말인 즉 슨, 속한 집단 마다 가진 집단의 도덕적 기준이 다르며, 우리가 의식적으로 노력하지 않는 이상 많은 경우 사람들은 “어느 한편에 속하게 되면 다른 편의 동기나 도덕성은 더 이상 눈에 보이지 않게 됩니다.”[3]
이는 인간, 조직이 가진 열망의 맹목성과 다양성을 동시에 설명합니다. 조너선 하이트Jonathan Haidt가 주로 분석한 정치적 영역 뿐 아니라 기업 역시 그들이 어떤 열망을 추구하는 가에 따라 서로 다른 진영을 이룹니다. 때로는 그것이 협력 구도를 이루기도 하지만 많은 경우 전쟁, 갈등이 되기도 합니다. 기업사에서 애플과 마이크로소프트는 첨예한 갈등과 암묵적 협동이 얽히고 섥힌 전형적인 애증의 관계 속에 있습니다. 아마존 제프 베조스가 강하게 옳다고 믿는 가치는 곧 아마존의 신념이 되었고 이는 사회 경제적으로 많은 혁신과 가치창출을 이뤘지만 동시에 어두운 그림자도 낳았습니다. 또 어떤 조직은 그 그림자를 향해 연대하고 공격하며 대안을 촉구합니다. 애플, 마이크로소프트, 아마존이라는 거대한 도시적 기업이 건재한 이상, 그에 맞서 고유의 혁신을 창출해 성공하려 하는 저항적 기업은 끊임없이 출현할 것입니다. 그 중에서도 어떤 조직은 직접 자신이 도시가 되기를 꿈꾸는 반면 어떤 조직은 자신이 원하든 원하지 않든 거대 도시 기업 중 하나로 편입될 것입니다.
그런데 우리가 좀 더 주의해서 봐야 할 부분이 있습니다. 때로는 한 집단 내의 ‘바름’에 대한 추구와 이를 위한 ‘연대’와 ‘협력’이 우리가 속한 세계 전체적 관점에서는 자칫 매우 논쟁적인 ‘이기심’이나 ‘폭력’과 같은 부정적 결과를 낳을 때도 있다는 점입니다. 다시 말해 인간의 도덕이 가진 속성 -집단적 올바름 추구- 이 어떤 보편적 관점에서의 도덕, 윤리를 역설적으로 침해할 수 있다는 점은 우리가 ‘초개인’을 추구함에 있어서 놓쳐서는 안 될 지점이라고 생각합니다.
한나 아렌트는 독일 나치의 중령으로 유대인 박해의 실무 책임자였던 아이히만의 재판 과정을 목격하고 충격을 받습니다. 애초 그를 희대의 악한이라 여겼지만 재판과정이 진행될 수록 정작 그는 본성적으론 지극히 평범한 인간에 불과했기 때문입니다. 한나 아렌트는 다음과 같이 말했습니다.
“아이히만의 문제는 매우 많은 사람들이 그와 같았는데 그들이 변태적이거나 가학적인 사람이 아니라는 데 있다. 그들은 예전에도 끔찍하고도 무서울 정도로 정상적이었고 지금도 그러하다.[4]"
개인으로서 그는 지극히 평범했음에도 집단의 도덕을 충실히 따른다는 관점에서 그는 열혈 신도였습니다. 그는 나치라는 집단이 갖는 도덕에 누구보다 능동적인 사람으로 동질적인 집단 구성원과 협력하고 연대했습니다. 이들은 단순히 지도자에게 복종하는 것이 아니라 총통의 정신에 맞게 행동하려고 노력하면서 그를 위해 그를 향한 행동을 했습니다. 가해자들은 자신들이 진심으로 역사의 옳은 편에 서 있다고 믿었습니다. 한나 아렌트는 아이히만의 결정적인 죄는 ‘절대적으로’ 근면했다는 것이라 주장했습니다. 이를 좀 더 정확히 설명하면 그는 집단의 도덕에 절대적으로 근면했습니다. 아렌트는 이렇게 말합니다.
“생각의 무능은 말하기의 무능을 낳고, 행동의 무능을 낳는다.’. ‘아이히만은 아주 근면한 인간이었다. 근면하다는 것은 죄가 되지 않는다.. 그러나 스스로 생각하기를 포기한 채 근면하기만 한 것은 유죄다.”
아이히만은 자신이 위대한 업적을 이루었다고 생각했지만, 아이히만이 밝혀 준 것은 인간이 선으로 가장한 악의 유혹에 넘어가기 취약하다는 점이었습니다.
나치와의 비교를 매우 불쾌하게 여길 수도 있지만, 사실 기업과 조직 곳곳에도 비슷한 패턴은 곳곳에서 나타납니다. 예컨대 독약과도 다름 없었던 가습기 살균제가 멀쩡한 기업에서 버젓이 팔릴 수 있었던 이유, 그리고 그 것이 적나라하게 밝혀진 이후에도 (진정성 있는 사과와 피해보상 보다) 기업의 존속과 피해 최소화를 위한 기업의 ‘전략적 대응’, 그 과정에 동원되어 마치 내일처럼 기업의 입장에서 피해자 집단과 다투었던 평범한 공채 직원, 그리고 컨설팅 회사의 컨설턴트.. 일반 대중은 이들을 아울러 ‘악마’라 비판하기도 하지만 실상 그들은 그저 ‘도덕적 인간’의 전형적 패턴 – 그러나 치명적인 허점이 있는 -을 충실하게 따른 평범한 인간상에 다름 아닙니다. ‘가습기 살균제’도 자극적인 비유일까요?
그럼 좀 더 평범한 가치 충돌 상황으로 다시 돌아가 봅시다. 아마존의 열망의 초점 중 하나는 ‘고객’입니다. 고객 최우선이라는 가치를 위해 구성원들은 자율적이고 능동적으로 움직입니다. 그 과정에서 때로는 셀러가 혹은 직원이 희생되기도 합니다. 그리고 관련 문제 대응에 또다른 자발적 셀러, 직원이 동원됩니다.
우리가 초개인이 되기 위해서는 바로 이처럼 우리 안의 도덕 메커니즘을 잘 이해해야 합니다. 우리는 ‘열망’하고 ‘몰입’하기 위해 최선을 다하면서도 한 켠 그 ‘열망’과 ‘몰입’이 때로는 인간 보편적인 가치를 침해하는 것은 아닌지 돌아보고 의식적으로 가치판단 할 수 있는 사유, 그리고 용기를 가져야 할 필요도 있습니다.
기업과 조직에 무엇보다 중요한 것은 구성원이 때때로 ‘저항’할 수 있는 경로를 만들고 ‘저항’할 수 있는 문화적 환경을 조성하는 것입니다. 그 저항을 통해 기업은 자신이 추구하는 열망이 균형을 잃고 넘어지는 것을 막고 좀 더 건강한 공존, 성장을 꾀할 수 있을 것입니다.
구글은 2004년 기업공개(IPO)와 동시에 ‘사악해지지 말자.Don’t be Evil’는 모토를 공식화했습니다. 이 모토로 2015년까지 회사의 첫 번째 행동강령_Code of Conduct으로 쓰였습니다. 구글은 이를 근거로 ‘돈을 아무리 많이 준다고 해도 검색 결과를 조작해서 상위에 올리거나 하지 않는’ 형태로 검색엔진을 개발했습니다. 이를 통해 가능한 많은 정보를 객관적으로 찾고 공유할 수 있도록 ‘사용자 중심’의 정직한 회사를 만들자는 가치를 창출할 것을 천명했습니다. ‘사악해지지 말자’는 구호는 의도했든 의도하지 않았든 “기존의 기업은 악하다”라는 의미를 내포하고 있었습니다. 거기에는 구글의 경쟁사인 마이크로소프트를 비롯해서 구글 이전 세대의 기업은 돈만 밝힌다는 전제 아래 자신을 전략적으로 차별화하는 말이기도 했기 때문입니다.
그런데 구글은 불과 2년 후인 2002년 중국 검색 시장에 처음 발을 들였습니다. 중국정부는 ‘티베트 해방’이나 ‘천안문 사태’ 같은 민감한 문구의 검색을 금지시켰습니다. ‘착한 기업’을 표방하던 구글은 처음에는 이 같은 ‘검열’을 거부했습니다. 하지만 중국 시장의 규모를 무시할 수 없었습니다. 결국 중국 법을 따르기로 하고 2006년부터 독립된 검색 사이트를 만들어 ‘검열된’ 검색 서비스를 제공했습니다. 당연히 구글 안팠으로부터 ‘Don’t Be Evil’이 소환되었습니다. 2010년 구글은 중국 시장에서 철수했습니다. 중국 본토에 있던 검색 서비스를 홍콩으로 돌렸습니다. 이 같은 행위를 한 이유에 대해 구글은 중국 정부의 지나친 검열을 이유로 들었습니다.
‘Don’t Be Evil’의 승리일까요? 하지만 수년 후 내부 직원을 통해 구글이 ‘드래곤플라이’라는 이름으로 중국용 검색엔진을 개발하고 있음이 폭로 되었습니다. 드래곤 플라이는 중국 정부가 인정하지 않는 웹사이트를 검색 결과에 노출하지 않고, 인권, 민주주의, 언론 자유, 천안문 광장 시위, 티베트 해방과 같은 중국인들에게 민감한 검색어를 필터링할 수 있는 기능을 갖춘 것으로 전해졌습니다. 한마디로 중국 정부의 입맛에 맞춘 검색엔진입니다. 또다시 조직 안팎의 거대한 비난이 일었습니다. 구글은 검색엔진 개발을 중단한다고 밝혔습니니다.
AI 기술을 선도하는 구글은 국방부와 무인 항공기가 수집한 영상 정보를 자동 분석해 타격 목표의 정밀도를 높이기 위한 시스템을 개발하는 ‘메이븐 프로젝트Maven Project’도 추진했습니다. 많은 사람들은 이 프로젝트가 무인 항공기의 타격 능력을 획기적으로 향상 시키기 위한 것이라며 비판했습니다. 구글은 이 같은 목적을 부인했습니다. 하지만 비판은 끊이지 않았습니다. 4000명 이상의 구글 직원들이 메이븐 폐지 청원에 나서며 반대 스티커를 제작하는가 하면 일부 직원들은 사표를 제출하는 등 내부 불만이 극에 달했습니다. 탄원서에는 "구글은 전쟁 목적의 사업에 가담하지 말아야 한다. 인명 피해로 이어질 수 있는 군사 첩보 활동을 위해 미 정부에 협력하는 것은 옳지 않다"는 내용이 담겨있었습니다. 반발이 수그러들 기미가 보이지 않자 구글은 결국 국방부와의 AI 공동 연구 중단을 선언했습니다.
구글이 메이븐 철수를 결정하기 전 내부 반발이 극심한 상황에서 진보 성향 인터넷 매체 '인터셉트(theintercept.com)'가 구글 담당자간의 내부 메일을 입수해 보도하면서 논란은 더 거세졌습니다. 이에 따르면 프로젝트 메이븐은 거액의 계약금이 약속된 빅 프로젝트이며 구글은 처음부터 미디어를 통한 정보 확산을 경계하고 있었던 사실 등이 생생히 드러납니다. 내부 메일은 구글 방위 세일즈 팀원이 동료에게 보낸 것으로 해당 메일에는 미 국방부가 하이테크 기업에 거액의 비용으로 군사 기술 개발 공모를 하고 있으며 구글이 참여한다는 내용이 담겨 있었습니다. 메일 송신자는 이를 5개월간의 긴 AI 레이스라고 표현하고 있으며 구글 외에 아마존도 경쟁에 참여하고 있었던 것으로 알려졌습니다. 또한 메일에는 "거래액 합계는 2500만 달러~3000만 달러 선이며 그 중 구글은 앞으로 18개월간 1500만 달러, 사업이 확대될 경우 연간 2억 5000만 달러까지 계약이 가능할 것"으로 예상했습니다. 블룸버그에 따르면 해당 메일을 보낸 1개월 후 블랙의 예상대로 미 국방부는 구글 프로젝트 메이븐에 1억 달러를 예산에 할당했습니다. 또 뉴욕타임즈는 구글 클라우드 다이앤 그린 CEO가 "프로젝트 메이븐을 통해 공급하는 시스템은 불과 900만 달러로 상대적으로 작은 거래"라고 해명했지만 지난해 9월 시점에 이미 구글 관계자가 훨씬 더 큰 계약이 될 것임을 확신했다는 것을 알 수 있다고 꼬집었습니다. 또 한 가지 메일에서 주목할 사실은 군사 기술과 관련된 구글과의 협력이 외부에 드러나는 것을 막기 위한 조치가 취해졌다는 것입니다. 메일에는 "계약은 직접 구글이 하지 않고 파트너인 ECS Federal을 통해 진행한다. 또 상호 동의 없이 보도 자료가 나오는 것은 피해야하고 (국방부는) 구글 승인 없이는 어떤 언급도 하지 않도록 되어 있다"는 내용이 포함돼 있었습니다. 뉴욕타임즈는 지난 30일 구글 AI 사업을 이끌고 있는 '페이페이 리' 수석 과학자가 구글이 군사용 AI 계약을 체결할 경우 통제할 수 없는 혼란을 초래할 것이라고 이미 예견했으나 받아들여지지 않았다고 전했습니다. 페이페이 리는 아울러 "인간을 위해 AI가 존재하는 것이기 때문에 무기화는 정반대의 길"이라며 "최근의 AI에 대한 열정이 미래사회에 미칠 악영향에 대한 고민을 막고 있어 우려스럽다"고 경고했습니다.
페이페이 리는 2018년 2년여 만에 구글을 다시 떠나기로 결정했습니다. 당초 스탠퍼드 조교수로 AI 실험실 책임자를 맡고 있었던 그는 학교에 휴직계를 내고 구글에 합류했고 휴직 기간 종료에 맞춰 복귀 결정을 내렸습니다. 많은 이해관계자는 대학 휴직기간 종료보다는 구글의 무기사업 참여가 그녀의 퇴사결정에 큰 영향을 미쳤을 것이라 예상했습니다. 구글 내 외부의 비판 속에서 구글은 무기 개발 참여를 중단하겠다고 공식 선언했습니다.
우연의 일치일까 구글은 메이븐 프로젝트 논란이 거세게 일던 2018년 그들의 행동 강령에서 ‘Don’t Be Evil’이라는 문구를 삭제했습니다. 대신 ‘Do The Right Thing’이라는 미묘하게 다른 문장을 넣었습니다. 조너선 하이트Jonathan Haidt이 밝혔듯 ‘바른 마음The Righteous Mind’은 관점에 따라 다를 수 있다는 점을 고려하면 그 미묘한 뉘앙스가 더욱 크게 느껴질지도 모르겠습니다.
다만 행동 강령의 문구가 바뀐 것과는 무관하게 적어도 현재까지 구글의 구성원은 ‘Don’t Be Evil’을 여전히 마음에 품고 있는 듯 합니다. 그들은 여전히 내부의 문제, 이슈가 있을 때 ‘Don’t Be Evil’이라는 모토를 기준으로 문제 제기 하고 격렬히 부딪힙니다. 비판적인 관점에서 보면 구글의 행보는 자가당착自家撞着[5]적인 행보로 여겨질지 모르겠습니다. 누군가는 최초 구글의 이 문구가 상당히 마케팅적 – 정보와 돈을 교환했던 기존 전통 기업과 차별화하는 – 목적이 컸다고 주장합니다. 최초 그것이 기업의 흥행에 큰 도움이 되었지만 기업이 성장하고 응당 기업으로써 수익과 실리를 챙겨야 하는 상황에서는 오히려 그 문장이 발목을 잡는 상황이 되었다고도 해석합니다. 요는 결국 구글 역시 ‘도덕적 기업’이 아니라 수익을 추구하는 전형적 기업에 다름 아니라는 점입니다.
구글의 모토가 실제 구글이 의사 결정하고 행동하는 방향과 부분적으로 일치하지 않는 결과로 드러나고 때때로 그것이 교묘하기까지 하다는 점만 보았을 때는 위 주장과 비판이 합리적이라고 보입니다. 그러나 우리가 좀 더 주목하는 것은 구글이 어떤 의도로 ‘Don’t Be Evil’이라는 행동강령을 만들었는지에 상관없이 그 메시지가 조직 내 여전히 내재화 되어 영향력을 발휘하고 있다는 부분입니다.
갈등과 비판 속에서 구글의 구성원들은 이를 준거로 ‘반복적으로 저항’했고 때로는 퇴사, 집단 성명을 불사하면서 ‘끝까지 저항’했습니다. 그 결과 그들은 그들이 잘못이라고 생각한 – 마치 전압을 15볼트씩 높여 끝까지 누르는 것과 같은 – 상황에서 빠져나왔습니다. 회사 역시 (실제 정말인지는 확인 불가능 하지만 적어도 공식적으로는) 멈추었습니다. 스탠리 밀그램의 실험에서 밝혔듯, 우리가 비도덕적 상황에 복종하고 순응하지 않기 위해서는 적절한 반대/탈출 ‘경로’가 상황/제도적으로 마련되는 것이 중요합니다. 바로 이 측면에서 메이븐, 드래곤플라이’ 프로젝트는 역설적으로 구글 내에 ‘반대/탈출’ 경로가 제대로 마련되어 있다는 것이 드러난 사례이기도 합니다.
구글의 사례는 그 내부에서조차 ‘악마Evil’, 혹은 ‘옳은 일Right Thing’이라는 개념이 때로는 상대적일 수 있다는 점을 드러낸 것인 동시에 ‘그럼에도 불구하고’ 서로가 이에 대해 문제제기하고 행동을 바꿀 수 있는 ‘경로’ 마련의 중요성을 이야기해주는 복합적인 맥락을 담고 있습니다.
이를 통해 우리가 던지고 싶은 질문이 있다면 바로 이것입니다.
“여러분의 조직은 집단의 도덕이 의심될 때 그 의심을 이야기할 수 있는 경로가 마련되어 있나요? 그때 여러분은 그 의심을 이야기하고 때로는 ‘반복적으로’ 끝까지 저항할 수 있는 용기가 있나요? 그런데.. 여러분이 추구하는 '도덕', '옮음'은 구체적으로 무엇인가요?..”
사회의 조금 더 나은 진전을 위해서는 도덕적 '개인'과 '집단' 모두가 인지하고 응답해야 할. (결코 쉽지 않은) 질문, 숙제가 있습니다.
[1] Durkheim, E. 1984/1893. The division of Labor in Society. Trans. W. D. Halls. New York: Free Press
[2] 조너선 하이트Jonathan Haidt (왕수민 옮김), 바른마음The Righteous Mind, 웅진지식하우스, 2014, 11장
[3] Ibd. 485p
[4] 한나 아렌트Hannah Arendt (김선욱 옮김), 예루살렘의 아이히만Eichmann in Jerusalem, 한길사
[5] 같은 사람의 말이나 행동이 앞뒤가 맞지 않음
