<더 잘하면, 더 신뢰받을 수 있을까?>
제약업은 코로나 백신 하나로 2,000만 명의 목숨을 살렸다.
유방암 5년 생존율을 93%까지 끌어올렸으며, 페니실린·아스피린 등 수십억 인류의 생명을 연장시킨 산업이다.
그럼 미국사람들이 가장 신뢰하는 산업군은 제약산업일까?
제약업은 30년 연속 미국에서 가장 신뢰받지 못하는 산업으로 선정되었다. 석유·가스 기업보다도 하위다. 영국에서는 단 4%만이 이 산업이 이익보다 생명을 우선한다고 믿는다.
더 성과를 내면 더 신뢰받는 것이 아닌가?
성과를 많이 낸 제약업은 왜 신뢰받지 못했을까?
"성과 = 신뢰가 아니다"
앞서 말한 제약산업을 보자. 제약업은 인류 생존과 건강에 직결되어 있고 계속해서 많은 성과들을 만들어 왔다. 하지만 제약산업을 신뢰하는 사람들은 오히려 줄고 있다.
미국 경찰의 사례는 더 역설적이다. 지난 50년간 경찰의 훈련 수준과 전문성은 객관적으로 크게 향상됐다. 하지만 같은 기간 미국 경찰에 대한 신뢰도는 90%에서 50% 이하로 떨어졌다.
성과가 올라갈수록 신뢰는 내려간 것이다.
경찰, 금융, 정치 기관 등에서 이러한 패턴은 반복된다.
'더 잘하는 것'과 '더 신뢰받는 것'은 본질적으로 별개의 문제인 것이다.
"대중은 무엇(What)을 하는가가 아니라 어떻게(How) 하는가를 본다"
그렇다면 신뢰(Trust)는 어디서 오는가.
아웃라이어의 저자 말콤 글래드웰은 그 답을 '정당한 과정'에서 찾는다.
사람들은 결과가 아니라, 그 결과에 이르는 과정이 정당한지를 본다는 것이다.
말콤 글래드웰이 말한 과정의 정당성은 다음과 같다
공정성 - 모두를 동등하게 대우하는가
개방성 - 문제 제기에 귀 기울이는가
목적성 - 무엇을 위해 존재하는지 보여주는가
결국 사람들은 과정에서 이 세 가지를 읽고, 거기에 신뢰를 보낸다는 것이다.
미국의 세금 준수율이 그 증거다. 감사율은 1%에 불과하고 형사처벌도 거의 없다. 그런데 미국은 세계 최고 수준의 납세율을 유지한다. 국민이 세제를 정당하다고 인식하기 때문이다.
1941년 미 해병대는 군 내 최하위 평판을 가진 조직이었다. 그런데 2차대전이 끝난 후, 해병대는 미국에서 가장 신뢰받는 군으로 부상했다. 전투 성과가 다른 군종을 압도했기 때문이 아니었다.
종군기자들에게 성공했던 '결과'에 대한 전략 브리핑을 하는 대신, 개별 병사의 이야기를 고향 신문에 쓰게 했다. 장난감 자선 활동으로 지역 사회와 연결되는 과정에도 집중했다. 또 "The Few, The Proud"라는 슬로건으로 조직이 무엇을 위해 존재하는지 선언했다.
결국 신뢰는 결과(What)가 아니라, 정당한 과정(How)에서 만들어진다.
"AI에 대한 이야기는 '성과'로만 쓰여 있다"
지금 AI 기업들이 하는 이야기를 들어보자.
더 빠르다. 더 효율적이다. 더 저렴하다. 실수가 없다. 24시간 일한다. 이 중 과정의 정당성에 대한 언어는 하나도 없다. 전부 성과 기반 주장이다.
AI는 정당성의 세 조건 모두에서 취약하다. 어떻게 결정하는지 설명되지 않는다. 문제를 제기해도 반영되는 구조가 없다. 이 시스템이 사용자를 위해 작동하는지, 아니면 다른 무언가를 위해 작동하는지 불분명하다.
AI 혁명은 인간이 불가능 했던 '성과'을 가져올 것이 확실하다.
하지만 역사적으로 성과만으로 신뢰를 얻은 사례는 존재하지 않았다.
"인간에게 남은것 = 왜 이것을 하는지 말해주는 것"
AI가 진단하는 세상에서 의사는 무엇을 하는가.
AI가 학습을 이끄는 세상에서 교사는 무엇을 하는가.
답은 인간 역할의 재정의다.
의사는 진단하는 사람에서, 환자가 그 결과를 받아들이고 치료를 확신하도록 곁에 서는 사람이 된다.
교사는 지식을 전달하는 사람이 아니라, 배움이 왜 의미 있는지를 몸으로 보여주는 사람이 된다.
기계가 아직 할 수 없는 것이 하나 있다.
'왜 이것을 하는지를 말하는 것'
그것이 과정을 정당하게 만들고, 정당한 과정이 신뢰를 만든다.
성과는 AI가 인간을 앞설 것이다.
하지만 왜 이 일을 시작했는지는 인간만이 말할 수 있을 것이다.
*홍콩 출장 중 말콤 글래드웰의 강연에 감명받고 작성한 글.
