인공지능은 사회 시스템을 바꿀 것이다

인공지능 길들이기

Oct 16. 2025

<듀얼 브레인> 5장(章)[1] <업무에서 시스템으로>를 읽고 밑줄 친 내용을 토대로 생각을 담습니다.

시스템은 역사적 유물로 시대를 반영한다

현재 대기업 문화를 바로 떠올리게 하는 내용이 이어졌습니다.

시스템은 역사적 유물이며, 그 시대의 기술과 사회적 조건에 의해 형성된 것이다. 예를 들어 조직도는 본래 1850년대에 철도를 운영하기 위해 만들어졌다. 초기 철도 사업가들이 개발한 조직도는 철도 제국의 운영을 통제하고 감시할 수 있는 권한, 책임, 소통의 위계적 시스템을 만들어 냈다. 덕분에 조직은 인력을 명확한 위계 속에 통합했고, 상사들은 철도와 전신을 통해 조직도 맨 아래에 있는 말단 직원에게까지 명령을 전달할 수 있었다. 이 시스템은 대단히 성공적이었다. 곧이어 다른 산업과 조직에도 도입되면서, 20세기 관료제의 표준 모델이 되었다.

그래서, 퍼플렉시티에 물었더니 '철도 제국적 조직 모델 위에서 발전한 현대적 변종'이라고 답했습니다.

조립 라인은 일반적으로 20세기 초에 헨리 포드Henry Ford가 만들었다고 받아들여지는데, 그의 회사는 조립 라인 덕분에 적은 비용과 빠른 속도로 자동차를 대량 생산할 수 있었다. 포드는 인간이 복잡하고 다양한 작업을 수행하는 데는 서툴지만, 탄 순하고 반복적인 작업을 수행하는 데는 아주 능숙하다는 사실을 깨달았다.

문서로만 접하긴 했지만 토요다의 생산 방식은 '철도 제국적 조직 모델'과 거리가 먼 듯하여 퍼플렉시티에 둘을 비교해 달라고 요구했습니다.

데이터 기반의 새로운 관리 방식의 등장

데이터 기반의 새로운 관리 방식이란 표현이 눈에 띕니다.

인터넷은 업무를 조직하고 통제하는 또 다른 새로운 기술을 의미했다. 이것이 최근 수십 년간 애자일 개발, 린 제조, 홀라크라시, 자율관리팀 등 새로운 업무 조직과 관리 시스템이 등장한 이유다. 이메일에서 복잡한 기업용 소프트웨어까지 다양한 도구가 쏟아져 나오면서, 데이터 기반의 새로운 관리 방식이 채택됐다.

한때 저는 'data-driven'에 고지식하게 집착했는데, 한 발 떨어져서 '데이터 기반의 새로운 관리 방식'을 떠올렸더니 다른 것이 떠오릅니다. '마윈의 명언'과 함께 '유통업을 먹어 치운 소프트웨어에 대한 글'을 쓸 때 특정 플랫폼에 디지털 상품 데이터 형태와 데이터가 맞춰지는 현상을 강하게 인식했던 일이 떠오릅니다.

"미래의 경쟁은 더 이상 전력과 같은 에너지를 확보할 수 있는 구역을 갖기 위해 다투는 것이 아니라 인재와 혁신가치를 둘러싼 경쟁이 될 것"이라며 "갖고 있는 데이터로 사회에 얼마나 많은 가치를 창출해 내느냐가 중요하다"라고 강조했다.

인터넷과 디지털 기술을 데이터 기반 관리 방식을 급격하게 확산시켰습니다.

알고리즘의 발달로 다양한 출처의 방대한 데이터를 즉각적으로 얻게 되면서 직원들을 추적 관찰할 수 있게 되었다. <중략> 알고리즘의 작동 방식은 투명하게 공개되지 않는다. 직원들은 알고리즘에 어떤 편향성이 있는지, 어떤 방식으로 의사 결정이 이루어지는지 알 도리가 없다.

데이터 기반의 새로운 관리 방식의 등장

저자는 플랫폼 안에 들어있는 데이터는 사용자나 사용 기업은 접근에 제약이 있다는 점을 문제로 지적합니다.

LLM은 우버나 리프트의 차갑고 비인간적인 알고리즘과 다르게 직원들의 기술과 생산성 향상을 돕는 피드백과 코칭도 제공할 수 있다. 그렇게 친근한 조언자 역할을 내세워 사람들의 행동을 통제하는 본래의 정체를 은근슬쩍 가릴지도 모른다. 그렇더라도 여전히 통제권은 알고리즘 손에 있다. 역사라는 선례를 본다면, 많은 기업이 이 길을 택할 가능성이 크다.

플랫폼의 알고리즘 문제는 인공지능에 대입해도 그대로 적용할 수 있습니다.

학부생을 대상으로 한 소규모 연구에 따르면, 남학생의 66퍼센트와 여학생의 25퍼센트가 15분 동안 아무것도 하지 않고 가만히 앉아 있기보다 고통스러운 전기 충격을 받기로 선택했다고 한다. 정신 나간 짓은 자해에서 그치지 않는다. 지루함을 느끼는 사람의 18퍼센트는 기회가 생겼을 때 눈앞의 벌레를 죽였다(반면 지루하지 않은 사람은 2퍼센트만이 그랬다). 지루함을 느끼는 부모와 군인이 더 가학적으로 행동한다는 연구 결과도 있다. 지루함은 그저 지루한 데서 끝나지 않는다. 그 자체로 위험하다.

다음 예시는 이견 없이 완전한 자동화 업무가 될 후보가 될 듯합니다.

우리는 이미 글쓰기에서 가장 지루한 부분인 문법 검사와 복잡한 계산을 맞춤법 검사기와 계산기 같은 기계에 위임하고 있다. 그러니 LLM을 활용해 이 과정을 확장하는 것은 당연한 결과일 것이다.

다음 내용은 6월에 들었던 앤드류 응 교수의 유튜브 내용과도 그대로 일치하는 듯합니다.

AI에게 가장 먼저 맡길 일을 고려할 때, 다른 자동화의 물결이 시작됐을 때와 마찬가지로 지루하고, (정신적으로) 위험하며, 반복적인 일부터 찾아야 한다.

가능하다면 자율성이 더해질 때 지속가능성이 높아진다는 점을 생각하면 다음 주장은 명백합니다.

이런 식으로 시작하는 것은 알고리즘이 통제하는 조직이 되는 것보다 분명 더 나은 출발점이 될 것이다.

저상과자를 고성과자로 만드는 도구

뒤이어 5장(章)에서 <시스템에서 일자리로>를 읽고 밑줄 친 내용을 토대로 생각을 담습니다.

하룻밤 사이에 의사를 AI로 대체할 수 있다 해도, 환자가 기계에게 진료받는 것을 아무렇지 않게 받아들일 수 있을까? 책임 소재는 어떻게 결정될까? 간호사를 비롯한 다른 의료 관계자들은 이에 어떻게 적응할까? 인턴 교육이나 전문 단체의 일원이 되는 것 같은 진료 이외의 업무는 누가 맡게 될까? 이처럼 시스템을 바꾸는 것은 업무를 바꾸는 것보다 더 어려운 일이다.