AI가 조직구조에 미치는 영향은?

한때 저는 조직설계 전문가로 살았습니다. 한국에서는 조직설계 컨설팅 수요가 적어서 다른 일을 할 수 밖에 없었지만 꾸준히 강의는 이어갔지요. 그래서 조직설계 방법론을 강의하는 국내에서 몇 안되는 강사가 되었답니다.

오늘 유수 기업의 HR 책임자들을 만났습니다. 올해의 화두는 AI/AX가 조직구조에 미칠 영향이라고 합니다. 저는 크게 4 가지 변화가 이루어질 것으로 봅니다.

AI가 조직구조에 미치는 영향은 '일을 더 신속하고 효율적으로 하게 한다'를 넘어서, '조직의 계층, 권한, 통제와 경계'를 다시 묻게 만들고 있습니다.

1. 첫번째 변화는, 조직 계층을 더욱 슬림하게 만들어 준다는 것입니다.

특히 AI는 중간관리층이 도맡아 왔던 '정리, 보고, 회의, 상황판 만들기'와 같은 조정 업무를 가볍게 만들어 줍니다. 그래서 의사결정 속도를 높이려는 기업들은 실제로 조직의 계층은 줄이고, 한 명의 관리자가 더 많은 구성원을 리딩하도록 만들고 있습니다.

예를 들어, Meta는 ‘Year of Efficiency’ 커뮤니케이션에서 조직을 더 flatter(평평)하게 만들기 위해 관리 조직 계층을 줄이겠다'고 공개적으로 언급했습니다.

그런데 여기서 중요한 포인트가 있습니다. AI가 들어오면 조직이 무조건 평평해지는 게 아니라, 오히려 검증, 승인과 감사의 필요성이 더 생기면서 새로운 계층이 생길 수 있습니다. 특히 고객 응대, 인사, 금융, 보안처럼 “잘못되면 사고로 이어지는” 영역은 더 그렇습니다.

Klarna는 AI 어시스턴트를 고객센터에 적용해 고객문의의 2/3를 처리했고, 700명 풀타임 상담원에 해당하는 업무량을 수행한다고 발표했습니다.

이런 사례는 인력 대체만 이야기하는 것이 아니라, 조직구조 관점에서 보면, 콜센터의 운영 구조가 상담원 중심에서 AI+사람(예외/품질관리) 중심으로 재배치된다는 뜻입니다. 즉, 현장 인력이 줄 수는 있어도 동시에 품질 관리와 검증, 정책과 기준 수립과 같은 기능이 덜 중요해지지 않고 오히려 더 중요해 질 수 있다는 것입니다.

2. 두 번째 변화는 의사결정 권한이 어디에 놓이느냐입니다.

AI는 단순히 참고자료만 제공하는 용도나 추천 정보를 제공하는 선을 사람의 의사결정을 대체하는 데에까지 가고 있지요. 의사결정의 소재는 다음 3가지 질문을 통해 점검해야 합니다.

(1) AI에 '완전 위임'할지

(2) AI가 추천하고 사람이 '승인'할지

(3) 사람 판단과 AI 판단을 '합쳐서결정‘할지.

이에 대한 선택은 단순이 업무 흐름에 그치는 것이 아니라 조직의 의사결정 구조를 형성하게 됩니다. 그래서 최근의 AX(AI 전환)은 'AI를 도입했다'보다 '어떤 결정은 AI가 하고, 어떤 결정은 사람이 최종 승인한다'와 같이 의사결정의 구조를 재설계하는 방향으로 이루어지고 있습니다.

3. 세 번째 변화는, 중앙집권화 vs. 분권화가 새로운 형태로 섞이는 현상입니다.

현업에서 AI를 쓰면 작업과 의사결정이 더욱 빨라져서 마치 분권화 방향으로 가는 것처럼 보이지만, 이와 동시에, AI의 모델, 알로리즘, 데이터 관리, 보안과 책임의 이슈를 정렬하려면 중앙의 통제가 필요해집니다.

그래서 실제로는 중앙은 가드레일(표준, 보안, 도구의 승인)을 깔고, 현장은 그 기준과 범위 안에서 자율적으로 AI를 활용하고 AI로 전환하는 형태가 많아질 것으로 보입니다.

Microsoft가 Copilot을 전사에 확산시키면서 강조한 포인트도 비슷합니다. Copilot은 조직의 데이터에 빠르게 접근할 수 있으니, '보안은 각자 알아서 하라'가 아니라 더욱 체계적인 보안 거버넌스를 구축했어야만 했다고 설명합니다. 국내 기업도 마찬가지입니다. 예를 들어 LG전자는 사내망에서 외부 생성형 AI 접속을 차단하고, 엔터프라이즈 버전 도입과 보안 통제로 방향을 선회한 바 있습니다.

이는 단순 IT 활용 정책이 아니라, 조직구조 관점에서 보면, 누가 어떤 도구로 어떤 데이터로 쓸 수 있는가의 문제가 중앙에서 정의되고 결정되며 통제되기 시작했다는 신호입니다. 카카오와 같은 경우, 책임 있는 AI 가이드라인을 공개하며 사용자 보호·절차 등을 강조하고 있는데, 이런 흐름은 결국 조직 안에서 리스크 관리와 컴플라이언스 기능이 상시적으로 작동하는 방향으로 이어지기 쉽습니다.

4. 마지막 네번째 변화는, AI는 조직의 경계를 허물고 과업 흐름과 협업을 중심으로 부서와 부서를 잇는 방향으로 재편한다는 것입니다.

전자상거래 플랫폼인 Shopify의 CEO는 새로운 인력 채용을 요청하기 전에 AI로 못 하는 이유를 먼저 증명하라는 채용 원칙을 제시했다고 합니다. 이는 단순히 AI로 인력을 대체하고 인원을 줄여가기 위한 것이 아니라, 업무 설계의 기본값이 '사람'에서 '사람+AI', '직무나 역할에서 과업 단위의 관점'으로 전면적으로 변화해가야 함을 의미합니다.

팀을 짜고 운영할 때에도, 단순히 직무나 역할을 구분하는 수준을 넘어서, 어떤 과업(task)은 AI가 독자적으로 하고, 어떤 과업은 사람이 전담할 것이며, 어떤 다수의 과업은 사람과 AI가 함께 할지의 문제를 하나하나 정하는 문제가 조직 설계와 관리의 상시적인 이슈가 될 것입니다.

5. 정리하면, AI 시대의 조직구조 변화는 대체로 이렇게 요약됩니다.

상식적인 예상과 달리, 조직이 슬림하고 수평화되면서도 검증과 리스크 관리를 위한 거버넌스는 더욱 강화된다는 것입니다. 의사결정 권한이 AI나 일선으로 위임되면서도 AI와 사람의 역할 분담과 책임이라는 조정 문제가 상시적으로 발생한다는 것입니다. 즉, 수평 & 수직, 자율/위임 & 조정/통제, 분권화 & 집권화, 과업단위 역할분담 & 과업간 연결과 협업이 동시에 강화되는 "이중구조"가 형성되어 갈 것으로 보입니다.

이런 문제 때문에, 결국, AI/AX 전략은 기술 변화 로드맵과 함께 '조직구조 재설계'의 문제를 동시에 다루어야 제대로 실행되고 기대했던 효과로 나타날 수 있을 것입니다.

성과와역량연구소

소장 김현주 드림.