Enterprise AI 조직구조를 바꾼다

Agent가 가져올 미래의 기업 조직 체계

Jun 10. 2025

CES 2025에서 젠슨황은 "앞으로 모든 회사의 IT 부서는 AI 에이전트의 HR 부서가 될 것이다."라고 발표했다. 이는 앞으로의 IT 부서는 단순하게 정보화 시스템을 구축하고 디지털 트랜스포메이션 기반의 기술 혁신을 하는 것을 넘어 조직 내에서 업무를 돕는 AI 에이전트를 개발해 HR 부서로 확장될 것임을 말하는 것이다. 즉, IT 부서는 AI 에이전트의 채용, 교육, 성과 평가, 윤리 기준 설정 등 HR 기능을 수행하게 될 것이다. 이는 향후 기업에서의 구성원이 사람을 넘어 AI가 깊숙하고 더 넓게 들어올 것임을 말해주는 것이다. 도대체 Agent가 뭐길래 업무를 도와주는 툴의 수준을 벗어나 HR까지 들먹인 것일까? 기존에 이미 우리가 사용하고 있던 MS오피스, SaaS 그리고 회사에서 사용하는 전자결재 시스템과 ERP, CRM, SCM 등과 Agent는 무엇이 다른 것일까?

업무를 도와주는 소프트웨어는 30년 전부터 다양한 종류가 있었다. 로터스, 엑셀, 파워포인트 등 다양한 업무용 소프트웨어들이 전쟁터에 나간 군인들의 무기처럼 일을 도와주는 중요한 도구였다. 이후 15년 전부터는 SaaS(Software as a Service)가 클라우드 기반으로 제공되면서 보다 많은 종류의 업무를 돕는 소프트웨어들이 서비스화 될 수 있었다. 덕분에 다양한 직군의 각양각색의 업무별로 최적화된 툴들이 서비스화하여 제공되어 필요할 때 누구나 사용할 수 있게 되었다. 이같은 일련의 발전 덕분에 업무 생산성은 크게 높아졌다. 그렇게 업무를 도와주는 툴이 소프트웨어에서 서비스로 이제는 Agent로 진화하고 있다. 그런데 Agent는 그런 연장선 상의 개선된 툴과 무엇이 다른 것인가?

Agent는 단순하게 업무의 일부를 자동화해서 생산성을 효율화해주는 역할에 그치지 않는다. 특정한 업무 전체 혹은 신입사원이 수행하는 역할 그리고 아웃소싱해야 하는 일감 전체를 대체하는 것을 포괄한다. 지금 사용하는 대부분의 생성형 AI 서비스는 기존의 업무용 소프트웨어들처럼 아니 그보다 더 업무를 자동화해준다. 하지만 Agent는 그 이상을 상회할만큼 우리 업무를 도와주는 것을 넘어 대체까지도 할 수 있다. 한마디로 Agent는 인간 동료처럼 한 사람의 몫을 제대로 해낼 수 있다. 좀 더 진화하면 AI는 아예 기존의 조직과 인력을 상당 부분 대신하고 잠식할 수도 있을 것이다. 그렇게 Agentic AI가 완성되어가는 시점에는 우리의 일하는 방식 그리고 회사의 조직체계와 업무 프로세스, 의사결정체계는 대전환이 필요로 할 것이다.

그렇게 AI가 우리의 동료로서 그리고 우리의 리더가 되어 조직에서 어울어져 효과적으로 일처리가 되기 위해서는 제도의 개선과 업무 프로세스의 변화가 필요하다. Agent는 어디까지 의사결정에 참여할 수 있고 평가는 어떻게 받아야 하며, 결재 프로세스는 어떻게 바뀌어야 할지, Agent 구축과 도입 과정에 예산은 IT 부서를 넘어 HR 예산으로 처리해야 하는지 등에 대한 고려와 준비가 필요하다. Agent 도입은 단순한 도구의 도입이 아니라 새로운 AI 직원의 채용에 준하는 아니 회사와 운명을 함께 할 구성원으로서의 인식 전환을 요구한다. 결국 AI 에이전트는 조직의 미래를 결정짓는 전략적 선택이 될 것이며 이 변화에 대응하지 못한 기업은 경쟁에서 뒤처질 수밖에 없을 것이다.

기업뿐만 아니라 구성원 개인 또한 AI 에이전트와 함께 일하는 시대를 준비해야 한다. 직원 개개인은 AI가 자신의 역할을 대신하거나 협력하는 상황에서 자신만의 강점을 새롭게 정의하고 지속적으로 강화해야 한다. 단순 반복 업무에서 벗어나 보다 창의적이고 전략적인 사고, 문제 해결 능력, 대인관계 기술 등을 중심으로 스스로를 발전시켜 나가야 한다. 또한, AI와의 협력을 긍정적으로 받아들이고 새로운 기술을 빠르게 습득하며 유연하게 업무를 조정할 수 있는 태도를 갖추는 것이 필요하다. 개인의 이러한 태도와 준비는 AI 에이전트가 지배하는 미래의 업무 환경에서 개인의 경쟁력을 높이는 핵심 요인이 될 것이다.