AI를 도입하는 것 & AI가 작동할 수 있는 구조를 만드는 것
2026년 1월, 「인공지능 기본법」이 시행됐습니다.
공공과 민간을 막론하고 AI를 조직 안에 도입하는 것이 더 이상 선택이 아니라 제도적 전제가 되었다는 의미입니다. 정부는 공공부문 AI 활용 가이드라인을 내놓고, 지자체와 공공기관은 앞다투어 AI 도입 사업을 기획하고 있습니다.
그런데 AX 사업을 준비하고 제안하면서, 한 가지 짚고 넘어가야 할 것이 있습니다. 지금 시장에서 이야기하는 'AI 도입'과, 이 글에서 다루려는 'AX 전환'은 같은 말이 아니라는 것입니다. 이 블로그의 글은 오랫동안 공공기관 ISP와 ISMP를 수행해 왔던 컨설턴트와 사업을 발주하려는 담당자들에게 도움이 될 가능성이 높습니다.
블로그의 글은 대부분 AI 서비스인 클로드와의 Q&A를 정리해서 올리려고 합니다. 머릿속에 그리는 방향성은 있으나 앞으로 어떤 방향으로 전개될지는 장담하지 못하겠습니다.
여튼 본격적으로 시작해 보겠습니다.
AX 전환은 AI가 조직의 업무 시스템 안에서 자연스럽게 작동할 수 있도록, 일하는 구조 자체를 바꾸는 것이다.
AX는 AI Transformation의 약어입니다. 시장에서 이미 통용되는 문법을 그대로 쓰되, 이 글에서는 그 안에 담긴 'Transformation'의 의미를 좀 더 깊이 있게 정의해 보려 합니다. 이 관점에는 이견이 있을 수 있는데, AX의 핵심은 A가 아니라 X에 있습니다. AI를 어떻게 쓰느냐가 아니라, 무엇을 전환하느냐에 더 초점을 맞춰야만 합니다.
AI를 도입하는 것 & AI가 작동할 수 있는 구조를 만드는 것
"AI를 도입하는 것"은 기존 업무 체계는 그대로 둔 채, 특정 지점에 AI 기능을 얹는 겁니다. 예를 들어 민원 응대에 챗봇을 붙이거나, 문서 분류에 AI 엔진을 하나 넣는 식이죠. 기존 시스템이 마치 건물이라면, 건물 구조는 그대로인데 특정 방에 스마트 기기 하나를 갖다 놓는 것과 비슷해요. 그 방 안에서는 편해지지만, 건물 전체의 동선이나 배관이 바뀌는 건 아닙니다.
이게 왜 한계가 있느냐면, AI는 본질적으로 데이터를 먹고 사는 기술이기 때문입니다. 그런데 대부분의 기존 시스템은 데이터가 흐르도록 설계된 게 아니에요. 각 시스템이 자기 데이터를 자기 안에 가지고 있고, 시스템 간에 데이터를 주고받으려면 사람이 중간에서 엑셀로 뽑아서 다시 넣거나, 별도의 연계 작업을 해야 합니다. 이런 구조에서 AI를 넣으면, AI가 볼 수 있는 데이터가 한 시스템의 한 테이블에 갇혀 있는 거예요. 아무리 똑똑한 AI라도 눈이 가려져 있으면 제 역할을 못합니다.
실제로 이런 일이 현장에서 벌어지고 있습니다. 어떤 기관은 민원 응대에 AI 챗봇을 도입했지만, 챗봇이 참조할 수 있는 데이터가 FAQ 한 장뿐이라 결국 담당자가 뒤에서 답변을 일일이 보정하고 있습니다. AI를 넣기 전보다 오히려 일이 늘어난 셈이죠. 또 다른 기관은 문서 분류에 AI 엔진을 도입했는데, 부서마다 문서 양식과 데이터 형식이 제각각이라 AI에 넣기 전에 사람이 먼저 데이터를 정리해야 합니다. AI가 자동화를 해주는 게 아니라, AI를 돌리기 위한 수작업이 하나 더 생긴 겁니다. 구조는 그대로 두고 AI만 얹으면 이런 일이 반복됩니다.
반면 "AI가 작동할 수 있는 구조를 만드는 것"은 건물 비유로 돌아가면, 건물의 배관과 전기 배선, 동선 자체를 다시 설계하는 겁니다. 데이터가 시스템 사이를 자유롭게 흐를 수 있도록 API로 열고, 하나의 거대한 시스템이 아니라 각각의 기능이 독립적으로 작동하면서도 서로 연결될 수 있는 구조로 바꾸고, 사람이 일일이 개입하지 않아도 데이터의 흐름에 따라 자동으로 다음 단계가 실행되도록 만드는 거죠.
이 구조가 갖춰지면 AI는 특정 방 안에 갇힌 기기가 아니라, 건물 전체의 배관을 타고 흐르는 물처럼 작동할 수 있게 됩니다. 민원이 접수되면 그 내용이 자동으로 분류되고, 관련 부서의 과거 처리 이력이 함께 조회되고, 유사 사례의 처리 결과가 참고자료로 제시되는 식의 흐름이 가능해지는 거예요. 이건 챗봇 하나 붙여서는 절대 일어나지 않는 일입니다. 데이터가 시스템 사이를 흘러다닐 수 있는 구조가 전제되어야만 가능한 거거든요.
우리 조직은?
앞서 본 것처럼, AI를 도입하는 것과 AI가 작동할 수 있는 구조를 만드는 것은 다른 문제입니다.
전자는 AI가 할 수 있는 일이 그 부품이 놓인 자리만큼으로 제한되고, 후자는 AI가 조직 전체의 업무 흐름 속에서 작동할 수 있는 가능성과 기반을 만들게 됩니다.
인공지능 기본법이 시행되고, 공공부문 AI 활용 가이드라인이 속속 정비되고 있는 지금, 우리에게 필요한 질문은 "AI를 도입할 것인가"가 아닙니다. 이미 도입은 이루어지고 있었습니다. 진짜 중요한 것은 AX전환이고 AX 전환에 대한 질문은 이것이 아닐까요?
지금 우리 조직의 구조가, AI가 실제로 작동할 수 있는 구조인가?
이 질문에 답하는 과정이 AX 전환입니다. 그리고 이 시리즈에서는 그 전환을 실제로 설계하고 수행하는 방법론을 ISP·ISMP를 수행해 온 컨설턴트의 시선에서, 그리고 사업을 발주하고 관리해야 하는 담당자의 시선에서 함께 풀어가보려 합니다.