SaaS의 죽음 말고 AI에이전트에 던져야할 질문들
학습 차원에서 틈틈이 해외 전문가들이 블로그나 미디어 그리고 책에서 쓴 글을 번역 또는 요약 정리하고 있습니다. 이번 포스팅도 그중 하나고요. 거칠고 오역된 부분이 있을 수 있습니다. 제대로 번역되지 않은 부분은 확인 주시면 반영토록 하겠습니다. 의미 전달이 애매한 문장은 삭제했습니다. 이번에는 Mahmudur R Manna가 미디엄에 공유한 글을 정리한 것입니다.
AI 에이전트는 정말 혁신적인가 아니면 미들웨어 진화인가? 요즘 링크드인과 미디엄을 스크롤하다 보면 마치 디지털 골드러시를 목격하는 듯한 느낌이다. 게시물마다 자동화, 지능, 의사 결정을 위한 새로운 설계자인 AI 에이전트 등장을 알리고 있다. 스타트업에서 빅테크 기업들에 이르기까지 열기는 전염병처럼 퍼지고 있다. 하지만 시끌벅적한 분위기 속에서 뭔가 이상한 느낌이 든다.
불과 몇 개월 전만 해도 업계에선 인공지능 시스템이 독자적으로 의사 결정을 하는 것에 대한 타당성 있는 우려가 많이 제기됐다. 책임, 거버넌스, 설명 가능성에 대한 질문이 토론을 지배했다. 핵심 주장은 분명했다. AI 결정이 법정에서 설명되거나 방어될 수 없다면, 그 결정에 대한 책임도 없다는 것이었다.
나는 이러한 대화가 책임감 있는 지침과 업계 표준으로 이어질 것이라는 희망을 품고 있었다. 그러나 이후 이러한 목소리는 사라졌고, 과열은 더욱 거세졌다. 갑자기 AI 에이전트가 반짝이는 새로운 장난감이 되었고, 윤리와 책임에 대한 질문은 모두 무시되었다.
그런 다음 마이크로소프트 CEO인 사티아 나델라가 “SaaS는 죽었다”(SaaS is Dead)라는 발언을 통해 이 불에 기름을 부었다. 세상이 발칵 뒤집혔다. 그러나 나델라의 선언은 정말로 SaaS의 죽음에 관한 것이었나? 아니면 지능형 에이전트와 깊이 통합되는 AI 기반 플랫폼으로의 진화를 인정하라는 요청이었나? 한 걸음 물러서서 이것이 실제로 무엇을 의미하는지 살펴보자.
미들웨어가 이미 수십 년 전에 이러한 문제를 해결했다?
AI가 등장하기 전에 미들웨어는 어떻게 세상을 연결했을까?
1980년대와 1990년대 기업들은 서로 연결되지 않은 시스템들이 서로 소통할 수 있는 방법을 모색해야 하는 어려운 과제에 직면했다. 해답은 무엇이었을까? 미들웨어였다. 미들웨어는 데이터베이스, 애플리케이션, 서비스를 연결하는 접착제와 같은 역할을 했다. 플랫폼이나 프로그래밍 언어에 구애받지 않고, 시스템들이 데이터를 교환하고 워크플로우를 실행할 수 있도록 하는 것이 미들웨어 역할이었다.
예를 들면 다음과 같다.
메시지 큐(MQ): IBM MQ는 시스템 간 안정적인 통신을 보장한다.
엔터프라이즈 서비스 버스(ESB): TIBCO, MuleSoft와 같은 플랫폼은 워크플로우를 조율한다.
비즈니스 프로세스 자동화(BPM): BizTalk와 같은 도구는 여러 단계 비즈니스 프로세스를 자동화한다.
AI가 등장하기 전에 에이전트가 이미 존재했나?
에이전트라는 개념도 새로운 것은 아니다. 미들웨어 시스템은 규칙 기반 에이전트를 사용해 다음과 같은 것들을 수행한다.
이벤트와 트리거를 모니터링한다.
데이터 검증이나 워크플로우 라우팅과 같은 작업을 실행한다.
연결된 시스템 전반에 걸쳐 비즈니스 규칙을 적용한다.
이러한 에이전트들은 결정론적이었다. — 미리 정의된 규칙을 따랐다. 지능적이지는 않았지만 오늘날 AI 기반 에이전트의 토대를 마련했다.
AI 에이전트가 미들웨어를 재창조하는 것일까, 아니면 그저 좀 더 똑똑한 확장 기능일까? 사티아 나델라의 비전은 AI 에이전트가 전통적인 SaaS 시스템을 변화시키고 있음을 보여준다. 그는 다음과 같은 에이전트를 구상한다.
다중 저장소 CRUD(create, read, update and delete) 관리자(multi-repo CRUD managers) 역할을 수행하며 여러 데이터베이스를 동시에 업데이트한다.
비즈니스 논리를 AI 계층으로 옮겨 워크플로우를 독립적으로 조정한다.
Excel 및 CRM과 같은 전통적인 애플리케이션을 AI 주도 코파일럿으로 대체한다.
AI 에이전트가 정말 그렇게 다르다고 할 수 있을까?
솔직히 혁명은 아니다. 이것은 미들웨어의 진화다.
규칙에서 학습으로: 하드코딩된 규칙 대신에, AI 에이전트는 머신러닝 모델을 사용하여 행동을 예측한다.
스크립트에서 자연어로: AI 코파일럿은 코드 기반 작업 흐름을 대화형 인터페이스로 대체한다.
결정론에서 적응으로: AI 에이전트는 데이터 패턴을 기반으로 다이내믹한 의사 결정을 내릴 수 있다.
코파일럿은 그 핵심에 광범위한 AI 기능을 갖춘 보다 스마트한 마이크로소프트 미들웨어 제품으로, 기존 미들웨어 원칙과 학습, 적응, 자연어 인터페이스와 같은 현대적인 AI 기술을 결합하고 잇다. 기존 미들웨어를 확장하는 동시에 분석, 예측, 상호 작용 기능을 통해 기존 프레임워크와 차별화된다.
아무도 언급하지 않는 위험 요소는 무엇인가? AI 의사 결정으로 전환은 경고 신호를 발생시킨다
책임: AI가 잘못 판단했을 때 누가 책임을 져야 할까?
투명성: AI 결정은 법정이나 감사에서 설명할 수 있을까?
거버넌스: AI 에이전트 행동을 어떻게 통제할 수 있을까?
미들웨어가 감사 추적과 규칙 기반 투명성을 제공했던 반면, 오늘날 AI 에이전트는 종종 블랙박스처럼 작동해 완전히 추적하거나 정당화할 수 없는 결정을 내린다. 설명 가능한 AI(XAI)의 발전이 진행되고 있지만, 아직은 불완전해 AI 기반 의사 결정을 이해하는 데 있어 부족한 부분이 있다. 이것은 단순한 기술 문제가 아니라 신뢰 문제다.
AI 에이전트에 대한 과열은 기업에 어떤 의미가 있을까?
그렇다면, 이 AI 에이전트에 대한 과열에서 얻을 수 있는 실질적인 교훈은 무엇일까?
SaaS는 정말 죽은 것일까요, 아니면 진화하고 있는 것일까?
AI 에이전트는 미들웨어 2.0이다. — 더 똑똑하고, 더 역동적이지만, 여전히 같은 기초 위에 구축돼 있다.
이전 버전과 마찬가지로 API, 워크플로, 거버넌스 프레임워크가 필요하다.
AI 의사 결정은 완전한 자율성을 갖출 준비가 되었을까?
AI 에이전트는 중요한 워크플로우에서 사람 감독 없이는 작동할 수 없다.
AI 의사 결정이 법적으로 설명되고, 관리되고, 방어될 수 있을 때까지는 인간의 판단을 보조해야 하며, 대체해서는 안 된다.
기업은 과열에 빠지지 않도록 어떻게 해야 할까요?
기업은 마케팅 전문용어에 현혹되지 않도록 주의해야 한다. 기존 시스템과 통합되는 AI의 실질적인 구현에 초점을 맞추고, AI를 강제로 교체하려고 시도하지 말라.
너무 늦기 전에 책임감 있게 AI를 구축할 수 있을까?
업계 리더들은 AI 에이전트를 확장하기 전에 AI 의사 결정을 위한 거버넌스 프레임워크 구축을 우선시해야 한다.
책임감과 설명 가능성은 타협할 수 없는 기준이어야 한다.
AI 에이전트를 신뢰해도 될까?
AI 에이전트는 의심할 여지 없이 흥미롭지만, 역사를 잊어서는 안 된다. 미들웨어와 규칙 기반 에이전트는 수십 년 동안 이러한 문제를 해결해 왔다. 오늘날 AI 에이전트는 마법 같은 대체물이 아니라, 그 시스템의 더 똑똑한 확장이다. 사티아 나델라(Satya Nadella)의 “SaaS는 죽었다”라는 선언이 헤드라인을 장식하고 있지만, 우리는 더 어려운 질문을 던져야 한다. 우리는 어떻게 AI 에이전트를 관리할 수 있을까? 우리는 어떻게 AI의 결정을 감사할 수 있을까? 그리고 가장 중요한 것은 어떻게 인간을 계속해서 그 과정에 참여시킬 수 있을까?
세계는 AI 에이전트를 향해 돌진하고 있을지도 모르지만, 그들이 운전대를 잡기 전에 운전석에 앉은 그들을 신뢰할 수 있는지 확인해야 한다. 결국, AI의 책임을 물을 수 없다면, 아무리 똑똑해 보여도 결정을 내리게 해서는 안 된다. 현실에 기반한 흥분과 책임감에 기반한 미래를 유지하자.
