환멸의 계곡으로 접어든 ‘생성형 AI

새로운 트렌드: Data, Agent, ModelOps, TRiSM

2025년 8월 가트너 발표에 따르면, 생성형 AI(Generative AI)는 ‘과도한 기대의 정점(Peak of Inflated Expectations)’을 지나 ‘환멸의 계곡(Trough of Disillusionment)’에 진입했다. 단적으로 GPT-5는 혁신보다 비용 최적화에 초점을 맞췄고, 시장의 반응은 차가웠다. 이제 중요한 건 모델의 파라미터 수가 아니라, 어떻게 비즈니스에 녹여낼 수 있느냐다.

가트너는 이 전환기를 상징하는 네 가지 트렌드를 제시했다. (1) AI 활용 최적화 데이터(AI-ready data), (2) ModelOps, (3) AI 에이전트(AI agents), (4) AI TRiSM은 모두 ‘AI를 어떻게 쓸 것인가’에 대한 전략적 해답이다. 이들은 각각 데이터, 모델 운영, 자율 실행, 그리고 신뢰와 보안의 축을 구성하며, 조직 내 실전 배치에 필요한 인프라를 다룬다.

(1) AI 활용 최적화 데이터(AI-ready data)는 데이터가 실제 사용 목적에 맞게 정제되고 검증되어야 한다는 개념이다. 과거처럼 쌓기만 하는 방식은 의미가 없고, 문맥에 맞는 데이터 설계가 핵심이다. 특히 편향, 오류, 저품질 데이터를 걸러내는 기준이 정교해질수록 모델의 정확도는 높아진다. 결국 데이터는 AI 성공의 출발점이자 가장 비싼 자산이다.

(2) ModelOps는 개발된 AI 모델을 실제 환경에 안정적으로 배포하고 운영하는 기술 체계다. 테스트에서 성공한 모델도 실전에서는 다른 결과를 낸다. 이 불일치를 줄이기 위해선 지속적인 성능 모니터링, 자동화된 재학습, 반복 배포 체계가 필수다. ModelOps는 단순한 MLOps를 넘어, AI 생애주기 전체를 관리하는 전략적 무기다.

(3) AI 에이전트(AI agents)는 스스로 판단하고 실행하는 자율 시스템을 의미한다. 단순히 지시를 따르는 챗봇 수준을 넘어서, 상황을 분석하고 대응하는 능력을 갖춘다. 하지만 아직은 범용성과 안정성에 한계가 있어, 특정 목적과 환경에 맞게 정교하게 설계되어야 한다. 모든 업무에 AI를 쓴다는 발상은 위험하며, 목적 기반 최적화가 핵심이다.

(4) AI TRiSM은 ‘Trust, Risk and Security Management’의 약자로, AI의 윤리성과 안전성을 관리하는 구조적 장치다. 프라이버시 보호, 알고리즘의 공정성, 설명 가능성, 사이버 보안 등이 포함된다. AI가 조직에 침투할수록, 기술적 성능만큼이나 신뢰 확보가 중요해진다. TRiSM은 단순한 보조수단이 아니라, AI 도입의 필수 요건이다.

지금까지 특정 부서에 국한되던 AI가 이제는 모든 팀의 업무 프로세스에 스며들어야 한다. 각 부서는 데이터를 공유하고, AI 결과를 해석하며, 그에 따라 의사결정을 내리는 구조로 전환되어야 한다. AI는 더 이상 외부 도구가 아니라, 조직의 작동 방식 그 자체가 되어야 한다.

선도 기업들은 파일럿 프로젝트를 넘어서 AI를 전사적으로 내재화하려 노력하고 있다. ModelOps와 TRiSM은 일시적 유행이 아니라, 지속 가능한 AI 운영을 위한 핵심 인프라로 자리 잡아야 한다. 중요한 것은 빠른 도입이 아니라 제대로 정착시키는 일이다. AI는 ‘잘 만드는 기술’이 아니라 ‘잘 쓰는 전략’이 되어야 하며, 혁신보다 실행에서 진짜 경쟁력이 결정된다.

===

참고
* “Gartner Hype Cycle Identifies Top AI Innovations in 2025”, August 5, 2025.