Agent 시대, 쏟아지는 프로토타입을 예쁘게 ship 해보자
이제는 Claude, Codex와 같은 frontier coding agent와 함께 수분 내에 원하는 제품의 프로토타입을 만드는 시대가 왔다. 하지만 아무리 좋은 아이디어라도 세상에 빛을 보지 못한다면 무용지물이 아니겠는가.
이러한 니즈를 충족시켜주기 위해 Vercel, Supabase, Render와 같은 SaaS가 존재해왔고, 이제는 agent와 연동하여 cli와 mcp를 통해 "딸깍"하면 배포해주기도 한다. 하지만 이 흐름은 제품의 성격에 따라 다르기도 하고, 스케일에 따라 다르기도 하다.
딥러닝 모델이 필요한 제품 - 인프라 dependency가 크다. 인프라의 가속기에 따라, 그리고 사용하는 모델에 따라 성능이 천차만별이며, 상상하지 못 한 부분에서 에러가 생기기도 한다. (GPU 아키텍처-Ollama embedding 모델 관련 이슈)
사이즈가 큰 프로젝트 - 빌드 시간, 네트워크 트래픽, 스토리지 사용량 등에 따라 부대 SaaS 이용 비용이 상승한다. Self-hosting 을 고려하는게 유리해지며, 이로 인한 추가 managing operation(보안 관련 조치, 네트워크 구성, HA 구성 등)에 대한 공수가 커진다.
Feature 개발 비용이 줄어들며, 엔지니어들이 고민해야되는 부분이 조금 더 구조적인 부분으로 움직이고 있다. 개발에 너무 집중한 나머지 feature 코드만 덕지덕지 붙여나간다면, production할 시점이 왔을 때 개발환경과 심하게 엉켜있는 제품을 스무스하게 옮기기가 더욱 어려워질 것이다.
물론 agent와 함께 설계하고 만들어나가면 된다. 하지만 이를 미리 인지하고 고민해보지 않는다면, 문제가 닥쳐왔을 때 소중한 시간(과 token)을 낭비하게 될 것이다.