[4편] 프로덕트 중심 시대의 AI 엔지니어

AI Engineering Stack

이 글은 Pragmatic Engineer 뉴스레터 내 The AI Engineering Stack을 바탕으로 작성되었습니다.
Chip Huyen의 저서 《AI Engineering》의 발췌 내용을 중심으로, AI 애플리케이션 개발에서 점점 중요해지는 풀스택 사고방식과 프로토타이핑 흐름을 실무자의 시선에서 풀어냅니다.

이제는 ‘제품부터 만든다’는 사고방식

기존 ML 엔지니어링은 대부분 데이터 수집 → 모델 설계/학습 → 시스템 개발의 순서를 따랐습니다.

즉, 모델이 중심이었죠.

하지만 Foundation Model 시대에는 이 순서가 뒤집힙니다.

“제품부터 만든다. 데이터와 모델은 그 다음이다.”

그림 1-16. 새로운 AI 엔지니어링 워크플로우는 빠르게 반복(iterate)할 수 있는 사람에게 보상을 준다. 이미지 출처: 「The Rise of the AI Engineer

이 말은 단순한 순서의 문제가 아닙니다.

제품을 먼저 만든다는 건 사용자 흐름을 먼저 정의한다는 것이고,

이후 필요한 기능을 파악하며 모델/데이터에 대한 요구사항을 정리해가는 방식입니다.

결국, 기획자처럼 문제를 정의하고, 프로덕트 매니저처럼 우선순위를 매기며,

개발자처럼 구현하는 사고가 요구됩니다. 즉, AI 엔지니어가 풀스택 사고를 갖춰야 하는 이유입니다.

웹 개발 경험이 AI 애플리케이션 설계에 주는 힘

Chip은 다음과 같이 지적합니다.

“AI Engineering은 이제 단지 Python을 잘 다루는 것 이상이다. 자바스크립트 생태계의 도구들(LangChain.js, Vercel AI SDK 등)이 빠르게 부상 중이다.”

저도 이를 현장에서 뼈저리게 느꼈습니다.

모델 자체보다 더 많은 시간이 UI 연동, 피드백 수집, UX 개선에 들어갑니다.

여기엔 자바스크립트 기반 기술이 거의 필수입니다.

LangChain.js를 활용한 프론트엔드 연동

Vercel의 Edge Functions를 이용한 반응성 높은 AI 응답 구성

OpenAI의 Node.js SDK 기반 실시간 플러그인 설계

이제는 “LLM을 잘 부르는 백엔드 API”만으로는 차별화가 어렵습니다.
AI 경험 전체를 설계할 수 있는 사람이 경쟁력을 갖습니다.

빠르게 만들고, 빠르게 버리는 프로토타입 문화

Foundation Model의 세계는 실험의 연속입니다.
완벽한 설계보다 빠른 시행착오가 더 가치 있습니다.

그렇기에 중요한 역량은

최소한의 UI와 프롬프트로 프로토타입을 빠르게 구성하는 능력

사용자 피드백을 관찰하고 반복적으로 개선하는 루프를 설계하는 감각

이런 흐름은 스타트업만의 것이 아닙니다.

대기업도 이제 이런 프로토타이핑 역량을 요구하고 있습니다.

Shopify, Notion, Canva 같은 회사들은 전통적인 ML 팀보다 AI 제품 팀(Product-oriented AI teams)을 선호합니다.

그 중심에는, 풀스택 기반의 엔지니어가 있습니다.

하나의 흐름, 하나의 감각

이 글을 마치며, 제가 요즘 AI 프로젝트에서 자주 쓰는 질문을 공유합니다.

“이건 프롬프트로 해결 가능한가?”

“지금 필요한 건 모델 개선이 아니라, 인터페이스 개선이 아닐까?”

“사용자가 정말 원하는 건 뭘까?”

이 질문들에 답하려면 단순한 모델링 능력보다 더 복합적인 감각이 필요합니다.
프론트와 백엔드를 넘나들고, 사용자와 데이터 사이를 읽을 수 있는 감각형 엔지니어,

저는 그게 AI 시대의 풀스택이라고 생각합니다.

번외편 예고
"AI Engineering을 공부한다는 것: 실무자의 로드맵과 리소스 정리"
– Chip Huyen의 책이 말하는 진짜 핵심은 무엇이었나
– 프롬프트? 평가? UX? 어디부터 시작해야 하나?
– ML 경험 없이 AI Engineer가 될 수 있을까?