2026 AI 주도 개발 완전 가이드

LLM API 선택·RAG·에이전트·평가 세트

이 장을 읽기 전에: 프로그래밍과 웹 개발의 기초(1장부터 4장)를 이해하고 있어야 한다.

AI를 사용한 개발은 단순한 코드 자동 완성이 아니라, 설계, 구현, 검색, 테스트, 리뷰의 흐름 전체를 바꾸고 있다. 단, 중요한 것은 "무엇이든 AI에 맡긴다"는 것이 아니다. 어디까지 맡기고, 어디서 인간이 책임을 지는지를 설계할 수 있는 팀만이, 속도와 품질을 양립할 수 있다.

� 한국 시장 맥락: 국내 개발자들은 GitHub Copilot·Cursor·Claude·ChatGPT를 일상적으로 사용하고 있다. AI 코딩 도구 도입 시 고객 개인정보·미공개 소스코드를 외부 AI 서비스에 전송하는 것이 개인정보보호법 및 영업비밀보호법에 저촉될 수 있으므로, 조직 차원의 이용 가이드라인 수립이 먼저다.

1. AI 코딩 지원 도구의 사용 구분

이 섹션이 답하는 질문: AI 도구는 무엇이 다른가. 어떻게 선택하면 좋은가.

왜 필요한가

AI 도구는 한꺼번에 보이지만 잘하는 작업이 다르다. 단일 파일의 보완에 강한 것, 리포지토리 전체의 편집에 강한 것, 터미널 조작까지 포함하여 자율적으로 진행하는 것이 있다.

선정의 판단 기준

실무에서의 기본 규칙

작은 보완은 가벼운 도구로 처리한다

큰 변경에만 에이전트형을 사용한다

자동 생성 코드는 그대로 머지하지 않는다

고리스크 영역(인증·결제·개인정보)은 인간이 반드시 리뷰한다

⚠️ AI 도구는 "빠르게 쓰는 장치"이지만, "올바름을 보증하는 장치"가 아니다. 리뷰, 테스트, 운용 판단은 남는다.

� 국내 도입 현황: 토스·카카오·네이버 등 국내 주요 IT 기업은 GitHub Copilot Enterprise 또는 자체 구축한 AI 코딩 도구를 도입하고 있다. 기업 코드베이스를 외부로 유출하지 않는 온프레미스 또는 기업 플랜을 사용하는 것이 보안상 권장된다.

정리

도구 선정은 인기나 화제성이 아니라, 편집 범위, 정보 관리, 리뷰하기 쉬움으로 결정한다. 먼저 보완과 채팅에서 시작하고, 필요해지면 에이전트형을 더한다.

2. LLM 애플리케이션 구축의 기본 패턴

이 섹션이 답하는 질문: AI 기능을 앱에 통합할 때, 어디서부터 시작해야 하는가.

왜 필요한가

AI 기능은 처음부터 RAG나 멀티에이전트를 넣을 필요는 없다. 많은 기능은 단계적으로 복잡성을 올리는 편이 실패하기 어렵다.

구현의 진행 방법

단순한 프롬프트 + 구조화 출력에서 시작한다

사내 지식이나 최신 정보가 필요하다면 검색(RAG)을 더한다

외부 조작이 필요하다면 툴 호출을 더한다

단일 플로로 부족한 경우에만 에이전트화한다

프롬프트 설계의 기본

---

// 한국어 서비스 시스템 프롬프트 예시

const systemPrompt = `

당신은 [서비스명]의 고객 지원 AI입니다.

## 역할

- 사용자의 주문·결제·배송 관련 질문에 답변한다

## 제약

- 답변은 항상 한국어로 작성한다

- 개인정보(이름·전화번호·주소)를 직접 요청하지 않는다

- 환불 승인·취소는 직접 처리하지 않고 담당자 연결을 안내한다

## 출력 형식

- 항상 아래 JSON 형식으로 응답한다

{

"answer": "사용자에게 보여줄 답변",

"confidence": "high|medium|low",

"requiresHumanReview": true|false,

"category": "order|payment|delivery|other"

}

`.trim();

---

구조화 출력 — 스키마로 묶는다

---

// Vercel AI SDK — 스키마 붙은 구조화 출력 (한국어 서비스)

import { generateObject } from 'ai';

import { anthropic } from '@ai-sdk/anthropic';

import { z } from 'zod';

const CustomerSupportSchema = z.object({

answer: z.string().describe('사용자에게 보여줄 한국어 답변'),

confidence: z.enum(['high', 'medium', 'low']),

requiresHumanReview: z.boolean(),

category: z.enum(['order', 'payment', 'delivery', 'other']),

suggestedActions: z.array(z.string()).optional(),

});

const result = await generateObject({

model: anthropic('claude-sonnet-4-20250514'),

schema: CustomerSupportSchema,

system: systemPrompt,

prompt: userMessage,

});

// result.object는 TypeScript 타입 안전

console.log(result.object.requiresHumanReview); // boolean

---

RAG를 넣기 전에 생각할 것

RAG는 만능이 아니다. 먼저 확인한다.

참조하고 싶은 지식이 명문화되어 있는가

문서의 업데이트 빈도는 어느 정도인가

어떤 단위로 분할하면 의미를 유지할 수 있는가

인용 원을 반환할 필요가 있는가 (국내 서비스에서 법적 근거 제시 요건 확인)

에이전트화는 마지막에 검토한다

⚠️ 단일 호출로 해결되는 문제에 에이전트를 넣으면, 속도도 비용도 디버그 난이도도 나빠지기 쉽다.

에이전트가 적합한 것은 복수의 툴을 순서대로 사용하거나, 중간 결과를 보고 계획을 수정하거나, 긴 작업을 비동기로 진행할 때다.

정리

AI 기능은 프롬프트 → 검색 → 툴 → 에이전트의 순서로 복잡성을 올린다. 처음부터 전부 넣지 않는다.

3. 모델 선정과 라우팅

이 섹션이 답하는 질문: 어떤 모델을 선택해야 하는가. 어떻게 사용 구분해야 하는가.

판단 기준