1. 배선을 깔아야 전기가 돈다

1부, LangChain으로 잇는 AI 워크플로우

# 왜 ‘연결’부터 배워야 할까

직장에서 AI를 쓰려할 때 우리는 늘 같은 벽을 만난다. 문서는 드라이브, 데이터는 시트, 대화는 슬랙, 일정은 캘린더...etc.... 제각각 흩어진 정보와 툴을 AI와 어떻게 이어서 쓰느냐가 관건이다. RAG가 검색·요약을 잘하고, Agent가 실행을 잘해도 데이터·툴·모델을 잇는 배선이 없으면 힘을 못 쓴다. 그 배선을 깔아주는 프레임워크가 LangChain이다.

# LangChain은 무엇인가: ‘AI 레고 & 배선 키트’

LangChain은 프롬프트·모델·검색기·도구·메모리 같은 부품을 체인(chain)으로 연결해 하나의 일(workflow)로 만드는 프레임워크다.

- PromptTemplate: 말 걸 틀 준비

- LLM/ChatModel: 모델 호출

- Retriever/VectorStore: 문서 검색(RAG의 심장)

- Tools: 구글시트/메일/웹검색/캘린더 등 외부 기능

- Memory: 사용자·대화 콘텍스트 기억

- Chain(LCEL): ‘입력→검색→생성→후처리’ 흐름을 파이프처럼 잇기

쉽게 말해 사서(Retriever) + 설명가(LLM) + 비서(Tools)를 전선으로 묶어 한 번의 지시로 움직이게 하는 ‘레고/배선 키트’다.

# 직장 속에서 빛나는 LangChain의 순간들

(1) 규정집 RAG
PDF 로더 → 문단 Chunk(800~1200자) → 임베딩/벡터스토어 저장 → 질문 시 관련 문단 Top-k(3~5) 검색 → 근거 인용 답변 생성. “연차 이월 5일(규정 12p)”처럼 출처가 붙는 것이 핵심.

(2) 주간 보고 자동화 Agent
슬랙·메일·시트에서 데이터 수집(Tools) → LLM이 요약/서식 채우기 → PDF로 변환 → 메일 발송. 사람은 마지막 1분 검수만.

(3) 영업 QBR 준비
CRM에서 고객 이력 조회 → 최근 이슈 수집 → 제안 포인트 요약 → 슬라이드 초안 작성까지 연결.

# 지금 바로 써볼 수 있는 간단한 체험

- 문서 RAG 맛보기: ChatGPT/Claude에 PDF 올리고 “근거와 쪽수 포함해 답해줘.”

- 경량 체인(노코드): Make/Zapier—‘드라이브 새 문서 → AI 요약 → 슬랙 전송’.

- A/B 체험: Chunk 500 vs 1000, Top-k 3 vs 5로 답변 품질 차이를 직접 비교해 보자.

# 자동화 툴과 결합하면 판이 달라진다

- Zapier/n8n/Make와 LangChain을 묶으면, “트리거 → 체인 실행 → 결과 배포”가 자동으로 돈다.
예) “금요일 16:00 → 보고 체인 실행 → 팀장/임원 메일 발송 → 슬랙 공지”.

- Guardrail: 체인 앞뒤에 허용 도구 화이트리스트와 금칙 프롬프트(결제/삭제 금지)를 둔다.

# 직무별 활용 팁

- 기획자: 과거 유사한 사안 검색 → 요약 → 기획서 초안 자동 채움

- 마케터: 설문·GA·광고 리포트 수집 → 인사이트 요약 → 다음 액션 제안

- 영업: 고객사 이슈/의사결정자/이력 요약 → 후속 메일 초안

- 연구원: 논문 크롤/요약 → 서지/인용 자동 정리

- 교육: 교재 요약 → Q&A 챗봇 → 퀴즈 자동 생성

# 운영 체크리스트

- 데이터 정제: 표·이미지 OCR 누락 점검 → 저장 전 전처리

- 환각 방지: “근거 없는 말 금지. 반드시 인용문단/링크 표시” 시스템 프롬프트

- 평가 루프: 주 1회 샘플 20건 수동 리뷰(RAGAS 유사 지표) → Chunk/Top-k/임베딩 모델 튜닝

- 보안: PII 마스킹, 접근 로그, 외부 API 최소 권한

- 운영: 실패 리트라이, 타임아웃·예외 처리, 알림

# 앞으로의 발전

LangChain은 RAG(찾기+설명), Agent(실행), Multi-Agent/A2A(협업)의 공통 토대다. MCP 같은 표준 포트와 만나면 “회사 전 시스템”을 하나의 체인으로 흘려보내는 시대가 온다. 배선을 아는 사람이 AI 협업의 설계자가 된다.