brunch

AI 모르면 끝장난다

AI 아틀라스: 인공지능 시대, 인간을 위한 위대한 지도. 30장

by 토사님

3부. 방법 — 프롬프트·워크플로우·평가의 기술

ChatGPT Image 2025년 10월 6일 오후 04_40_07.png

30장. 미세조정·어댑터(LoRA/PEFT)·지식주입 전략


30.0 도입 – “AI는 기본기만 아는 학생이다”

AI는 마치 세상의 모든 교과서를 통째로 읽은 천재 학생 같습니다.
수학도 알고, 문학도 알고, 역사도 줄줄 외웁니다.
하지만 막상 우리 회사 회의록을 읽히면 멍해집니다.
“이 회의에서 ‘프로젝트 A’가 뭐예요?” 하고 묻죠.


그건 당연한 일입니다.
AI는 세상의 일반지식은 풍부하지만, 당신의 세계는 모릅니다.
우리 회사의 규칙, 고객의 말투, 브랜드의 감정선 —
이건 책이 아니라 경험으로만 배울 수 있는 영역이기 때문이죠.


그래서 우리는 AI에게 ‘특별 과외’를 시켜야 합니다.
이미 똑똑한 학생이지만, 우리 반의 방식, 우리 회사의 언어를 알려줘야 하는 겁니다.


이 과외에는 세 가지 방법이 있습니다.
하나는 미세조정(Fine-tuning) — 새 교재로 직접 가르치는 방식.
둘째는 어댑터(LoRA, PEFT) — 머리에 작은 ‘보조칩’을 꽂는 방식.
셋째는 지식 주입(Knowledge Injection) — 참고서를 곁에 두는 방식이죠.


이제부터 우리는 이 세 가지를 통해,
AI에게 진짜 ‘우리 편의 뇌’를 만들어주는 법을 배워볼 겁니다.
AI를 도구에서 동료로, 학생에서 전문가로 성장시키는 이야기입니다.


30.1 미세조정(Fine-tuning) – 학생을 전문가로 만드는 개인교습

AI는 이미 머리가 좋은 학생입니다.
하지만 ‘우리 회사만의 문제’, ‘우리 업계의 언어’를 물으면 헷갈려하죠.
그래서 우리는 그 학생에게 개인 과외 선생님을 붙여줍니다.
이게 바로 미세조정(Fine-tuning)입니다.


쉽게 말해, AI에게 추가로 공부시켜 특정 분야의 전문가로 만드는 과정이에요.
전국 모의고사 1등생에게 “이제 우리 회사 시험 기출문제도 풀어보자”
하며 특강을 시키는 것과 같습니다.


예를 들어,

일반 AI는 “계약서”를 그냥 문서로 이해하지만,

미세조정된 AI는 “계약서의 법적 효력, 서명 절차, 조건 조항”까지 이해합니다.

그 결과, AI는 단순히 “아는” 존재에서
“맥락을 이해하고 판단하는 전문가”로 성장합니다.


다만 주의할 점도 있습니다.
너무 한쪽 분야만 가르치면, 세상을 넓게 보던 눈이 좁아질 수 있습니다.
즉, 너무 과하게 튜닝하면 원래의 실력 — 일반 지식 — 을 잃을 수 있다는 것이죠.


그래서 미세조정은 마치 명문대 입시를 준비하는 수험생에게 주 2회 과외를 붙이는 일과 같습니다.
너무 적지도, 너무 많지도 않게.
AI가 스스로의 기초를 유지하면서도,
당신의 세계를 정확히 이해하도록 만드는 균형의 기술 — 그것이 바로 미세조정입니다.



30.2 어댑터(LoRA / PEFT) – 가볍고 똑똑한 추가 뇌

미세조정이 AI를 다시 학교에 보내는 일이라면,
어댑터(LoRA / PEFT)는 AI 머리에 살짝 꽂는 ‘지식 USB’입니다.

다시 말해, AI 전체를 다시 훈련시키는 대신
일부만 살짝 바꿔서 새로운 능력을 얹어주는 기술이죠.


예를 들어 이런 거예요.

지금 바로 작가의 멤버십 구독자가 되어
멤버십 특별 연재 콘텐츠를 모두 만나 보세요.

brunch membership
토사님작가님의 멤버십을 시작해 보세요!

토사님의 브런치스토리입니다.

162 구독자

오직 멤버십 구독자만 볼 수 있는,
이 작가의 특별 연재 콘텐츠

  • 최근 30일간 117개의 멤버십 콘텐츠 발행
  • 총 657개의 혜택 콘텐츠
최신 발행글 더보기
이전 29화AI 모르면 끝장난다