brunch

You can make anything
by writing

C.S.Lewis

by Master Seo Sep 01. 2024

 AI 7탄-2. AI 개요-2/9

<5> 일반적인 AI 파운데이션 모델 (FM)

<6> 개선활동 - 검색증강생성(RAG) = DB필요, FM모델 유지

<7> 개선활동 - 미세조정(튜닝) = FM모델 변경

<8> 개선활동 - 프롬프트 잘하기, 검색증강생성, 미세조정, 새롭게 훈련




<5> 일반적인 AI 파운데이션 모델 (FM)



1

AI사용법?

사용자는 AI에게 질문하고 답변을 받는다.



2

AI는 파운데이션 모델(FM)이라고 하는 기본 학습된 모델이 답변을 준다.

간혹, 답변이 틀릴 수 있다.

이 때문에 우리는 개선활동을 한다.

3

FM = 기본 모델 = 기초화장 ^^



4

사용자는 AI에게 물어본다.

AI는 답변한다.

대형 언어 모델 (LLM)이 답변한다.



사용자 질의 -------- 일반적인 AI 파운데이션 모델(FM) --------- AI 답변





5

간혹, 답변이 틀릴 수 있다.

이 때문에 우리는 개선활동을 한다.






<6> 개선활동 - 프롬프트 잘하기, 검색증강생성, 미세조정, 새롭게 훈련



1

개선 활동?

프롬프트 잘하기

검색증강생성(RAG) - DB필요

미세조정(파인튜닝) - 모델 변경됨 

새롭게 훈련





2

질문과 답변 

기본적으로는 FM에 질문한다.



<7> 개선활동 - 검색증강생성(RAG) = DB필요, FM모델 유지



1

사내 정보  데이터가 추가 학습 된다.

벡터 지원 데이터 베이스 저장소에 저장된다.

FM모델은 변경되지 않는다.




2

동작 ?



3

# RAG에서 사용자의 요청에서 답변까지 흐름.

증감된 프롬프트를 사용한다.

4

데이터 저장, 임베딩 순서?


회사내 정보를 저장소에 저장해보자.

임베딩한다.

<8> 개선활동 - 미세조정(튜닝) = FM모델 변경



데이터가 추가 학습 된다.

FM모델은 변경된다.

변경된 FM모델에 질문하고 답변을 받는다.



다음

https://brunch.co.kr/@topasvga/3999



브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari