brunch

AI 3탄-5. 사내 문서 참고해 답변하는 슬랙앱

챗GPT와 랭체인을 활용한 LLM기반 AI 앱 개발 -5/5

by Master Seo

<25> 챗GPT가 독자적인 지식으로 답변하게 한다.

<26> 사내 문서 참고해 답변하는 슬랩앱 구성도

<27> 개발 환경 구축하기



슬라이드7.JPG


<25> 챗GPT가 독자적인 지식으로 답변하게 한다.



1

LLM이 고유지식을 습득하는 3가지 방법


방법1

검색 증강 생성(RAG)?

데이터베이스에 지식을 획득하고 답변하는 방법



방법2

파인튜닝?

모델에 전문 지식을 추가로 학습시키는 파인튜닝



방법3

지속적인 학습

고유 지식에 특화된 모델을 처음부터 생성 하는 방법




2

고유 지식에 대해 검색 기능과 결합하여 결과를 얻어 답변을 생성하는 방법 = RAG





<26> 사내 문서 참고해 답변하는 슬랩앱 구성도



1


사용자 ----- 문의--------------LangChain (AWS lambda) ----------------- ChatGPT (API)

: :______Momento

:

Pinecone (벡터 데이터베이스)



슬라이드6.JPG



2

소스 코드

https://github.com/ychoi-kr/langchain-book/blob/main/chapter8/app.py




<27> 개발 환경 구축하기



1

Cloud9 사용


2

파이썬 가상 환경 활성화



3

Slack에서 Socket Mode 활성화



4

샘플 데이터 준비




5

파인콘 설정

벡터 데이터를 저장하는 벡터 베이터 베이스인 파인콘(Pinecone)

https://www.pinecone.io/



200 create-index.png




다음 랭체인

https://brunch.co.kr/@topasvga/3899


keyword
매거진의 이전글AI 3탄-4.스트림 형식,히스토리 기반응답 슬랙앱