brunch

You can make anything
by writing

C.S.Lewis

by Master Seo Jul 07. 2024

12. 사내 문서 참고해 답변하는 슬랩앱-2024-06

챗GPT와 랭체인을 활용한 LLM기반 AI 앱 개발 -5/5



<1> 챗GPT가 독자적인 지식으로 답변하게 한다.

<2> 사내 문서 참고해 답변하는 슬랩앱 구성도

<3> 개발 환경 구축하기





<1> 챗GPT가 독자적인 지식으로 답변하게 한다.



1

LLM이 고유지식을 습득하는 3가지 방법


방법1

검색 증강 생성(RAG)?

데이터베이스에 지식을 획득하고 답변하는 방법



방법2

파인튜닝?

모델에 전문 지식을 추가로 학습시키는 파인튜닝



방법3

학습

고유 지식에 특화된 모델을 처음부터 생성 하는 방법




2

고유 지식에 대해 검색 기능과 결합하여 결과를 얻어 답변을 생성하는 방법 = RAG





<2> 사내 문서 참고해 답변하는 슬랩앱 구성도



1


사용자 ----- 문의--------------LangChain (AWS lambda) ----------------- ChatGPT (API)

                                                                    :                                    :______Momento

                                                                    :

                                                       Pinecone (벡터 데이터베이스)





2

소스 코드

https://github.com/ychoi-kr/langchain-book/blob/main/chapter8/app.py




<3> 개발 환경 구축하기



1

Cloud9 사용


2

파이썬 가상 환경 활성화



3

Slack에서 Socket Mode  활성화



4

샘플 데이터 준비




5

파인콘 설정

벡터 데이터를 저장하는 벡터 베이터 베이스인 파인콘(Pinecone)

https://www.pinecone.io/





감사합니다.

매거진의 이전글 11.스트림 형식으로 히스토리를 기반으로 응답 슬랙 앱
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari