brunch

You can make anything
by writing

C.S.Lewis

by Master Seo Jul 22. 2024

AI 1탄-5-3. 랭체인을 활용한 챗봇 업그레이드

생성형 AI 활용 앱 만들어줘-3/5

교제는 아나콘다

여기서 실습은 코랩으로 해보자.



<1> 챗봇 업그레이드 환경

<2> 랭체인이란?

<3> 랭체인 모듈 실습

<4> 챗봇 업그레이드




<1> 챗봇 업그레이드 환경



기존에 챗GPT와 그라디오를 활용하여 챗봇 제작함.

실제는 보안등 이유로 오픈 소스로 공개된 LLM을 기반으로 자체 LLM을 구축.

LLM모델에 기능을 향상하기 위해 랭체인을 사용.




<2> 랭체인이란?



1

앵무새 = 학습된 데이터를 기반으로 만든 LLM모델.

LLM과 외부도구(웹사이트, PDF reader, 계산기 등)를 체인으로 엮은 것처럼 결합해 주는 SDK이다.




2



3



<3> 랭체인 모듈 실습


# colab이용 - 랭체인 모듈을 실습해보자


1

환경

google colab

https://colab.research.google.com/?hl=ko




2

#  colab에 OPNEAI API 키 등록한 상태에서 사용법


!pip install langchain

!pip install openai 

!pip install langchain_community

from openai import OpenAI

from google.colab import userdata

client = OpenAI(api_key=userdata.get('OPENAI_API_KEY'))

from langchain.llms import OpenAI

llm = OpenAI(model="gpt-3.5-turbo-instruct")

llm.predict('파인썬을 만든 사람은?')




#  llm.predict('서울의 인기 관광 장소는?')




3

#  OPENAI API 키 직접 입력하여 사용


!pip install langchain

!pip install openai 

!pip install langchain_community


import os

os.environ["OPENAI_API_KEY"] = "sk-proj-fMLWHM_1ENA06iDl86IA"


from langchain.llms import OpenAI

llm = OpenAI(model="gpt-3.5-turbo-instruct")

llm.predict('파이썬을 만든 사람은?')





<4> 챗봇 업그레이드



1


코드

https://github.com/heypythonai/heypythonai/blob/main/Part2%20-%20%E1%84%8F%E1%85%A9%E1%84%83%E1%85%B3/%ED%97%A4%EC%9D%B4%ED%8C%8C%EC%9D%B4%EC%8D%AC%208%20%EC%B1%97%EB%B4%87%20%EC%97%85%EA%B7%B8%EB%A0%88%EC%9D%B4%EB%93%9C.ipynb



2

https://github.com/heypythonai/heypythonai/blob/main/Part2%20-%20%E1%84%8F%E1%85%A9%E1%84%83%E1%85%B3/%ED%97%A4%EC%9D%B4%ED%8C%8C%EC%9D%B4%EC%8D%AC%209%20%EB%9E%AD%EC%B2%B4%EC%9D%B8.ipynb



3

다음

https://brunch.co.kr/@topasvga/3930


매거진의 이전글 AI 1탄-5-2. 그라디오,챗봇,허깅 페이스
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari