3. LLM모델 등록하기
Dify(디파이) 노코드 AI구축 기초부터 실무 가이드
(1) LLM 모델 등록
클라우드 버전을 사용하는 독자라면,
"비용지불을 안했는데 어떻게 챗봇이 바로 만들어지는거지?"
라고 생각하셨다면 예리하신 독자입니다. 필자도 처음엔 "공짜로 쓸 수 있다고??"라고 의심을 했습니다. 사실 Dify(디파이)를 가입하면 테스트로 사용할 수 있는 LLM 크레딧을 제공해 줍니다.
① 기본 모델을 확인하기
오케스트레이션 화면 오른쪽 상단을 보면 'gpt-4o-mini'라는 표시가 보입니다. 이는 현재 사용중인 LLM모델입니다. 그렇다면 다른 모델들을 어떤 것이 사용 가능한 걸까요? 한번 이것을 클릭해 보세요.
모델 설정 화면이 표시됩니다. 현재 사용중인 모델(예: gpt-4o-mini [CHAT])을 클릭해 봅시다.
그러면 사용가능한 모델 목록이 표시됩니다.
여러가지 모델이 목록에 나와 있습니다. 즉, 현재 독자가 사용할 수 있는 LLM API 목록이라는 뜻입니다.
로컬이나 개별적으로 모델 공급자를 설정해서 사용하고 싶다면 목록 아래에 있는 [모델 공급자 설정]을 클릭합니다.
② 다른 LLM 모델 사용하기
그렇다면 gpt-4o-mini외에 다른 모델 공급자의 LLM을 사용하고자 한다면 어떻게 해야 할까요? 사실 이것이 Dify(디파이)의 가장 큰 특징 중 하나로서 Dify(디파이)를 사용하면 다양한 LLM(대규모언어모델)을 사용할 수 있습니다. 화면 오른쪽 상단의 [Dify]라고 표시된 부분을 클릭합니다. 단 로컬버전을 사용할 경우에는 사용자명으로 표기됩니다. 그리고 [설정]메뉴를 클릭합니다.
표시된 '설정' 화면의 왼쪽 '작업 공간' 메뉴에서 [모델 제공자]를 클릭합니다.
로컬버전에서는 워크스페이스에 초대가 가능하지만, 클라우드 버전은 유료업그레이드를 하지 않으면 초대를 할 수 없습니다. 그러면, 설정화면에서 '모델 제공자' 목록이 표시됩니다.
클라우드버전은 기본적으로 "OpenAI"와 "ANTHROPIC" 2가지 제공자가 등록되어 있습니다. 로컬버전의 경우 아무것도 등록안되어 있습니다. 각 박스 왼쪽 하단에 '모델 표시' 옵션이 있는 것을 알 수 있습니다. 이것을 각각 클릭해 봅시다.
스위치가 ON상태로 되어 있는 항목들이 보입니다. 이것이 현재 사용할 수 있는 모델로서 LLM API 모델로 선택된 목록이 표시되는 것입니다. 동일한 OpenAI의 모델이라도 스위치가 OFF인 경우는 사용할 수 없습니다. 또한 ANTHROPIC의 모델들은 모두 OFF상태로 되어 있습니다.
이런 모델들을 사용하고자 한다면 설정 단계에서 API키를 등록해야 합니다. 모델에 따라 기본적으로 유료인 경우도 있고, 테스트용으로 일정 크레딧을 무료로 제공하는 경우도 있습니다. 예를 들어 Gemini등이 그런 경우에 해당됩니다.
③ API 요금에 대해
중요한 포인트가 있습니다. API사용은 기본적으로 유료입니다. LLM API를 제공하는 일부 회사는 처음에 무료 크레딧을 제공하지만, 해당 제공받은 크레딧을 모두 사용하면 과금이 시작됩니다.
과금이라도 해도 요금은 사용한만큼만 부과됩니다. 본격적으로 앱을 개발하고 운영할 때는 각 API 제공자의 요금플랜을 꼼꼼하게 확인하고 예산을 마련하는 것이 중요합니다. 다행히도 많은 LLM 제공자들은 유연한 요금체계를 갖추고 있어서 소규모 이용부터 점차적으로 스케일업할 수 있습니다.
④ Gemini를 사용해보기
구체적인 예로 Google Gemini API를 설정해 봅시다. V1.0.0부터 모델 공급자 추가 방법이 변경되어, 모델 추가는 플러그인을 통해 진행됩니다. "모델 공급자 설치" 목록에서 "Gemini"를 확인하고 마우스커서를 가져가면 [설치]버튼이 나타나면 클릭합니다.
그러면 '플러그인 설치'라는 화면이 팝업됩니다. [설치하다]버튼을 클릭합니다. 그러면 다음과 같이 '모델공급자'에 등록됩니다.
Gemini플러그인이 설치되면 [설정]버튼을 클릭합니다.
'설정 Gemini'팝업이 나오면, 아직 API Key를 받지 않았다면, 하단에 있는 [Get your API Key from Goolge]을 클릭합니다.
그러면 아래와 같은 화면이 나옵니다. [Explore models in Google AI Studio]를 클릭합니다.
Google 계정이 가입되어 있는 상태에서는 바로 아래와 같은 화면이 나옵니다. 여기서 왼쪽 상단에 있는 [Get API Key]버튼을 클릭합니다.
처음 사용하는 독자라면 사용자동의서를 체크하고 [동의]버튼을 클릭합니다.
"Get API Key"화면이 나오면, [API 키 만들기]버튼을 클릭합니다.
처음 사용하는 독자의 경우는 'API 키 생성됨'화면이 나오면 자동으로 API키가 만들어집니다. [복사]버튼을 클릭하여 따로 저장해 둡니다. 만약, 독자가 이미 Google Cloud를 사용중인 개발자라면 "API 키 만들기"창이 나오는 경우, "기존 Google Cloud 프로젝트에서 프로젝트 선택"에서 구글 클라우드에 만들어놓은 프로젝트를 하나 선택하고 API키를 생성합니다.
발급받은 API키를 Dify 설정화면으로 돌라와서 "API key"입력박스에 키를 붙여넣고 [저장]버튼을 클릭합니다.
목록화면에서 Gemini가 추가된 것을 확인할 수 있습니다.
'Gemini' 모델의 [모델 표시 >]를 클릭해봅시다. 그러면 Gemini에서 사용할 수 있는 모델 목록이 표시됩니다.
이제 독자의 모델 목록에 또 하나의 강력한 LLM이 추가되었습니다. 다음은 이 Gemini 모델을 테스트해 봅시다.
⑤ Gemini 모델로 테스트하기
앞서 생성한 앱 모델을 Gemini 2.0 Flash-Lite로 전환한 후, 동일한 질문을 해봅시다. Model 열의 선택박스를 클릭하고 [Gemini 2.0 Flash-Lite]를 선택합니다.
그러면 모델이 "Gemini 2.0 Flash-Lite로 전환된 것을 확인할 수 있습니다. "당신에 대해 알려주세요."라고 질문을 입력해 봅시다. 그러면 아래와 같이 응답이 반환됩니다.
gpt-4o-mini와 Gemini 2.0 Flash Lite의 응답을 비교하면 약간 차이가 있다는 것을 알 수 있습니다. 이는 단순한 차이가 아니라 앱의 가능성을 확장하는 원천입니다. 각 모델은 특화된 분야가 있습니다. 용도에 맞게 최적의 모델을 선택할 수 있다는 점이 Dify(디파이)의 장점입니다.
이 기능을 통해 다양한 모델을 사용할 수 있게 되어, 갭별 작업에 최적의 AI를 선택할 수 있습니다. 동시에 비용효율성, 최신기술의 빠른 도입, 특정 AI 공급기업에 대한 의존도 감사로 이어집니다. 또한 독자적인 AI솔루션 개발을 위한 조정과 실험의 폭도 넓어집니다.
AI의 세계는 날로 발전하고 있습니다. 오늘 최고의 선택이 내일은 구닥다리가 될 수도 있습니다. 그렇기 때문에 Dify(디파이)와 같은 유연한 플랫폼이 중요한 것입니다.
©2024-2025 GAEBAL AI, Hand-crafted & made with Damon Jaewoo Kim.
GAEBAL AI 개발사: https://gaebalai.com
AI 강의 및 개발, 컨설팅 문의: https://talk.naver.com/ct/w5umt5
