brunch

오라클 생성형 AI 서비스-2024-07

by Master Seo


1

오라클 AI Stack

20 ai stack.png



2

제공 GPU

30 nbdia.png




3

이름은 OCI Generative AI 서비스이다.


오라클은 자체 LLM은 제공하지 않는다.

전문 업체의 LLM을 제휴로 사용한다.

코히어와 라마 2개를 제공한다.

40 oci gen ai.png




4

오라클은

코히어 와 라마를 제공한다.


50 cohere-lama.png





5

코히어와 파트너십

50 cohere-lama.png



6

전용 모델을 제공한다.


60 전용 모델제공.png



7

AI Quick Actions 서비스도 제공한다.


70 aii quick action.png



다른 모델도 제공

80 11 가지 모델.png



8

RAG Agent

90 RAG AI Agent.png




9

자동화된 경우!!!


질문에 합당한 정보를 정렬 - ReRanker

100 자동화.png




10

Code Assist?

코드 개발 관련 지원 AI

내부 검증 중

곧 외부 오픈 예정

120 code.png



11

랭체인 통합

130 langchain.png



12

자체 LLM 은 제공하지 않으나 협업으로 해결한다.

오라클에서 벡터 디비등 제공한다.

End to end로 서비스 제공한다.

140 차별.png



13

클라우드뿐만 아니라 온사이트 서비스도 제공한다.

150 온사이트.png



14

QnA


멀티모달은 아직까지 제공하지 않고 있다.

벡터 서비스인 일라스틱 서치에서 제공은 하지 않는다 오라클 클라우드에 올라가 있는 오픈 서치에서 제공한다.


감사합니다.

keyword
매거진의 이전글1.  FastAPI로 API 만들고 배포하기