brunch

You can make anything
by writing

C.S.Lewis

by Master Seo Jul 24. 2024

오라클 생성형 AI 서비스-2024-07


1

오라클 AI Stack



2

제공  GPU 




3

이름은 OCI Generative AI 서비스이다.


오라클은 자체 LLM은 제공하지 않는다.

전문 업체의 LLM을 제휴로 사용한다.

코히어와 라마 2개를 제공한다.




4

오라클은

코히어 와 라마를 제공한다.






5

코히어와 파트너십



6

전용 모델을 제공한다.




7

 AI Quick Actions 서비스도 제공한다.




다른 모델도 제공



8

RAG Agent




9

자동화된 경우!!!


질문에 합당한 정보를 정렬 - ReRanker 




10

Code Assist?

코드 개발 관련 지원 AI 

내부 검증 중

곧 외부 오픈 예정



11

랭체인 통합



12

자체 LLM 은 제공하지 않으나 협업으로 해결한다.

오라클에서 벡터 디비등 제공한다.

End to end로 서비스 제공한다.



13

클라우드뿐만 아니라 온사이트 서비스도 제공한다.



14

QnA


멀티모달은 아직까지 제공하지 않고 있다.

벡터 서비스인 일라스틱 서치에서 제공은 하지 않는다 오라클 클라우드에 올라가 있는 오픈 서치에서 제공한다.


감사합니다.

매거진의 이전글 27. 라마인덱스-2024-07
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari