brunch

You can make anything
by writing

C.S.Lewis

by Master Seo Jan 25. 2024

AWS 46탄-2.Amazon Bedrock-24-01

2024년 1월

Amazon Bedrock = 파운데이션 모델을 기반으로 한 생성형 AI = 도구 계층

타이탄의 멀티모달(Multimodal Embeddings) 기능으로 텍스트와 이미지 조합이 함께 사용가능해졌습니다.



<1> Amazon Bedrock이란?

<2> Titan의 멀티 모달 기능 (Multimodal Embeddings)

<3> Claude 2.1 Foudation Model 

<4> 내부 데이터 소스에 근거한 정확성 높은 응답을 제공하는 Konwledge Bases기능

<5> 윤리적 문제 방지 (Guardrails-Safeguard Gen AI application)




<1> Amazon Bedrock이란?


1

파운데이션 모델을 기반으로 한 생성형 AI   

2023년 4월 출시



2

다양한 FM(Foundation Model)을 제공하며 사용자는 가장 적합한 모델로 사용한다.

자신의 데이터를 FM(Foundation Model)을 만들고, 통합하고 배포할 수 있다.

개발을 간소화할 수 있는 완전 관리형 서비스이다.



3

지원하는 모델

FM(Foundation Model)  모델 선택

// Claude에서 헌법적 AI 의미? = AI의 문제를 지도학습이나 강화학습 등으로 스스로 개선하는 방법을 의미.






참고

https://aws.amazon.com/ko/bedrock/





<2> Titan의 멀티 모달 기능 (Multimodal Embeddings)



1

Titan은 AWS에서 제공하는 FM(Foundation Model)입니다.



2

기능 변경

변경 전 : 기존 1가지 유형의 데이터에 대해서만 임베딩하여 검색 가능

변경 후 : Multimodal Embeddings 기능으로 텍스트와 이미지 조합을 함께 사용가능



3

이미지와 최대 128개의 영어 텍스트를 임베딩으로 변환하여 데이터 간의 의미론적 의미와 관계를 파악한다


멀티 모달 , Multimodal  = Multi + modality 합성어 = 다양한 차원의 데이터를 동시에 학습시킬 수 있도록 통합하는 임베딩의 핵심.


https://aws.amazon.com/ko/bedrock/titan/



4

Titan 모델 버전?


Titan Text Express , Titan Text Embeddings는  8,000개의 토큰을 제공한다.

모델별로 제공하는 서비스가 틀리므로 각 모델에 맞는 서비스를 이용하는 게 핵심이다.





<3> Claude 2.1 Foudation Model 



Claude 2.1 버전 성능 향상  > Claude 3버전 출시 (2024년 3월 현재)



1

Claude 2.1은 기존 제공하던 토큰양의 2배인 약 200,000개 토근 (약 15만 단어/문서 500페이지 이상) 콘텐스트 창을 제공합니다.

요약,  Q&A , 추세 예측, 여러 문서 비교 및 대조 등 작업을 수행가능하다.



2

오답률, 환각률 감소한다.

최대 토큰이 많을수록 개선이 된다.




<4> 내부 데이터 소스에 근거한 정확성 높은 응답을 제공하는 Konwledge Bases기능


1

회사 내부의 데이터 소스에서 FM과 에이전트에게 맥락에 맞는 정보를 제공하여, RAG를 통해 더 관련성 있고 정확한 응답을 제공할 수 있다.



2

Konwledge Bases기능

S3 데이터 위치를 지정하면, 자동으로 문서를 가져와 텍스트를 블록으로 나누고, 임베팅으로 변환하여 벡터 데이터베이스에 저장합니다.




<5> 윤리적 문제 방지 (Guardrails-Safeguard Gen AI application)


1

구축한 애플리케이션에서 발생할 수 있는 윤리적 문제 방지 신기능

현재 프리뷰로 제공 중


2

회사 정책 및 원칙에 따라 안전한 사용자 경험을 제공하기 위한 보호 장치를 일관성 있게 적용할 수 있다.


3

FM에서 기본 가능하나 추가 제어 가능


4

주요 제어 기능?

거부된 주제  = 컨텍트에서 바람직하지 않은 주제 세트를 정의하고, 그와 관련된 질문을 거부할수 있다.

콘텐츠 필터  = 증오, 모욕, 성적, 폭력 임계치를 구성할 수 있음.




다음 AI

https://brunch.co.kr/@topasvga/3628



감사합니다.

매거진의 이전글 AWS 46탄-1. Amazon Q - 2024-01
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari