AWS 46탄-2.Amazon Bedrock-24-1월
2024년 1월
Amazon Bedrock = 파운데이션 모델을 기반으로 한 생성형 AI = 도구 계층
타이탄의 멀티모달(Multimodal Embeddings) 기능으로 텍스트와 이미지 조합이 함께 사용가능해졌습니다.
<1> Amazon Bedrock이란?
<2> Titan의 멀티 모달 기능 (Multimodal Embeddings)
<3> Claude 2.1 Foudation Model
<4> 내부 데이터 소스에 근거한 정확성 높은 응답을 제공하는 Konwledge Bases기능
<5> 윤리적 문제 방지 (Guardrails-Safeguard Gen AI application)
<1> Amazon Bedrock이란?
1
파운데이션 모델을 기반으로 한 생성형 AI
2023년 4월 출시
2
다양한 FM(Foundation Model)을 제공하며 사용자는 가장 적합한 모델로 사용한다.
자신의 데이터를 FM(Foundation Model)을 만들고, 통합하고 배포할 수 있다.
개발을 간소화할 수 있는 완전 관리형 서비스이다.
3
지원하는 모델
FM(Foundation Model) 모델 선택
// Claude에서 헌법적 AI 의미? = AI의 문제를 지도학습이나 강화학습 등으로 스스로 개선하는 방법을 의미.
참고
https://aws.amazon.com/ko/bedrock/
<2> Titan의 멀티 모달 기능 (Multimodal Embeddings)
1
Titan은 AWS에서 제공하는 FM(Foundation Model)입니다.
2
기능 변경
변경 전 : 기존 1가지 유형의 데이터에 대해서만 임베딩하여 검색 가능
변경 후 : Multimodal Embeddings 기능으로 텍스트와 이미지 조합을 함께 사용가능
3
이미지와 최대 128개의 영어 텍스트를 임베딩으로 변환하여 데이터 간의 의미론적 의미와 관계를 파악한다
멀티 모달 , Multimodal = Multi + modality 합성어 = 다양한 차원의 데이터를 동시에 학습시킬 수 있도록 통합하는 임베딩의 핵심.
https://aws.amazon.com/ko/bedrock/titan/
4
Titan 모델 버전?
Titan Text Express , Titan Text Embeddings는 8,000개의 토큰을 제공한다.
모델별로 제공하는 서비스가 틀리므로 각 모델에 맞는 서비스를 이용하는 게 핵심이다.
<3> Claude 2.1 Foudation Model
Claude 2.1 버전 성능 향상 > Claude 3버전 출시 (2024년 3월 현재)
1
Claude 2.1은 기존 제공하던 토큰양의 2배인 약 200,000개 토근 (약 15만 단어/문서 500페이지 이상) 콘텐스트 창을 제공합니다.
요약, Q&A , 추세 예측, 여러 문서 비교 및 대조 등 작업을 수행가능하다.
2
오답률, 환각률 감소한다.
최대 토큰이 많을수록 개선이 된다.
<4> 내부 데이터 소스에 근거한 정확성 높은 응답을 제공하는 Konwledge Bases기능
1
회사 내부의 데이터 소스에서 FM과 에이전트에게 맥락에 맞는 정보를 제공하여, RAG를 통해 더 관련성 있고 정확한 응답을 제공할 수 있다.
2
Konwledge Bases기능
S3 데이터 위치를 지정하면, 자동으로 문서를 가져와 텍스트를 블록으로 나누고, 임베팅으로 변환하여 벡터 데이터베이스에 저장합니다.
<5> 윤리적 문제 방지 (Guardrails-Safeguard Gen AI application)
1
구축한 애플리케이션에서 발생할 수 있는 윤리적 문제 방지 신기능
현재 프리뷰로 제공 중
2
회사 정책 및 원칙에 따라 안전한 사용자 경험을 제공하기 위한 보호 장치를 일관성 있게 적용할 수 있다.
3
FM에서 기본 가능하나 추가 제어 가능
4
주요 제어 기능?
거부된 주제 = 컨텍트에서 바람직하지 않은 주제 세트를 정의하고, 그와 관련된 질문을 거부할수 있다.
콘텐츠 필터 = 증오, 모욕, 성적, 폭력 임계치를 구성할 수 있음.
다음 AI
https://brunch.co.kr/@topasvga/3628
감사합니다.
