AWS 49탄-3. 아마존 RAG 아키텍처
AI부터 RAG까지
생성형 AI 동작?
택스트 입력을 하면 파운데이션 모델이 응답을 한다.
택스트 응답. 이미지 응답. 동영상 응답을 한다.
파운데이션 모델은 이미 학습된 AI이다.
사용하는 법은. 두 가지?
세이즈메이커 점프스타트를 이용하거나 베드락을 이용한다.
세일즈메니커 점프스타트는 인프라부터 선택해 관리한다.
베드락은 인프라는 관리하지 않고 API로 사용만 한다. 관리가 없다.
베드락으로 사용하기.
커스터마이징이 필요하다.
말만 이어지면 거짓말을 하는 에이아이. 아이 같다 ㅋㅋ
옛날 정보를 가진다.
내부 자료등 보안사항이 노출될 수 있다.
프롬프트 엔지니어링으로 일부 해결한다.
세종 대왕님이 살았던 시기는 예전이다.
맥북 프로는 나중에 나왔다고 프롬프트에 적는다.
그런데, 매번 적어야 하나?
그래서 증강 생성을 사용한다.
더 나아진 생성으로 좀 더 잘 대답하도록 한다.
그런데 컴퓨터는 바로 알아듣지 못한다.
그래서 데이터 전문가들이 벡터라는 개념으로 컴퓨터가 알아듣도록 했다.
그래서 벡터를 알아야 한다.
벡터 데이터는 벡터 디비에 넣는다.
벡터를 무한정 넣을 순 없다.
잘라서 넣는다. 청크 Chunks
지식 DB를 제공하여 더 정확하게 처리를 한다.
더 수월하게 처리 한다.
Full-test 검색 지원 서비스와 벡터 검색 서비스가 있다.
오픈 서치는 둘 다 되어 오픈 서치 쓰면 좋다 ^^
아마존 킨데라도 지원한다.
벡터 서치는 오로라 포스트 그래도 지원한다.
하이브리드 지원은 오픈 서치!!!
Full-Test search 아키텍처.
베드락도 힘들다.
지식 기반 사용하자.
정리~~
2가지로 서비스 - 베드락, 세이즈메이커
KB , 날리지 디비 쓰면 편한다.
자료들~
다음 AI
https://brunch.co.kr/@topasvga/3747
-----------------------------------------
다음
https://brunch.co.kr/@topasvga/3734
감사합니다.
