아마존 베드락 에이전트가 무엇인지 알아보자
에이전트 구성요소 알아보자.
활용 예시 알아보자
에이전트의 핵심기능인 액션 그룹을 알아보자.
에이전트 배포 및 호출하는 법을 알아보자~
1
파운데이션 모델을 기반으로 사용자의 요청을 스스로 이해하고 오케스트레이션 해서 처리.
2
파운데이션 모델이 기업의 모든 워크 플로를 자동화하지는 못한다.
기업 내부의 다양한 사내 시스템과 연동하는데 시간과 비용이 발생한다.
과제들!!!
3
아마존 베드락 에이전트 출시
자연어를 사용하여 생성형 AI 애플리케이션이 복잡한 비즈니스 작업을 수행할 수 있도록 지원한다.
에이전트는 파운데이션 모델을 기반으로 한다.
지침
액션 그룹
지식 저장소를 가진다.
지침 = 에이전트가 동작하는 목적을 지정하는 인스트럭션이다. 작업의 단계별로 지침을 정의/설정한다.
액션 그룹 = 에이전트가 람다 함수를 호출해서 실행할 액션, 외부 API 호출 등
지식 저장소를 가진다. = 파운데이션 모델에 포함되어 있지 않는 다양한 데이터를 추가로 저장한다.
1
사용자가 에이전트를 통해 요청.
사용자의 요청 내용과 '지침'을 기반으로 '지식 저장소'에서 출력이 가능한 내용을 찾는다.
특정한 액션이 필요한 내용이면 '액션 그룹'을 통해 결과물을 출력한다.
2
지침 만으로도 동작이 가능하다.
농담 에이전트는 농담에 대해서는 답변을 한다.
다른 부분에 대한 질문은 답변을 하지 않도록 구성할 수 있다.
3
하나의 지침 + 지식 저장소를 통해 답변을 받는 예)
지식 저장소는 벡터 데이터 베이스로 관리하고, 항상 최신 데이터로 구성되도록 관리한다.
사용자가 에이전트를 통해 질문하면, 지침과 지식저장소를 통해 출력을 한다.
4
하나의 지침 + 2개의 액션 그룹을 통해 답변받는 예)
미팅 정리 액션 그룹
구성원의 메일 그룹을 통해 첫 번째 액션 그룹에서 정리한 내용을 메일로 보내준다.
5
지침 + 지식 저장소 + 액션 그룹 사용 예)
지침, 지식 저장소를 기반으로 출력.
휴가 처리가 필요한 액션이 필요한 경우, 에이전트는 액션 그룹을 수행하고 결과를 반환한다.
6
에이전트는 기존의 파운데이션 모델만으로 처리가 불가능한 부분을 해결해 준다.
7
에이전트를 기존 리소스를 기반으로 구축
에이전트로 기업의 모든 것을 자동화하기 힘들다.
기업의 내부 기존 리소스 문서, API 연동, 데이터베이스 연동 해야 자동화가 가능하다.
1
고객 센터 지원 ?
사용자의 요청 내용과 지침을 기반으로 지식 저장소를 검색한다.
사용자의 요청을 분석해 결과를 반환해 준다.
2
항공권과 숙소 예약 에이전트 ?
에이전트를 통해 지식 저장소의 다양한 리소스 분석.
항공권 예약, 숙소 예약을 처리한다.
자동화 하는 것이다.
1
에이전트는 테스크를 액션의 여러 단계로 나눈다.
액션의 순서를 정한다.
액션 플랜이다.
액션을 수행한다.
결과를 확인한다.
다음 단계 액션을 결정 한다.
계속 반복 한다.
최종적인 결과가 나온다.
2
베드락 에이전트에 Task 생성.
수행 하기 위한 3가지 ?
테스크에 대한 정의.
지침에 대한 정의 = 역할 정의 , 항공권을 제공하면 되는 어시스텐트라는 지침을 준다.
액션에 대한 정의 = 툴 정의 , 웹을 통해 항공권을 검색하고 예약하는 펑션.
3
이후, LLM에 요청한다. (Bedrock model)
스텝1 - api call or 지식기반으로 확인
스텝2 - api call or 지식기반으로 확인
반복
최종 결과
오케스트레이션이다.
3
여행 항공원 데모~
4
Chanin Of thought (COT) ????
다단계 문제 해결을 위한 기능.
최종값을 도출하기 위해 사람의 연쇄적 사고방식을 모방하는 중간 추론 단계를 생성한다.
Chanin Of thought (COT) 프롬프트를 생성하자.
5
예시)
항공권 제공 예시
출발 날자가 없네?
다시 물어 봐야지..
6
역할 가이드
항공권 검색에 필요한 정보가 있을경우 사용자에게 질문을 할수 있다.라고 지침을 준다.
사용자 확인을 받으라고 지침을 준다.
답변은 한글로 하라고 지침을 준다.
7
액션 그룹에 대한 설명 - 해당 액션의 판단시 활용 된다. 출발 날자가 없는 경우?
어떤 펑션을 실행시켜야 하는지 정의하는 API 스키마
람다 함수 - 실제 비즈니스 로직을 짜는것이다.
8
이메일 보내기 , 팀원에 대한 목록 가져오기 해보자. ??
API 스키마를 만들자.
API 스키마 정의 어렵다.
람다 어렵다?
9
파티락으로 구성되어 있는 에이전트 만드는 툴.
에이전트 코드를 작성해 주는 파티락 앱이 있습니다!!!
https://partyrock.aws/u/markproy/XWPTbMoSt/GenAgentsForBedrock
9
정리
다음
https://brunch.co.kr/@topasvga/4097