brunch

You can make anything
by writing

C.S.Lewis

by Master Seo Oct 07. 2024

AI 11탄-21. Bedrock Agent-2024

아마존 베드락 에이전트가 무엇인지 알아보자

에이전트 구성요소 알아보자.

활용 예시 알아보자

에이전트의 핵심기능인 액션 그룹을 알아보자.

에이전트 배포 및 호출하는 법을 알아보자~


<1> Amazon Bedrock Agent?

<2> 에이전트 동작 방식

<3> 에이전트 활용 예시

<4> 에이전트 오케스트레이션



<1> Amazon Bedrock Agent?


1

파운데이션 모델을 기반으로 사용자의 요청을 스스로 이해하고 오케스트레이션 해서 처리.



2

파운데이션 모델이 기업의 모든 워크 플로를 자동화하지는 못한다.

기업 내부의 다양한 사내 시스템과 연동하는데 시간과 비용이 발생한다.


과제들!!!



3

아마존 베드락 에이전트 출시

자연어를 사용하여 생성형 AI 애플리케이션이 복잡한 비즈니스 작업을 수행할 수 있도록 지원한다.


에이전트는 파운데이션 모델을 기반으로 한다.

지침

액션 그룹

지식 저장소를 가진다.


지침 = 에이전트가 동작하는 목적을 지정하는 인스트럭션이다. 작업의 단계별로 지침을 정의/설정한다.

액션 그룹 = 에이전트가 람다 함수를 호출해서 실행할 액션, 외부 API 호출 등

지식 저장소를 가진다. = 파운데이션 모델에 포함되어 있지 않는 다양한 데이터를 추가로 저장한다.






<2> 에이전트 동작 방식


1

사용자가 에이전트를 통해 요청.

사용자의 요청 내용과 '지침'을 기반으로 '지식 저장소'에서 출력이 가능한 내용을 찾는다.

특정한 액션이 필요한 내용이면 '액션 그룹'을 통해 결과물을 출력한다.





2

지침 만으로도 동작이 가능하다.

농담 에이전트는 농담에 대해서는 답변을 한다.

다른 부분에 대한 질문은 답변을 하지 않도록 구성할 수 있다.



3

하나의 지침 + 지식 저장소를 통해 답변을 받는 예)

지식 저장소는 벡터 데이터 베이스로 관리하고, 항상 최신 데이터로 구성되도록 관리한다.

사용자가 에이전트를 통해 질문하면, 지침과 지식저장소를 통해 출력을 한다.



4

하나의 지침 + 2개의 액션 그룹을 통해 답변받는 예)

미팅 정리 액션 그룹

구성원의 메일 그룹을 통해  첫 번째 액션 그룹에서 정리한 내용을 메일로 보내준다.



5

지침  + 지식 저장소 + 액션 그룹 사용 예)

지침, 지식 저장소를 기반으로 출력.

휴가 처리가 필요한 액션이 필요한 경우, 에이전트는 액션 그룹을 수행하고 결과를 반환한다.



6

에이전트는 기존의 파운데이션 모델만으로 처리가 불가능한 부분을 해결해 준다.




7

에이전트를 기존 리소스를 기반으로 구축

에이전트로 기업의 모든 것을 자동화하기 힘들다.

기업의 내부  기존 리소스 문서,  API 연동, 데이터베이스 연동 해야 자동화가 가능하다.





<3> 에이전트 활용 예시



1

고객 센터 지원 ?

사용자의 요청 내용과 지침을 기반으로  지식 저장소를 검색한다.

사용자의 요청을 분석해 결과를 반환해 준다.





2

항공권과 숙소 예약 에이전트 ?

에이전트를 통해 지식 저장소의 다양한 리소스 분석.

항공권 예약, 숙소 예약을 처리한다.  

자동화 하는 것이다.







<4> 에이전트 오케스트레이션



1

에이전트는 테스크를 액션의 여러 단계로 나눈다.

액션의 순서를 정한다.

액션 플랜이다.


액션을 수행한다.

결과를 확인한다.

다음 단계 액션을 결정 한다.


계속 반복 한다.

최종적인 결과가 나온다.




2

베드락 에이전트에 Task 생성.


수행 하기 위한 3가지 ?

테스크에 대한 정의.

지침에 대한 정의 = 역할 정의 , 항공권을 제공하면 되는 어시스텐트라는 지침을 준다.

액션에 대한 정의 = 툴 정의 , 웹을 통해 항공권을 검색하고 예약하는 펑션.




3

이후, LLM에 요청한다. (Bedrock model)

스텝1  - api call   or   지식기반으로 확인

스텝2 - api call   or   지식기반으로 확인

반복

최종 결과


오케스트레이션이다.




3

여행  항공원 데모~



4

Chanin Of thought (COT) ????

다단계 문제 해결을 위한 기능.

최종값을 도출하기 위해 사람의 연쇄적 사고방식을 모방하는 중간 추론 단계를 생성한다.

Chanin Of thought (COT) 프롬프트를 생성하자.



5

예시)

항공권 제공 예시 


출발 날자가 없네?

다시 물어 봐야지..




6

역할 가이드


항공권 검색에 필요한 정보가 있을경우 사용자에게 질문을 할수 있다.라고 지침을 준다.

사용자 확인을 받으라고 지침을 준다.

답변은 한글로 하라고 지침을 준다.



7

액션 그룹에 대한 설명 - 해당 액션의 판단시 활용 된다. 출발 날자가 없는 경우?

어떤 펑션을 실행시켜야 하는지 정의하는 API 스키마

람다 함수 - 실제 비즈니스 로직을 짜는것이다.






8

이메일 보내기 , 팀원에 대한 목록 가져오기 해보자. ??


API 스키마를 만들자.

API 스키마 정의 어렵다.

람다 어렵다?


9

파티락으로 구성되어 있는 에이전트 만드는 툴.


에이전트 코드를 작성해 주는 파티락 앱이 있습니다!!!

https://partyrock.aws/u/markproy/XWPTbMoSt/GenAgentsForBedrock




9

정리





다음

https://brunch.co.kr/@topasvga/4097


브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari