6. Amazon Nova로 구현
# AWS에서 만든 최신 파운데이션 모델인 Amazon Nova 사용해 보자.
<1> Amazon Nova
<2> Agent Workflow
<3> Amazon Bedrock Agents를 활용한 Agents Chatbot 데모
<1> Amazon Nova
1
가격 대비 성능을 제공하는 최신 파운데이션 모델
2
제공 모델 2가지?
언더스텐딩 모델
콘텐츠 크리에이터 모델
3
콘텐츠 크리에이터 모델 2가지?
Amazon Nova Canvas - 이미지 생성에 특화된 모델
Amazon Nova Reel - 동영상 생성에 특화된 모델
4
언더스텐딩 모델 4가지?
Nova Premier는 출시 예정 (2025년 3월 현재)
출시된 제품 모두 가성비 좋은 모델이다.
미세조정 가능 (Fine-Tune) 가능하다.
빠른 추론 능력 제공한다. 실시간 서비스가 필요한 챗봇, 고객서비스에 적합하다.
장문의 콘텍스트 이해 - 법률문서, 기술문서, 학술 문서 등 긴문서를 다루는데 적합하다.
300K의 대용량 콘텍스트 제공한다.
Nova Premier 5M 콘텍스트 모델 출시 예정
# 출처 : AWS온라인 세미나
<2> Agent Workflow
1
AI 에이전트는?
스스로 인지하고 결정하고 행동하는 자율적인 시스템.
엔터프라이즈 데이터 액세스 가능
계획, 추론 및 실행
다양한 도구 사용 기능
2
Amazone Bedrock Agents?
아마존 배드락 에이전트를 쉽게 구성가능하다.
3
많이 사용하는 Agent Workflow?
Tool use 패턴 - 적절한 도구를 정의하고, 모델이 필요한 순간 호출하여 사용.
Reflection 패턴 - 결과물에 대한 자가 점검 및 개선.
Planning : 단계별 실행계획 수립 및 실행.
Multi-agent collaboration : 다양한 문제 해결을 위해 여러 에이전트가 협업하여 처리.
4
Tool use 패턴 - 적절한 도구를 정의하고, 모델이 필요한 순간 호출하여 사용.
도구의 실행 결과를 저장할 리스트 초기화. 각 도구의 호출을 반복 실행
Bedrock Agent Action API를 호출하여 도구 실행
<3> Amazon Bedrock Agents를 활용한 Agents Chatbot 데모
콘솔로 Amazon Bedrock Agents 사용
<4> LangGraph로 구현하는 Agentic Workflow
Nova Pro 활용 데모
챗봇 데모
1
일상 대화?
시간과 날씨 질문 - 답변 못함
nova pro 질문 - 답변 못함
2
RAG 사용?
nova pro 질문 - 답변함. Amazon Nova user guide 참고하여 답변함.
3
Tool use 패턴 - 적절한 도구를 정의하고, 모델이 필요한 순간 호출하여 사용.
미리 등록된 tools들을 실행.
시간과 날씨 질문 - 답변함. 시간과 날씨를 알려줌.
4
Reflection 패턴 - 결과물에 대한 자가 점검 및 개선.
Generate , Teflect, Revise과정을 통해 초안을 향상한다.
부족, 조언, 추가 검색어를 추출할 수 있다.
5
Planning : 단계별 실행계획 수립 및 실행.
Plan, Execute , Replan Node를 이용해 Workflow를 구성한다.
6
Multi-agent collaboration : 다양한 문제 해결을 위해 여러 에이전트가 협업하여 처리.
Planning agent와 Reflection agent을 수행하는 multi-agent을 활용하여 보고서를 생성할 수 있다.
다음
https://brunch.co.kr/@topasvga/4349
감사합니다.
