AI 11탄-87.Guardrails Bedrock
<1> 생성형 AI를 책임감 있게 사용하자.
<2> 다양한 사례와 새로운 과제
<3> 구축 방법
<1> 생성형 AI를 책임감 있게 사용하자.
1
FM은 강력한 작업을 수행할 수 있다.
책임감 있는 애플리케이션 구축 - 바람직하지 않거나 주제와 관련 없는 건 사전에 처리 필요.
2
해결법?
가드레일 - 테스트, 모니터링 방법을 알아보자.
베드락 에이전트와 가드레일을 함께 사용해서 해결하자.
<2> 다양한 사례와 새로운 과제
1
다양한 사례
내부 생산성이 향상된다.
고객 경험 향상 된다.
비즈니스 프로세스 자동화 한다.
챗봇을 많이 사용함.
2
새로운 과제
온라인 뱅킹의 챗봇인 경우?
관련 없는 주제를 막아주는 부분이 필요하다.
3
파운데이션 모델은 디폴트 보호 기능을 가지고 있다.
하지만, 추가 제어가 필요하다.
맞춤 설정이 필요하다.
4
해결하기 위해???
가드레일 for 아마존 베드락 서비스 출시
베드락의 에이전트와 함께 가드레일 적용
5
가드레일은 입력과 출력 모두 점검한다.
4가지 정책이 있다!!!
6
정책1 - 거부된 주제
응용 프로그램에서 바람직하지 않은 주제를 피하자.
현재 가드레일은 영어만 지원.
7
정책2 - 콘텐츠 필터?
유해한 내용을 막아준다.
필터링의 정도를 정한다.
8
정책3 - 경쟁사에 대한 내용을 다루고 싶지 않다면 금지어 적용.
경쟁사 이름 필터 가능.
욕설 차단.
9
정책4 - 개인 식별 정보에 대해 완전 차단 해야 하는 경우도 있다.
마스킹 처리? 블록 할지 등 정할 수 있다.
주민번호등 정의할 수 있다.
10
실습?
아마존 베드락 > 가드레일에서 사용 가능.
가드레일 생성
가드레일 테스트
테스트 창에서 테스트가 가능하다.
해당하는 모델을 선택하고 테스트해 보자.
로그 확인은?
Cloudwach log로 로그를 확인할 수 있다.
<3> 구축 방법
1
베드락 에이전트
가드레일 적용 방법 알아보자.
2
파운데이션 모델 자체만으로는 기능을 제공하기 힘든 경우가 있다.
회사 api에 문의해서 파운데이션 모델이 답변을 주는 경우 등
이런 경우, 베드락 에이전트 사용한다.
3
에이전트 생성 방법??
에이전트 생성.
액션 그룹 추가.
4
실습
데모
보험금 청구를 하는 에이전트.
주식 추천 요청등은 거부하도록 가드레일을 설정하자~
아마존 베드락 > 에이전트 > 에이전트 생성
다음
https://brunch.co.kr/@topasvga/3996
