brunch

You can make anything
by writing

C.S.Lewis

by Master Seo Oct 23. 2024

87. Guardrails for Bedrock

<1> 생성형 AI를 책임감 있게 사용하자.

<2> 다양한 사례와 새로운 과제

<3> 구축 방법




<1> 생성형 AI를 책임감 있게 사용하자.


FM은 강력한 작업을 수행할 수 있다.

책임감 있는 애플리케이션 구축 - 바람직하지 않거나 주제와 관련 없는 건 사전에 처리 필요.



해결법?

가드레일  - 테스트, 모니터링 방법을 알아보자.

베드락 에이전트와 가드레일을 함께 사용해서 해결하자.





<2> 다양한 사례와 새로운 과제



1

다양한 사례


내부 생산성이 향상된다.

고객 경험 향상 된다.

비즈니스 프로세스 자동화 한다.



챗봇을 많이 사용함.



2

새로운 과제


온라인 뱅킹의 챗봇인 경우?

관련 없는 주제를 막아주는 부분이 필요하다.




3

파운데이션 모델은 디폴트 보호 기능을 가지고 있다.


하지만, 추가 제어가 필요하다.

맞춤 설정이 필요하다.






4

해결하기 위해???

가드레일 for 아마존 베드락 서비스 출시


베드락의 에이전트와 함께 가드레일 적용 




5

가드레일은 입력과 출력 모두 점검한다.


4가지 정책이 있다!!!






6

정책1 - 거부된 주제

응용 프로그램에서 바람직하지 않은 주제를 피하자.

현재 가드레일은 영어만 지원.



7

정책2 콘텐츠 필터?

유해한 내용을 막아준다.

필터링의 정도를 정한다.



8

정책3 경쟁사에 대한 내용을 다루고 싶지 않다면  금지어 적용.

경쟁사 이름 필터 가능.

욕설 차단.




9

정책4 개인 식별 정보에 대해 완전 차단 해야 하는 경우도 있다.

마스킹 처리?  블록 할지 등 정할 수 있다.

주민번호등 정의할 수 있다.




10

실습?


아마존 베드락 > 가드레일에서 사용 가능.

가드레일 생성


가드레일 테스트

테스트 창에서 테스트가 가능하다.

해당하는 모델을 선택하고 테스트해 보자.


로그 확인은?

Cloudwach log로 로그를 확인할 수 있다.






<3> 구축 방법


1

베드락 에이전트 

가드레일 적용 방법 알아보자.



2

파운데이션 모델 자체만으로는 기능을 제공하기 힘든 경우가 있다.


회사  api에 문의해서 파운데이션 모델이 답변을 주는 경우 등

이런 경우, 베드락 에이전트 사용한다.



3

에이전트 생성 방법??


에이전트 생성.

액션 그룹 추가.




4

실습

데모


보험금 청구를 하는 에이전트.

주식 추천 요청등은 거부하도록 가드레일을 설정하자~


아마존 베드락 > 에이전트 > 에이전트 생성



다음

https://brunch.co.kr/@topasvga/3996


매거진의 이전글 86. 생성형 AI와 AWS IoT로 개척하는 비즈니스
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari