brunch

You can make anything
by writing

C.S.Lewis

by Master Seo Oct 07. 2024

AI 2탄-17. Amazon Bedrock,프롬프트

<1> 프롬프트 엔지니어링?

<2> CoT와 RAG?

<3> Claude(클로드) 모델의 권장 프롬프트에 대해 알아보자



<1> 프롬프트 엔지니어링?


1

페르소나 설정



2

페르소나 설정을 변경


사용자는 똑같은 질문을 했다.

그러나,  답변은 다르다.

모델에게 페르소나를 편향시켜 설정한것이다.





<2> CoT와 RAG?



1

CoT 는 사고의 흐름을 이끌어 내는 프롬프팅 기술이다!!!

중간 추론 단계를  통해 복잡한 추론을 가능하게 해준다.



2

검색 증강 생성(RAG)은 지식 저장소를 활용한다.




3

예시를 주고 , 복잡한 문제를 준다. = 여러 단계를 거쳐야 풀수 있는 문제를 준다.


Cot 에 디테일을 추가해서 해결한다.

스텝 프롬프팅이 추가 되었다.

산출과정을 포함시키도록 해서 결과가 어떻게 산출되는지 확인하도록 하는 기법이다.




3

 RAG (검색 증강 생성) ?


데이터 저장소를 구축하는 단계가 필요하다.


# 데이터 저장 프로세스 ?

1)  S3 문서를 업로드한다.

2) 문서를 작은 단위를 청크로 쪼갠다.  청크를 벡터로 변환한다.

3) 벡터로 바꾸면 유사도 검색을 쉽게 할수 있다.




4

# RAG의 질문 프로세스 ??


1) 사용자가 질문을 한다.

2) 쿼리 처리자에게 전달한다. 

3) 질의를 인베딩으로 변환한다.

4) 벡터 데이터베이스를 검색한다. 

5) 결과를 응답 받는다.





4. 실험을 반복하자.




5

경험적 근거로 한다.


테스트 케이스 작성 - 다양한 케이스 필요.





<3> Claude(클로드) 모델의 권장 프롬프트에 대해 알아보자


명확하고 직접적으로 표현하기

예제를 넣어줘라.

생각할 시간을 주라 = 답변하기 전에 xml 태그내에 질문에 대해 생각해보세요~

역할 지정하기 = 너는 xxxxxx야

XML 태그를 사용하여 섹션 구분하라 = 클로드는 XML을 사용하라~~



다음

https://brunch.co.kr/@topasvga/4096



감사합니다.

매거진의 이전글 AI 2탄-14. 리더를위한 생성형 AI 6가지 전략
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari