GPT로 일한다면, 결국 프롬프팅

토큰 소비 없이 사고 과정 프롬프팅 활용

Reddit의 PromptEngineering 커뮤니티에서 한 사용자가 추가 토큰을 사용하지 않고도 '사고 과정(chain of thought)' 프롬프팅의 이점을 누릴 수 있는 새로운 방법을 제안했습니다.

이 방법의 핵심은 프롬프트 구조를 조정하고 API 호출 시 특정 매개변수를 활용하는 것입니다. 사용자는 콘텐츠 검토 작업을 예로 들어 설명했습니다.

제안된 프롬프트 구조는 다음과 같습니다:   

AI 모델의 역할 및 작업 설명

검토할 텍스트 입력

준수해야 할 지침 목록

단계별 지시사항

결과물 형식 지정 ( 및  태그 사용

예시를

이 구조의 핵심은 모델의 추론 과정을 요청하되, 이를 결과물 뒤에 배치하는 것입니다.

API 호출 시, 'stop' 매개변수를 '</result>' 태그로 설정하여 추론 부분 전에 생성을 중단시킵니다. 이를 통해 모델은 사고 과정을 거치지만, 추가 토큰을 소비하지 않고 결과만 반환하게 됩니다.

관련 내용 출처는 다음과 같습니다.

From the PromptEngineering community on Reddit