AI UX의 숨은 축, 프롬프트 엔지니어링

Part 6. PM이 챙겨야 할 프롬프트 설계 포인트

Jun 11. 2025

Part 6. 핵심 요약

- 프롬프트 엔지니어링은 단순한 텍스트 작성이 아니라, AI의 동작 방식을 설계하는 행위다.
- 좋은 프롬프트는 단기적인 성능 개선을 넘어, 제품 전체 흐름과 응답 일관성을 만든다.
- PM은 프롬프트를 사용자 경험과 전략을 연결하는 제품 설계 요소로 접근해야 한다.

생성형 AI 기반의 제품을 만들다 보면 이런 경험이 한 번쯤 있을 거다.

"같은 질문인데, 왜 오늘은 다른 답이 나오지?"

"이 기능은 왜 프리미엄 요금제에서만 작동하지?"

이 질문의 핵심은 단순히 모델의 성능이 아니라 프롬프트(Prompt) 설계에 있다.

프롬프트는 단순한 문장이 아니라, AI가 어떤 맥락에서, 어떤 역할로, 어떻게 반응할지를 설계하는 지시어다. 사용자 경험, 기능 정확도, 보안과 신뢰, 응답 톤&스타일까지—제품 전체에 영향을 미친다.

그래서 이제 프롬프트는 제품 설계의 일부로 다뤄져야 한다.

1. 프롬프트는 제품 응답의 '설계도'다

프롬프트는 모델의 출력을 조정하는 도구인 동시에, 사용자에게 도달하는 경험의 언어이기도 하다. PM의 입장에서 프롬프트는 다음과 같은 관점에서 제품의 설계 도구로 작동한다

✔️ 역할(Role) 정의: AI의 인격 또는 수행할 기능 (e.g., 비서, 코치, 상담사 등)

✔️ 응답 스타일과 톤: 정중한 말투, 짧은 문장, 이모지 포함 여부 등

✔️ 출력 포맷: 마크다운 형식, JSON 응답 등 후속 처리에 필요한 구조화 유도

✔️ 예외 처리 방식: 모르는 질문, 부적절한 입력에 대한 fallback 메시지 포함

프롬프트는 결국 AI의 입장에서의 UX라고도 볼 수 있다. 어떤 지시를 받았느냐에 따라 모델의 응답이 달라지고, 그에 따라 사용자가 경험하는 제품의 일관성과 신뢰감도 결정된다.

2. 프롬프트는 시스템 설계와 연결된다

많은 제품에서 프롬프트는 단건 입력이 아니다. 보통은 여러 계층의 정보가 조합되어 최종적으로 모델에 전달된다고 볼 수 있다.

1️⃣ 시스템 프롬프트 (System Prompt)

제품이 모델과 연결될 때 항상 포함되는 고정 지시어 (e.g., 응답 스타일, 금기 주제, 브랜드 톤 등)

2️⃣ 사용자 프롬프트 (User Prompt)

사용자가 실제로 입력한 자연어 문장

3️⃣ 인터널 프롬프트 (Internal Prompt)

상황에 따라 동적으로 조합되는 설정값 (e.g., 세션 히스토리, 유저 프로필, 사용자의 언어 설정 등)

예를 들어, 어떤 AI 앱은 사용자가 언어 설정을 바꾸면 시스템 프롬프트에 포함되는 언어 응답 지시어도 함께 바뀐다. 프리미엄 사용자의 경우 특정 기능을 프롬프트에 포함시켜주는 방식으로 차별화되기도 한다.

PM은 프롬프트 구조를 단순한 UI 하단 텍스트 입력창이 아니라, 제품 아키텍처의 한 축으로 인식해야 한다. 특히 API 설계, latency, 토큰 제한, UX 흐름, 보안 등과도 긴밀하게 연결되어 있기 때문이다.

3. PM이 챙겨야 할 프롬프트 설계 포인트

✔️ 일관성과 신뢰: 같은 질문에는 언제나 유사한 응답이 나와야 사용자가 신뢰할 수 있다. 프롬프트 템플릿을 설계하거나 시스템 프롬프트를 중앙에서 관리하는 구조가 필요하다.

✔️ 유지 보수 가능성: 모델이 바뀌거나 정책이 바뀔 경우, 관련된 프롬프트도 함께 조정되어야 한다. 따라서 각 프롬프트를 코드에 박아두기보다는 쉽게 관리 가능한 형태로 분리해 두는 것이 좋다.

✔️ 안정성과 책임감: 모델은 예측 불가능한 출력을 낼 수 있다. 이를 대비해 fallback 메시지나, 특정 token 길이 이상이면 응답을 제한하는 설계 등 사전에 어느 정도 준비해두는 게 안정적인 제품 운영에 유리하다.

✔️ 팀과의 협업: 프롬프트는 디자이너, 엔지니어, 라이팅/콘텐츠 담당자 등과 함께 논의하며 설계해야 한다. 단순한 기술 사양이 아니라 사용자 경험을 구성하는 언어이기 때문이다. 예를 들어, onboarding 화면에서 사용자에게 간단한 성향 테스트를 받고, 이를 인터널 프롬프트로 활용해 이후 응답의 톤과 유형을 조정할 수도 있다. 이러한 작은 설계가 cross-functional 협업으로 만드는 사용자 경험의 일부가 될 수 있다.