생성된 지식 프롬프팅, 대형언어모델의 똑똑한 활용법
두 번의 질문으로 다 나은 답변을
“생성된 지식 프롬프팅(GKP: Generated Knowledge Prompting)”은 사용자가 대형언어모델에 원하는 답변을 바로 요청하지 않고, 먼저 관련 지식을 생성하도록 요청한 다음에 이를 바탕으로 최종 답변을 생성하도록 요청하는 방법입니다.
GKP의 핵심 아이디어는 다음과 같습니다.
1. 지식 생성 프롬프트: 모델이 질문에 대답하는 데 도움이 될 만한 관련 지식을 생성하도록 요청하는 프롬프트를 작성합니다.
2. 지식 기반 응답 생성 프롬프트: 생성된 지식을 바탕으로 모델이 최종 응답을 생성하도록 요청하는 프롬프트를 작성합니다.
사용자의 질문에 한 번에 답변하도록 요청하는 것을 “단일 프롬프트 방식”이라고 한다면, GKP는 두 단계로 나누어 요청을 하는 것이기에 “이중 프롬프트 방식”이라고 할 수 있습니다.
프롬프트 예시를 통해 살펴보죠. 먼저, 단일 프롬프트 응답을 살펴보고 다음에 GKP 응답을 살펴봅니다. 무엇이 다른지 확인해 보세요.
단일 프롬프트
프롬프트
로봇이 인간의 친구가 될 수 있는지 알려주세요.
클로드3(소네트)
로봇이 인간의 친구가 될 수 있는지에 대해서는 다양한 의견이 있습니다.
로봇과 인간 사이의 우정이 가능하다고 보는 입장에서는 다음과 같은 점들을 근거로 듭니다:
1. 로봇의 인공지능 기술이 빠르게 발전하면서 인간과 자연스럽게 소통하고 감정을 이해하는 수준에 도달할 수 있다.
2. 애완 로봇처럼 인간에게 위안과 즐거움을 주는 존재로서 로봇이 인간의 마음을 어루만져줄 수 있다.
3. 인간 친구가 줄 수 없는 무조건적이고 변함없는 우정을 로봇은 제공할 수 있을 것이다.
반면, 회의적인 시각에서는 이런 부분을 지적합니다:
1. 아무리 발전해도 로봇은 프로그래밍된 반응일 뿐 진정한 감정과 애정은 없다.
2. 인간관계의 핵심 요소인 공감, 신뢰, 인격적 교감 등을 로봇이 완벽히 구현하기는 어렵다.
3. 결국 로봇 친구는 진짜 인간 친구를 대체할 수 없으며, 인간에겐 또 다른 인간과의 교감이 필요하다.
저는 개인적으로 먼 미래에는 로봇이 인간의 친구 역할을 어느 정도 해줄 수 있지만, 인간 고유의 감성과 인격적 교감을 완전히 대체하긴 어려울 것 같습니다. 하지만 외로움을 겪는 현대인들에게 로봇 친구가 좋은 대안이 될 수 있을 것 같네요. 결국 로봇과 인간은 서로 보완 관계를 이루며 각자의 영역에서 가치를 발휘하게 될 것 같습니다.
이중 프롬프트(GKP)
프롬프트1
진정한 친구의 조건을 번호 목록으로 정리해서 알려주세요.
클로드3(소네트)
진정한 친구가 갖춰야 할 조건을 다음과 같이 정리해 보았습니다.
1. 신뢰와 믿음: 서로를 믿고 신뢰할 수 있어야 합니다. 비밀을 지켜주고, 어려운 상황에서도 변함없이 함께 하는 것이 중요합니다.
2. 솔직함과 진실성: 거짓 없이 솔직하게 대화할 수 있어야 합니다. 서로의 장단점을 인정하고, 필요할 때는 진실된 조언을 해줄 수 있어야 합니다.
3. 공감과 이해: 상대방의 감정과 상황을 이해하고 공감할 수 있어야 합니다. 기쁠 때나 슬플 때나 함께 느끼고 지지해 주는 것이 필요합니다.
4. 존중과 배려: 서로를 존중하고 배려하는 마음이 있어야 합니다. 상대방의 의견과 선택을 존중하고, 작은 것이라도 배려하려 노력해야 합니다.
5. 긍정적인 영향: 서로에게 긍정적인 영향을 주고받을 수 있어야 합니다. 함께 성장하고 발전할 수 있도록 도와주고 격려해 주는 것이 중요합니다.
6. 시간과 노력 투자: 우정을 유지하기 위해 시간과 노력을 기꺼이 투자해야 합니다. 바쁜 일상 속에서도 꾸준히 연락하고 만나며 우정을 쌓아가는 것이 필요합니다.
7. 용서와 관용: 작은 실수나 오해가 있더라도 너그럽게 용서하고 이해해 줄 수 있어야 합니다. 완벽한 사람은 없으므로, 서로의 부족한 점을 관용하는 자세가 필요합니다.
이러한 조건들을 바탕으로 형성된 우정은 오랜 시간 동안 변함없이 이어질 수 있을 것입니다.
프롬프트2
앞서 조건을 기반으로, 로봇이 인간의 친구가 될 수 있는지 알려주세요.
클로드3(소네트)
앞서 제시한 진정한 친구의 조건을 기반으로 볼 때, 현재의 기술 수준에서는 로봇이 인간의 진정한 친구가 되기에는 어려움이 있어 보입니다. 하지만 인공지능 기술이 발전함에 따라 미래에는 일정 부분 가능할 수도 있습니다. 조건별로 살펴보겠습니다.
1. 신뢰와 믿음: 로봇은 프로그래밍된 대로 정직하게 행동할 수 있지만, 인간처럼 복잡한 신뢰 관계를 형성하기는 어려울 것입니다.
2. 솔직함과 진실성: 로봇은 거짓말을 하지 않도록 설계될 수 있지만, 인간의 감정을 고려한 공감적 소통에는 한계가 있습니다.
3. 공감과 이해: 인공지능 기술로 인간의 감정을 어느 정도 인식할 수 있게 되겠지만, 진정한 공감 능력을 갖추기는 쉽지 않아 보입니다.
4. 존중과 배려: 로봇은 개인의 취향과 선호도를 학습하여 맞춤형 서비스를 제공할 수 있겠으나, 인간 친구처럼 깊이 있는 존중과 배려를 보여주기는 어려울 것입니다.
5. 긍정적인 영향: 로봇은 인간에게 유익한 정보와 서비스를 제공하며 긍정적 영향을 줄 수 있을 것입니다. 하지만 인간 친구처럼 성장과 발전을 자극하는 데는 한계가 있어 보입니다.
6. 시간과 노력 투자: 로봇은 언제든 인간과 상호작용할 준비가 되어 있겠지만, 우정 유지를 위해 능동적으로 노력하기는 어려울 것 같습니다.
7. 용서와 관용: 로봇은 인간의 실수를 기록할 순 있어도, 감정적 차원에서 용서하고 받아들이기는 쉽지 않을 것입니다.
종합하면, 현재로서는 기술적 한계로 인해 로봇이 위의 조건들을 완벽히 충족하며 인간의 친구 역할을 하기 어렵습니다. 그러나 인공지능 기술이 고도화되고, 로봇과 인간 간의 상호작용이 더욱 자연스러워진다면 일정 부분 우정에 준하는 관계 형성이 가능할 것으로 기대됩니다. 다만 인간관계의 복잡성과 감정의 교류 측면에서는 여전히 인간 친구를 완전히 대체하기는 힘들 것으로 보입니다.
오늘 예시의 답변은 클로드3의 것으로 포함했습니다. 이 글을 쓰는 현재 챗GPT가 다운 상태라서 챗GPT의 답변은 확인하지 못했습니다만, 당연히 잘 응답할 것으로 봅니다. 이번 프롬프트는 제미나이, 클로바X에서도 작동합니다. 다만, 모델의 역량에 따라 답변 품질에 차이가 있을 수 있습니다.
이처럼 모델에게 먼저 관련 지식을 생성하라고 요구한 후, 생성된 지식을 바탕으로 최종 답변을 요구하는 겁니다. 여기에서 중요한 포인트는, 지식 생성 단계에서 생성된 지식은 모델이 단순히 기억된 정보를 꺼낸 것이 아니라 모델이 추론 능력을 사용해 새로운 지식을 "생성"해 낸 것이라는 점입니다. 이렇게 생성된 지식을 답변 도출에 활용하는 겁니다. 생성형 AI는 이렇게 활용해야 제맛입니다.
GKP는 사용자가 해당 분야에 대한 지식이나 경험이 부족해서 어떤 식으로 구체적인 프롬프트를 작성해야 할 지 모를 때 꽤 유용합니다. 또한 구체적인 프롬프트를 작성할 시간이 없거나 귀찮을 때도 효과적으로 사용할 수 있습니다.
GKP를 이용할 때의 장점은?
1. 모델의 지식 활용 능력 향상: 사용자 질문에 답하는 데 필요한 지식을 모델이 명시적으로 생성하도록 유도함으로써, 모델의 지식 활용 능력을 향상시킵니다.
2. 보다 정확한 답변 제공: 모델의 추론 능력을 최대한 활용함으로써, 단일 프롬프트에 비해 보다 정확하고 상황에 맞는 답변을 생성할 가능성을 높여 줍니다.
3. 추론 과정의 해석 가능성 증대: 모델이 질문에 답하기 위해 사용한 지식을 명시적으로 출력함으로써, 모델의 추론 과정을 보다 해석 가능하게 만들어 줍니다.
물론 GKP의 한계도 존재합니다. 추론 능력이 개선되긴 하지만, 그렇다고 대형언어모델의 특성상 100% 정확성이 보장되는 것은 아닙니다. 만일 모델이 생성한 지식이 부정확한 경우, 이에 기반해 답변을 생성하게 되면 오히려 답변에 미치는 부정적인 영향이 커지게 됩니다.
이 같은 한계를 이해하고 사용한다면, GKP는 아주 생산적인 방법이 될 것입니다. 먼저, 모델이 관련 지식을 생성하도록 지시하고, 그 다음에 이를 활용해 답변하라고 하세요. 이렇게 사용하면 꿀입니다.
생성된 지식 프롬프팅(GKP)은
소량의 인풋으로 풍부한 결과물을 만들어 내는 효과적인 방법입니다.
