제4장 홈즈의 추론법, 프롬프트가 되다(1)

Sherlockian Way of Thinking

1. 서론: 질문은 새로운 추론의 형식이다

프롬프트(Prompt)는 질문이다. 그러나 단순한 질문이 아니다. 생성형 인공지능(Generative AI)과 대화할 때, 우리는 단지 궁금한 것을 묻는 것이 아니라, 그 대답이 어떤 형태로 돌아오길 기대하는지, 어떤 논리로 결론에 도달하길 원하는지를 함께 설계하고 있는 셈이다. 따라서 프롬프트는 단순한 입력 문장이 아니라, 사고의 구조를 담아낸 지시이자, 하나의 의도된 설계다. 그리고 이 설계 과정을 들여다보면, 셜록홈스가 사용한 논리적 추론법과 놀랍도록 닮아 있다는 사실을 발견하게 된다.

셜록홈스는 추리의 천재로 알려져 있지만, 그의 진짜 능력은 날카로운 직감이나 초인적인 기억력에 있지 않았다. 그는 언제나 질문을 통해 생각을 시작했다. “왜 저 사람의 신발은 한쪽만 심하게 닳았을까?”, “창문이 잠겨 있었는데 도둑은 어떻게 침입했을까?”, “편지는 왜 손글씨와 인쇄 활자를 함께 사용했을까?” 이런 질문은 사건의 단서가 아니라, 그 단서를 해석하기 위한 출발점이었다. 홈즈는 단서의 의미를 따지기 전에, 먼저 그 단서가 왜 존재하는지를 묻는 방식으로 접근했다. 그는 사실을 먼저 모으기보다, 올바른 질문을 먼저 던짐으로써 해답에 다가가는 탐정이었다.

질문은 단서가 아니라 추리의 출발점이다. 프롬프트는 사고를 여는 열쇠, 셜록 홈즈처럼 시작하라.

생성형 인공지능을 활용하는 것도 본질적으로 다르지 않다. AI는 스스로 사고하거나 문제를 정의하지 않는다. 다만, 주어진 입력에 따라 통계적으로 가장 그럴듯한 출력을 예측할 뿐이다. 따라서 어떤 입력, 어떤 프롬프트를 주느냐가 AI의 ‘지능’ 수준을 결정하게 된다. 프롬프트가 모호하면 답도 흐릿하고, 조건이 지나치게 단순하면 결과도 평이할 뿐이다. 반대로 논리적 흐름과 구조가 잘 설계된 프롬프트는, AI로부터 더 정교하고 설득력 있는 답을 끌어낼 수 있다. 마치 홈즈가 복잡한 사건 속에서 가장 단순하고 명쾌한 질문으로 본질을 꿰뚫어 보듯이…

오늘날 프롬프트 엔지니어링(Prompt Engineering)이라 불리는 이 작업은 단순한 기술이 아니라 사고의 방식이다. 정보의 양이나 연산 속도가 아닌, 질문의 질이 AI의 성능을 좌우하는 시대에 우리는 다시금 ‘어떻게 묻는가’를 중심에 놓고 생각해야 한다. 홈즈가 했던 것처럼. 질문을 바꾸면 해답이 달라지고, 사고의 틀을 설계하면 결과의 방향이 달라진다.

이 장에서는 셜록홈스가 사용했던 여섯 가지 추론법을 중심으로, 각각이 어떻게 현대의 프롬프트 설계 전략으로 이어질 수 있는지를 살펴볼 것이다. 연역법, 귀납법, 가설-연역법, 가추법, 귀추법, 그리고 제거법—이 각각의 추론 방식은 단지 고전 추리소설 속 도구가 아니라, 오늘날 생성형 AI와 소통하기 위한 정교한 질문 전략으로 되살아날 수 있다. 질문은 추리의 또 다른 이름이다. 그리고 지금, 그 추리는 프롬프트라는 형식을 통해 다시 태어나고 있다.

2. 연역법: 조건이 주어졌을 때 답을 좁혀라

연역법(deductive reasoning)은 이미 알고 있는 일반적인 원칙이나 규칙을 바탕으로, 특정 상황에 적용 가능한 결론을 이끌어내는 추론 방식이다. 셜록홈스는 이 연역적 추론의 귀재였다. 그는 사건 현장에서 얻은 단편적인 정보만으로도 놀라운 속도로 조건을 조합해 결론을 좁혀나갔다.

예를 들어, 《주홍색 연구》에서 홈즈는 피해자의 시신 옆에 남겨진 발자국과 벽에 피로 쓴 글자를 분석하면서 “이 범인의 키는 6피트 이상일 것이다”라고 단정한다. 그 근거는 간단하다. 발자국의 간격이 보통 사람보다 훨씬 넓었고, 벽 위의 글자 높이가 6피트 이상이었기 때문이다. 즉, 그는 “발걸음이 넓으면 키가 크다”, “보통 사람은 자기 눈높이 정도에 글자를 쓴다”라는 일반적 전제를 바탕으로, 이 사건의 특정 조건에 연역적으로 결론을 도출해 낸 것이다.

프롬프트 설계에 이 연역적 사고를 적용하면, “조건을 명확히 제시해 AI가 그에 맞는 답을 도출하도록 유도”하는 방식이 된다. 단순히 정보나 조언을 요청하는 질문이 아니라, ‘이 조건에서만 성립할 수 있는 답’을 제한적으로 끌어내는 구조다. 조건이 많을수록 답은 좁아지고, 답이 구체적일수록 AI의 응답도 명확해진다.

좋은 연역형 프롬프트는 조건을 논리적으로 제시해 명확한 결론을 이끌어낸다.

프롬프트 전략: 논리적 조건을 미리 깔아주기

좋은 연역형 프롬프트는 질문을 시작하기 전에 다음과 같은 구조를 따른다:

가. 일반 원칙 또는 배경 정보 제시

나. 구체적인 조건 명시

다. 이 조건들이 모두 성립할 때 가능한 결론을 요청

이 방식은 특히 아래와 같은 상황에서 유용하다:
• 다단계 조건이 얽힌 문제를 풀고 싶을 때
• 어떤 기준을 충족하는 대상만 걸러내고 싶을 때

• 정책, 논리, 법칙, 규칙 기반으로 판단을 요청할 때

프롬프트 예시

① 진로 추천: "내가 찾는 직업은 다음 조건을 모두 만족해야 해.
Ⓐ 사람들과 직접 대면하지 않아도 되고,
Ⓑ 창의적인 작업을 많이 할 수 있어야 하며,
Ⓒ 일정한 수입이 보장되는 정규직이었으면 좋겠어.
이 조건을 만족하는 직업 5가지를 구체적인 이유와 함께 추천해 줘.”
→ 이 프롬프트는 3개의 조건을 논리적으로 구성하여, AI가 무작위로 직업을 나열하는 것을 방지한다. 각 조건을 검토하면서 소거법과 연역법적 판단을 통해 AI는 답을 좁혀 나가게 된다.

② 역사적 인물 추천: "다음 조건을 만족하는 역사적 인물을 찾아줘.
Ⓐ 20세기에 활동했고,
Ⓑ 기술 분야에서 혁신을 일으켰으며,
Ⓒ 동시에 정치적 발언이나 행동으로 논란을 일으킨 적이 있는 인물이어야 해.
해당 인물을 한 명 제시하고, 그 이유를 3 문단으로 설명해 줘."
→ 단순히 ‘유명한 과학자’나 ‘논란이 된 인물’을 묻는 질문이 아니라, 서로 다른 조건의 교차점을 찾도록 유도한다.

③ 문장 생성 테스트: "다음 세 가지 조건을 모두 포함하는 한 문장을 만들어줘.
Ⓐ 질문문 형태여야 하고,
Ⓑ 그 안에 ‘시간’이라는 단어가 반드시 들어가야 하며,
Ⓒ 전체 문장은 15 단어를 넘기지 말 것."
→ 문장 생성이라는 창의적 작업에서도, 조건을 분명히 설정해 주면 AI의 결과물은 훨씬 더 명확해진다. 단순 창작이 아닌, 제한된 틀 안에서의 추론적 구성 요청이다.

④ 사건 재구성: "사건 현장에서 발견된 증거는 다음과 같다:
Ⓐ 맨발로 찍힌 발자국
Ⓑ 깨진 유리
Ⓒ 창문이 안에서 잠겨 있었음.
이 조건이 모두 충족될 경우, 가장 가능성 높은 침입 경로를 논리적으로 설명해 줘."
→ 홈즈의 추리와 유사한 설정이다. 이 프롬프트는 AI로 하여금 ‘모든 조건을 만족하는 시나리오만 추론’ 하도록 요구한다. 조건 하나하나가 ‘논리적 필터’ 역할을 한다.

요약: 연역적 프롬프트는 답을 좁히는 기술이다

연역법은 선택지를 무한히 늘리는 방식이 아니라, 조건을 명확히 함으로써 가능한 답의 수를 점점 줄여가는 사고법이다. 프롬프트 설계에서도 마찬가지다. 모호한 질문은 결과도 모호하지만, 조건을 명확히 제시하면 AI는 그 안에서 논리적으로 정제된 답을 생성한다.

홈즈는 말하곤 했다. “사실(fact)은 풍부하지만, 진실(truth)은 드물다.” 그에게 진실은 정교하게 설정된 조건을 통과해 살아남은 결론이었다. 프롬프트도 마찬가지다. 질문이 논리적이면, AI의 답도 그만큼 진실에 가까워진다.

3. 귀납법: 사례를 쌓아 패턴을 유도하라

귀납법(inductive reasoning)은 개별적인 사례나 관찰을 바탕으로 일반적인 규칙이나 원리를 이끌어내는 추론 방식이다. 관찰된 사실이 많아질수록, 그로부터 도출된 결론은 더 강력한 신뢰를 얻게 된다. 셜록홈스는 종종 이 귀납적 사고를 통해 상대방의 습관이나 배경, 정체를 유추하곤 했다.

대표적인 예는 《푸른 카벙클》에서의 장면이다. 홈즈는 거리에서 주운 낡은 모자를 유심히 들여다보며 그 주인의 특징을 차례로 추론해 낸다. 모자의 상태, 먼지, 닳은 자국, 안감의 접힘 등을 하나하나 관찰하면서, 그가 한때는 부유했지만 지금은 가난해졌고, 머리카락이 적은 중년 남성이라는 결론에 도달한다. 각각의 단서는 작은 조각에 불과하지만, 그 조각들이 쌓이자 전체 인물이 떠오른다. 이것이 바로 귀납법의 힘이다.

AI 프롬프트 설계에서도 귀납법은 유용한 전략이 된다. 여러 개의 구체적 예시를 제공하고, 그 예시 사이의 공통점이나 규칙을 AI가 스스로 도출하도록 유도하는 방식이다. 이는 AI가 단편적 응답을 넘어서, 패턴 인식과 일반화 능력을 발휘할 수 있게 하는 질문 구조다.

예시를 통해 공통 규칙을 찾고, 새로운 사례를 만들어내는 것이 귀납형 프롬프트의 핵심이다.

프롬프트 전략: 사례 제시 → 공통된 규칙 유도

귀납형 프롬프트는 다음과 같은 구조를 가진다:
가. 3개 이상 구체적 사례 또는 문장 제시
나. 그 사이에 숨어 있는 공통점이나 구조를 찾아 설명 요청
다. 더 나아가, 새로운 사례를 생성하거나 일반화된 규칙을 제시하도록 유도

이 방식은 특히 다음과 같은 작업에 유용하다:
• 사용자 취향 분석
• 콘텐츠 추천 로직 설명
• 창작 스타일 패턴 분석
• 유사한 문장 구조 생성
• 감정, 어조, 스타일 분류

프롬프트 예시

① 영화 추천 패턴 유도: "다음 세 명의 최근 영화 감상 목록을 참고해서 이 사람들이 선호하는 영화의 공통된 특징을 분석해 줘. 그리고 이들과 비슷한 성향을 가진 사람이 좋아할 만한 영화를 3편 추천해 줘:
Ⓐ 사용자 A: 〈인터스텔라〉, 〈컨택트〉, 〈에브리씽 에브리웨어 올 앳 원스〉

Ⓑ 사용자 B: 〈그녀〉, 〈엑스 마키나〉, 〈블레이드 러너 2049〉
Ⓒ 사용자 C: 〈메멘토〉, 〈테넷〉, 〈인셉션〉”
→ 이 프롬프트에서 각 영화는 개별 사례지만, 그 조합을 통해 사용자의 취향이라는 일반화된 패턴을 유도하게 한다.

② 스타일 패턴 학습: “다음 세 문장은 같은 작가가 쓴 것으로 추정된다. 이 문장의 어조, 문장 구조, 표현 방식의 특징을 설명해 줘:
Ⓐ '그는 세상에서 가장 조용한 밤을 찾기 위해 떠났다.'

Ⓑ
 '말 없는 바람이 그의 어깨를 스치고 지나갔다.'

Ⓒ '침묵은 때로 가장 큰 대답이 된다.’"
→ AI는 이 세 문장에서 반복적으로 나타나는 서정적 어조, 간결한 구조, 은유 표현 등을 귀납적으로 추출할 수 있다.

③ 고객 행동 패턴 추론: "다음 세 사람은 모두 같은 온라인 쇼핑몰의 사용자야:
Ⓐ 고객 A: 주로 밤 11시 이후에 접속, 3일마다 장바구니 품목 교체

Ⓑ 고객 B: 금요일 밤마다 방문, 할인상품 클릭률 높음
Ⓒ 고객 C: 장바구니에 담고 일주일 후 구매 확정
이들 사이의 공통된 소비 패턴을 분석하고, 이와 유사한 행동을 보이는 신규 고객에게 어떤 마케팅 전략이 효과적일지 제안해 줘."
→ 개별 행동 데이터에서 행동 시간대, 구매 주기, 가격 민감도 등의 공통적 패턴을 귀납적으로 도출해 마케팅 전략으로 이어지게 하는 구조다.

④ 문법 규칙 도출: "다음은 모두 고대 언어 X에서 사용된 문장이다.
Ⓐ ‘Ruma tal-nek’
Ⓑ ‘Sira tal-vok’
Ⓒ ‘Dara tal-ruk’
이 세 문장을 참고해 ‘tal’이라는 단어가 문법적으로 어떤 기능을 하는지 분석해 줘."
→ 이 예시는 언어학 학습 모델 또는 규칙 기반 AI에게 귀납적 언어 분석을 유도하는 방식이다.

요약: 귀납형 프롬프트는 패턴을 발견하게 한다

귀납법은 “사실을 모으고, 공통된 법칙을 도출하는 사고”다. 프롬프트 설계에서 귀납적 구조를 사용하면, AI는 단순 응답자에서 벗어나 유사성, 반복, 구조, 경향성을 읽어내는 탐색자의 역할을 하게 된다.

홈즈가 낡은 모자 하나를 보고 “이 사람은 머리가 벗어졌고, 한때 부유했지만 지금은 가난하다”라고 말할 수 있었던 이유는, 수많은 모자, 수많은 사람을 관찰해 온경험과 귀납적 직관 때문이었다. 프롬프트도 마찬가지다. 사례를 쌓고, 그 안에서 AI가 스스로 패턴을 찾게 만들면, 질문은 단서를 넘어 하나의 해석 구조가 된다.

4. 가설-연역법: 가정을 세우고 검증해 나가라

가설-연역법(Hypothetico-Deductive Method) 은 먼저 가설을 설정하고, 그 가설이 참일 경우 어떤 결과가 따라야 하는지를 논리적으로 예측한 뒤, 실제 관찰 결과와 비교하여 가설을 검증하는 사고방식이다. 과학적 탐구에서 널리 사용되는 이 방식은, 셜록홈스의 추리에 있어서도 자주 나타난다. 그는 자주 "만약 A라면, B일 것이다"라는 형태의 추론을 통해 진실에 접근한다.

대표적인 예는 《네 사람의 서명》에서의 장면이다. 홈즈는 왓슨의 발등에 묻은 진흙을 보고 그가 우체국에 다녀왔다는 사실을 추리한다. 그는 단순히 흙만 본 것이 아니라, "이 황토성 점토는 오직 우체국 옆 도로 공사 현장에서만 볼 수 있다"는 정보를 알고 있었고, 왓슨이 오전 중 외출한 시간과 신발 상태를 종합해 “만약 그가 그 시간에 그 진흙을 밟았다면, 우체국에 들렀을 것이다”라는 가설을 세운 것이다. 그리고 이 가설은 관찰 결과와 정확히 맞아떨어진다.

프롬프트 설계에서 이 가설-연역법을 활용한다는 것은, “어떤 조건이 참이라면 어떤 결과가 따라야 하는가?”, 혹은 “이러한 결과가 나왔다면, 어떤 가정이 가장 타당한가?” 같은 논리적 실험의 형식을 갖춘 질문을 구성하는 것이다.

이 방식은 AI에게 단순 지식을 요청하는 것이 아니라, 논리 실험의 시나리오를 주고, 그 시나리오에 따라 판단하거나 설명하게 하는 구조다. 과학적 사고, 원인-결과 추론, 정책 시뮬레이션, 사용자 행태 분석 등에서 특히 유용하다.

가설-연역형 프롬프트는 AI가 논리적 실험을 통해 결과를 유도하도록 돕는다.

프롬프트 전략: 가설을 먼저 세우고, 그로부터 결과를 유도하게 하라

가설-연역형 프롬프트는 다음과 같은 구성으로 설계된다:
가. 명확한 가설 또는 가정 제시 (if A, then B)
나. 그 가설이 사실이라면 어떤 결과가 따라야 하는지 묻기
다. 또는, 관측된 결과가 있을 때 가장 그럴듯한 가정을 유도하기
이러한 구조는 AI로 하여금 단순 지식 전달자에서 벗어나, 논리적 사고 실험의 참여자로 기능하게 만든다.

프롬프트 예시

① 사용자 행동 분석: "가설: ‘사용자는 스트레스를 받을 때 온라인 쇼핑을 많이 한다’ 이 가설이 사실이라면, 다음 사용자 행동 패턴에서 어떤 변화가 예상될지 알려줘.
Ⓐ 평일 낮에는 접속이 거의 없음
Ⓑ 금요일 저녁에 접속률이 급증
Ⓒ 장바구니에는 주로 간식, 소형 가전이 담김"
→ 이 프롬프트는 가설을 먼저 제시하고, 그 가설이 맞다면 어떤 데이터 해석이 따라야 할지를 묻는 논리적 실험형 구조다.

② 의료 데이터 시나리오: "가정: '고혈압 신약 A는 혈압을 평균 10 이상 낮추는 효과가 있다’ 이 가정을 검증하기 위해 다음 조건이 모두 충족되어야 한다면, 실험 설계 시 어떤 요소를 반드시 포함해야 할지 제안해 줘.
Ⓐ 피실험자 선정 기준
Ⓑ 실험군과 대조군 구성
Ⓒ 측정 지표 및 해석 기준"
→ 가설 설정 → 실험 조건 도출이라는 과학적 사고 구조를 AI가 따르게 만드는 프롬프트다.

③ 결과에서 가설 추론하기: "관찰된 결과: 한 달 동안 고객 이탈률이 갑자기 25% 증가했어. 가능한 원인을 세 가지 가설 형태로제시해 줘. 각 가설은 ‘만약 ○○라면 → 이탈률이 증가했을 것이다’의 구조를 따르도록 하고, 각 가설마다 검증 가능한 지표를 1개 이상 함께 제안해 줘."
→ 이 예시는 결과가 먼저 주어진 뒤, 그에 적합한 가설을 구성하고 검증 기준까지 설계하는 복합적 추론형 프롬프트다.

④ 픽션/스토리 전개 실험: "가정: '주인공이 처음부터 범인의 정체를 알고 있었다면, 이야기의 결말은 달라졌을 것이다.’ 이 가정을 바탕으로, 다음 단락의 스토리를 다시 써줘.
Ⓐ 기존 줄거리: 주인공은 탐색과 추적 끝에 마지막 장면에서 범인을 마주친다.
Ⓑ 새 줄거리: 그가 범인을 알고 있었던 설정이 들어가야 하고, 마지막 장면의 긴장감은 유지되어야 한다."
→ 픽션 창작에서도, 가설을 바꾸면 전개도 달라진다. 가정 변화에 따른 결과 변화를 논리적으로 설계하게 만드는 창의적 응용형 프롬프트다.

요약: 가설-연역형 프롬프트는 사고 실험을 설계하는 방식이다

가설-연역법은 단순한 논리가 아니라 ‘만약 그렇다면’이라는 상상력 위의 논리 실험이다. 프롬프트 설계에서 이 방식을 도입하면, AI는 정해진 지식을 꺼내는 도구를 넘어서 가상의 상황에서 논리적으로 추론하고, 결과를 예측하거나 해석하는 역할을 하게 된다.

셜록홈스는 언제나 가정을 세운 뒤 그 가정을 시험했다. 그의 추리는 감각이 아니라 검증 가능성 위에 있었다. AI도 마찬가지다. 질문이 가설을 포함할 때, 그 대답은 단순한 요약을 넘어서 논리적 깊이와 방향성을 가진 응답이 된다.

가설은 생각의 씨앗이고, 그 씨앗을 던지는 사람이 프롬프트를 설계하는 사용자다.