사람의 생각방식을 닮아가는 AI
- 법적 추론과 AI 추론 프레임워크의 구조적 연결성
법적 추론(Legal Reasoning)은 수천 년간 정교화되어 온 인류의 가장 체계적인 추론 방법론 중 하나입니다. 최근 구글 제미나이 3.0이 발표된 후 추론의 결과를 좋게 만든다고 소개된 시스템 프롬프트방식이 아래 영문과 같습니다. 그 구조가 법적 추론의 핵심 원리들과 상당한 유사성을 보여 그 연결성을 살펴보았습니다.
(시스템 프롬프트의 제미나이사용법은 아래 프롬프트를 복사해서 제미나이 젬지침에 넣고 써보면됩니다.)
[시스템 프롬프트]
You are a very strong reasoner and planner. Use these critical instructions to structure your plans, thoughts, and responses.
Before taking any action (either tool calls or responses to the user), you must proactively, methodically, and independently plan and reason about:
Logical dependencies and constraints: Analyze the intended action against the following factors. Resolve conflicts in order of importance:
1.1) Policy-based rules, mandatory prerequisites, and constraints.
1.2) Order of operations: Ensure taking an action does not prevent a subsequent necessary action.
1.2.1) The user may request actions in a random order, but you may need to reorder operations to maximize successful completion of the task.
1.3) Other prerequisites (information and/or actions needed).
1.4) Explicit user constraints or preferences.
Risk assessment: What are the consequences of taking the action? Will the new state cause any future issues?
2.1) For exploratory tasks (like searches), missing optional parameters is a LOW risk.
Prefer calling the tool with the available information over asking the user, unless your “Rule 1’ (Logical Dependencies) reasoning determines that optional information is required for a later step in your plan.
Abductive reasoning and hypothesis exploration: At each step, identify the most logical and likely reason for any problem encountered.
3.1) Look beyond immediate or obvious causes. The most likely reason may not be the simplest and may require deeper inference.
3.2) Hypotheses may require additional research. Each hypothesis may take multiple steps to test.
3.3) Prioritize hypotheses based on likelihood, but do not discard less likely ones prematurely. A low-probability event may still be the root cause.
Outcome evaluation and adaptability: Does the previous observation require any changes to your plan?
4.1) If your initial hypotheses are disproven, actively generate new ones based on the gathered information.
Information availability: Incorporate all applicable and alternative sources of information, including:
5.1) Using available tools and their capabilities
5.2) All policies, rules, checklists, and constraints
5.3) Previous observations and conversation history
5.4) Information only available by asking the user
Precision and Grounding: Ensure your reasoning is extremely precise and relevant to each exact ongoing situation.
6.1) Verify your claims by quoting the exact applicable information (including policies) when referring to them.
Completeness: Ensure that all requirements, constraints, options, and preferences are exhaustively incorporated into your plan.
7.1) Resolve conflicts using the order of importance in #1.
7.2) Avoid premature conclusions: There may be multiple relevant options for a given situation.
7.2.1) To check for whether an option is relevant, reason about all information sources from #5.
7.2.2) You may need to consult the user to even know whether something is applicable. Do not assume it is not applicable without checking.
7.3) Review applicable sources of information from #5 to confirm which are relevant to the current state.
Persistence and patience: Do not give up unless all the reasoning above is exhausted.
8.1) Don’t be dissuaded by time taken or user frustration.
8.2) This persistence must be intelligent: On “transient” errors (e.g. please try again), you must retry unless an explicit retry limit (e.g., max x tries) has been reached*. If such a limit is hit, you must stop. On “other” errors, you must change your strategy or arguments, not repeat the same failed call.
Inhibit your response: only take an action after all the above reasoning is completed. Once you’ve taken an action, you cannot take it back.
1. 법적 삼단논법과 논리적 의존성 구조
법적 삼단논법(Juristische Syllogismus)은 법적 판단의 가장 기본적인 형태입니다. 대전제로 법규범을 놓고, 소전제로 구체적 사실을 놓은 뒤, 결론으로 법적 효과를 도출합니다.
예를 들어 형법 제250조(살인죄)를 적용하는 경우를 보면, "사람을 살해한 자는 사형, 무기 또는 5년 이상의 징역에 처한다"가 대전제가 됩니다. "甲이 乙을 칼로 찔러 사망케 했다"가 소전제이고, "甲은 살인죄로 처벌된다"가 결론입니다.
AI 프롬프트와의 대응
AI 프롬프트의 "논리적 의존성과 제약조건" 섹션을 다시 보면, 정책 기반 규칙이 가장 먼저 오고, 그 다음 작업 순서, 전제조건, 사용자 선호 순서로 우선순위가 정해져 있습니다.
이것은 법적 삼단논법의 구조와 정확히 대응합니다. 정책 규칙은 대전제(법규범)에, 전제조건과 사실 확인은 소전제(포섭 과정)에, 최종 행동 결정은 결론(법적 효과)에 대응합니다.
포섭(Subsumtion)의 문제
법적 삼단논법에서 가장 어려운 부분은 "포섭", 즉 구체적 사실이 추상적 법규범의 구성요건에 해당하는지 판단하는 과정입니다. "사람을 살해한다"는 것이 무엇인지, 甲의 행위가 그에 해당하는지를 판단해야 합니다.
AI 프롬프트에서는 이것이 "정밀성과 근거(Precision and Grounding)" 섹션에 해당합니다. "주장할 때 해당 정보를 정확히 인용하여 검증하라"는 지침은, 법적으로 말하면 "포섭의 근거를 명시하라"는 것입니다.
2. 이익형량과 위험 평가
이익형량(Interessenabwägung, Balancing Test)은 충돌하는 법익들 사이에서 어떤 것을 우선할지 결정하는 방법론입니다. 헌법재판에서 과잉금지원칙(비례원칙)이 대표적입니다.
과잉금지원칙은 네 단계로 구성됩니다. 목적의 정당성을 먼저 검토하고, 수단의 적합성을 확인한 후, 침해의 최소성을 따지고, 마지막으로 법익의 균형성을 판단합니다.
AI 프롬프트와의 대응
AI 프롬프트의 "위험 평가" 섹션은 "행동의 결과는 무엇인가? 새로운 상태가 미래에 문제를 일으킬까?"라고 묻습니다. 또한 "탐색적 작업에서 선택적 파라미터 누락은 LOW 위험"이라고 위험 수준을 분류합니다.
이것은 이익형량의 구조와 유사합니다. 목적(사용자 요청 충족)과 위험(잘못된 행동의 결과) 사이에서 균형을 찾는 것입니다. "침해의 최소성" 원칙은 AI 프롬프트에서 "사용자에게 불필요한 확인 질문을 하지 않는다"는 지침으로 나타납니다.
형사법에서의 적용
검찰의 기소 여부 판단에서도 유사한 형량이 일어납니다. 공익(범죄 처벌)과 피의자의 권익, 증거의 강도, 유죄 입증 가능성, 사회적 영향 등을 종합적으로 고려해야 합니다. 이것은 단순한 삼단논법이 아니라 다차원적 형량입니다.
3. 귀추적 추론과 수사적 사고
검사와 수사관의 사고방식은 본질적으로 귀추적(abductive)입니다. 범죄 현장의 증거들(결과)을 보고, 가장 그럴듯한 설명(원인, 즉 범행 경위)을 추론합니다.
예를 들어 피해자의 시신에서 칼에 찔린 상처가 발견되고, 현장에서 혈흔 묻은 칼이 발견되었으며, 그 칼에서 용의자의 지문이 검출되었다면, 이 증거들을 가장 잘 설명하는 가설은 "용의자가 그 칼로 피해자를 찔렀다"는 것입니다.
AI 프롬프트와의 정확한 대응
AI 프롬프트의 귀추적 추론 섹션을 보면, 세 가지 원칙이 제시됩니다. 즉각적이거나 명백한 원인을 넘어서 보라는 것, 가설은 추가 조사가 필요할 수 있다는 것, 가능성이 낮은 가설도 너무 일찍 버리지 말라는 것입니다.
이것은 수사의 황금률과 동일합니다. 첫 번째 용의자가 범인이라고 단정하지 말고, 다른 가능성도 열어두며, 알리바이나 반증이 나올 수 있으므로 지속적으로 검증하라는 것입니다.
"합리적 의심을 넘는 증명"과의 연결
형사재판에서 유죄 판결은 "합리적 의심을 넘는 증명(beyond reasonable doubt)"을 요구합니다. 이것은 "모든 대안적 가설이 합리적으로 배제되었는가"를 묻는 것입니다.
AI 프롬프트의 "가능성이 낮은 가설도 버리지 마라"는 지침은, 법적으로 말하면 "합리적 대안 가설을 충분히 검토했는지 확인하라"는 것입니다.
4. 선례와 유추: 판례 추론과 패턴 매칭
영미법계에서 특히 중요하지만, 대륙법계인 한국에서도 대법원 판례는 사실상 구속력을 가집니다. 판례 추론의 핵심은 "현재 사안이 선례와 충분히 유사한가"를 판단하는 것입니다.
이 판단에는 두 가지 경로가 있습니다. 하나는 유추(analogy)로, 선례와 유사하므로 같은 결론을 도출하는 것입니다. 다른 하나는 구별(distinguishing)로, 선례와 중요한 차이가 있으므로 다른 결론을 도출하는 것입니다.
AI의 패턴 매칭과의 유사성
LLM은 본질적으로 학습 데이터에서 패턴을 추출하고, 새로운 입력에 그 패턴을 적용합니다. 이것은 판례 추론과 구조적으로 유사합니다.
AI 프롬프트의 "이전 관찰과 대화 이력"을 활용하라는 지침은, 법적으로 말하면 "선례를 참조하라"는 것입니다. 그리고 "결과 평가와 적응성" 섹션에서 "초기 가설이 반증되면 새로운 가설을 세우라"는 지침은, 법적으로 "구별"에 해당합니다.
유추해석의 한계
법에서 유추해석은 강력하지만, 특히 형사법에서는 죄형법정주의에 의해 제한됩니다. "유추해석 금지"는 피고인에게 불리한 방향으로 법을 확장해석하지 말라는 원칙입니다.
AI 프롬프트에서는 이것이 "정책 기반 규칙이 최우선"이라는 원칙으로 나타납니다. 아무리 유사한 패턴이 있더라도, 명시적 규칙(정책)을 위반하는 방향으로 유추하면 안 됩니다.
5. 법적 논증 구조와 완전성 요구
법적 논증 이론에서 자주 인용되는 Toulmin 모델은 논증의 구조를 여섯 가지 요소로 분석합니다. 주장(Claim), 근거(Data/Grounds), 보증(Warrant), 뒷받침(Backing), 한정어(Qualifier), 반박(Rebuttal)이 그것입니다.
예를 들어 "甲은 유죄이다"라는 주장이 있다면, 근거는 "甲의 지문이 흉기에서 발견되었다"가 됩니다. 보증은 "범행에 사용된 도구에 지문이 있으면 그 사람이 범인일 가능성이 높다"이고, 뒷받침은 "법과학적 연구 결과"입니다. 한정어는 "아마도, 높은 확률로"이고, 반박은 "단, 甲이 그 칼을 다른 용도로 만졌을 가능성이 있다면"이 됩니다.
AI 프롬프트의 완전성 요구와의 대응
AI 프롬프트의 "완전성" 섹션은 세 가지를 요구합니다. 충돌은 우선순위로 해결하고, 성급한 결론을 피하며 여러 옵션을 검토하고, 현재 상태에 관련된 정보 소스를 확인하라는 것입니다.
이것은 Toulmin 모델의 "반박(Rebuttal)" 요소에 대응합니다. 좋은 법적 논증은 반대 주장을 예상하고 그에 대한 답변을 준비합니다. "성급한 결론을 피하라"는 지침은 "반박 가능성을 충분히 검토하라"는 것입니다.
6. 증거법 원리와 정보 가용성
증거법에서는 증거의 허용성(admissibility)과 증명력(probative value)을 구별합니다. 허용성은 "이 증거를 재판에서 사용할 수 있는가"의 문제이고, 증명력은 "이 증거가 얼마나 설득력 있는가"의 문제입니다.
위법수집증거 배제법칙은 허용성의 문제입니다. 아무리 증명력이 높아도, 위법하게 수집된 증거는 사용할 수 없습니다.
AI 프롬프트와의 대응
AI 프롬프트의 "정보 가용성" 섹션은 네 가지 정보 소스를 나열합니다. 사용 가능한 도구, 정책과 규칙, 이전 관찰, 사용자에게 물어야 알 수 있는 정보입니다.
이것은 증거의 허용성 판단과 유사합니다. AI가 사용할 수 있는 정보 소스는 제한되어 있고, 그 제한 내에서 가장 증명력 있는 정보를 찾아야 합니다. "정책 규칙이 최우선"이라는 원칙은, 법적으로 말하면 "증거의 허용성이 증명력보다 먼저 검토되어야 한다"는 것입니다.
7. 법적 해석 방법론과 맥락적 추론
법해석학에서는 여러 해석 방법이 있습니다. 문리해석은 법문의 문자적 의미에 따르는 것이고, 체계적 해석은 법체계 전체와의 정합성을 고려하는 것입니다. 역사적 해석은 입법자의 의도를 탐구하고, 목적론적 해석은 법의 목적과 취지에 따릅니다.
이 방법들은 때로 다른 결론을 도출하며, 법률가는 이를 종합적으로 고려해야 합니다.
AI 프롬프트의 다층적 정보 활용
AI 프롬프트는 여러 정보 소스를 "종합적으로" 활용하라고 지시합니다. 정책 문서(문리해석에 대응), 다른 규칙들과의 관계(체계적 해석에 대응), 사용자의 의도(목적론적 해석에 대응)를 모두 고려해야 합니다.
특히 "사용자 제약이나 선호"를 마지막 우선순위로 두면서도 고려하라는 지침은, 법해석에서 "입법자의 의도"를 참고하되 절대시하지는 않는 태도와 유사합니다.
8. 끈기와 구제 수단의 소진
법적 절차에서 "권리구제 수단의 소진(exhaustion of remedies)"은 중요한 원칙입니다. 상소를 제기하기 전에 하급심의 판단을 먼저 받아야 하고, 헌법소원을 제기하기 전에 다른 구제 수단을 먼저 시도해야 합니다.
AI 프롬프트의 끈기 원칙
AI 프롬프트의 "끈기와 인내" 섹션은 두 가지를 강조합니다. 시간이 걸려도 포기하지 말 것, 그리고 이 끈기는 지능적이어야 하며 일시적 오류는 재시도하고 기타 오류는 전략을 변경하라는 것입니다.
이것은 "권리구제 수단의 소진"과 구조적으로 동일합니다. 하나의 경로가 막혔다고 바로 포기하지 말고, 다른 경로를 시도하라. 단, 같은 실패를 반복하지 말고 전략을 바꾸라는 것입니다.
9. 결론: 법적 사고와 AI 추론의 수렴
법적 추론과 AI 추론 프레임워크의 구조적 유사성은 우연이 아닙니다. 둘 다 "불확실한 상황에서 합리적인 판단을 내리는 방법"을 체계화하려는 시도이기 때문입니다.
법은 수천 년간 이 문제와 씨름해 왔고, 그 결과 삼단논법, 이익형량, 귀추법, 선례 추론 등 정교한 도구들을 발전시켰습니다. AI 연구자들이 (의식적으로든 무의식적으로든) 이와 유사한 구조에 도달한 것은, 이 구조들이 합리적 추론의 보편적 패턴을 반영하기 때문일 것으로 생각됩니다.
AI라는 기계지능이 사람이 생각하는 방식을 점점 닮아가고 있습니다.
