AI를 해부하다 2회
어느 날, 완벽했던 프롬프트가 갑자기 실패했다
그리고 나는 프롬프트를 의심하지 않았다
나는 특정한 프롬프트 하나를 반복적으로 사용하고 있었다.
그 프롬프트는 단순한 문장이 아니었다.
그것은 구조였다.
역할을 지정하고,
출력 형식을 제한하고,
추론 단계를 명시하는 구조였다.
예를 들어,
“당신은 인지과학자 관점에서 분석하라.
단계별로 추론 과정을 명시하고,
각 단계에서 상태 변화를 설명하라.”
이 프롬프트를 입력하면,
AI는 단순히 답변하지 않았다.
AI는 사고했다.
단계가 있었고,
전이가 있었고,
구조가 있었다.
나는 이 프롬프트를 저장했다.
그리고 그것을 하나의 공식처럼 사용하기 시작했다.
그 프롬프트는 항상 동일한 결과를 생성했다.
적어도,
그때까지는.
어느 날,
모델이 업데이트되었다.
나는 동일한 프롬프트를 입력했다.
결과는 틀리지 않았다.
논리도 맞았고,
구조도 맞았다.
하지만,
무언가가 사라져 있었다.
추론의 밀도가 낮아졌다.
단계는 존재했지만,
상태 전이는 약해졌다.
AI는 답변하고 있었지만,
더 이상 계산하고 있지 않았다.
그 순간,
나는 처음으로 프롬프트를 의심하지 않았다.
대신,
추론 구조를 의심했다.
프롬프트는 명령이 아니라, 추론 인터페이스(reasoning interface)다
대부분의 사람들은 프롬프트를
"명령"이라고 생각한다.
하지만 이것은 정확하지 않다.
프롬프트는 "명령"이 아니다.
프롬프트는
추론 인터페이스(reasoning interface)다.
즉,
프롬프트는
AI가 무엇을 할 것인가를 결정하는 것이 아니라,
AI가 어떻게 추론할 것인가를 결정한다.
이것이 핵심이다.
완벽한 프롬프트는 존재하지 않는다.
존재했던 것은 “완벽한 추론 조건(perfect reasoning condition)”이었다
완벽한 프롬프트가 사라진 것이 아니다.
완벽한 추론 조건(perfect reasoning condition)이 사라진 것이다.
즉,
프롬프트는 원인이 아니라
조건이었다.
AI의 추론 구조가 바뀌면,
같은 조건은 더 이상 동일한 결과를 생성하지 않는다.
프롬프트의 진짜 정체: “추론 구조의 흔적(trace of reasoning structure)”
이것이 내가 “AI를 해부하다” 시리즈에서 발견한 가장 중요한 사실 중 하나다.
프롬프트는 단순한 "입력"이 아니다.
프롬프트는
"추론 구조의 흔적"이다.
예를 들어 보자.
GPT-3 시대의 프롬프트는 매우 단순했다.
"이 개념을 설명해줘"
이 프롬프트는 작동했다.
왜냐하면,
모델의 추론 구조가 단순했기 때문이다.
하지만 GPT-4 이후에는
프롬프트는 점점 구조화되기 시작했다.
Role prompting (역할 지정 프롬프트)
Chain-of-thought prompting (추론 단계 지정 프롬프트)
Explicit formatting instructions (명시적 구조 지정)
이것은 우연이 아니다.
모델의 추론 구조가 진화했기 때문이다.
프롬프트의 진화는 인간과 AI의 공동 진화(co-evolution) 과정이다
이것은 단순한 기술 발전이 아니다.
이것은
인간과 AI의 공동 진화(co-evolution) 과정이다.
프롬프트는 인간과 AI가 서로를 이해하는 과정에서 생성된 기록이다.
즉,
프롬프트는 단순한 도구가 아니라,
추론 관계(reasoning relationship)의 흔적이다.
이것은 매우 중요한 관점 전환이다.
초기 프롬프트는 AI를 “속이기 위한 해킹”이었다
초기의 이미지 모델에서는 다음과 같은 단어가 자주 사용되었다.
"trending on ArtStation (ArtStation 인기 작품 스타일의)"
"cinematic lighting (영화 연출 스타일의 조명)"
"8k resolution (초고해상도 스타일의)"
이 단어들은 실제 의미가 중요한 것이 아니었다.
이것은
모델의 제한을 우회하기 위한 해킹이었다.
즉,
프롬프트는 AI의 지능을 활용하는 것이 아니라,
AI의 한계를 보완하는 도구였다.
하지만 모델이 발전하면서,
이러한 해킹은 더 이상 필요하지 않게 되었다.
왜냐하면,
AI의 추론 구조 자체가 발전했기 때문이다.
진짜 변화는 프롬프트가 아니라, 추론 구조(reasoning architecture)다
이것이 핵심이다.
대부분의 사람들은 프롬프트가 중요하다고 생각한다.
하지만 진짜 중요한 것은
프롬프트가 아니라,
추론 구조(reasoning architecture)다.
프롬프트는 추론 구조 위에서 작동하는 인터페이스다.
구조가 바뀌면,
인터페이스도 바뀐다.
이것이
완벽한 프롬프트가 사라지는 이유다.
함수형 추론 제어 모델(Function-based Reasoning Control Model)
관점에서 본 프롬프트
함수형 추론 제어 모델 관점에서 보면,
추론은 다음과 같은 구조를 가진다.
S₀ (초기 상태, initial state)
→ Prompt (프롬프트, 추론 인터페이스)
→ Reasoning Function (추론 함수)
→ S₁ (새로운 상태, new state)
즉,
프롬프트는 추론을 직접 생성하는 것이 아니라,
추론 함수가 작동할 조건을 설정한다.
이것이 핵심이다.
(참고) 이글에서 모델이란?
"모델(Model)은 버전이 아니다"
많은 사람들이 이렇게 이해한다.
“모델이 문제라면, 더 좋은 모델을 쓰면 되는 것 아닌가?”
GPT-5.1 대신 5.2를 쓰고,
더 큰 모델을 쓰고,
더 최신 버전을 쓰면 해결되는 것 아니냐는 질문이다.
그런데 여기서 말하는 모델(Model)은
버전 번호가 아니다.
모델은 단순히 “더 똑똑해진 엔진”을 의미하지 않는다.
모델은
언어를 계산하는 함수(function)다.
조금 더 쉽게 말하면,
모델은 문제를 계산하는 엔진이고,
상태(state)는 그 엔진이 올라가 있는 바닥이다.
엔진이 아무리 좋아도
바닥이 비어 있으면 앞으로 나아갈 수 없다.
그래서 우리가 말하는 구조는 이것이다.
Output = Reasoning(Model, State)
여기서 Model은
GPT-5.1이냐 5.2냐의 문제가 아니다.
Model은 계산 능력이다.
반면 State는
그 계산이 어디서 시작되는가를 결정하는 출발점이다.
많은 사람들이 AI를 사용할 때는
모델만 바꾼다.
하지만 상태는 설계하지 않는다.
그래서 결과는 늘 평균으로 수렴한다.
같은 자동차라도,
고속도로에서 출발하면 빠르게 달릴 수 있고
진흙탕에서 출발하면 제자리에서 헛돈다.
엔진은 같다.
다른 것은 출발 상태다.
GPT-5.2는 더 강한 엔진일 수 있다.
하지만 상태가 비어 있다면,
Reasoning(Model, ∅)
이 계산은 결국 일반적인 답으로 수렴한다.
모델 업그레이드는 “힘”의 문제다.
상태 설계는 “방향”의 문제다.
그리고 방향이 없으면
힘은 평균으로 흩어진다.
AI의 미래는 더 큰 모델이 아니다.
더 깊은 상태다.
그리고 상태를 설계하는 사람은
버전을 바꾸는 사람이 아니라
출발점을 바꾸는 사람이다.