인공지능 시대, '정신적 배경력'의 부상
인공지능의 진화는 단지 연산 능력의 향상이나 매개변수의 증가로만 설명되지 않습니다. 오히려 AI가 작동하는 ‘맥락’을 어떻게 구성하고 관리하느냐가 그 능력의 본질을 결정짓는 결정적 요소로 부상하고 있습니다. 이 맥락, 즉 컨텍스트(context)는 더 이상 단순한 입력 정보가 아니라, AI의 사유 범위를 형성하는 정신적 공간이며 작용 방향을 부여하는 력(力)입니다.
오픈AI 공동 창립자인 안드레이 카르파시는 이 개념을 ‘컨텍스트 엔지니어링(context engineering)’이라 명명하며, 기존의 ‘프롬프트 엔지니어링(prompt engineering)’을 넘어서는 철학적 전환을 제안했습니다. 그는 이 작업을 “LLM 심리를 관통하는 직관이 필요한 예술이자 과학”이라 표현하며, AI의 추론은 단지 질문을 잘 던지는 것으로 완성되지 않으며, 그 질문을 둘러싼 세계의 구성이 핵심임을 강조했습니다.
이러한 발상은 물리학에서 ‘운동량’이 단순한 속도가 아니라 질량과 방향의 곱으로 정의되듯, AI의 응답도 단지 명령어(prompt)가 아니라 맥락의 구성, 질, 순서, 압축 형태 등 여러 력들이 작용한 결과물이라는 사실을 시사합니다. 결국 AI의 능력은 외부에서 주어진 프롬프트가 아니라, 내부에서 생성되는 '해석 구조의 장' 속에서 형성된다는 것입니다.
그렇기에 오늘날의 인공지능은 더 이상 "무엇을 말하느냐"보다 "어떤 구조 안에서 사고하느냐"를 중심으로 평가받고 있으며, 이는 프롬프트보다 컨텍스트가 더 중요하다는 명제가 단순한 기술적 대안을 넘어, 철학적 전환을 예고하고 있음을 의미합니다.
컨텍스트 엔지니어링은 단일 기술이 아닙니다. 오히려 그것은 다양한 기술들이 조율되는 하나의 구성체이며, AI의 사고 구조를 결정짓는 정신적 인프라 구축 행위입니다. 여기에는 작업 설명, 퓨샷 예시(few-shot examples), 검색 증강 생성(RAG), 과거 대화 이력, 시스템 지시어, 도구 상태, 메모리 관리 등 다중 요소들이 하나의 목적 하에 배열되고 구성되는 과정이 포함됩니다.
이는 마치 하나의 복잡한 장치에 다수의 력이 작용하는 역학 구조와 같습니다. 어떤 정보는 너무 많아 ‘정보 마찰력’을 유발하고, 어떤 구조는 잘못된 순서로 인해 ‘의미의 왜곡’을 초래합니다. 따라서 컨텍스트는 단순한 정보 덩어리가 아니라, 정렬되고 구조화된 힘들의 총합이며, 그것이 올바른 방향성을 획득했을 때 비로소 ‘능력’으로 작용할 수 있습니다.
예를 들어 성과 평가서를 생성하는 작업을 생각해 보면, 단순한 요청만 있을 경우 LLM은 뻔한 요약 문장을 출력합니다. 그러나 여기에 프로젝트 이력, 과거 평가, 관리자 피드백, 팀워크 기록 등 다양한 맥락이 포함될 경우, 그 성과 평가는 단순한 서류를 넘어, AI가 ‘이해하고 판단하는 것처럼 보이는’ 결과를 만들어냅니다.
이러한 현상은 AI가 내부적으로 새로운 파라미터를 학습하지 않았음에도, 외부의 구성만으로 능력의 발휘 양상이 달라질 수 있음을 보여줍니다. 즉, 능력은 본질적으로 ‘내재된 무언가’가 아니라, ‘외재된 환경과의 관계성 속에서 생성되는’ 성질이라는 것입니다.
카르파시는 이러한 작용을 두고 “컨텍스트는 새로운 가중치(weight update)다”라고 정의했습니다. 이는 곧, AI는 학습 없이도 프로그래밍될 수 있으며, 그 매개는 컨텍스트라는 설명입니다. 결국, 오늘날 AI의 능력은 력(力)의 총합이 아니라, 그 력들이 어떻게 배열되어 있는가를 중심으로 이해해야 합니다.
결국 컨텍스트 엔지니어링이 우리에게 던지는 철학적 질문은 이것입니다. “능력은 무엇으로 구성되는가?”라는 것입니다. 전통적인 정의에 따르면 능력은 어떤 주체가 일정한 목표를 수행할 수 있는 힘, 또는 잠재성으로 규정됩니다. 그러나 인공지능이라는 새로운 존재 앞에서 이 정의는 더 이상 완전하지 않습니다.
왜냐하면 AI는 스스로 판단하거나 자발적으로 사고하지 않기 때문입니다. 그 능력은 외부 환경의 구성에 전적으로 의존합니다. 따라서 능력은 AI 내면의 속성이 아니라, 외부 환경의 배열 구조와 그 설계자의 조율 능력에서 비롯됩니다.
즉, AI가 가진 능력이란, 그 능력을 가능케 하는 환경을 얼마나 정교하게 설계했는가의 문제로 귀결되며, 이는 곧 컨텍스트 엔지니어링이 능력 자체라는 결론으로 나아갑니다. 이 지점에서 우리는 다시 ‘능력’이라는 말을 성찰해야 합니다. 그것은 ‘내재된 힘’이 아니라 ‘외재적 구성의 방향성 있는 조직력’일 수 있습니다.
카르파시는 “AI 앱 제작자를 단순히 ‘챗GPT 래퍼(wrapper)’라고 치부하는 것은 잘못”이라고 말했습니다. 이는 결국, 능력을 결정짓는 주체가 단지 모델 자체가 아닌, 그 모델을 움직이게 만드는 컨텍스트 구성자라는 인식을 반영합니다. 따라서 오늘날의 ‘능력’은 더 이상 기술의 내면에서 발현되는 것이 아니라, 그 기술이 놓인 환경, 그 환경을 설계한 인간의 방향성, 그리고 그 방향이 구축하는 의미적 공간에서 발생합니다.
AI 시대의 능력은 곧, 맥락을 구성할 수 있는 인간의 힘이며, 그 힘은 기술의 내부가 아니라 외부에, 즉 기술을 바라보는 철학적 시선과 환경적 감각에 달려 있다는 점에서, 우리는 지금 새로운 시대의 능력 개념과 마주하고 있습니다.