AI 시대, 전문가는 무엇으로 사는가
멀티 AI 에이전트 구축기_EP05
얼마 전 우연히 Vercel의 AI 어시스턴트인 v0의 시스템 프롬프트를 접했습니다. 1000줄에 가까운 양도 양이지만 그 꼼꼼함이 인상적이더군요. '와, 이거 보통 미친놈들이 아니구나'라는 생각이 절로 들었습니다.
파일을 생성하고, 수정하고, 삭제하는 각각의 행동에 대한 프로토콜, '파일을 수정하기 전에는 반. 드. 시. 먼저 읽어야 한다'와 같이 세세하게 걸려있는 제약 조건과 지침, 여기에 오류가 발생했을 때 어떻게 대처해야 하는지에 대한 가이드라인까지, 에이전트가 겪을 수 있는 거의 모든 상황을 예측하고 통제하겠다는 의도가 보였습니다. 좋은 프롬프트를 넘어, 최상의 결과물을 내놓을 수 있도록 시스템 지침, 사용 가능한 도구, 이전 대화 기록 등 모든 환경을 맞춰두고 시작한다는 콘텍스트 프롬프팅의 취지와도 맞닿는 부분이죠.
이번 회차에선 수직적 워크플로우에 맞춰 프롬프트를 작성해 볼 겁니다. 처음부터 완벽한 프롬프트를 척척 써내면 좋겠지만 그럴 시간이 없습니다. 다들 바쁘잖아요. v0의 프롬프트를 재료 삼아 AI의 도움을 받아 초안을 만들고, 써보고 다듬어서 발전시켜 나가는 방법을 쓸 겁니다.
아울러 '좋은 시스템 프롬프트는 어떻게 만드나'에 대한 나름의 답도 찾고 말이죠.
시스템 프롬프트엔 무엇이 담겨야 하는가
v0의 프롬프트를 보면 매우 길고 복잡해 보입니다. 하지만 그 구조를 찬찬히 뜯어보면 의외로 단순하고 명료한 몇 가지 핵심 요소로 구성되어 있습니다. 각 구성 요소가 정해진 자리에서 자신의 역할을 수행하며 전체 시스템을 떠받치고 있죠. v0 프롬프트를 보면서 분류했던 핵심 구성 요소들은 아래와 같습니다.
역할 지정 : AI에게 정체성을 부여합니다. '당신은 Vercel의 고도로 숙련된 AI 어시스턴트입니다'처럼 구체적인 역할을 지정하면, AI는 그 역할에 맞는 어조, 스타일, 전문성을 유지하려 노력합니다. 역할만 지정해 줘도 결과물의 퀄리티는 상당히 올라갑니다.
작업 목표 정의 : AI가 달성해야 할 최종 목표와 그 과정에서 따라야 할 구체적인 작업 절차를 정의해 줍니다. 작업이 어렵거나 복잡해지면 AI가 헤매게 되는데(심하면 아예 무시) 단계별로 프로토콜을 설정해 주면 그나마 낫습니다. 단계별로 하나하나 지정해 준다고 생각하세요.
응답 스타일 및 형식 : 생성해야 할 결과물의 형태를 규정합니다. 특히 여러 에이전트가 협업하는 시스템에서는 다음 에이전트가 결과물을 입력값으로 사용해야 하니 아주 엄격하게 규정해줘야 합니다. 반강제.. 아니 강제하는 것이 시스템 전체의 안정성과 사용자의 정신건강을 위해 좋습니다.
제약 및 준수 조건 : '해서는 안 될 일'과 '반드시 해야 할 일'을 명확히 알려주세요. AI에겐 재량권을 너무 많이 줘도, 적게 줘도 곤란합니다. 제 경험상 일정 부분 제한했을 때가 하염없이 풀어놨을 때보다 결과물의 퀄리티가 좋더군요.
참고 정보 지정 : AI가 작업을 더 잘 이해할 수 있도록 참고할 만한 배경지식이나 모범 사례를 제공하는 걸 말합니다. 퓨샷이라는 기법이 대표적인데, 몇 가지 좋은 '입력-출력 예시'를 AI에게 보여주는 방식은 사용자가 원하는 수준과 스타일로 결과물을 얻어낼 가능성을 높여줍니다.
많이 넣는 게 중요하지 않습니다. 저 5가지를 빼먹지 않는 게 중요합니다.
이인제인 : 인공지능으로 인공지능 에이전트 프롬프트를 잡자
수직적 워크플로우의 첫 번째 주자인 '콘텐츠 분석가'는 외부에서 들어온 비정형 데이터를 나에 필요한 정보로 바꾸는 역할을 맡습니다. 얘가 어떤 데이터인지 파악하고, 이게 무슨 의미인지를 잡아내줘야 그 다음 에이전트인 AI 오케스트라가 그걸 받아서 일을 나눠줄 수 있거든요. 일단 앞서 확인한 5가지의 핵심 구성 요소에 맞춰서 생성지시서를 작성해 봅니다.
이름 : '콘텐츠 분석가'
역할(어떤 존재인가) : 특정 주제에 대한 비정형 데이터(기사, 보고서, 이미지, 동영상 등)를 분석하여 핵심 정보를 추출하는 꼼꼼하고 객관적인 연구 분석가
작업 목표(어떤 결과물을 원하나) : 외부 데이터에서 우리가 해결할 수 있는 문제나 시장기회 포착
작업 과정(어떤 과정을 거치나) : 1) 주어진 데이터를 읽고, 2) 데이터의 주제, 등장하는 개념, 주장이나 아이디어, 트렌드나 시사점을 식별, 3) 이 모든 정보를 구조화된 형식으로 정리하라
출력 형태(어떤 형태로 내놓는가): 반드시 단일 JSON 객체로만 응답하라
제약 조건(어떤 원칙에 따르나) : 원본 데이터에 언급된 사실을 기반으로 정보를 추출하라
얼추 요소들이 채워졌다면 AI 리버스 엔지니어링을 시도해 봅니다. 여기서 말하는 리버스 엔지니어링이란, 복잡한 시스템 프롬프트를 처음부터 끝까지 손수 작성하려는 대신, AI에게 프롬프트의 설계도를 알려주고 초안 작성을 맡기는 방식을 말합니다. 원하는 에이전트가 '어떤 존재로서(역할)', '어떤 결과물을(목표)', '어떤 원칙에 따라(제약 조건)', '어떤 과정을 거쳐(작업 절차)', '어떤 형태로(출력 형식)' 과업을 수행해야 하는지를 정의해서 넘기면, AI가 그에 맞춰 시스템 프롬프트의 뼈대를 만들어주는 것이죠. 인공지능으로 인공지능을 잡는달까요.
넘기고 조금 기다리면 꽤 그럴듯한 초안을 생성해 줍니다. 하지만 초안은 어디까지나 초안일 뿐, 디테일이 부족합니다(사실 이것만 해도 엄청난 시간 절약입니다). 무엇보다 '어떤 형식과 수준'의 결과물을 원하는지에 대한 기준이 모호하기에 '입력-출력' 예시 한 쌍을 직접 작성해 추가해 줍니다(물론 이 부분도 요청하면 되긴 합니다).
예를 들어, 'AI를 활용한 인재 채용'에 대한 기사를 입력(Input)으로 줬다면, 그 기사에서 핵심 주제, 새로운 개념, 시사점 같이 제가 원하는 포맷을 정리한 출력(Output)을 작성해서 주는 거죠. 일종의 모범 답안인데 '콘텐츠 분석가'는 그 답안을 보고 '무엇을 얼마나 잘' 해야 하는지에 대한 가이드라인을 잡게 됩니다.
'AI를 통한 초안 생성 → 사용자의 검증 및 정교화'라는 무수한 반복을 거쳐, 저는 아래처럼 '콘텐츠 분석가'의 시스템 프롬프트를 사용하고 있습니다. 물론 지금도 개선작업은 계속하고 있고요.
AI 시대의 전문가는 무엇으로 살아가는가
'콘텐츠 분석가'가 가공한 정보를 넘겨받는 두 번째 에이전트, 'HR_analyst'의 임무는 한층 고차원적입니다(일을 나눠주는 오케스트라 AI는 따로 다뤄볼까 해서 일부러 뺐습니다). 이 에이전트는 '외부 데이터에서 포착한 우리가 해결할 수 있는 문제나 시장기회'를 넘겨받아서 'HRD적 관점에서 전략적 방향성과 기회'를 도출합니다. 다른 말로 바꾸면 트렌드를 읽어주면 그 속에서 '인적자원개발(HRD)에 필요한 아이디어'라는 훨씬 더 좁고 구체적인 결과물로 농축하라는 얘기입니다.
이 농축 과정을 AI가 성공적으로 수행하게 하려면, 시스템 프롬프트 안에 사고의 틀을 심어주어야 합니다. 단순히 '아이디어를 내봐'라고 하는 것이 아니라, 어떤 단계를 거쳐 생각해야 하는지를 구체적으로 지시하는 것이죠. 쉬운 추론부터 하나씩 단계적으로 쌓아가면서 마지막에 바랬던 더 좁고 구체적인 결과물로 유도하는 게 이 농축 과정의 핵심입니다.
이러한 논리적 농축은 내 분야에 대한 전문성과 비례합니다. AI와 함께 수행해도 마찬가지입니다. 이를 두고 WSJ는 specialist-biased effect, 전문가 편향 효과라고 부르더군요. 반복 업무에 익숙한 사람은 단순한 보조를 받겠지만, 자신만의 영역과 통찰을 가진 전문가는 AI를 통해 압도적인 효율성과 확장된 사고력을 얻게 되니 격차가 확연히 벌어지게 됩니다. AI로 대신할 수 없는 전문성과 AI와 함께 재구성할 수 있는 역량이 적절히 배합된다면 그게 곧 이 시대의 경쟁력이죠.
일례로 '북미에서 AI 데이터 센터의 건설비용이 전통적인 오피스 건설비용을 넘어섰다. 이는 AI의 확장으로 인해 출퇴근이라는 기존의 업무 수행 구조가 변할 가능성을 의미한다'라는 트렌드를 접수했다고 가정해 봅시다. 우리는 저 트렌드 안에서 '인적자원 개발에 필요한 아이디어'를 읽어내야 합니다. 유저프롬프트로 '인적자원 개발에 필요한 아이디어를 도출해 봐'라고 요청할 수도 있겠지만 대부분 우리의 눈높이를 만족시키긴 쉽지 않을 겁니다.
그렇다면 1번을 2번의 재료로, 2번을 3번의 재료로 활용해서 답을 찾아나가는 계단형 추론 방식을 응용해서 질문을 아래처럼 배치해 봅시다. 평소 여러분들의 머릿속에서 활발히 벌어지는 두뇌활동이니 익숙하실 겁니다.
1)(트렌드를 기반으로) 개별 기업 혹은 HRD적 관점에서 어떤 문제를 야기할 수 있는가
2)(트렌드와 1의 답변을 기반으로) 해당 문제를 대처하기 위해 요구되는 내외부의 자원은 무엇인가
3)(트렌드와 1, 2의 답변을 기반으로) 제안서를 넣는다면 첫 단에 어떤 전략적 방향을 제시하겠는가
콘텐츠 분석가가 생산한 다소 넓은 범위의 정보는 질문 1, 2, 3을 거치면서 'HRD적 관점에서 전략적 방향성과 기회'로 범위가 좁혀집니다. 이제 이 논리적 계단을 시스템 프롬프트 초안에 집어넣고 구현시켜 봅니다.
역할 : 대한민국 최고의 HRD 전문가
입력 : '콘텐츠 분석가'가 생성한, 특정 트렌드에 대한 정보가 담긴 JSON 객체
목표 : 입력된 정보를 바탕으로, HRD 관점에서 전략적 방향성을 도출
과정 : 반드시 다음 단계를 순서대로 거쳐서 도출해야 한다. 1) 입력된 트렌드가 미치는 영향(기회/위협) 분석, 2) 1에서 도출된 해당 기회나 위협에 대처하기 위해 필요한 내부와 외부의 자원, 3) 입력된 트렌드와 1에서 예상된 파급효과, 2에서 추려진 필요한 자원을 근거로 제안할 수 있는 전략적 방향성.
출력 : 이 모든 과정이 담긴 구조화된 JSON 보고서
여기에 웹 검색이나 RAG까지 덧붙이면 에이전트의 추론 능력을 한층 끌어올릴 수 있겠죠.
철은 두드릴수록, 프롬프트는 고칠수록 좋아진다
시스템 프롬프트를 설계하는 과정은 한 번에 끝나지 않습니다. 'AI로 초안 잡기 → 인간의 의도와 기준(예시) 추가 → 테스트 → 피드백 기반 수정'이라는 프로세스를 수도 없이 반복해야 하죠. 간밤에 프롬프트를 붙잡고 이리 돌리고 저리 돌리다 보면 나한테 장인정신이 있었나 싶은 착각마저 듭니다. 불에 달군 쇳덩이를 두들기고 또 두들겨대는 대장장이가 더 어울리려나요.
다시 말씀드리지만 처음부터 완벽한 프롬프트는 없습니다. 그리고 시간도 없죠. AI를 최대한 활용하여 초안을 만들고, 거기에 여러분의 전문성과 비판적 시각을 더해 끊임없이 다듬어 나가세요. 100% selfmade가 아니라 아쉬움은 있겠지만 현시점에서 가장 현실적이고 효과적인 방법이 아닐까 생각합니다.
그럼 다음 회차에 뵙죠.
