AI:한 번에 알려줘요.. 저 일머리 없단 말이에요..
여러 번에 나눠 지시하면 성능이 떨어지는 AI, 왜 그런 걸까?
5월 27일 먀 AI 뉴스레터로 발행한 글입니다.
"그, 뭐더라, 그거 어딨죠?"
"아까 뽑으신 자료요? 제가 책상 위에 올려뒀어요!"
개떡같이 말해도 찰떡같이 알아듣는 동료와 일을 하고 계신가요? AI와 일하는 세상이 온다면 더 이상 이런 호사는 누리지 못할지도 모릅니다. 인공지능은 문맥을 파악해야 하는 다중 턴(multi-turn) 대화 환경에서 성능이 심각하게 저하되기 때문인데요. 성능이 왜, 어떻게, 얼마나 안 좋아지는지, 그리고 어떻게 대응하면 좋을지 함께 알아볼까요?
두둥- 연구의 서막
마이크로소프트와 세일즈포스의 연구진은 실제로 LLM을 사용하는 방식이 성능 평가에 정확히 반영되지 않은 점을 지적하며 연구를 시작합니다.
기존의 LLM 벤치마크는 대부분 완전히 명시된 단일 턴 지시 사항을 기준으로 성능을 측정해 왔습니다. 하지만 현실에서 사용자는 보통 이런 식으로 말하지요:
'이력서용 자기소개서 좀 써 줘’
‘참고로 AI 회사야.'
'분량은 3문단 정도!’
이처럼 점진적으로 지시 사항이 정해지는 대화 방식인데, 기존 평가 방식은 이를 반영하지 못한다는 주장이지요. 이번 연구는 현실적인 대화 환경에서 LLM이 어떻게 반응하는지를 평가하기 위한 실험이었습니다.
지시문을 찢는 Shard
연구의 핵심은 바로 Shard(샤드) 시스템입니다. ‘파편’이라는 뜻에서 알 수 있듯이, 지시 사항을 여러 ‘파편’으로 나누는 방식인데요. 대화 턴마다 샤드를 하나씩 제공하는 방식으로 다중 턴 환경을 시뮬레이션할 수 있습니다. AI가 연구진이 설정한 기준에 맞춰 정보를 샤드로 나누면, 마지막에 인간이 검수하는 방식으로 만들었습니다.
지시문을 나누는 예시. 출처: 먀. AI 뉴스레터 | 원본: 논문물론, 다중 턴이더라도 각 질문이나 요청 사항이 독립적으로 해석이 가능한 경우는 성능에 큰 영향을 미치지 않습니다. 이번 연구에서는 독립적인 하위 지시가 아닌, 하나의 지시를 여러 턴에 걸쳐 점진적으로 정의하는 대화 방식에 대한 LLM의 반응을 살펴보는데요. 지시문을 샤드로 나누는 원칙은 아래와 같습니다:
정보 보존 (Information Preservation)
원래 지시문을 완료하는 데 필요한 어떤 정보도 손실되지 않아야 한다.
명확한 초기 의도 (Clear Initial Intent)
첫 번째 샤드는 전체 요청 사항의 목적을 분명히 드러내야 한다.
순서 비의존성 (Order Insensitive)
첫 번째 샤드를 제외한 나머지들은 서로 참조하거나 순서에 의존하지 않아야 한다.
순서를 바꿔도 동일한 정보를 전달해야 한다.
최대 분할 (Maximal Sharding)
가능한 한 많은 샤드를 만든다.
각 샤드는 하나의 구체적 정보만 포함한다.
최소한의 변형 (Minimal Transformation)
각 샤드는 원본 지시문의 언어 스타일과 의미를 최대한 그대로 유지하며, 단순화하거나 해석하지 않는다.
실험 방식. 출처: 논문LLM에 샤드를 하나씩 제공하는 방식으로 실험은 진행되는데요. LLM이 답변을 제공하지 못하고 되묻거나 모른다고 둘러대는 등 회피하는 경우, 샤드를 하나 더 제공합니다. 하지만 답변을 제공했다고 간주하는 경우, 답변을 평가합니다. 정답이면 대화 시뮬레이션은 종료됩니다. 오답이면 다시 처음으로 돌아가 샤드를 하나 더 제공하고 LLM의 반응을 살피는데요. 정확한 정답이나 오답이 나올 때까지 이 과정을 반복합니다. (전체 흐름을 파악하기 위한 단순화된 설명입니다. 정답 시도 여부와 상세한 평가 기준 등은 논문에서 확인하실 수 있습니다.)
연구진은 GPT-4.1, Claude 3.7 Sonnet, Gemini 2.5 Pro를 포함한 총 15개 LLM 모델에게 코딩, SQL 작성, API 호출, 수학 문제, 데이터 해석, 문서 요약 작업을 시켰습니다. 샤드 또한 다양한 방식으로 활용했는데요. 종류를 살펴볼까요?
샤드를 이용한 시뮬레이션 종류. 출처: 논문FULL: 전체 지시 사항을 한 번에 제공 (기준 성능 측정)
SHARDED: 지시 사항을 샤드 단위로 나눠 턴마다 하나씩 공개
CONCAT: 샤드들을 bullet-point로 묶어 한 번에 제공
RECAP: SHARDED 후 마지막에 전체 지시 요약 제공 (잘못된 경로를 회복하는지 보기 위함)
SNOWBALL: 턴마다 이전 샤드들을 반복해서 누적 제공 (잘못된 경로를 회복하는지 보기 위함)
결과는 어땠을까요?
정보를 나누어 다중 턴으로 제공하면 평균 성능이 39%나 떨어진다는 결과입니다. 여기서 말하는 ‘성능 저하’란 단일 턴에서는 정답을 잘 맞히던 모델이 멀티 턴에서는 같은 문제를 틀리는 현상을 말하는데요. 정보가 누락되거나 왜곡되지는 않았지만, 모델이 대화 흐름을 잘 따라가지 못해 생긴 ‘문맥 처리 실패’라고 볼 수 있습니다.
성능 저하 원인은 무엇일까?
도대체 왜 이런 일이 생기는 걸까요? 연구진은 네 가지 이유를 추정합니다.
LLM이 다중 턴 대화에서 점점 길을 잃어가는 모습. 출처: X1. LLM은 문제를 너무 일찍 해결하려고 성급하게 시도한다.
2. LLM은 이전에 스스로 시도한 잘못된 답변에 과도하게 의존하여, 응답이 점점 길고 비대해진다.
3. LLM은 답변을 제공하기 직전 대화에 지나치게 영향을 받아, 중간에 나눈 대화 내용을 잊는 현상이 나타난다.
4. LLM은 응답을 지나치게 장황하게 생성한다. 이에 따라 문제에 대한 불필요한 가정이 포함되고, 사용자 요청에 대한 집중력이 떨어진다.
프롬프팅 팁
모든 연구가 그렇듯, 이번 연구 또한 한계가 존재합니다. 시뮬레이션 된 대화를 사용하는 이번 연구는 실제로 발생하는 오류나 변수를 반영하지 못합니다. 또한 데이터 추출이나 코드 생성 등 정답이 명확한 작업만 실험해 창의적인 작업에서는 어떻게 반응하는지 정량적으로 알 수 없지요. 영어로 된 텍스트 중심 실험이라 다른 언어나 멀티모달에서는 또 어떨지 알 수 없습니다.
하지만 알아낸 정보에 기반해 적어도 지금, 좀 더 현명하게 프롬프팅 하는 방법을 유추할 수 있는데요!
정보는 가능하면 한 번에 제공하자
우리는 이제 이유를 알지요!
정보를 나눠야 한다면, 각 질문이 문맥 없이도 이해되도록 나누자
지시대명사를 쓰거나 키워드를 생략하지 말고, 온전한 지시를 내리세요!
대화 초반에 전체 목적을 밝히자
처음과 마지막에 하는 말이 중요합니다. LLM이 맥락을 오해하지 않도록 초반부터 방향을 확실하게 잡아주세요.
중간에 준 조건은, 반복해서 리마인드해 주자
SNOWBALL 방식에서 성능이 향상된 결과를 함께 보셨지요? 무아지경에 빠진 LLM이 중간에 나눈 대화를 가볍게 여길 수 있으니 자주 리마인드해 주세요.
가능하다면, 새로운 대화를 시작하자
LLM이 이미 잘못된 방향으로 가고 있다면.. 과감하게 놔 주세요!
다시 시도할 때는, 지금까지의 지시를 요약해 달라고 요청하자
다시 지시하기 귀찮을 때 Tip: 지금까지 말한 걸 정리해 달라고 요청한 후, 정리된 프롬프트를 새로운 대화창에 붙여넣어 사용하세요!
‘간결하게’ 답하라고 미리 말하자
모델이 너무 장황하게 답하면서 판단력을 잃지 않도록, 미리 제한을 걸어주세요.
프롬프팅 팁을 살펴보면, 마지막 세 개를 제외하고는 사람과 명확하게 소통하는 방법과 무척 유사합니다. 두괄식으로 명확하게, 목적을 밝히고 중요한 부분은 다시 한번 강조하는 방식이지요.
AI로 대체되거나 AI랑 일을 하거나, 둘 중 하나의 상황은 맞닥뜨릴 확률이 높아지고 있습니다. 한 번에 요구사항을 깔끔하게 전달하는 능력은 AI에도, 인간에게도 좋은 동료가 되기 위한 핵심 역량으로 보입니다.
참고: LLMs Get Lost in Multi-Turn Conversation (2025)
복잡하고 의미 없는 전문 용어 나열 대신, 재밌고 유익한 AI 이야기를 매주 보내드립니다.
[먀 AI 뉴스레터 구독하기]
