AI의 답변, 믿을 만한지 자동으로 체크하는 법!

AI 질의응답 품질, 똑똑한 도구로 깔끔하게 평가하자!

May 15. 2025

법률 AI가 “형법 308조 뭐야?” 같은 질문에 척척 답변을 내놓는 모습, 멋지죠? 근데 이 답변이 정말 믿을 만한지, 엉뚱한 소리는 아닌지 어떻게 알까요? 사람처럼 감정을 읽거나 전문 지식이 필요한 경우엔 인간 평가가 필요하지만, 그건 너무 느리고 번거롭잖아요! 그래서 오늘은 AI의 답변 품질을 자동으로 평가하는 똑똑한 방법들을 소개할게요. AI의 답변을 시험 보는 재미, 같이 느껴보시죠!

AI 답변 평가, 사람처럼 할까? 자동으로 할까?

AI의 답변을 평가하는 건 마치 학생 시험지 채점하는 것과 비슷해요. 객관식은 컴퓨터가 빠르게 채점하지만, 주관식은 선생님이 꼼꼼히 읽어야 하죠. 전문 도메인 AI도 마찬가지! 정량적 평가(숫자로 딱딱 체크)는 자동화가 쉬운데, “이 답변 감동적이야!” 같은 감성적이거나 전문적인 평가는 사람이 해야 해요.

하지만 사람 평가는 시간도 오래 걸리고, 평가자마다 “이건 좋아!” “난 별로야!” 하며 의견이 갈릴 수 있죠. 그래서 우리는 자동화 평가에 집중! 이건 마치 AI에게 “너 답변 잘했는지 내가 알아서 점수 매길게!” 하고 맡기는 거예요. 자동화 평가의 3가지 스타일은:

1. 프롬프트 테스트: “이 질문에 이 답이 맞아?” 하고 예상 답변과 비교.

2. 지표로 점수 매기기: 충실도(진짜야?), 편향성(편파적이야?), 할루시네이션(터무니없어?) 같은 기준으로 평가.

3. 설정 튜닝: 시스템 프롬프트나 하이퍼파라미터를 바꿔가며 어떤 게 제일 잘 나오는지 테스트.

이 모든 평가의 핵심? 좋은 데이터 세트와 공정한 지표를 만드는 거예요. 전문 도메인 AI에선 특히 답변이 정확하고, 최신 정보에 맞아야 하니까 더 신중해야죠!

자동화 평가 도구 3총사: RAGAS, DeepEval, Flow-Judge

이제 AI의 답변을 시험 볼 준비됐나요? 세 가지 똑똑한 도구를 소개할게요. 각자 개성이 뚜렷한 이 도구들은 AI의 답변을 꼼꼼히 채점해줍니다!

1. RAGAS: 평가계의 스위스 군용 칼

RAGAS는 파이썬 기반의 다재다능한 평가 도구예요. 법률 AI의 검색(RAG)이나 에이전트 워크플로우를 평가할 때 딱! 충실도, 답변 관련성, 문맥 정확도 같은 지표를 미리 준비해놨죠. 게다가 합성 데이터 세트도 뚝딱 만들어줘요. 마치 “시험 문제도 내가 내줄게!” 하는 선생님 같아요.

주요 지표:

• 충실도: 답변이 사실에 얼마나 충실한가?

• 답변 관련성: 질문과 답이 잘 맞아?

• 문맥 정확도: 가져온 법조문이 질문에 딱 맞아?

RAGAS로 평가해보자! 아래는 간단한 코드 예시:

from llama_index.core import SimpleDirectoryReader
from ragas.testset import TestsetGenerator
from ragas.metrics import Faithfulness, AnswerRelevancy, ContextPrecision, ContextRecall

# 데이터 불러오고 테스트 세트 만들기
documents = SimpleDirectoryReader("./법률데이터").load_data()
generator = TestsetGenerator.from_llama_index(llm=OpenAI(model="gpt-4o"))
testset = generator.generate_with_llamaindex_docs(documents, testset_size=5)

# 질의 엔진 만들고 평가 시작!
vector_index = VectorStoreIndex.from_documents(documents)
query_engine = vector_index.as_query_engine()
result = evaluate(query_engine, metrics=[Faithfulness(), AnswerRelevancy(), ContextPrecision(), ContextRecall()], dataset=testset.to_evaluation_dataset())

# 결과는 JSON으로! 점수 확인!
print(result)

이 코드로 AI가 “형법 308조” 질문에 잘 답했는지 점수 매길 수 있어요!

2. DeepEval: 똑똑한 AI 선생님

DeepEval은 특수 훈련된 LLM이 답변을 채점하는 도구예요. 충실도, 문맥 관련성, 할루시네이션(엉뚱한 답변) 같은 다양한 지표를 지원하고, 합성 데이터도 만들 수 있죠. 마치 AI 선생님이 “이 답변, 좀 이상한데?” 하며 꼼꼼히 체크하는 느낌!

DeepEval로 시험 보자! 간단한 사용법:

pip install deepeval
deepeval login --api-key YOUR_API_KEY --implementation-name "AI테스트"
deepeval test generate --output-file test_sample.py
deepeval test run test_sample.py

이렇게 하면 AI의 답변이 기준에 맞는지 빠르게 확인! 법률 AI가 “이 판례 잘못됐어!” 같은 실수를 안 했는지 점검할 수 있어요.

3. Flow-Judge: 가볍고 빠른 심판관

Flow-Judge는 오픈소스 LLM 모델로, 가볍고 효율적인 평가를 자랑해요. 복잡한 프레임워크 없이도 충실도 같은 지표를 빠르게 체크! 마치 “시간 없어, 빨리 점수만 줘!” 하는 바쁜 심판관 같아요.

Flow-Judge로 평가해보자! 코드 예시:

from flow_judge import Vllm, FlowJudge, EvalInput
from flow_judge.metrics import RESPONSE_FAITHFULNESS_5POINT

# 모델 설정
model = Vllm() # GPU 있다면 이걸로!
faithfulness_judge = FlowJudge(metric=RESPONSE_FAITHFULNESS_5POINT, model=model)

# 평가 데이터
query = "형법 308조의 벌금은?"
context = "형법 308조: 벌금 500만원 이하"
response = "벌금 500만원 이하입니다."
eval_input = EvalInput(inputs=[{"query": query}, {"context": context}], output={"response": response})

# 평가 실행!
result = faithfulness_judge.evaluate(eval_input)
print(f"피드백: {result.feedback}\n점수: {result.score}")