운영 환경용 LLM 평가 파이프라인 구축하기: 느낌에서 지표까지

‘저에게는 괜찮아 보여요’라는 말 대신 배포 전에 환각(hallucination)의 92%를 포착하는 자동화된 평가 시스템으로 대체한 방법

문제점: 왜 '느낌 점검'(Vibe Checks)은 운영 환경에서 실패하는가

3개월 전, 저희 팀은 RAG 기반 고객 지원 어시스턴트를 출시했습니다. 테스트 단계에서는 훌륭하게 작동했습니다. 질문을 던지고 답변을 읽으면서

Few-Shot을 활용한 커스텀 LLM 판사 (Custom LLM Judge with Few-Shot)

# eval/judges.py
class LLMJudge(Judge):
    def __init__(self, name, criteria, model="gpt-4o-mini", few_shot_examples=None):
...

충실도 판사 (Faithfulness Judge) (운영 환경용)

def create_faithfulness_judge() -> LLMJudge:
    return LLMJudge(
        name="faithfulness",
...

골든 데이터셋 전략 (Golden Dataset Strategy)

1,000개의 케이스로 시작하지 마세요. 실제 운영 환경의 케이스 50개로 시작하세요.

# eval/golden_set.jsonl
{"id": "support-001", "input": {"question": "비밀번호를 어떻게 재설정하나요?", "context": "..."}, "expected": {"answer": "'비밀번호 찾기' 링크를 사용하세요..."}, "tags": ["basic", "auth"]}
{"id": "support-042", "input": {"question": "왜 요금이 두 번 청구되었나요?", "context": "..."}, "expected": null, "tags": ["billing", "edge-case"]}

층화 추출 (Stratification)이 중요합니다:

• 40% 기본/해피 패스 (basic/happy-path)
• 30% 엣지 케이스 (edge cases) (모호함, 다단계 질문)
• 20% 적대적 사례 (adversarial) (인젝션, 주제 이탈)
• 10% 다국어/긴 컨텍스트 (multilingual/long-context)

데이터셋의 버전을 관리하세요: Git으로 추적하세요. 모든 운영 환경의 실패 사례는 새로운 테스트 케이스가 됩니다.

효과적인 회귀 탐지 (Regression Detection That Works)

def regression_report(self, baseline: dict[str, float]) -> dict[str, Any]:
    current = self.summary()
    report = {}
...

CI/CD 통합: GitHub Actions

# .github/workflows/llm-eval.yml
name: LLM Evaluation
on:
...

결과: 6개월간의 운영 환경 평가 결과

우리가 구축한 오픈 소스 도구들 (Open Source Tooling We Built)

모두 MIT 라이선스이며, 운영 환경에 맞춰 강화되었습니다:

• llm-eval-harness — 핵심 프레임워크 (본 기사의 코드)
• prompt-registry — 평가 이력이 포함된 Git 기반 프롬프트 버전 관리 도구
• eval-dashboard — 알림 기능이 포함된 실시간 모니터링 도구

지금 바로 시작하기 (5분 소요)

pip install llm-eval-harness

from eval.harness import EvaluationHarness
from eval.judges import create_faithfulness_judge, create_instruction_following_judge
from eval.base import TestCase
...

사고방식의 전환 (The Mental Shift)

평가는 사후 고려 사항이 아니라 인프라입니다.

• 판정기 (Judges)를 일급 객체 코드 (First-class code)로 취급하세요 (버전 관리, 테스트, 리뷰 필수)
• 골든 데이터셋 (Golden dataset) = 당신의 가장 가치 있는 지식 재산 (IP) (철저하게 큐레이션하세요)
• 모든 프롬프트 변경 = 평가 실행 (CI에 의해 강제됨)
• 회귀 (Regression) 알림 = 페이징 알림 (단순 이메일 요약이 아님)

사용자들은 당신의 프롬프트 엔지니어링 (Prompt engineering)이 얼마나 영리한지에는 관심이 없습니다. 그들은 답변이 정확한지에만 관심이 있습니다. 자동화된 평가 (Automated evaluation)는 대규모 환경에서 이를 보장할 수 있는 방법입니다.

코드: github.com/yourname/llm-eval-harness |
토론: Hacker News |
팔로우: @yourname