UAT(사용자 수용 테스트) 통과와 프로덕션 트레이스(production trace)의 녹색 신호가 에이전트(agent)가 제대로 작동한다는 것을 의미하지는 않습니다. 그것은 단지 당신이 에이전트가 실패하는 과정을 지켜볼 수 있다는 것을 의미할 뿐입니다.

LangChain의 2025년 에이전트 엔지니어링 현황 보고서(The LangChain State of Agent Engineering 2025 report, 2025년 11월-12월 설문, n=1,340)에 따르면, 모든 응답자의 89%가 관측성(observability)을 갖추고 있지만, 오프라인 평가(offline evals)를 실행하는 비율은 52%에 불과하며, 프로덕션 시점 평가(production-time evals)를 실행하는 비율은 단 37.3%에 그쳤습니다. 이는 실패를 '보는 것(SEEING)'과 다음 빌드가 배포하기에 안전한지 '측정하는 것(MEASURING)' 사이에 37포인트의 격차가 있음을 나타냅니다. Datadog(2026-04-21)은 비용 측면을 추가했습니다: 에이전트 프레임워크(agent framework) 채택률이 전년 대비 두 배 증가하는 동안, 프로덕션 환경에서 AI 모델 요청의 약 5%가 실패하고 있습니다.

트레이싱(Tracing)은 무엇이 일어났는지에 답합니다. 평가는 배포 여부를 결정합니다. 트레이싱만으로는 신뢰성(reliability)을 확보할 수 없습니다.

제가 CI(지속적 통합)에 연결할 4계층 하네스(harness)는 다음과 같습니다:

1. 결정론적 단위 검사(Deterministic unit checks). GitHub Actions에서 pytest 게이트로서 DeepEval을 사용하고, 도구 호출(tool-call) 정확도에 엄격한 임계값을 설정합니다. 사후 분석(postmortem)이 아니라, 빨간색 평가 결과가 PR(Pull Request)을 차단해야 합니다.

2. 궤적 단계 진단(Trajectory-stage diagnosis). 단순히 Pass@1을 확인하는 것이 아니라, 검색(search), 읽기(read), 편집(edit) 점수를 매겨 '어느' 단계에서 실패했는지 찾아냅니다. 읽기 단계의 정밀도(precision)는 약 4-5%에 불과하여, 에이전트가 필요한 것보다 약 20배 더 많은 함수를 검사합니다. 레퍼런스 프리 컨센서스 변형(reference-free consensus variant) 방식은 GPT-5에서 Pass@1을 방향성 있게 +3.0 pp 향상시킵니다 (arXiv:2603.24631).

3. 편향 제어 기능이 있는 LLM 판사(LLM judge with bias controls). 위치 편향(Position bias)은 근접 쌍 판결의 20-40%를 뒤집을 수 있습니다(추정치). 판사가 골든 데이터셋(golden dataset)을 다루기 전에 응답 순서를 바꾸고, 길이를 정규화(length-normalize)하며, 3줄 테스트를 실행하십시오. 에이전트 판사(Agent-as-a-Judge) 방식은 일반 LLM 판사(~70% 일치율)에 비해 인간과의 일치율이 최대 ~90%에 달하면서도 비용은 약 97% 더 저렴합니다 (arXiv:2410.10934).

4. 카나리 회귀 게이트(Canary regression gate). 매 빌드마다 과거 실패 사례가 담긴 고정된 골든 데이터셋을 다시 실행합니다. 이것이 당신의 머지 기준(merge criterion)입니다: 통과하는 데모가 아니라, 녹색 차이(green diff)가 확인되었을 때 배포하십시오.

37포인트의 격차를 줄이거나, 아니면 계속 눈을 감은 채 배포하십시오.

매일의 통찰력을 위해 팔로우하세요 - 블록체인과 AI가 만나는 곳, 만족스러운 스와이프와 함께합니다.

#AIAgents #LLMOps #AIEngineering #MLOps #AgentEvaluation #LLMEval #LangChain #DeepEval #LLMAsJudge #AgenticAI #CICD #PromptEngineering #AIReliability #ModelEvaluation #DevOps #AIInfra #GenAI #MachineLearning