대부분의 엔터프라이즈 AI 데모는 자신들에게 유리한(flatters) 벤치마크를 선택합니다. 하지만 하나의 새로운 벤치마크는 그들을 겸손하게 만드는 워크로드를 제시합니다.

연구원들은 'Task…에 대한 애플리케이션 매뉴얼'을 구축했습니다. 이는 수만 개의 규칙을 따라야 하는 권위 있는 매뉴얼을 요구하는 실제 작업으로, ICD-10-CM 임상 코딩과 미국 연방 양형(sentencing)이라는 두 영역에서 진행되었습니다.

의료 코딩 세트에서의 최고 정확 일치 점수는? 1%입니다. 양형 분야에서는? 15.5%입니다. 이는 가장 강력한 프롬프팅, 검색 증강 생성(retrieval-augmented generation), 그리고 에이전트 하네스를 갖춘 GPT-5에서도 나온 수치입니다.

현재 존재하는 모든 다단계(multi-hop) 벤치마크는 LLM이 다단계 추론에 능숙해지고 있다고 말합니다. 하지만 이 벤치마크는 기업이 실제로 자동화하는 종류의 작업, 즉 긴 규칙 기반 절차를 단계를 빠짐없이 끝까지 따라 하는 데 있어서 여전히 기능적으로 신뢰할 수 없다고 지적합니다.

모두가 놓칠 것이라고 생각하는 부분이 있습니다. 바로 이 벤치마크 작성자들이 특정 모델이나 방법을 판매하려는 것이 아니라는 점입니다. 그들은 현재 에이전트들이 어디서 무너지는지 측정하고 있으며, 그 답은 지루합니다. 그것은 수학이나 잡학 지식이 아니라, 규정 준수(compliance), 코딩, 그리고 절차적 작업입니다.

제 견해로는 다음과 같습니다. 여러분의 에이전트 프로그램은 짧고 독립적인 작업에 지나치게 최적화되어 있습니다. 40페이지짜리 정책 문서를 입력하고 정확한 답변을 기대하는 순간, 모델 자체를 측정하는 것이 아니라 자신들의 프로세스 설계(process design)를 측정하게 됩니다. 프론티어 모델 업그레이드를 계속 쫓는 팀들은 검증(verification), 단계 분해(step decomposition), 그리고 장기 절차에 대한 실패 처리(failure handling) 구축 대신에, 벤치마크 점수를 생산 준비 상태(production readiness)로 오인할 것입니다.

#AI #Agents #AIResearch