OmniaBench: 다양한 시나리오 전반의 범용 AI 에이전트 벤치마킹
요약
본 논문은 기존 벤치마크의 한계를 극복하고자, 다양한 시나리오 전반에서 범용 AI 에이전트를 평가하는 OmniaBench를 제안합니다. 이 벤치마크는 ToC, ToB, ToE를 아우르는 계층적 분류 체계와 1,431개의 태스크로 구성되어 있습니다. 이를 통해 모델의 계획, 제약 조건 유지 등 전반적인 역량을 진단적으로 평가할 수 있게 합니다.
핵심 포인트
- OmniaBench는 ToC/ToB/ToE를 포괄하는 계층적 분류 체계를 갖춤.
- 총 1,431개의 태스크로 구성되어 범용 에이전트 능력을 측정함.
- 모델들은 계획(planning) 및 제약 조건 유지 등에서 여전히 한계가 발견됨.
- 최신 모델들도 OmniaBench에서 높은 점수를 받기 어려워 난이도가 높음.
대규모 언어 모델(LLM)은 단순한 텍스트 생성기를 넘어, 사용자 요청을 이해하고 외부 도구를 호출하며 상호작용을 통해 복잡한 작업을 완료할 수 있는 범용 에이전트로 진화하고 있습니다. 그러나 기존의 에이전트 벤치마크는 제한된 시나리오, 도구 생태계 또는 상호작용 형식에 초점을 맞추는 경우가 많아, 이질적인 애플리케이션 환경 전반에 걸쳐 모델의 역량을 체계적으로 특성화하기 어렵습니다. 본 논문에서는 명시적인 상태 공간을 가진 다양한 시나리오 전반에서 범용 에이전트를 평가하는 벤치마크인 OmniaBench를 소개합니다. 우리는 앱 스토어, 제품 문서, 산업 자료, Web 검색 및 인간의 정제 과정을 통해 애플리케이션 중심의 시나리오 지식을 도출하여, ToC(To Consumer), ToB(To Business), ToE(To Enterprise)를 아우르는 계층적 분류 체계를 구축했으며, 이는 90개의 레벨-1 도메인과 354개의 레벨-2 도메인을 포함합니다. 이 분류 체계를 기반으로 실행 가능한 환경을 구성하고, DAG, DAG-S, Solver, Program 네 가지 보완적인 경로를 통해 단일 턴 및 다중 턴 작업을 합성했습니다. OmniaBench는 또한 세밀한 평가와 분석을 지원하기 위해 10차원 역량 분류 체계와 8가지 조합적 원자 난이도 요소를 추가로 도입합니다. 그 결과 생성된 데이터셋은 총 1,431개의 태스크를 포함하며, 평가 비용을 줄이고 공개 후 전체 세트의 잠재적인 오염(contamination)을 완화하기 위해 설계된 도전적인 하위 집합 644개 태스크가 함께 제공됩니다. 이 벤치마크는 현재 최첨단 모델들에게 상당한 도전을 제기하며, 심지어 Claude-Sonnet-5와 GPT-5.6-Sol조차 각각 Overall Pass@1 점수에서 58.54점과 57.14점에 그쳤습니다. 추가 분석에 따르면, 도메인 및 역량 전반에 걸쳐 명확한 차이가 나타나며, 계획(planning), 제약 조건 유지(constraint maintenance), 적응적 수정(adaptive correction) 측면에서 지속적인 한계가 발견되었습니다. OmniaBench는 범용 에이전트의 역량 경계를 특성화하기 위한 광범위하고 진단적인 벤치마크를 제공합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기