비즈니스 프로세스에 기반한 LLM 에이전트: 신뢰할 수 있는 다단계 서비스 호출을 위한 프로세스 인식 지식 그래프
요약
본 연구는 비즈니스 프로세스 모델링 표기법(BPMN)과 OData 메타데이터를 결합한 타입 지정 속성 그래프를 활용하여 LLM 에이전트의 신뢰성을 높이는 방법을 제시합니다. 하이브리드 검색기를 통해 후보 엔드포인트를 식별하고 프로세스 엣지를 따라 후속 단계를 검색함으로써, 기존 방식에서 놓치던 프로세스 및 스키마 제약 조건을 보완했습니다.
핵심 포인트
- BPMN과 OData를 통합한 타입 지정 그래프가 핵심입니다.
- 하이브리드 검색기는 프로세스 엣지를 따라 후속 엔드포인트를 검색합니다.
- 다단계 질의에서 Recall@3이 5.7 포인트 향상되었습니다.
- 전체 타입 컨텍스트 제공은 API 호출의 유효성(invalid keys)을 크게 줄였습니다.
기업 API를 호출하는 대규모 언어 모델 (LLM) 에이전트는 올바른 엔드포인트를 선택하고, 프로세스 순서를 따르며, 유효한 페이로드 키(payload keys)를 사용하고, 미리 정의된 목록에서 코딩된 값을 선택해야 합니다. 그러나 현재의 검색 증강 서비스 디스커버리(retrieval-augmented service discovery)는 엔드포인트를 개별적으로 처리하기 때문에 프로세스 및 스키마 제약 조건을 놓칩니다. 우리는 Open Data Protocol (OData) 메타데이터와 비즈니스 프로세스 모델링 표기법 (BPMN) 참조 프로세스를 타입이 지정된 속성 그래프(typed property graph)에 통합하여 이러한 한계점을 해결합니다. 하이브리드 검색기(hybrid retriever)는 밀집 임베딩(dense embeddings)을 사용하여 후보 엔드포인트를 식별하고, 프로세스 엣지(process edges)를 따라 후속 엔드포인트를 검색합니다. 우리는 프로세스 체인 기반의 진실값으로 42개의 기업 서비스를 대상으로 이 방법을 평가했습니다. 질의와 다운스트림 개체 간에 어휘적 중복도가 낮은 질의의 경우, Recall@3을 5.7 포인트 향상시켰으며 (n=74), 이는 임베딩 모델과 차단점(cut-offs) 전반에서 일관된 개선세를 보였습니다. 다른 질의에서는 밀집 검색(dense retrieval)에 필적하는 성능을 보였고, 프로세스 계층이 없는 OpenAPI 서비스에서는 개선점을 제공하지 않았는데, 이는 이러한 이점이 프로세스 구조에서 비롯됨을 시사합니다. 또한 81개의 다단계 질의에 대해 LLM 에이전트를 평가했습니다. 해당 에이전트는 작업을 38.7% 완료했으며, 청크 기반 기준선(chunk-based baseline) 대비로는 10.3%였습니다. 도출 탐색(elicitation probe)에서 유효한 코드 목록을 제공하는 것은 조작된 코드를 제거했지만, 쓰기 실행의 46%에서는 여전히 유효하지 않은 키를 남겼습니다. 전체 타입 지정 컨텍스트(full typed context)는 이를 3% (101회 중 3회)로 줄였으며, 조작된 코드는 없었습니다. 이러한 결과들은 검색 과정에서 프로세스 및 스키마 제약 조건을 노출하는 것이 에이전트 기반 API 호출의 신뢰성을 향상시킨다는 것을 보여줍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv Codex (cs.SE)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기