빌딩 블록을 통한 검증 가능한 개념 모델의 구성: 에이전트형 AI 워크플로의 설계 단계 검증을 향하여

에이전트형 AI (Agentic AI) 시스템은 결정, 도구 및 외부 동작을 조정하는 워크플로 아키텍처를 통해 여러 LLM 기반 에이전트를 조율합니다. 현재의 플랫폼들은 런타임 (runtime) 안전장치에 중점을 두고 있지만, 시스템 설계 단계에서 워크플로를 검증하기 위한 지원은 거의 존재하지 않습니다. 모델링 및 시뮬레이션 (Modeling & Simulation) 관점에서 볼 때, 이러한 격차는 빌딩 블록 (building blocks)들이 일관되게 상호작용하는지 검증하지 않은 채 개념 모델을 구성하는 것과 유사합니다. 우리는 에이전트형 워크플로를 재사용 가능한 빌딩 블록의 구성으로 모델링하고, 12가지 구조적 규칙을 통해 이들의 호환성을 확인하는 설계 단계 검증 (design-time verification) 접근 방식을 제안합니다. 우리는 이러한 규칙들을 소프트웨어 프로토타입으로 구현하였으며, 공개된 두 가지 데이터셋을 사용하여 평가를 진행했습니다: 설계 결함이 알려진 48개의 워크플로와, 워크플로 로직은 유지하되 그래프 구조를 변경한 168개의 변형체입니다. 결과에 따르면, 우리의 검증기는 에이전트 간의 작업 분할과 같은 구조적 변환을 통해 결함이 있는 설계가 가려진 경우에도 위반 사항을 안정적으로 탐지합니다. 향후 연구에서는 우리의 검증 기술을 빌딩 블록의 커뮤니티 저장소와 결합하여 안전한 에이전트형 워크플로를 구성할 수 있을 것입니다.