GraphFlow: 신뢰할 수 있는 에이전트 기반 AI 자동화를 가능하게 하는 형식 검증 가능한 시각적 워크플로우 아키텍처

GraphFlow는 다단계의 미션 크리티컬 (mission-critical) 프로세스에서 에이전트 기반 AI 자동화 (agentic AI automation)의 신뢰성을 향상시키기 위해 설계된 시각적 워크플로우 시스템입니다. 이러한 워크플로우에서는 작은 오류가 빠르게 누적됩니다. 단계별 독립성을 가정하는 이상적인 모델 하에서, 단계당 90%의 신뢰도를 가진 10단계 프로세스는 단 35%의 확률로만 성공적으로 완료됩니다. 기존의 워크플로우 플랫폼들은 내구성 있는 실행 (durable execution)과 관측성 (observability)을 제공하지만, 의미론적 정확성 (semantic correctness) 보장은 거의 제공하지 못하며, 에이전트 기반 시스템은 추론 시점 (inference time)에 계획을 세우기 때문에 프롬프트 변화에 민감하고 감사가 어렵습니다.

GraphFlow는 워크플로우 다이어그램을 데이터 범위, 실행 의미론 (execution semantics), 그리고 모니터링을 정의하는 단일 산출물인 실행 가능한 명세 (executable specification)로 취급함으로써 이러한 격차를 해소하도록 설계되었습니다. 컴파일 시점 (compile time)에는 제한된 클래스의 다이어그램을 명세하여, 공유 라이브러리에 등록되기 전 계약 (contracts: 전제 조건, 사후 조건 및 합성 의무)이 증명 검사 (proof-checked)를 받도록 의도된 재사용 가능한 자동화 결과물을 생성합니다. 런타임 (runtime) 시점에는 내구성 있는 엔진이 결과를 추가 전용 이벤트 로그 (append-only event log)에 기록하며, 시스템 경계에서 계약을 강제할 수 있어 재생 (replay), 재시도 (retries), 그리고 감사를 지원합니다. 스윔레인 (Swimlanes)은 신뢰 경계 (trust boundaries)를 명시적으로 만들어, 검증된 로직을 외부 시스템, 인간의 판단, 그리고 AI의 결정으로부터 분리합니다.

3곳의 임상 현장에서 1년 동안 진행된 파일럿 테스트에서는 검증된 코어 (verified-core) 서브시스템이 없는 초기 프로토타입을 사용하여 8,728회의 코호트 등록 워크플로우 실행을 수행하였으며, 97.08%의 완료율을 기록했습니다. 관찰된 실패는 주로 외부 통합 (external integrations)에 국한되었습니다. 여기서 설명된 형식 의미론 (formal semantics)과 증명 검사 기반의 등록 모델은 명세화되었으며 현재 활발히 개발 중입니다. 검증된 코어에 대한 평가는 향후 과제로 남겨둡니다.