신뢰 인지형 멀티 에이전트 추적성: 일관된 소프트웨어 산출물 관리를 위한 신뢰도 보정 지식 그래프 (Confidence-Calibrated
요약
멀티 에이전트 AI 시스템의 소프트웨어 엔지니어링 자동화 과정에서 발생하는 오류 전파 문제를 해결하기 위한 신뢰 인지형 프레임워크를 제안합니다. 공유 지식 그래프와 신뢰도 보정 메커니즘을 통해 에이전트 간의 일관성을 유지하고 소프트웨어 산출물의 추적성을 보장합니다.
핵심 포인트
- 멀티 에이전트 파이프라인 내 오류 전파 및 컴플라이언스 격차 문제 해결
- 공유 지식 그래프를 활용한 중앙 집중식 시맨틱 메모리 구축
- 신뢰도 임계값 게이팅 및 발산 탐지를 통한 일관성 프로토콜 도입
- 자동차 소프트웨어 사례 연구를 통해 신뢰도 보정의 필수성 입증
멀티 에이전트 (Multi-agent) AI 시스템은 요구사항 분석, 아키텍처 설계, 테스트 생성, 추적성 연결 (traceability linking)을 포함한 소프트웨어 엔지니어링 작업을 자동화하기 위해 점점 더 많이 사용되고 있습니다. 이러한 에이전트들이 공유된 소프트웨어 산출물 (software artifacts)에 대해 순차적인 파이프라인 (pipeline)으로 작동할 때, 상위 에이전트가 내린 오류나 낮은 신뢰도의 결정은 하위 단계로 전파되어, 고립된 요구사항 (orphaned requirements), 모순된 연결, 그리고 안전 필수 영역 (safety-critical domains)에서 상당한 위험을 초래하는 컴플라이언스 격차 (compliance gaps)를 생성합니다. 우리는 공유 지식 그래프 (knowledge graph)가 중앙 집중식 시맨틱 메모리 (semantic memory)이자, 에이전트들이 보정된 신뢰도 점수 (calibrated confidence scores)를 사용하여 서로의 기여도를 평가하고 그 위에 구축할 수 있는 조정 표면 (coordination surface) 역할을 하는 신뢰 인지형 조정 프레임워크를 제안합니다. 우리의 접근 방식은 임베딩 기반 검색 (embedding-based retrieval)과 LLM 기반 다기준 분석 (multi-criteria analysis)을 결합한 2단계 추적성 연결 예측 파이프라인, 유도 시점 (derivation-time)과 검증 시점 (validation-time)의 신뢰도를 비교할 수 있게 하는 추적성 시딩 (traceability seeding) 메커니즘, 그리고 신뢰도 임계값 게이팅 (confidence threshold gating), 신뢰도 발산 탐지 (confidence divergence detection), 충돌 해결 (conflict resolution)을 통해 파이프라인 상호작용을 제어하는 일관성 프로토콜 (consistency protocol)을 도입합니다. 우리는 자동차 소프트웨어 엔지니어링 사례 연구를 통해 연결 예측 보정 (link prediction calibration), 프로토콜 효과성, 임계값 민감도, 그리고 추적성 시딩의 영향을 측정하여 평가합니다. 절제 연구 (Ablation studies)는 효과적인 파이프라인 조정을 위해 신뢰도 보정 (confidence calibration)이 필수적임을 확인해 줍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv Codex (cs.SE)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기