정확도를 넘어서: 다중 에이전트 LLM 파이프라인에서 분해(Decomposition)와 타입 지정 상태 품질 보증의 분리
요약
본 연구는 다중 에이전트 LLM 파이프라인에서 성능 향상의 원인을 분석하며, 분해(Decomposition)와 타입 지정 상태 품질 보증의 역할을 비교했습니다. 전문화된 프롬프트 기반의 두 번 호출 변형이 가장 큰 F1 점수 개선을 보였으나, Pydantic으로 검증된 타입 지정 파이프라인은 에이전트 경계에서 범위를 벗어난 출력을 방지하여 안정성을 높이는 데 기여함을 입증했습니다.
핵심 포인트
- 성능 향상의 원인(분해 vs. 타입 지정)에 대한 귀속 문제를 제기함.
- 전문화된 프롬프트가 가장 큰 F1 점수 개선을 보임.
- 타입 지정 상태는 에이전트 경계에서 출력을 검증하여 안정성을 높임.
- 검증되지 않은 변형은 요구사항 누락 등 잠재적 실패 위험을 가짐.
다중 에이전트 LLM 파이프라인은 소프트웨어 엔지니어링 작업에서 성능 향상을 가져온 것으로 자주 평가받지만, 이러한 성능 향상이 에이전트 간의 타입 지정 계약(typed contract) 때문인지 아니면 분해(decomposition)가 가능하게 하는 전문화된 프롬프트 덕분인지는 명확하지 않습니다. 우리는 요구사항 공학(Requirements Engineering) 분야에서 이 귀속 문제(attribution problem)를 연구하며, 기능적 또는 비기능적 요구사항으로 분류하고 MoSCoW 방식으로 우선순위를 지정하는 세 가지 아키텍처를 비교했습니다: 단일 호출 기준선(single-call baseline); 파이프라인의 전문화된 프롬프트는 재사용하지만 검증되지 않은 중간 값을 전달하는 두 번 호출 변형(two-call variant); 그리고 Pydantic으로 검증된 타입 지정 상태를 가진 파이프라인입니다. 18개의 조건은 PROMISE NFR+ (625개 요구사항), 세 개의 로컬 호스팅 소규모 언어 모델, 그리고 두 가지 언어를 다룹니다. 기준선 대비 F1 점수 향상은 전문화된 프롬프트가 적용된 두 번 호출 변형에서 관찰되었으며(최대 +0.075), 반면 타입 지정 상태는 작은 차이(-0.003 ~ +0.013)를 추가하며, 이 차이는 여섯 가지 비교 중 하나에서 유의미합니다. 정확도를 넘어 볼 때, 타입 지정 파이프라인은 에이전트 경계에서 범위를 벗어난 모델 출력을 포함하는 반면, 검증되지 않은 변형은 나중에 실패하여 요구사항을 누락시키고, 또한 모델 간 MoSCoW 일관성에서 작고 재현 가능한 증가를 보이지만 그 원인을 우리의 설계로는 분리할 수 없습니다. 이 연구는 연관적(associative)입니다: 대조군이 프롬프트, 호출 횟수, 그리고 단계별 컨텍스트를 묶어 비교하며, 결과는 하나의 데이터셋에 대한 세 개의 7~8B 모델에서 나온 것입니다. 구현 및 복제 패키지는 Zenodo (https://doi.org/10.5281/zenodo.23380444)에 보관되어 있습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv Codex (cs.SE)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기