LLM 기반 프로그램 복구의 실험 설정: 입력, 도구 접근, 피드백 및 검증에 대한 연구
요약
본 논문은 LLM 기반 자동화된 프로그램 복구(APR) 시스템의 평가에 필요한 실험 설정을 명시적으로 지정하는 프레임워크를 제시합니다. 기존 벤치마크만으로는 실제 수행된 복구 작업을 완전히 설명할 수 없기 때문에, 작업 단위, 도구 접근, 피드백 등 다양한 요소를 특성화하여 재현성을 높이고 비교의 범위를 명확히 하는 것이 목표입니다.
핵심 포인트
- APR 시스템 평가는 벤치마크만으로는 불충분하며, 실험 설정 지정이 필수적이다.
- 제안된 프레임워크는 작업 단위, 도구 접근, 피드백 등 복잡한 요소를 특성화한다.
- 재현성 향상과 시스템 간 공정한 비교를 위해 기계가 읽을 수 있는 스키마 도입이 필요하다.
자동화된 프로그램 복구(APR) 시스템의 평가는 일반적으로 벤치마크, 복구된 결함 수, 최종 패치 검증에 사용된 테스트를 보고하지만, 이러한 항목만으로는 시스템에 제시된 복구 작업을 완전히 명시하지 못합니다. 최근 LLM 기반 시스템들은 복구 전에 제공되는 정보, 복구 중 허용되는 저장소 및 테스트 작업, 그리고 실패한 시도 후에 반환되는 피드백 등에서 차이를 보이며, 이로 인해 동일한 벤치마크가 국지적인 패치 생성부터 저장소 수준의 진단 및 반복적 복구에 이르기까지 실질적으로 다른 복구 작업을 구현할 수 있게 합니다. 본 논문에서는 보고된 APR 결과와 관련된 실험 설정을 명시적으로 지정하기 위한 프레임워크를 제시합니다. 우리는 Defects4J와 SWE-bench에서 평가된 시스템들의 보고된 실험 설정을 분석하고, 각 결과를 작업 단위(task unit), 결함 위치 파악 가정(fault-localization assumptions), 초기 입력(initial input), 도구 접근(tool access), 복구 시간 피드백(repair-time feedback), 최종 검증(final validation), 그리고 자원 예산(resource budget)에 의해 특성화합니다. 우리의 분석은 벤치마크의 정체성만으로는 평가된 작업을 재구성하거나 보고된 복구율 전반에 걸쳐 적절한 비교 범위를 결정하기에 불충분함을 보여줍니다. 따라서 우리는 재현성을 향상시키고 시스템 간 비교의 범위를 명시적으로 만들기 위해 각 실험 설정을 지정하는 기계가 읽을 수 있는 스키마를 도입합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv Codex (cs.SE)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기