Code-QA-Bench: 저장소 수준의 QA에서 코드 추론과 문서 암기를 분리하기
요약
코드 이해 능력을 문서 암기 및 사전 학습된 지식과 분리하여 평가하는 자동화된 벤치마크 프레임워크인 Code-QA-Bench를 제안합니다. 이 프레임워크는 정답 우선 생성 파이프라인과 세 가지 실험 조건을 통해 저장소 수준의 코드 추론 능력을 정밀하게 측정합니다.
핵심 포인트
- 코드 이해와 문서 회상을 분리하는 자동화 프레임워크 제시
- 정답 우선 생성 파이프라인을 통한 실제 코드 기반 태스크 보장
- 폐쇄형, 코드 전용, 문서 포함의 3가지 조건 실험 설계
- 코드 접근성이 모델 성능의 지배적인 요인임을 입증
우리는 진정한 코드 이해(Code Comprehension)를 문서 회상(Documentation Recall) 및 사전 학습 암기(Pretraining Memorization)로부터 분리하여, 저장소 수준(Repository-level)의 코드 이해 벤치마크를 합성하기 위한 완전 자동화된 프레임워크인 Code-QA-Bench를 제시합니다. 이 프레임워크는 두 가지 방법론적 기여를 합니다: (1) 도구를 갖춘 에이전트가 소스 코드를 탐색하여 질문을 도출하기 전에 검증된 정답(Gold Answers)을 생성함으로써, 모든 태스크가 실제 코드 구조에 기반하도록 보장하는 '정답 우선 생성 파이프라인(Answer-first generation pipeline)', 그리고 (2) 에이전트를 폐쇄형(Closed-book, 저장소 없음), 코드 전용(Code-only, 문서 제거), 문서 포함(Documented, 전체 저장소) 조건 하에서 평가하여 문서의 유용성과 암기량을 직접적으로 정량화하는 '3가지 조건 실험 설계(Three-condition experimental design)'입니다. 우리는 SWE-Bench의 10개 Python 저장소에 걸쳐 528개의 코드 유도형(Code-derivable) 태스크와 100개의 문서 의존형(Doc-dependent) 태스크를 생성하였으며, LLM 판사(LLM judge)를 통해 정확성(Accuracy), 완전성(Completeness), 구체성(Specificity)을 점수화했습니다. 4개의 프런티어 모델(Frontier models)을 대상으로 한 실험 결과, 코드 접근성이 지배적인 요인이며(폐쇄형 대비 평균 +0.23 이득), 문서는 완만한 추가 이점(+0.071, 문서 의존형 태스크 기준)을 제공하며, 코드 유도형 태스크에서는 코드 전용 조건과 문서 포함 조건이 거의 유사($\approx$)하게 나타나 설계의 타당성을 입증했습니다. 이 프레임워크는 오픈 소스이며 문서화가 잘 된 모든 Python 저장소에 적용 가능합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv Codex (cs.SE)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기