소프트웨어 엔지니어링을 위한 LLM의 구조화된 출력 제어에 관한 실증적 연구

소프트웨어 엔지니어링 (Software Engineering) 분야에서 LLM (Large Language Model)이 생성한 출력물은 단독으로 존재하는 경우가 드뭅니다. 이들은 엄격하고 종종 조직 특유의 구조적 계약 (structural contracts)을 부과하는 툴체인 (toolchains), API, 그리고 데이터 파이프라인 (data pipelines)에 통합되어야 합니다. 기대되는 형식을 위반하는 의미론적으로 올바른 출력은, 이를 소비하는 시스템의 관점에서는 오답과 구별할 수 없으며, 이는 구조적 충실도 (structural fidelity)가 실무에서 LLM을 배포하기 위한 운영상의 전제 조건임을 의미합니다. 그러나 현재의 모델들은 구문적으로 유효하지 않거나 구조적으로 준수되지 않는 출력을 일상적으로 생성합니다. 인코더 (encoders)와 달리, 자기회귀 디코더 (autoregressive decoders)는 전역적인 초점보다는 지역적인 초점을 가지고 토큰 단위로 텍스트를 생성하며, 목표 형식이 익숙한 학습 분포 (training distributions)에서 벗어날 때마다 구조적 취약성을 증폭시킵니다. 본 연구에서는 네 가지 대표적인 소프트웨어 엔지니어링 (SE) 태스크에 걸쳐 구조적 신뢰성을 체계적으로 평가하며, 실패 사례를 구문 (syntax), 구조 (structural), 의미 (semantic) 오류로 분류합니다. 우리는 이러한 실패의 원인을 격리하기 위해 디코더를 대상으로 하는 완화 방법인 문법 제약 디코딩 (grammar-constrained decoding), 정규 표현식 기반 검증 (regex-based validation), 그리고 엄격한 템플릿 기반 제어 (Template Token Match Generation, TTMG)를 벤치마킹합니다. TTMG는 구문 오류를 거의 제거하지만, 상당한 수준의 구조적 및 의미적 오류가 지속적으로 발생하며, 이는 핵심 병목 현상이 구문 형식화 그 너머에 있음을 보여줍니다. 상세한 사례 연구를 통해 잔여 오류가 다운스트림 워크플로우 (downstream workflows)에서 어떻게 연쇄적으로 발생하는지 추가로 설명합니다. 우리의 연구 결과는 현재의 구조 강제 도구들이 필요조건이지만 충분조건은 아님을 보여주며, LLM 기반 워크플로우에서 구조적 충실도와 의미적 정확성을 공동으로 보장하는 접근 방식의 필요성을 강조합니다.