이산 확산 모델(Discrete Diffusion)을 이용한 제약 조건이 있는 코드 생성

요약

이산 확산 모델(Discrete Diffusion Models)을 활용하여 코드 생성 시 기능적, 보안적 제약 조건을 강제할 수 있는 CDC(Constrained Diffusion for Code) 프레임워크를 제안합니다. CDC는 별도의 추가 학습 없이 수학적 최적화와 프로그램 분석을 결합한 뉴로심볼릭 추론을 통해 디노이징 과정을 조정함으로써 실행 가능한 코드를 생성합니다. 실험 결과, CDC는 기존의 이산 확산 및 자기회귀 모델보다 기능적 정확성, 보안, 구문 준수 측면에서 뛰어난 성능을 보였습니다.

핵심 포인트

• 이산 확산 모델의 디노이징 단계에서 전역적인 프로그램 상태를 활용하여 제약 조건을 개입시킬 수 있음
• CDC는 추가 학습이 필요 없는 뉴로심볼릭 추론 프레임워크로, 수학적 최적화와 프로그램 분석을 결합함
• 제약 조건 인식 디노이징 연산자를 통해 디노이징 궤적을 국소적으로 조정하여 실행 가능한 프로그램을 유도함
• 기존 베이스라인 모델 대비 기능적 정확성, 보안성, 구문 정확도 측면에서 우수한 성능을 입증함