TLA-Prover: 선호도 최적화 저차원 적응 (LoRA)을 통한 검증 가능한 TLA+ 명세 합성

요약

TLA-Prover는 분산 시스템 검증을 위한 TLA+ 명세 합성을 위해 개발된 200억 파라미터 규모의 모델입니다. SFT와 GRPO를 결합하여 모델이 스스로 오류를 수정하도록 학습하며, TLC 모델 체커를 직접 보상 신호로 활용합니다.

핵심 포인트

• TLA+ 명세 합성 성능을 기존 베이스라인 대비 3.5배 향상
• GRPO를 통해 보상 모델 없이 TLC 모델 체커를 직접 활용
• Diamond 등급을 통해 정당성 속성의 유효성 검증
• DPO 변형 모델이 Diamond 등급에서 20% 성능 달성