신뢰할 수 있는 코드 지능을 위한 즉각적인 입력 적응 (On-the-Fly Input Adaptation)

요약

코드 언어 모델(CLM)의 오예측 문제를 해결하기 위해 모델 재학습이나 아키텍처 수정 없이 입력을 실시간으로 변환하는 '즉각적인 입력 적응(On-the-fly input adaptation)' 전략을 제안합니다. 이 방법은 오예측 가능성이 높은 입력을 탐지한 후, 구문 및 의미를 보존하는 연산을 통해 입력을 변환함으로써 모델의 신뢰성을 높입니다. 재학습 비용 없이도 다양한 코드 이해 작업에서 성능을 향상시킬 수 있는 자원 효율적인 솔루션입니다.

핵심 포인트

• 기존의 재학습이나 프롬프트 재설계 방식이 가진 높은 계산 비용과 튜닝 불안정성 문제를 해결함
• 모델 파라미터를 변경하지 않고도 동작을 개선하는 비지도 학습 기반의 접근 방식
• 입력 검증(Input validation)과 입력 적응(Input adaptation)의 2단계 프로세스로 구성
• 구문 및 의미 보존 연산을 통해 모델의 기존 학습 데이터와 입력 간의 일치성을 높임
• 신뢰성이 중요한 고위험 소프트웨어 공학 애플리케이션에 적용 가능한 확장성 있는 프레임워크