모델 편집(Model Editing)을 통한 대규모 언어 모델(LLM)의 패키지 환각(Package Hallucination) 완화

요약

LLM이 존재하지 않는 패키지 이름을 생성하는 '패키지 환각' 문제를 해결하기 위한 경량 모델 편집 프레임워크 BOUND를 제안합니다. BOUND는 LoRA 어댑터를 사용하여 유효한 패키지 경계를 정교화함으로써 소프트웨어 공급망 공격 위험을 낮추고 코드 생성의 신뢰성을 높입니다.

핵심 포인트

• 패키지 환각으로 인한 소프트웨어 공급망 공격 위험성 지적
• 경량화된 국소적 모델 편집 프레임워크 BOUND 소개
• 위험 인식 국소화 및 경계 인식 목적 함수 활용
• 패키지 수준 환각률(Package-HR)을 최대 79.9% 감소
• 코드 생성 및 pip install 추천 등 다양한 작업으로 일반화 가능