외부화된 공격-방어 공동 진화를 통한 모델 불가지론적 평생 LLM 안전성 (Model-Agnostic Lifelong LLM Safety

요약

본 논문은 LLM이 적대적 프롬프트에 취약하다는 문제점을 해결하기 위해 EvoSafety라는 새로운 안전성 프레임워크를 제안합니다. 기존의 폐쇄적인 안전 패러다임과 달리, EvoSafety는 외부 구조를 중심으로 구축되어 지속 가능하고 재사용 가능한 공격 및 방어 메커니즘을 제공합니다. 특히, 적대적 기술 라이브러리를 통해 포화 이후에도 취약점 조사가 가능하며, 메모리 검색으로 증강된 경량 보조 모델을 사용하여 모델 불가지론적인 안전성 향상과 강건성을 확보했습니다.

핵심 포인트

• EvoSafety는 외부 구조를 중심으로 설계되어 지속적이고 재사용 가능한 LLM 안전 프레임워크를 제공합니다.
• 공격 측면에서 적대적 기술 라이브러리를 활용하여 취약점 조사의 포화 문제를 해결하고 공격 벡터의 진화를 지원합니다.
• 방어 측면에서는 메모리 검색으로 증강된 경량 보조 모델을 사용하여 모델 불가지론적인 안전성 향상과 전이 가능한 강건성을 확보했습니다.
• EvoSafety는 Steer 모드(내재적 방어 활성화)와 Guard 모드(유해 입력 필터링)를 모두 지원하여 다각적인 방어 정책을 구현합니다.