본문으로 건너뛰기
arXiv논문2026. 11. 16. 14:10
Abliteration은 더 어려워지고 있는가? 균일하지 않다: Heretic을 사용한 방향 기반 Ablation 및 ARA를 이용한 대표 이미지

Abliteration은 더 어려워지고 있는가? 균일하지 않다: Heretic을 사용한 방향 기반 Ablation 및 ARA를 이용한

원문 발행 2026. 11. 13. 16:29원문 언어 영어AI 한국어 번역arXiv cs.CL 원문 보기

요약

본 기사는 가중치 편집 기법인 Abliteration을 통해 LLM의 거부(refusal) 제거 난이도가 증가하는지 분석했습니다. 방향 기반 Ablation과 ARA를 여러 모델 쌍에 적용한 결과, 거부 제거의 어려움은 균일하게 증가하지 않았습니다. 신규 모델의 저항성은 생성 자체보다는 사용된 방법론 및 예산 설정에 따라 달라지는 것으로 나타났습니다.

핵심 포인트

  • 거부 제거 난이도는 모델 쌍별로 불균일하며, 전반적인 어려움 증가는 관찰되지 않았습니다.
  • ARA는 Gemma와 OLMo에서 방향 기반 방법보다 효과 손실을 덜 보였습니다.
  • 신규 모델의 저항성은 생성 자체보다는 출시 페어, 사용된 방법론 및 예산에 달려 있습니다.
  • 방향 기반 제거 후 거부율 변화 폭은 -1%부터 +37%까지 다양하게 나타났습니다.

AI 자동 생성 콘텐츠

본 콘텐츠는 arXiv cs.CL의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
0

댓글

0