
PolicyShiftGuard
요약
PolicyShiftGuard는 고정된 분류 체계가 아닌 활성화된 정책 위반 여부를 판단하는 모델입니다. 동일한 이미지가 다른 정책 하에서 레이블이 바뀔 수 있음을 보여줍니다. 또한, LongStraw는 제한된 GPU 예산으로 긴 시퀀스의 RL 사후 학습을 효율적으로 수행하는 아키텍처를 제시했습니다.
핵심 포인트
- PolicyShiftGuard는 활성화된 정책 위반 여부를 판단합니다.
- 동일한 데이터도 정책에 따라 레이블이 바뀔 수 있습니다.
- LongStraw는 GPU 예산 제약 하의 효율적인 RL 사후 학습을 가능하게 합니다.
PolicyShiftGuard
고정된 분류 체계(fixed taxonomy)가 아닌, 활성화된 정책(active policy)을 위반하는지 여부를 판단합니다. 동일한 이미지가 다른 정책 하에서 레이블이 뒤바뀔 수 있습니다. Hugging Face에 모델과 벤치마크를 공개했습니다.
논문:
https://paperswithcode.co/paper/2607.059
10
…
모델 및 데이터:
https://huggingface.co/PolicyShiftGuard
…
데이터셋:
https://huggingface.co/datasets/PolicyShiftGuard/PolicyShiftBench
…
LongStraw
고정된 GPU 예산 내에서 수백만 토큰 길이의 강화학습(RL) 사후 학습을 위한 아키텍처 인식 실행 스택입니다. 전체 시퀀스를 재현하는 대신 짧은 응답 분기(short response branches)를 재현함으로써 단 8개의 H20 GPU로 210만 개의 포지션을 달성했습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 X @huggingpapers (검증됨)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기