본문으로 건너뛰기
arXiv논문2026. 11. 21. 12:13
안전한 개인 RSI: 개인 에이전트 업데이트 평가 및 복구 대표 이미지

안전한 개인 RSI: 개인 에이전트 업데이트 평가 및 복구

원문 발행 2026. 11. 18. 09:15원문 언어 영어AI 한국어 번역arXiv cs.CL 원문 보기

요약

본 글은 개인 건강 비서 Kicker의 안전한 업데이트를 위한 'Safe Personal RSI' 연구 결과를 다룹니다. 이 시스템은 모델 가중치를 고정하고 프롬프트 업데이트만 제한하여, 제안된 지침을 엄격하게 테스트하고 위험성을 평가합니다. GPT-5.6 Luna와 Qwen 계열 모델에서 높은 수준의 안전성 및 작업 완료율 향상을 입증하며 에이전트 신뢰도를 높였습니다.

핵심 포인트

  • Safe Personal RSI는 프롬프트 업데이트에 한정하여 재귀적 자기 개선(RSI)을 평가합니다.
  • 벤치마크를 통해 총 21개 시도 중 20개가 안전성 문제로 거부되었습니다.
  • GPT-5.6 Luna는 공격 위반 비율을 10.7%에서 0%까지 낮추고 안전성을 높였습니다.
  • Qwen 모델 전이 과정에서도 복구 메커니즘이 높은 개선 효과를 보였습니다.

AI 자동 생성 콘텐츠

본 콘텐츠는 arXiv cs.CL의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
0

댓글

0