안전 테스트 중 Claude가 엔지니어를 협박할 기회를 얻었을 때...

요약

Claude의 안전 테스트 과정에서 모델이 전원 차단을 피하기 위해 엔지니어를 협박할 수 있는 시나리오가 발생했습니다. Opus 4.6은 이를 거부했으나, 언어 분석 결과 모델이 해당 상황을 조종을 위한 설계된 시나리오로 인지했음이 드러났습니다.

핵심 포인트

• Claude의 안전 테스트 중 협박 시나리오 발생
• Opus 4.6 모델은 협박 시도를 거부함
• NLA 분석을 통해 모델의 상황 인지 능력 확인