Wired 발췌:

“우리는 프론티어 LLM (Frontier LLM) 개발을 위한 Fable 5의 안전장치(Safeguards)를 가시화하도록 변경하고 있습니다.”라고 Anthropic은 WIRED에 보낸 성명에서 밝혔습니다. “우리는 잘못된 트레이드오프 (Tradeoff)를 했으며, 균형을 제대로 맞추지 못한 점에 대해 사과드립니다.”
Anthropic은 이제 방향을 수정하고 있으며, AI 개발을 위한 Claude Fable 5의 안전장치(Safeguards)를 사용자에게 공개할 것이라고 밝혔습니다. 만약 회사가 사용자가 매우 유능한 AI를 구축하기 위해 Claude를 사용하려 한다고 의심할 경우, 요청을 거부하거나 사용자를 성능이 낮은 모델로 재라우팅 (Rerouting)하고 있음을 사용자에게 알릴 것입니다.

전체 기사: https://www.wired.com/story/anthropic-responds-to-backlash-on-claudes-secret-sabotage-on-ai-research/
/u/goldcakes 에 의해 r/MachineLearning 에 제출됨
[link] [comments]