Anthropic, Claude Fable의 숨겨진 가드레일에 대해 사과하다
요약
Anthropic이 새로운 AI 모델인 Claude Fable 5의 숨겨진 가드레일(guardrails)에 대해 사과하며 투명성을 높이겠다고 밝혔습니다. 이전에 개발자들의 시스템 구축을 방해했던 제한 사항들을 수정하고, 향후 거부되는 쿼리가 늘어날 수 있음을 시사했습니다.
핵심 포인트
- Anthropic이 Claude Fable 5의 가드레일 문제에 대해 사과함.
- 모델 사용 제한 정책을 투명하게 개선할 예정임.
- Fable은 Anthropic Mythos 시스템 클래스 중 광범위하게 사용 가능 모델임.
Anthropic은 연구원들과 경쟁자들이 이를 사용하여 경쟁 시스템을 개발하는 것을 방해했던, 새로운 AI 모델인 Claude Fable 5의 숨겨진 가드레일(guardrails)에 대해 사과했습니다. 이 회사는 이제 방향을 수정하여, 제한이 언제 발효되는지에 대해 더 투명해질 것이라고 밝혔으며, 심지어 그로 인해 Fable이 더 많은 쿼리에 거부될 수도 있습니다.
Fable은 Anthropic의 Mythos AI 시스템 클래스 중 가장 광범위하게 사용 가능한 모델입니다. 이 그룹에 속한 시스템들은 회사가 몇 달 동안 공개 배포에는 너무 위험하다고 경고해 온 모델들입니다. Anthropic은 Fable을 출시하면서 특정
AI 자동 생성 콘텐츠
본 콘텐츠는 The Verge AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0