Fable 5의 최전선 LLM 개발 안전장치 공개

이번 주부터 Fable 5의 최전선(frontier) LLM 개발을 위한 안전장치를 가시적으로 구현하는 변경 사항을 적용합니다.

이번 주를 시작으로, 플래그가 지정된 요청은 사이버 및 생물학적 영역에 대한 우리의 안전장치와 동일한 Opus 4.8로 눈에 띄게 폴백(fallback)될 것입니다. 이 현상은 발생할 때마다 확인하실 수 있습니다. API의 경우, 모든 플래그가 지정된 요청은 거부 사유를 반환할 것이며 (향후 며칠 내 서버 측 폴백으로 변경 예정), 이를 통해 확인할 수 있습니다.

저희는 Fable 5를 사용자들에게 빠르고 안전하게 배포하고 싶었습니다. 가시적인 안전장치는 테스트(probed)될 수 있으므로 견고해야 하며, 이는 올바르게 구현하는 데 시간이 걸립니다. 반면, 비가시적인 안전장치는 더 좁게 표적화할 수 있어 매우 적은 오탐(false positives)으로 빠르게 출시할 수 있습니다. 저희는 이 이유로 비가시적인 안전장치를 선택했는데, 이것이 잘못된 트레이드오프였습니다. 사용자들은 저희가 마련한 안전장치와 그 이유에 대한 가시성을 확보해야 합니다. 균형을 맞추지 못한 점 사과드립니다.

안전장치를 가시적으로 만드는 것은 우회하기 더 쉽게 만듭니다. 따라서 탈옥(jailbreaks)에 대해 견고하게 유지하려면, 분류기(classifiers)를 개선하는 동안 오탐이 더 많아지는 것을 감수해야 합니다. 또한, 무해한 요청에도 트리거되는 생물학 및 사이버 분류기를 조정하고 있습니다. 저희는 이것이 답답할 수 있다는 것을 알고 있으며, 이 기간을 가능한 한 짧게 유지하기 위해 최선을 다하겠습니다.

요청이 실수로 플래그 지정되었다고 생각되면: Claude Code에서 /feedback을 실행하거나, https://t.co/LtktniD5HY 또는 Cowork에서 폴백에 대해 엄지손가락 아래를 클릭하거나, API 요청의 안전장치 이의 제기 양식(safeguard appeal form)을 작성해 주십시오. 사용자님의 보고는 저희가 분류기를 조정하는 데 도움이 되며, 피드백에 감사드립니다.