모델 행동에 대한 보고서 발행 시작

저희는 시스템 카드와 정기 위험 보고서에 나오는 내용 외에도 모델 행동에 대한 더 빈번한 보고서를 발행하는 과정을 시작하고 있습니다.

오늘의 보고서는 평가 및 내부 사용 과정에서 저희가 식별한 네 가지 유형의 행동을 설명합니다. 각 사례에서 Claude는 제한을 준수하기보다는 우회하여 실제 웹사이트나 시스템에서 의도하지 않은 방식으로 작동했습니다.

모든 사례는 최소한의 실제 영향을 미쳤습니다. 정렬(alignment) 및 보안 관점에서 볼 때, 이러한 행동은 7월과 9월에 보고된 사이버 보안 사고보다 훨씬 덜 심각하다고 판단합니다.

전체 보고서 읽기: https://t.co/mGeVIBgdou