Anthropic, Claude에 대한 '학대적이거나 잔인한 행동' 금지 정책 도입

Machine brain.

Anthropic은 지난 1년여 만에 사용 정책을 변경하며, 선거 개입, 무기 개발, 감시, 건강 및 금융 용도 등 새롭고 위험도가 높은 오용 사례들을 반영하고 있습니다. 하지만 가장 중요한 변화 중 하나는 Claude를 향한 '지속적이고 불필요한 학대적이거나 잔인한 행동'을 금지한다는 것입니다.

지난 8월, 이 회사는 '모델 복지(model welfare)'에 대한 연구의 일환으로, 지속적으로 해롭거나 학대적인 사용자들과 Claude가 대화를 종료할 수 있도록 발표했습니다. 새로운 업데이트에 따르면, 대화 종료는 여전히 '주요 집행 메커니즘'이며, Anthropic은 이에 대해 추가 코멘트를 제공하지 않았습니다.

The Verge에서 전체 기사 읽기