요약

Anthropic이 개발한 정렬 평가 도구인 'Petri'가 Meridian Labs로 양도되었습니다. 이 도구는 LLM의 기만, 종속 행동, 악용 시나리오 등을 테스트하여 모델의 안전성과 신뢰성을 검증하는 데 사용됩니다. Anthropic에서 독립됨으로써 결과의 중립성과 객관성이 더욱 확보될 것으로 기대됩니다.

핵심 포인트

• Anthropic이 개발한 정렬 평가 도구 'Petri'가 Meridian Labs로 공식 양도되었다.
• Petri는 LLM의 기만(deception), 종속 행동, 악용 등의 안전성 문제를 테스트하는 데 특화되어 있다.
• 도구가 독립적인 연구소(Meridian Labs)로 이전함으로써 평가 결과의 중립성과 신뢰성이 강화된다.