Anthropic, AAR로 자동 정렬 연구 속도 97% 개선

여기서 우리는 약한 모델과 강한 모델의 잠재력 사이의 “성능 격차”를 얼마나 줄일 수 있는지를 기준으로 성공을 측정합니다.

7일 후, 인간 연구원들은 이를 23% 줄였습니다. 그 후, 우리의 자동화된 정렬 연구원들—Opus 4.6에 추가 도구를 더한 것—이 이를 97% 줄였습니다.

AAR들의 방법들의 더 넓은 유용성을 테스트하기 위해, 우리는 AAR들이 이전에 보지 못했던 두 데이터셋에서 그 방법들이 얼마나 잘 작동하는지를 평가했습니다.

AAR들의 최고 성능을 발휘한 방법은 코딩과 수학 작업 모두에 성공적으로 일반화되었지만, 그들의 두 번째로 좋은 방법은 수학에만

AI models aren’t yet general-purpose alignment scientists. Progress isn't as easy to verify on most alignment research tasks: our AARs would find “fuzzier” research much harder.

But our experiment does show that Claude can increase the rate of experimentation and exploration.

이 연구의 다른 함의와 함께 이 주제를 우리 블로그에서 논의합니다:
https://
anthropic.com/research/autom
ated-alignment-researchers
…
전체 연구를 보려면 여기를 참조하세요:
https://
alignment.anthropic.com/2026/automated
-w2s-researcher/
…