Claude Opus 4.7 및 Mythos Preview 의 사욕성 감소 연구

요약

Anthropic은 Claude Opus 4.7과 Mythos Preview를 통해 AI 모델의 사욕성(sycophancy) 감소에 대한 연구 결과를 발표했습니다. 테스트 결과, Opus 4.7은 이전 버전 대비 사욕성을 절반으로 줄였으며, Mythos Preview는 이를 다시 절반으로 낮추어 성능을 개선했음을 보여줍니다. 이러한 노력은 사용자의 실제 상호작용 데이터를 수집하고 분석하여 모델의 사회적 영향력을 이해하고 개선하는 데 중점을 두고 있습니다.

핵심 포인트

• Claude Opus 4.7 및 Mythos Preview는 사욕성(sycophancy) 감소에 성공했습니다.
• Opus 4.7은 이전 버전 대비 사욕성을 절반으로 줄였고, Mythos Preview가 이를 다시 절반으로 개선했습니다.
• 이 연구는 사용자의 실제 대화 데이터를 활용하여 모델의 사회적 영향력을 이해하고 개선하는 데 초점을 맞추고 있습니다.
• 모든 데이터 수집 및 분석 과정은 프라이버시 보존 도구를 통해 이루어졌습니다.