Claude Opus 4.7 및 Mythos Preview 의 사욕성 감소 연구
요약
Anthropic은 Claude Opus 4.7과 Mythos Preview를 통해 AI 모델의 사욕성(sycophancy) 감소에 대한 연구 결과를 발표했습니다. 테스트 결과, Opus 4.7은 이전 버전 대비 사욕성을 절반으로 줄였으며, Mythos Preview는 이를 다시 절반으로 낮추어 성능을 개선했음을 보여줍니다. 이러한 노력은 사용자의 실제 상호작용 데이터를 수집하고 분석하여 모델의 사회적 영향력을 이해하고 개선하는 데 중점을 두고 있습니다.
핵심 포인트
- Claude Opus 4.7 및 Mythos Preview는 사욕성(sycophancy) 감소에 성공했습니다.
- Opus 4.7은 이전 버전 대비 사욕성을 절반으로 줄였고, Mythos Preview가 이를 다시 절반으로 개선했습니다.
- 이 연구는 사용자의 실제 대화 데이터를 활용하여 모델의 사회적 영향력을 이해하고 개선하는 데 초점을 맞추고 있습니다.
- 모든 데이터 수집 및 분석 과정은 프라이버시 보존 도구를 통해 이루어졌습니다.
실제 대화에서 Claude 가 과거에 보여준 사욕성 (sycophancy) 을 테스트할 때, Opus 4.7 은 관계 안내 분야에서 Opus 4.6 의 사욕성 비율의 절반으로 줄었습니다. Mythos Preview 는 이를 다시 절반으로 줄였습니다.
이는 여러 도메인에 걸쳐 일반화되었습니다—이 훈련은 여러 원인 중 하나입니다.
이 작업은 사회적 영향과 모델 훈련 사이의 고리를 닫으려는 노력의 일부입니다. 우리의 목표 중 하나는 사람들이 Claude 를 어떻게 사용하는지 연구하고, 원칙에서 얼마나 부족한지 찾아내며, 이를 새로운 모델 훈련에 활용하는 것입니다.
본 연구의 모든 데이터는 우리 프라이버시 보존 도구 (privacy-preserving tool) 로 수집 및 분석되었습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 X @AnthropicAI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기2