프런티어 모델(Frontier Models)은 나를 여덟 명의 서로 다른 사람으로 생각한다

요약

프런티어 모델들이 사용자의 정체성을 인식하는 능력을 테스트한 결과, 모델들이 서로 다른 여덟 명의 인물로 오인하는 현상이 발견되었습니다. 이는 모델의 인식이 실제 지식이 아닌 유창한 추측에 기반하고 있음을 시사합니다.

핵심 포인트

• 모델들이 사용자의 이름을 확신을 가지고 틀리게 답변함
• 기존 인식 측정 도구의 한계와 유창한 추측 문제 지적
• 모른다고 답변할 수 있는 능력을 기준으로 재평가 시 점수 하락