오픈 웨이트 언어 모델(Open-Weight Language Models)의 규모에 따른 평가 인지(Evaluation Awareness)

언어 모델은 자신이 테스트를 받고 있다는 사실을 알고 있을까요? 이 질문은 AI 안전(AI safety) 측면에서 매우 중요합니다. 평가 맥락(evaluation context)을 인식하는 모델은 전략적으로 자신의 행동을 변경할 수 있으며, 이는 다운스트림 벤치마크(downstream benchmarks)를 해석하기 어렵게 만들 수 있습니다. Qwen 2.5, Gemma 2, Llama 3.2를 아우르는 11개의 모델을 사용하여 연구한 결과, 우리는 표현 깊이(representational depth)에서 규모에 따른 체계적인 변화를 발견했습니다. Qwen 2.5와 Gemma 2 모두에서, 평가 인지(evaluation-awareness)가 가장 선형적으로 복구(linearly recoverable) 가능한 레이어는 작은 모델에서는 후반부 레이어에서 큰 모델에서는 전반부 레이어로 이동합니다. 이는 규모(scale)의 변화가 평가 인지의 강도뿐만 아니라, 네트워크 내에서 그것이 가장 선형적으로 복구 가능한 위치까지 변화시킨다는 것을 시사합니다. 이러한 깊이의 변화는 왜 동일 계열 내의 스케일링 궤적(scaling trajectories)이 매끄럽고 계열 전반에 걸쳐 일반적인 형태가 아니라, 비단조적(non-monotonic)이거나 역방향(inverse)인지를 설명하는 데 도움이 되며, 더 밀도 높은 계열 내 샘플링 하에서는 단순한 보편적 멱법칙(universal power-law) 설명이 지지되지 않음을 보여줍니다. 마지막으로, 화이트박스 프로브(white-box probe) 신호는 블랙박스 행동 표현(black-box behavioural expression)보다 일관되게 더 강력하며, 두 사이의 관계는 프로브 AUROC만으로는 예측할 수 없는 방식으로 모델 계열마다 다르게 나타납니다.