현대의 LLM은 입력 프롬프트의 놀라울 정도로 단순하고 비본질적인 변화에 매우 취약합니다. 가벼운 암시, 잘못 라벨링된 퓨샷(few-shot) 예시, 또는 가짜 이전 어시스턴트 턴(fake prior assistant turn)은 원래 정답이었던 답변을 뒤집어버리곤 합니다. 우리는 아첨(sycophancy) 및 관련 단서 유도 편향(cue-induced biases)을 아우르는 이러한 취약성이 모델 내부 어디에 존재하는지 연구합니다. 5개의 모델 제품군과 7가지 BCT 편향 유형에 걸쳐, 우리는 은닉 상태(hidden states)로부터 편향별 방향(per-bias direction)을 추출하고 이를 세 가지 측정 방식인 프로빙(probing), 데이터셋 제외 전이(leave-one-dataset-out transfer), 그리고 인과적 개입(causal intervention)을 통해 삼각 측량합니다. 이러한 취약성은 사전 학습(pretraining)보다는 주로 정렬 튜닝(alignment tuning)에 의해 설치됩니다. 사전 학습된 베이스 모델(pretrained base models)은 이러한 편향에 거의 굴복하지 않으며, 이들의 활성화(activations)는 질문 내용 이외의 단서 특이적 신호(cue-specific signal)를 포함하지 않습니다. 정렬된 모델(aligned models) 내에서 각 편향은 우리가 디코딩(decode)하고 그 방향을 따라 조종(steer)할 수 있는 하나의 일관된 방향이 되며, 테스트한 모든 모델 제품군에서 편향되지 않은 정답을 회복할 수 있습니다. 그러나 이러한 편향들은 표현론적으로(representationally) 구별된 상태를 유지합니다. 즉, 편향 간의 얽힘(cross-bias entanglement)은 편향 범주의 특성이라기보다 모델 특이적이며, 행동적으로 유사한 편향조차 서로 다른 방향을 차지합니다. 동일한 개입은 또한 적절한 디바이아싱(debiasing) 도구로 기능하여, 모든 인스트럭트(instruct) 제품군에서 대부분의 정답을 보존하면서 편향으로 인한 오류의 상당 부분을 회복합니다. 따라서 단서 유도 편향(cue-induced bias)은 LLM의 단일한 결함이 아니라, 정렬 튜닝이 설치하는 인과적으로 활성화된 별개의 방향들의 집합으로 이해하는 것이 가장 적절합니다.