입력에 둔감한 제어(Input-Blind Controls)가 다중 선택 평가에서 레이어 프로그램에 상당한 오라클 여유분(Oracle

적응형 계산(Adaptive computation)은 각 입력에 맞춰 실행 방식을 조정함으로써 언어 모델 추론을 개선하는 것을 목표로 합니다. 레이어 프로그램의 경우, 실질적인 선택기(selector)가 사용 가능하기 전에 잠재적 이득을 추정하기 위해 오라클 평가(oracle evaluations)는 알려진 정답을 사용합니다. 하지만, 선택에서 얻은 이득 자체가 왜 선택된 프로그램이 도움이 되는지를 설명하지는 못합니다. 본 연구는 두 모델과 4,413개의 다중 선택 항목에 대해 32개의 레이어 건너뛰기(layer-skipping) 및 반복(repetition) 프로그램을 사용하여 이러한 구분을 조사했습니다. 분석은 평가 프롬프트 없이 선택된 고정 행동 대비 동일한 위치에서의 입력 무관성 교란(input-blind perturbations)의 이득과, 다른 프롬프트에서 재평가되는 선택의 이득을 비교합니다. 옵션 순서가 공유될 때, 제어 프로그램들은 Qwen3-4B-Base와 Llama-3.1-8B 모델에서 각각 10.211.8 및 15.619.4 퍼센트 포인트의 여유분(headroom)을 제공하며, 이는 모든 세 가지 무작위 방향 추출에서 실제 프로그램들의 9.0 및 10.1보다 높았습니다. 이들은 정답 변경률(answer-change rate)만 일치시켰으며, 순서는 메뉴에 따라 달라집니다: 사후 비교(post hoc comparisons)에서 실제 프로그램들은 모든 추출에서 Llama의 반복 전용 메뉴에서 우위를 보였습니다. 입력 의존적인 제어 프로그램을 포함하는 더 작은 KL-보정 비교는 점 추정치(point estimate)에서 실제 프로그램을 선호하지만, 수정된 테스트에서는 결론을 내릴 수 없었습니다. 고정된 문자 오프셋은 유사한 규모의 여유분을 생성합니다. 옵션을 회전시키는 것은 두 계열 모두의 여유분을 급격히 감소시키지만, 1.42.3 및 3.74.5 포인트의 양(+)의 실제-제어 차이는 유지했습니다; 이들의 크기와 통계적 지지는 추가적인 조정과 참조에 따라 달라집니다. 보충된 생성 답변 테스트(supplementary generated-answer test)는 검색 선택된 프로그램들이 재작성 후 다른 문제들을 위해 선택된 프로그램들보다 26.0점의 우위를 유지하며, 위약 비교(placebo comparison) 없이도 그러했습니다. 이러한 결과들은 옵션 순서가 공유되는 경우에 상당한 여유분이 특정 레이어 계산에 국한된 이득을 확립하지 않고도 프롬프트 전반에 걸쳐 지속될 수 있음을 보여주며; 이러한 제어 프로그램들과의 순서 비교 역시 그 이득을 식별해내지 못했습니다.