혼합 정밀도 양자화 (Mixed-precision quantization, MPQ)는 엄격한 메모리 및 연산 제약 조건 하에서 대규모 언어 모델 (Large Language Models, LLM)을 배포하기 위한 핵심 기술이 되었습니다. 우리는 먼저 우리가 'Perplexity Illusion (당혹도 환상)'이라고 명명한 현상을 식별했습니다. 이는 당혹도 (Perplexity) 기반 민감도로 중요도가 높게 평가된 레이어들이 복잡한 추론 성능에 가장 큰 영향을 미치는 레이어들과 거의 상관관계가 없음을 보여주며, 우리의 분석 결과 Kendall $τ≈ 0$을 나타냈습니다. 나아가 우리는 '정렬-다양성 트레이드오프 (Alignment-Diversity Tradeoff)'를 밝혀냈습니다. 타겟 작업 (Target-task) 교정 데이터 (Calibration data)만을 사용하는 것은 양자화 후 성능을 저하시킬 수 있는 반면, 일반 도메인 데이터를 포함하면 민감도 추정이 안정화되고 여러 작업에 걸쳐 강건성 (Robustness)이 향상됩니다. 이러한 관찰을 바탕으로, 우리는 교정 데이터 구성과 혼합 정밀도 비트 할당 (Bit allocation)을 공동으로 최적화하는 2단계 프레임워크인 TASA (Task-Aware Sensitivity Analysis, 작업 인식 민감도 분석)를 제안합니다. 구체적으로, TASA는 훈련이 필요 없는 (Training-free) 그래디언트 트레이스 정렬 기준 (Gradient-trace alignment criterion)을 사용하여 교정 데이터 혼합물을 탐색한 다음, 당혹도와 추론 지향적 민감도 신호를 결합하여 레이어 간 및 레이어 내 비트 할당을 가이드합니다. LLaMA-3-8B 및 Qwen2.5-7B에 대한 실험 결과, 정밀도 역전 (Precision inversion) 현상이 드러났습니다. 즉, 적절하게 할당된 3.5-bit 모델이 작업 인식이 부족한 4-bit 베이스라인과 대등하거나 이를 능가할 수 있습니다. 평균 3.5-bit 정밀도에서 TASA는 종합 정확도 측면에서 여러 경쟁력 있는 4-bit 균등 (Uniform) 베이스라인과 대등하거나 이를 능가하며, LLaMA-3-8B의 GSM8K 데이터셋에서 가장 강력한 W3 베이스라인보다 절대 수치로 20포인트 이상 향상된 성능을 보였습니다. 이러한 결과는 교정 데이터 구성이 작업 민감형 양자화에 실질적인 영향을 미친다는 것을 보여주며, 이는 이전 연구들에서 충분히 탐구되지 않은 요소입니다.