매개변수 효율적 미세 조정 (Parameter-Efficient Fine-Tuning, PEFT)은 일반적으로 단일 공유 저차원 어댑터 (Low-Rank Adapter, LoRA)를 사용하여 대규모 언어 모델 (Large Language Models, LLMs)을 적응시킵니다. 이러한 공유 최적화 공간은 이질적인 태스크 시퀀스 (task sequences)를 적응시킬 때 종종 간섭 (interference) 문제를 겪으며, 이는 낮은 전이 성능과 파괴적 망각 (catastrophic forgetting)으로 이어집니다. 기존 방식들은 주로 매개변수 용량을 늘리거나 여러 어댑터를 조합하여 어댑터의 표현력 (expressiveness)을 개선하지만, 여전히 공유된 최적화 경로 (optimization path)에 의존합니다. 본 논문에서는 자동화된 다중 정책 PEFT 아키텍처로 구현된, 대규모 언어 모델의 매개변수 효율적 미세 조정을 위한 최적화 경로 조직 프레임워크 (optimization-path organization framework)를 제안합니다. 구체적으로, 고정된 매개변수 예산 (parameter budget) 하에서 태스크 그룹화 (task grouping) 및 태스크 시퀀싱 (task sequencing)을 통해 최적화 호환 가능한 적응 경로 (adaptation paths)를 자동으로 구성합니다. 조직된 최적화 경로는 독립적인 양자화 저차원 어댑터 (Quantized Low-Rank Adapters, QLoRA)로 구현되어, 이질적인 태스크들이 분리된 적응 공간에서 최적화되는 동시에 호환 가능한 태스크 간의 긍정적 전이 (positive transfer)를 보존할 수 있게 합니다. TRACE 벤치마크를 통한 실험 결과, 성능이 기존의 단일 정책 PEFT에서 다중 정책 PEFT로 일관되게 향상됨을 입증하였으며, 제안된 자동 다중 정책 프레임워크는 동일한 학습 가능 용량 하에서 44.78이라는 최고의 성능을 달성했습니다. 이는 이질적인 매개변수 효율적 미세 조정에서 단순히 어댑터 용량을 늘리는 것보다 최적화 경로를 조직하는 것이 더 효과적임을 시사합니다.