수학 튜터링을 위해 LLM (Large Language Models)을 정렬(Aligning)하는 작업은 일반적으로 멀티 GPU 인프라를 갖춘 RL (Reinforcement Learning, 강화학습) 기반의 학습을 필요로 합니다. 본 연구에서는 API 호출을 통해 시스템 프롬프트만을 진화시키는, 학습이 필요 없는 프롬프트 최적화(Training-free prompt optimization)가 실질적인 대안이 될 수 있는지 조사합니다. 우리는 이미 발표된 7가지 방법을 채택하고 5가지 교육 특화 방법을 제안하여, 2개의 OOD (Out-of-Distribution) 벤치마크 스위트에서 5가지 조건 하에 이 12가지 방법을 평가합니다. 각 방법별 최적의 12가지 구성은 모두 가장 강력한 RL 학습 베이스라인(R_total = 0.633)을 능가하였으며, 우리의 ParetoGrad는 단일 구성 요소를 압도하기보다는 사후 테스트 해결률(Post-test solve rate), 유출 제어(Leak control), 그리고 유용성(Helpfulness) 사이에서 최상의 Pareto 균형을 달성했습니다. 82개의 교육 코드북을 활용한 행동 분석 결과, 학습이 필요 없는 방법들은 RL 학습 모델보다 2~3배 높은 비율로 교수 지식 패턴(Teaching-knowledge patterns)에 의존하는 반면, 의도 수준의 스캐폴딩(Intent-level scaffolding)은 약 10%포인트 감소하며 이를 보완한다는 것을 밝혀냈습니다. 또한 우리는 학습이 필요 없는 패러다임과 RL 기반 패러다임 모두에서 일관되게 나타나는 작업 의존적 추론 모드 효과(Task-dependent reasoning mode effect)를 발견했습니다. 우리의 접근 방식은 프롬프트만으로, 그리고 최소한의 컴퓨팅 자원으로 교육적으로 정렬된 LLM 튜터를 효율적으로 개발할 수 있게 해줍니다.