지난 5월에 gemma-skills 저장소를 소개했던 것을 기억하시나요? 많은 분이 이전 포스트를 활용해 워크플로우를 간소화하는 모습을 보는 것은 매우 보람찬 일이었습니다. (그리고 비록 아직 GitHub 스타가 쏟아지는 수준은 아니더라도, 아주 멋진 시작을 했다고 생각합니다!😉)

하지만 더 많은 커스텀 애플리케이션을 구축하면서 저는 계속해서 동일한 난관에 부딪혔습니다: 훌륭한 베이스 모델(base model)을 어떻게 가져와서 나의 특정 요구 사항에 맞게 조정할 것인가 하는 문제였습니다.

모델을 미세 조정(Fine-tuning)하려면 보통 복잡한 설정과 혼란스러운 가이드들을 헤쳐 나가야 합니다. 이 과정을 쉽고 빠르게 만들기 위해, 우리는 최신 스킬인 gemma-trainer를 만들었습니다.

gemma-trainer란 무엇인가요?

gemma-trainer는 여러분의 로컬 하드웨어에서 Gemma 모델을 훈련하고 조정하기 위한 청사진입니다. 모델에게 새로운 도메인을 가르치든, 모델의 동작을 여러분의 선호도에 맞게 정렬(aligning)하든, 이 도구가 "방법"을 처리해주므로 여러분은 특정 프로젝트 목표에만 집중할 수 있습니다.

왜 이것을 사용해야 하나요?

• 더 빠르고 가벼운 훈련: 단일 GPU 훈련을 위해 Unsloth 사용을 권장하며, 이를 통해 훈련 속도를 높이고 메모리 사용량을 줄여 개인용 하드웨어에서도 쉽게 실행할 수 있도록 합니다.

• 세 가지 핵심 방법: 새로운 정보를 가르치는 지도 미세 조정 (Supervised Fine-Tuning, SFT), 선호도에 맞게 정렬하는 직접 선호 최적화 (Direct Preference Optimization, DPO), 그리고 응답을 평가하는 보상 모델링 (Reward Modeling, RM) 과정을 안내합니다.

• 보고 듣는 모델 학습: 텍스트와 함께 이미지 및 오디오를 사용하는 모델 훈련(멀티모달 학습, multimodal learning)을 위한 명확한 지침을 포함하고 있습니다.

• 어디서나 실행 가능: 모델을 경량 형식(GGUF 등)으로 빠르게 변환하여 **LiteRT-LM**을 사용하여 모바일이나 스마트 기기(IoT)에서 실행할 수 있습니다.

• 최신 베스트 프랙티스 (Best Practices): 이 스킬은 최신 최적화 설정 및 훈련 기술로 지속적으로 업데이트되어, 여러분이 항상 최선의 방법을 사용할 수 있도록 보장합니다.

실전 활용 사례 (Practical Use Case)

이것이 실제로 어떻게 작동하는지 확인하기 위해, 이전 포스트에서 Gemma 4를 고전 한국어 문학 전문가 번역가로 만들었던 과정을 떠올려 보세요. gemma-trainer를 사용하면 파이프라인(pipeline)을 수동으로 조립할 필요가 없습니다. 그저 에이전트에게 다음과 같이 요청하기만 하면 됩니다:

"bebechien/HongGildongJeon 데이터셋으로 Gemma 4 E2B를 미세 조정(Fine-tune)해줘."

gemma-trainer 스킬을 통해 여러분의 에이전트는 다음과 같은 과정을 여러분과 함께 수행합니다:

1. 데이터 검증 (Verify your data): 검증 스크립트(validation script)를 사용하여 훈련 데이터가 템플릿 요구 사항과 일치하는지 확인합니다.

2. 파라미터 설정 (Set up parameters): 비디오 메모리 (VRAM) 부족 문제 없이 모델에 언어적 뉘앙스를 가르칠 수 있도록 최적의 LoRA 설정을 선택합니다.

3. 훈련 실행 (Run the training): 최적화되고 리소스 효율적인 기본값(defaults)을 사용하여 훈련 세션을 시작합니다.

4. 평가 및 반복 (Evaluate and iterate): 모델의 성능을 검토하고, 필요한 정확한 결과를 얻을 수 있도록 설정을 조정합니다.

다음은 에이전트가 오디오 작업을 위해 Gemma 4 12B 모델의 미세 조정 실행을 시작하는 예시입니다:

설정이 완료되면, 에이전트는 지정된 데이터셋을 사용하여 훈련 프로세스를 시작합니다:

실수를 하더라도 에이전트가 여러분을 지원합니다. 예를 들어, 제가 실수로 Gemma 4 31B 모델(텍스트 및 비전 모델이며 오디오 기능이 없음)의 훈련을 요청했을 때, 에이전트는 대신 오디오 튜닝을 위해 Gemma 4 E2B 또는 12B를 사용할 것을 제안했습니다:

훈련이 완료되면, 에이전트는 결과를 제시하고 다음 단계를 설명합니다:

또한, 특정 요구 사항을 기반으로 사용자 지정 평가 스크립트를 작성하도록 에이전트에게 요청할 수도 있습니다. 이 경우, 저는 전사(transcription) 유사성을 확인하는 스크립트를 생성해달라고 에이전트에게 요청했습니다:

마지막으로, 훈련 성능을 요약하는 포괄적인 보고서를 받게 되며, 다음 실행에서 개선할 수 있는 부분이 어디인지 명확히 알 수 있습니다:

직접 해보기!

gemma-trainer는 살아있는 구조화된 문서입니다. 이를 에이전트의 스킬 디렉터리(skills directory)에 넣기만 하면, AI 어시스턴트가 프로세스를 안내하는 방법을 즉시 알게 됩니다.

repository를 확인하고, 이 스킬을 도구 상자에 추가하여 놀라운 무언가를 만들어 봅시다!

읽어주셔서 감사합니다. 즐거운 훈련 되세요!