SFT와 QLoRA를 이용한 노트북 iGPU 환경에서의 MATLAB 신호 처리 코드용 Gemma 4 Edge 모델 미세 조정
요약
노트북 iGPU 환경에서 MATLAB 신호 처리 코드 생성을 위해 Gemma 4 Edge 모델에 SFT와 QLoRA를 적용했습니다. OpenVINO로 배포한 결과, E2B 및 E4B 모델의 테스트 통과율이 유의미하게 상승하여 DSP 코딩 능력을 향상시켰습니다. 다만, 어댑터 사용 시 생성 속도 저하(17~19%)가 발생하며 일부 복잡한 오류는 해결하지 못했습니다.
핵심 포인트
- QLoRA와 SFT를 활용해 Gemma 4 Edge 모델을 DSP 코드에 맞게 미세 조정함.
- 노트북 iGPU 환경에서 MATLAB 신호 처리 코딩 능력을 개선하는 데 성공함.
- E2B 및 E4B 모델의 테스트 통과율이 크게 향상되었음 (예: E4B 32/66 → 47/66).
- 어댑터 사용 시 생성 속도가 17~19% 감소하는 오버헤드가 발생함.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG (Machine Learning)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기