Fizgig 8.6 출시: MOSS-Image 유사성 개선 및 초기 학습 팁

Fizgig 8.6이 몇 가지 MOSS-Image 변경 사항과 함께 출시되었습니다. LoRA가 이전에 제외되었던 블록 22(AI Toolkit처럼)를 이제 학습하며, 제가 측면 비교 테스트에서 첫 에포크부터 유사성이 개선되고 에포크 간 안정성도 높아졌습니다. 지금까지 테스트하면서 얻은 몇 가지 팁을 공유합니다만, 저는 아직 이 모델을 배우는 중이라는 점을 감안해 주십시오.

ComfyUI에서는 Base로 학습하고 LoRA를 SFT에 사용하는 것이 좋습니다. 왜냐하면 Base가 저에게 SFT보다 더 안정적으로 학습되었기 때문입니다. 만약 SFT로 학습하고 싶다면, 'Base is SFT or a fine-tune of it' 체크박스가 새로 생겼는데, 이것을 사용하면 LoRA가 어텐션(attention)에만 유지됩니다. 이 옵션을 사용하지 않으면 몇 에포크 만에 해부학적 구조가 망가지기 때문입니다.

Fast 프리셋이 돌아왔습니다 (0.25 MP, rank 16). 그리고 face-cropped dataset(Image Prep의 얼굴 자르기)에서는 매우 잘 작동합니다. 오늘 일찍 제가 0.25 MP가 모델에 적합하지 않다고 말했지만, 저는 틀렸습니다. 문제는 테스트 중 실수로 블록 22를 제외했기 때문에 잘못된 결론을 내린 것이었습니다. 시간을 주세요: MOSS는 처음에는 빠르게 수렴하는 것처럼 보이지만 최적점에 도달하기까지 느리게 수렴하는 경향이 있고, 유사성이 정체된 것처럼 보여도 계속 개선될 수 있습니다. 그래서 프리셋은 이제 70 에포크 동안 실행됩니다. 데이터셋이 약 25장의 이미지인 경우가 아니라면 70 에포크가 필요하지 않을 가능성이 높습니다.

Rank 32, 1MP의 Standard 프리셋은 더 빠르게 수렴하는 느낌을 주어 느린 스텝 시간과 상쇄되는 것처럼 느껴집니다. 따라서 Fast는 결국 낮은 vram 사용량과 관련된 이름으로 변경될 수도 있지만, 저는 하루 동안 충분한 조정을 거쳤고 앞으로 24시간 동안 어떻게 자리 잡을지 보고 싶습니다.

이것은 일종의 퍼즐 같았습니다. 오늘 설정 테스트를 위해 너무 많은 runpod를 돌렸고 - 분명 더 찾아낼 것이 있습니다. 따라서 다른 설정을 사용해서 좋은 결과를 얻으셨다면 저에게 알려주시면 좋겠습니다. 또한, 작은 카드에서 블록 스왑 시 MOSS 미리보기가 충돌하는 문제도 수정되었습니다 (u/Ferocit 님께 감사드립니다).

https://github.com/shootthesound/Fizgig
Release notes: https://github.com/shootthesound/Fizgig/releases/tag/v8.6.0 submitted by /u/shootthesound [link] [comments]