지금 제가 글을 쓰는 시각은 새벽 2시 43분입니다. 저는 잠자리에 들었다가, MiniMax H3 트레이닝에서 뭔가 문제가 생겨 다시 일어났습니다. H3에서는 유사성(likeness)이 좋아지기 전에 노이즈 범위의 깨끗한 끝 부분(얼굴과 세부 디테일이 다듬어지는 곳)에서의 트레이닝 스텝 공유 비율을 조정해야 했습니다. 그래서 MOSS의 트레이닝 시그마를 Krea 2와 비교해 보았는데, 마치 MiniMax 전체를 다시 보는 것 같았습니다. MOSS 자체 스케줄은 깨끗한 끝 부분에 약 11%의 스텝만 할당하는 반면, Krea 2는 18~28%입니다. 나머지는 레이아웃과 구도에 사용되며, 이것이 에포크(epoch)마다 큰 변화가 생기고 유사성을 잡기 어려웠던 이유를 설명해 줍니다.
제가 MOSS 트레이닝을 위한 새로운 '깨끗한 끝 부분 공유' 옵션을 적용한 업데이트(v8.7.0)를 방금 푸시했습니다. 기본값은 60%입니다. 이 박스를 해제하면 모델 자체의 약 11%로 돌아갑니다. 제가 테스트해 본 결과는 지금 작성하는 시점까지 진행 중인데, 미리보기가 에포크 간에 구도를 유지하고 있으며, 에포크 12에서 이미 이전 설정으로 30 에포크 동안 얻었던 최고 유사성을 넘어섰습니다.
현재 수치들입니다 - 동일한 53개 이미지 데이터셋, 랭크 16, 0.25 MP, LR 1e-4, 동일 시드, ArcFace 유사성 vs 3개 참조 사진: 에포크 1 3 6 9 12 15 30
기존 스케줄 (~11%) 29% 40% 44% 52% 58% 63% 67% (최고)
깨끗한 끝 부분 60% 20% 50% 63% 66% 68% 69% 계속 진행 중
따라서 60%는 이전 실행의 최고치(에포크 12에서 약 640 스텝 대 1,590 스텝)를 넘어섰으며, 에포크 간에 10 포인트씩 변동하는 대신 68~69% 수준을 유지하고 있습니다. 60%는 실험적인 수치이므로 자유롭게 조정해 보시기 바랍니다. 커뮤니티로서 올바른 설정을 찾을 수 있을 것이고, 저희는 60%에서 시작하여 아마 낮출 것입니다. 30%(Krea 2가 위치하는 곳)이 합리적인 다음 시도일 것 같습니다. 발견한 내용을 여기에 게시해 주세요.
Fizgig on GitHub · v8.7.0 릴리스 노트 /u/shootthesound가 제출했습니다 [링크] [댓글]