업데이트: Kroma, A Krea-2 파인튜닝

[ I'm posting this on behalf of u/LodestoneRock since for some reason his post on this sub keep getting auto removed by Reddit. ] 여러분 안녕하세요. 우선 이 프로젝트를 지원해 주신 모든 분들께 감사드립니다. 그리고 최고의 타협 없는 베이스 모델을 만들어 준 Krea 팀에게도 감사합니다. 이전 실행에서는 제가 모델을 디실링(un-distill)해야 했지만, Krea 팀이 친절하게 실제 베이스 모델을 제공해 주었습니다. 훈련 비용은 이전 Chroma 실행보다 훨씬 저렴합니다. 물론 '저렴하다'는 것은 상대적인 개념이지만, 여전히 로컬에서 구동하는 데 약 ~10K RTX pro 6000 시간(4xGPU 머신에서 3개월 이상)이 소요되며, 여기에는 여러 실패한 실험과 훈련 중 발생한 버그들이 포함되어 있습니다. 또한 2개의 RTX pro 6000 기증을 해준 ComfyOrg에도 감사드립니다 ♥️ 베이스 Krea는 붕괴되지 않아 제가 그 위에 OPD (RL)를 직접 수행할 수 있습니다. 결과적으로, 별도의 작업 없이도 좋은 생성을 얻으실 수 있을 것입니다. 여기에 몇 가지 결과를 공유합니다: 여기에서 다운로드하실 수 있습니다: https://huggingface.co/lodestones/Kroma (Civitai 링크는 곧 제공됩니다). 그래서 다음 계획은 무엇일까요? 제 pixel space run chroma radiance와 zeta chroma 같은 여러 중단된 프로젝트들이 있지만, 제한적인 컴퓨팅 자원 때문에 현재로서는 이들을 계속 진행하지 않기로 결정했습니다. 지금의 초점은 더 나은 데이터셋(품질의 약 90%가 여기서 나옵니다)을 구축하는 동시에 배경에서 kroma에 더 많은 지식을 추가하는 것입니다. 데이터셋 큐레이션이 완료되면 가까운 미래에 h3와 같은 비디오 생성 모델을 다루고 싶지만, 비디오 모델을 파인튜닝하는 데는 천문학적인 컴퓨팅 비용이 들기 때문에, 모델 훈련을 위한 하드웨어 확보를 위해 자금을 찾고 있습니다. 저는 하드웨어 자금 기증이 큰 도움이 된다고 확신합니다. 왜냐하면 임대료나 실패한 실험에 돈을 '태우는' 심리적 부담을 걱정할 필요 없이 지속 가능한 방식으로 무기한 더 많은 실험을 할 수 있기 때문입니다. 목표는 RTX pro 6000 4개를 더 확보하는 것이지만, 이는 총 6만 달러 정도가 되어 엄청난 금액입니다!

제가 이 목표에 즉시 도달할 것이라고는 기대하지 않습니다. 이건 축적된 기부금의 속도에 맞춰 한 장씩 조금씩 모아가는 것에 가깝습니다. 금액에 상관없이 모든 기여가 도움이 되니, 여러분의 지원 없이는 이 프로젝트 자체가 불가능합니다! 제 디스코드: discord.gg/SQVcWVbqKx [Lodestone이 댓글로 그의 지원 및 기부 링크를 게시할게요.] /u/KadahCoba님이 제출함 [링크] [댓글]