안녕하세요 여러분, 저는 다양한 생성 패러다임을 동일한 프레임워크 내에서 로드, 학습 및 추론할 수 있도록 설계된 JAX/Flax (NNX) 라이브러리인 DantinoX의 공동 작업에 참여했습니다. 주요 목표는 학습 루프를 다시 작성하거나 완전히 다른 코드베이스 사이를 오갈 필요 없이, 생성 방법들 간의 진정한 '사과 대 사과(apples-to-apples)' 비교를 가능하게 하는 것이었습니다. 현재 설정 플래그를 변경하는 것만으로 세 가지 패러다임 사이를 전환할 수 있습니다: 표준 자기회귀 (Standard Autoregressive (AR)), 이산 마스크 확산 (Discrete Masked Diffusion), 연속 흐름 매칭 (Continuous Flow-Matching). 이 라이브러리는 JAX/Flax를 기반으로 구축되었으므로 멀티 GPU (Multi-GPU)를 네이티브로 처리하며, 현대적인 아키텍처 구성 요소들(GQA, MLA, MoE, LoRA)을 즉시 지원합니다. 워크플로우(학습, 패러다임 전환, 생성 및 프로파일링)를 2분 이내에 보여주는 짧은 터미널 데모를 여기에서 확인하실 수 있습니다:

문서, 벤치마크 및 코드는 여기에 있습니다: https://dantinox.readthedocs.io/en/latest/ 현재 저희는 설정 옵션을 확장하고 학습 및 추론 속도를 최적화하는 작업을 진행 중입니다. 질문이 있으시면 말씀해 주세요. 피드백과 제안은 언제나 환영합니다.