$D^3$: LLM 학습을 위한 동적 방향성 그래프 제약 데이터 스케줄링 (Dynamic Directional Graph-Constrained

요약

LLM 학습 효율을 높이기 위해 데이터 샘플 간의 상호작용을 고려한 새로운 데이터 스케줄링 프레임워크 $D^3$를 제안합니다. 데이터 간의 방향성 영향을 동적 그래프로 모델링하여 최적의 학습 순서를 도출하며, 사전 및 사후 학습 단계 모두에서 성능 개선을 입증했습니다.

핵심 포인트

• 데이터 샘플 간의 방향성 영향력을 고려한 스케줄링 제안
• 손실 기반 의존성을 활용한 동적 영향 그래프 구축
• 제약 최적화 문제를 통한 효율적인 학습 순서 도출
• 사전 및 사후 학습 단계에서 기존 방식 대비 성능 개선
• 계산 오버헤드를 최소화하는 효율적인 근사 알고리즘 채택