Space Network of Experts: Architecture 및 Expert Placement

요약

본 논문은 우주 데이터 센터에서 대규모 언어 모델(LLMs)을 효율적으로 분산 배포하는 'Space Network of Experts (Space-XNet)' 프레임워크를 제안합니다. 이 프레임워크는 MoE(Mixture-of-Experts) 모델의 특성을 활용하여, LLM의 구성 요소들을 여러 위성 네트워크에 최적화된 방식으로 배치하고 매핑하는 두 단계의 전략을 제시합니다. 실험 결과, Space-XNet은 기존 방식 대비 최소 3배의 지연 시간 감소 효과를 입증하며 우주 기반 AI 컴퓨팅의 실현 가능성을 높입니다.

핵심 포인트

• 우주 데이터 센터는 고효율 태양 에너지 수확을 통해 LLM 실행에 유망한 플랫폼으로 부상하고 있으나, 제한된 자원이 핵심 도전 과제이다.
• LLMs를 위성 네트워크에 분산 배포하는 것은 모델 구조와 네트워크 토폴로지의 차이로 인해 복잡한 배치 최적화 문제(Placement Problem)를 야기한다.
• Space-XNet 프레임워크는 MoE 모델의 분산 실행을 목표로 하며, '레이어 배치'와 '인트라 레이어 전문가 배치'라는 2단계 전략으로 구성된다.
• 제안된 최적화 전략은 자주 활성화되는 전문가는 예상 지연이 낮은 경로 상의 위성에 매핑해야 한다는 직관적인 원칙에 기반한다.
• 실험적으로, Space-XNet은 대규모 위성 군집에서 기존 배치 전략 대비 최소 3배의 지연 시간 감소를 달성했다.