Embodied.cpp
요약
이질적인 로봇 환경에서 동작하는 Embodied AI 전용 C++ 추론 런타임인 Embodied.cpp를 소개합니다. GGUF 가중치를 활용해 엣지 로봇의 CPU, GPU, NPU에서 VLA 및 world-action 모델을 실행할 수 있습니다. 또한 Tencent의 새로운 대규모 MoE 모델인 Hy3의 출시 소식도 포함되어 있습니다.
핵심 포인트
- Embodied.cpp는 로봇 제어를 위한 휴대 가능한 C++ 추론 런타임임
- GGUF 가중치를 지원하여 CPU, GPU, NPU에서 모델 실행 가능
- Tencent의 Hy3 모델은 295B MoE 규모의 강력한 성능을 제공함
- Hy3는 256K 컨텍스트와 개선된 도구 호출 기능을 갖춤
Embodied.cpp
이질적인 로봇(heterogeneous robots) 환경에서 동작하는 embodied AI 모델을 위한 휴대 가능한 C++ 추론 런타임(inference runtime)입니다.
엣지 측 로봇 제어를 위해 GGUF 가중치를 사용하여 CPU, GPU 또는 NPU에서 VLA 및 world-action 모델을 모두 실행합니다.
논문:
https://paperswithcode.co/paper/2607.02501
…
모든 모델과 사전 변환된 GGUF 가중치는 Hugging Face에서 확인할 수 있습니다:
https://huggingface.co/SEU-PAISys/Embodied.cpp
…
Tencent가 방금 Hugging Face에 Hy3를 출시했습니다.
295B MoE,
21B active.
추론(reasoning), 코딩(coding) 및 에이전트(agents) 분야에서 경쟁사 모델보다 2~5배 더 큰 플래그십 모델과 맞먹습니다.
256K 컨텍스트(context),
환각 방지(anti-hallucination) 개선 및 안정적인 도구 호출(tool calling) 기능을 갖추고 있습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 X @huggingpapers (검증됨)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기