FastFlowLM 개발자, 오픈 소스 NPU 소프트웨어 발전을 위해 AMD 합류
요약
FastFlowLM 개발팀이 AMD에 공식적으로 합류하며, 오픈 소스 NPU 소프트웨어 생태계 발전에 기여할 예정입니다. FastFlowLM은 AMD 기술 기반의 AI PC 및 워크스테이션에서 LLM 및 멀티모달 모델을 효율적으로 구동하는 추론 소프트웨어를 개발했습니다.
핵심 포인트
- FastFlowLM 팀이 AMD에 합류하여 NPU 소프트웨어 발전을 가속화합니다.
- 주요 목표는 AMD 기술 기반 AI PC/워크스테이션의 LLM 성능 최적화입니다.
- 오픈 소스 FastFlowLM 코드는 GitHub에서 MIT 라이선스로 제공됩니다.
AMD는 오늘 FastFlowLM의 개발자들이 회사에 합류했다고 발표했습니다. AMD 블로그 게시물을 통해 그들은 다음과 같이 확인했습니다:
"최근 FastFlowLM 팀이 AMD에 합류하면서, 스택 전반에 걸쳐 AI 성능과 효율성을 발전시키기 위한 우리의 전략에서 또 다른 중요한 단계가 마련되었습니다. FastFlowLM은 AMD 기술 기반의 AI PC 및 워크스테이션에서 빠르고 효율적인 대규모 언어 모델(LLM) 및 멀티모달 모델 성능을 제공하는 경량화되고 고도로 최적화된 추론 소프트웨어 흐름을 개발했습니다."
FastFlowLM은 오랫동안 Windows에서 실행되는 ollama 스타일의 개발자 경험을 통해 AMD Ryzen AI NPU 가속에 초점을 맞춰왔습니다. 이는 실제로 AMD Ryzen AI NPU를 활용하는 주요 방법 중 하나였습니다. 오늘 발표 전까지 저는 FastFlowLM 개발자들이 AMD 소속이 아니라고 생각했습니다... 그들이 Ryzen AI에 오랫동안 집중하고 밀접한 관계를 유지해 왔기 때문에 그렇게 가정했었는데, 이제 그들은 공식적으로 AMD의 일부가 되었습니다. FastFlowLM 회사는 병렬 NPU 아키텍처에서 AI/LLM을 발전시키기 위해 학계 연구원들에 의해 시작되었습니다.
"우리는 이 오픈 생태계에 계속 투자할 것을 약속드리며, 온디바이스(on-device) AI의 미래를 함께 구축하게 되어 매우 기쁩니다."
FastFlowLM은 이미 오픈 소스이며, ROCm부터 Lemonade, GAIA 등 AMD의 다른 오픈 소스 AI 노력들과 잘 어우러집니다. 이 개발자들은 클라이언트 및 워크스테이션 AI 소프트웨어와 최신 모델의 데이 제로(day zero) 활성화에 중점을 두고 AMD AI 그룹에 합류합니다.
FastFlowLM 코드는 GitHub에서 MIT 라이선스로 이용 가능합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Phoronix의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기