Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
GitHub ML Hardware 70건필터 해제
NVIDIA RTX 50 시리즈 전용 AI 툴킷 설치 스크립트 공개
GitHub에 'ostris-ai-toolkit-50gpu-installer'라는 새로운 Shell 기반 설치 스크립트가 등장했습니다. 이 도구는 NVIDIA RTX 50 시리즈 GPU를 최적화하여, Python 3.12 가상 환경을 구축하고 PyTorch(CUDA 12.8), Triton 및 모든 필수 의존성을 자동으로 설치합니다. 최신 하드웨어를 빠르게 AI 개발 환경으로 전환하려는 개발자에게 유용한 오픈소스 도구입니다.
CUDA 코드 자동 최적화 기술 (cuda-optimization-skill)
Python 기반의 오픈소스 프로젝트 'gxinlong/cuda-optimization-skill'은 CUDA 코드를 자동으로 최적화하는 새로운 기술을 제공합니다. 현재 GitHub에서 31개의 스타를 보유하고 있으며, 딥러닝 및 고성능 컴퓨팅 분야에서 GPU 성능을 극대화하고자 하는 개발자들에게 유용한 도구로 주목받고 있습니다.
AI 에이전트로 자율적인 GPU 커널 최적화 시스템
CUDA-evolve-oss는 AI 에이전트를 활용하여 GPU 커널을 자동으로 최적화하는 오픈소스 프로젝트입니다. 기존에 수동으로 튜닝해야 했던 복잡한 GPU 코드를 AI가 스스로 분석하고 개선함으로써, 개발자의 시간을 절약하고 하드웨어 성능을 극대화할 수 있습니다.
NVIDIA/cuda-tile
NVIDIA/cuda-tile 는 MLIR 기반의 중간 표현(IR) 과 컴파일 인프라로, NVIDIA 텐서 코어 유닛을 대상으로 한 타일 기반 계산 패턴 및 최적화에 특화되어 있습니다. C++ 로 작성된 이 오픈소스 프로젝트는 CUDA 커널 성능 향상을 위한 새로운 컴파일링 접근법을 제공합니다.
KernelFlow-ops/cuda-optimized-skill
KernelFlow-ops/cuda-optimized-skill 은 커스텀 GPU 오퍼레이터의 성능을 개선하기 위한 CUDA 커널 최적화 툴킷입니다. 이 프로젝트는 Nsight Compute 프로파일링, 벤치마킹, 병목 현상 분석 및 반복적 튜닝을 지원하여 재현 가능한 워크플로우와 증거 기반의 성능 비교를 가능하게 합니다.
YiRage: 멀티 백엔드 지원 LLM 추론 최적화 엔진
chenxingqiang/YiRage 는 C++ 기반의 고성능 LLM 추론 최적화 라이브러리로, 기존 Mirage 를 확장하여 CUDA, MPS, CPU, Triton, NKI, cuDNN, MKL 등 다양한 하드웨어 및 소프트웨어 백엔드를 통합 지원합니다. 개발자는 특정 GPU 아키텍처나 환경에 제한받지 않고 유연하게 모델을 배포할 수 있으며, 멀티플랫폼 추론 성능을 극대화할 수 있습니다.
NVIDIA CUDA-Q Academic: 하이브리드 양자 알고리즘 최적화 가이드
NVIDIA의 CUDA-Q Academic 레포지토리는 양자 컴퓨팅 초보자를 위한 자습용 Jupyter 노트북 모ジュール을 제공합니다. 이 자료는 CUDA-Q를 사용하여 고전 컴퓨터와 양자 프로세서를 결합한 하이브리드 알고리즘을 구축하고 최적화하는 방법을 단계별로 설명합니다. 양자 화학 및 오류 정정 등 실제 응용 사례를 통해 HPC(고성능 컴퓨팅) 환경에서의 병렬 프로그래밍 기술을 습득할 수 있습니다.
LichtFeld-Studio: 단일 앱으로 3D 가우시안 스플래팅 완전 제어
MrNeRF/LichtFeld-Studio 는 C++ 로 작성된 단일 네이티브 애플리케이션으로, 3D Gaussian Splatting 씬을 훈련 (Train), 검사 (Inspect), 편집 (Edit), 자동화 (Automate), 그리고 내보내기 (Export) 할 수 있는 통합 솔루션입니다. CUDA 와 최적화 기술을 활용하여 컴퓨터 그래픽스 및 비전 분야에서 고품질 3D 재현 작업을 효율적으로 수행할 수 있습니다.
raketenkater/llm-server: 로컬 LLM 추론을 위한 지능형 오토메이터
raketenkater/llm-server 는 llama.cpp 와 ik_llama.cpp 를 실행할 때 GPU 자동 감지, MoE 모델 배치 최적화, 충돌 복구 기능을 제공하는 스마트 런처입니다. Apple Silicon(Metal) 및 CUDA 환경 모두 지원하며, 복잡한 설정 없이 로컬 AI 추론 환경을 즉시 구축하고 안정적으로 운영할 수 있습니다.
NVIDIA/TensorRT-LLM: GPU 기반 LLM 추론 최적화 프레임워크
TensorRT-LLM은 NVIDIA GPU에서 대규모 언어 모델(LLM) 추론을 효율적으로 수행하기 위한 파이썬 API를 제공합니다. 최신 최적화 기법을 지원하며, 성능 높은 추론 실행을 오케스트레이션하는 파이썬 및 C++ 런타임 컴포넌트를 포함합니다.
이 피드 구독하기
본 페이지의 콘텐츠는 AI가 공개된 소스를 기반으로 자동 수집·요약·번역한 것입니다. 원 저작권은 각 원저작자에게 있으며, 각 게시물의 “원문 바로가기” 링크를 통해 원문을 확인할 수 있습니다. 저작권자의 삭제 요청이 있을 경우 신속히 조치합니다.