Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
GitHubAI 번역요약
Protein-Vec 사용 방법 안내
본 문서는 Protein-Vec 모델을 활용하여 단백질 데이터를 인코딩하고 검색하는 방법을 안내합니다. 필요한 패키지 설치부터 모델 및 데이터베이스 다운로드, 그리고 최종적으로 튜토리얼 노트북(gh_encode_and_search_new_proteins.ipynb)을 통해 실제 사용 과정을 단계별로 설명합니다.
10월 7일2
GitHubAI 번역요약
UCLA-VAST/minimap2-acceleration
본 논문은 게놈 시퀀싱에서 시간이 많이 소요되는 리드 쌍 간의 오버랩 감지 과정을 가속화하는 방법을 제시합니다. 체이닝 알고리즘을 하드웨어 친화적으로 변환하고, HLS를 이용해 FPGA 파이프라인 아키텍처로 매핑하여 성능 향상을 달성했습니다. 이 오픈 소스 저장소는 FPGA, GPU(CUDA), CPU 코드를 모두 제공합니다.
10월 7일2
GitHubAI 번역요약
vkblam: vulkan 기반 Halo 1 blam 엔진 그래픽 라이브러리 재구현
vkblam은 Halo 1 blam 엔진의 그래픽 라이브러리를 Vulkan으로 재구현한 프로젝트입니다. 현재는 실험적인 단계로 정적 이미지 생성에 초점을 맞추고 있으며, 사용을 위해서는 공식 Vulkan SDK 설치가 필수적입니다.
10월 7일1
GitHubAI 번역요약
Qwen/Qwen3-VL-4B-Instruct의 HuggingFaceM4/DocumentVQA 벤치마크 개선을 위한 자율 연구 루프
이 저장소는 에이전트 기반 학습(agentic training research)을 위한 프레임워크를 제공합니다. Qwen/Qwen3-VL-4B-Instruct 모델을 사용하여 DocumentVQA 벤치마크의 성능 개선을 목표로 합니다. 에이전트는 `train.py` 파일을 반복적으로 수정하며, 재현 가능한 루프를 통해 검증 점수(val_score) 최대화를 시도합니다.
10월 7일1
GitHubAI 번역요약
ManiSkill: 로봇 시뮬레이션 및 훈련을 위한 오픈소스 프레임워크
ManiSkill은 로봇 시뮬레이션 및 훈련을 위한 오픈소스 프레임워크입니다. GPU 병렬화된 비전 데이터 수집, 높은 처리량의 상태 기반 합성 데이터 수집 등 강력한 기능을 제공합니다. 강화학습(RL)부터 VLA 모델까지 다양한 학습 베이스라인을 지원하며, Sim2real 환경 구축에 용이합니다.
10월 7일1
GitHubAI 번역요약
명령줄에서 Mac GPU 주파수 제어하기 (apple-gpu-dvfs)
이 기사는 명령줄 도구 `apple-gpu-dvfs`를 사용하여 M1부터 M5까지의 Apple Silicon Mac GPU 주파수와 전력을 제어하는 방법을 안내합니다. 이 도구는 커널 확장이나 탈옥 없이도 원하는 와트(watt) 수준으로 전력 제한을 설정하고, 시스템 정보를 조회할 수 있게 합니다.
10월 7일1
GitHubAI 번역요약
TristanBilot/mlx-benchmark
본 저장소는 Apple Silicon 칩과 주요 GPU 환경에서 MLX 연산 및 레이어의 성능을 벤치마킹합니다. 이 벤치마크는 `mlx` 연산을 측정하고, 이를 PyTorch의 `mps`, `cpu`, `cuda` 백엔드와 비교하여 상세/평균 실행 시간을 제공합니다.
10월 7일1
GitHubAI 번역요약
AndroLLM: Android용 온디바이스 AI 플랫폼
AndroLLM은 Android 환경에서 온디바이스 AI 기능을 구현한 프로덕션급 플랫폼입니다. LiteRT-LM 런타임과 `.litertlm` 모델을 사용하여 클라우드 의존성 없이 로컬 LLM 추론, GPU 가속, 영구 메모리 기반 대화 기억 등을 지원합니다. 이를 통해 완전 오프라인의 음성 비서 및 AI 에이전트 기능을 제공합니다.
10월 6일1
GitHubAI 번역요약
효율적인 모델을 위한 구조적 기법
본 자료는 범용 LLM을 특정 작업에 최적화된 초고효율 SLMs로 재설계하는 구조적 기법들을 다룹니다. 깊이/너비 가지치기, 지식 증류 등 핵심 방법론을 소개하며, Llama, Gemma 같은 오픈 소스 모델에 적용할 수 있는 실습 파이프라인을 제공합니다.
10월 6일2
GitHubAI 번역요약
fastvideo/gpu-camera-sample
이 레포지토리는 실시간 머신 비전 카메라 애플리케이션을 위한 GPU 기반 이미지 처리 소프트웨어를 제공합니다. Windows, Linux, ARM 환경에서 작동하며, CUDA를 활용하여 16비트 ISP의 RAW2RGB 처리를 지원합니다. Jetson용 소프트웨어와 성능 측정 기능도 포함하고 있습니다.
9월 28일1
GitHubAI 번역요약
FareedKhan-dev/glm-5.2-in-c
7,440억 개의 파라미터를 가진 MoE 모델인 GLM-5.2를 순수 C 기반 추론 엔진으로 구현했습니다. int4 양자화와 전문가 스트리밍 방식을 적용하여 단 16GB RAM만으로 구동 가능하며, 이를 통해 효율적인 LLM 배포 및 벤치마킹이 가능합니다.
9월 27일1
GitHubAI 번역요약
hummingbird: 대규모 오픈소스 Mixture of Experts (MoE) 언어 모델을 위한 경량 런타임
hummingbird는 대규모 오픈소스 Mixture of Experts (MoE) 언어 모델을 위한 경량의 런타임입니다. 이 런타임은 SSD, RAM, VRAM을 통합한 지능형 메모리 계층을 활용하여 GPT-OSS 120B, GLM, DeepSeek 등 대규모 MoE 모델들을 일반 소비자 하드웨어에서도 효율적으로 추론할 수 있게 합니다.
9월 27일1
GitHub요약
jaeseok614/llm-gpu-checker-ko
본 오픈소스 계산기는 사용자의 로컬 GPU 환경이나 원하는 AI 모델을 기반으로 필요한 인프라와 비용을 비교 분석할 수 있는 웹 도구입니다. RAG, 챗봇 등 다양한 AI 서비스 시나리오에 맞춰 API 비용과 TCO(총 소유 비용)를 추정하고 최적의 GPU 구성을 제안합니다.
9월 23일1
GitHubAI 번역요약
NVIDIA/TensorRT-RTX
TensorRT for RTX는 NVIDIA TensorRT의 성능을 활용하여 데스크톱 및 노트북의 RTX GPU에 AI 모델 배포를 간소화하는 라이브러리입니다. 런타임 JIT 최적화기를 도입해 사전 컴파일 없이도 빠른 엔진 생성과 높은 추론 성능을 제공하며, 크기가 작아 다양한 환경에 적용 가능합니다.
9월 20일2
GitHubAI 번역요약
FedericoTs/quantprobe
quantprobe는 사용자의 실제 하드웨어 환경에서 다양한 GGUF 기반 LLM의 속도와 메모리 적합성을 예측하는 도구입니다. 이를 통해 모델 다운로드 전, 예상 성능(tok/s)과 필요한 배치 정보를 정확히 파악할 수 있습니다.
9월 20일1
GitHubAI 번역요약
chili-chips-ba/openCologne-PCIE
PCIe 엔드포인트를 위한 최초의 오픈소스 소프트 코어 프로젝트입니다. 벤더 종속적인 하드 매크로 없이 데이터 링크, 트랜잭션, 애플리케이션 계층을 지원하며 표준 PIPE 인터페이스를 제공합니다.
7월 4일1
GitHubAI 번역요약
SNU-ARC/any-precision-llm
Any-precision LLM은 다양한 비트 너비로 양자화된 여러 LLM을 단일 모델의 메모리 공간에 중첩하여 배포하는 효율적인 솔루션입니다. incremental upscaling 기술과 비트플레인 기반의 커스텀 CUDA 커널을 통해 메모리 점유 공간과 비용을 획기적으로 절감합니다.
7월 1일2
GitHubAI 번역요약
jjang-ai/jangq
HuggingFace 모델을 macOS 전용 JANG 및 JANGTQ 형식으로 변환하는 네이티브 위저드 도구입니다. Apple Silicon의 MLX 환경에서 대규모 모델을 효율적으로 양자화하고 구동할 수 있도록 최적화된 워크플로우를 제공합니다.
6월 30일1
GitHubAI 번역요약
intel/neural-compressor
Intel Neural Compressor는 PyTorch, TensorFlow, JAX 등 주요 프레임워크를 지원하는 오픈 소스 모델 압축 라이브러리입니다. 양자화, 혼합 정밀도 등 다양한 기술을 통해 LLM 및 VLM의 효율적인 배포를 지원합니다.
6월 23일1
GitHubAI 번역요약
ModelCloud/GPTQModel
GPTQModel은 다양한 하드웨어 가속을 지원하는 LLM 양자화 및 압축 툴킷입니다. NVIDIA CUDA, AMD ROCm, Huawei Ascend NPU 등 광범위한 하드웨어 지원과 함께 최신 모델들에 대한 지속적인 업데이트를 제공합니다.
6월 21일1