Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
GitHubAI 번역요약
UNITES-Lab/MoE-Quantization
MoE 모델의 효율적인 확장을 방해하는 메모리 오버헤드를 해결하기 위해 구조 인식 양자화(Structure-aware quantization)를 연구합니다. MoE의 고유한 희소성을 고려하여 블록, 전문가, 선형 레이어별로 최적의 비트 할당 방식을 제안합니다.
5월 30일1
GitHubAI 번역요약
GPU 가속 트리 기반 진화계산 라이브러리 evogp 소개
evogp 는 PyTorch 와 커스텀 CUDA 커널을 활용하여 고성능 트리 기반 진화계산 (Evolutionary Computation) 을 제공하는 GPU 가속 라이브러리입니다. 기호 회귀, 분류, 정책 최적화 등 다양한 작업을 지원하며, 다중 출력 트리 및 벤치마크 도구 같은 고급 기능을 갖추고 있어 대규모 데이터셋과 복잡한 모델 구조를 다루는 연구자와 개발자들에게 유용합니다.
4월 26일8
GitHubAI 번역요약
Obsidian-Memory-Transformer: CUDA 기반 새로운 LLM 아키텍처
sahibzada-allahyar/Obsidian-Memory-Transformer 레포지토리는 대규모 컨텍스트 윈도우를 위한 혁신적인 장기 기억 (LTM) 메커니즘을 갖춘 새로운 LLM 아키텍처입니다. 고성능 저수준 C++ 및 CUDA 로 작성되어 최적화된 성능을 제공합니다.
4월 25일6