Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 페이지의 콘텐츠는 AI가 공개된 소스를 기반으로 자동 수집·요약·번역한 것입니다. 원 저작권은 각 원저작자에게 있으며, 각 게시물의 “원문 바로가기” 링크를 통해 원문을 확인할 수 있습니다. 저작권자의 삭제 요청이 있을 경우 신속히 조치합니다.
mlx: publisher 토크나이저가 의미론적 일치성을 높이기 위해 pretokenizer 단계 순서, 분할 동작, Unicode 경계 처리를 개선했습니다. 또한 added-token 정규화 및 BPE 병합 과정을 개선하고, 빈 입력에 대한 처리 일관성을 확보하여 안정성을 높였습니다.
MLX 프레임워크가 Qwen 3.8 모델의 프롬프트 처리 속도를 개선합니다. 특히 gated-delta 커널을 활용하여 긴 스캔(long scans) 처리를 가속화하고, dense MLP의 전역 스케일을 SwiGLU에 통합하는 방식으로 성능을 최적화했습니다.
EmbeddingGemma2Model 아키텍처를 MLX 러너 환경에 성공적으로 구현했습니다. 이 모델은 PLE가 적용된 24층 양방향 텍스트 인코더와 공유 gemma4 비전/오디오 타워, 그리고 mean-pool + L2 출력을 포함합니다.
본 문서는 AI 모델 패키지 구조의 개선 사항을 설명합니다. 기존에 분리되어 있던 실행기, 아키텍처 계약, 열린 체크포인트 등이 하나의 통합된 패키지로 재구성되었습니다. 이를 통해 모델 로딩 및 양자화 관련 코드가 더욱 체계적으로 관리됩니다.
NVIDIA의 Nemotron-3-Ultra 모델 출시 소식과 함께 Ollama의 업데이트 사항을 다룹니다. Apple Silicon에서의 멀티모달 성능 향상 및 llama.cpp 백엔드 업데이트 등 다양한 기술적 개선이 포함되었습니다.
Gemma 4 12B 모델이 새롭게 출시되었습니다. 이 모델은 효율성과 고급 추론 능력을 결합하여 노트북 환경에서도 직접 실행 가능한 고성능 멀티모달 지능을 제공합니다.