오늘의 트렌드
최근 24시간최근 글과 출처가 충분히 쌓이면 근거를 확인한 코멘트를 표시합니다.
Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
r/LocalLLaMAAI 번역분석
Ternary Bonsai 2 (2B, 4B, 9B)가 Hugging Face에 출시되었습니다. 2B 모델은 M4 Max에서 커스텀
Ternary Bonsai 2 (2B, 4B, 9B) 모델이 Hugging Face에 출시되었습니다. 특히 2B 모델은 M4 Max 환경에서 커스텀 최적화가 이루어졌습니다. 이 정보는 새로운 AI 모델의 공개 및 기술적인 접근성을 강조합니다.
10월 15일1
r/LocalLLaMAAI 번역분석
Nvidia의 Qwen3.8-Flash-Next 모델 FP4 QAD 양자화 정보
본문에는 Nvidia가 Qwen3.8-Flash-Next 모델을 FP4 QAD로 양자화하는 정보가 포함될 예정임을 암시합니다. 다만, 제공된 본문은 실제 기술 내용 대신 '인간 인증' 챌린지 문구만 반복하고 있어 구체적인 분석이 어렵습니다.
10월 15일1
r/LocalLLaMAAI 번역분석
Flux.3 Image Klein 출시
FLUX 3 Image Klein은 텍스트-이미지 생성 및 이미지 편집을 위한 5.6B 오픈 웨이트 모델입니다. 이 모델은 프롬프트와 최대 10개의 참조 이미지를 입력받아 하나의 결과 이미지를 반환합니다. 텍스트 인코더로는 Qwen3-VL-4B-Instruct를 사용하며, 단일 및 다중 참조 합성 작업 모두 동일한 모델로 처리할 수 있습니다.
10월 15일0
r/LocalLLaMAAI 번역분석
nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB · Hugging Face
NVIDIA Nemotron 3.5 Bolt 74B-A9B는 로컬 환경에서 에이전트 작업을 수행하도록 설계된 VLM입니다. 네이티브 2비트 양자화와 Mamba-Transformer 하이브리드 아키텍처를 채택하여, 메모리 효율성과 속도 및 지능 사이의 최적 균형을 제공합니다. 이 모델은 텍스트, 이미지, 비디오 등 다양한 입력을 처리할 수 있습니다.
10월 15일0
r/LocalLLaMAAI 번역분석
Mistral AI의 Timestral: 시계열 기반 모델 소개
Mistral AI가 시계열 예측을 위한 파운데이션 모델 제품군인 Timestral을 공개했습니다. 이 모델은 5M부터 209M 매개변수 버전까지 제공되며, 단변량 및 다변량 예측을 지원합니다. 최대 32,768개의 과거 데이터를 수용하고 단일 패스로 최대 1,024단계까지 확률적 예측이 가능합니다.
10월 15일1
r/LocalLLaMAAI 번역분석
Nemotron Super 3.5 VL 및 Nemotron Bolt 74B A9B 지원 추가
Nemotron 팀이 Nemotron 3.5 Super VL 모델을 출시했으며, 이는 day 0 지원을 목표로 합니다. 이 모델은 Hugging Face를 통해 다양한 형식(120B A12B 및 GGUF)으로 제공되어 접근성이 높아졌습니다.
10월 15일0
r/LocalLLaMAAI 번역분석
16GB VRAM에 맞는 21개 모델에 대한 Qwen3.8 27B KLD 테스트 결과
본 글은 16GB VRAM 환경에서 Qwen3.8 27B 모델의 KLD와 perplexity를 테스트한 결과를 공유합니다. 결론적으로, q5_1/q5_1 양자화가 다른 조합보다 전반적으로 우수하며, 가능한 가장 높은 quant로 q4_0/q4_0을 선택하는 것이 권장됩니다.
10월 15일1
r/LocalLLaMAAI 번역분석
새로운 TTS 강자 등장: Fish's Drama 3 (35B3A)
Fish가 새로운 텍스트-음성 변환(TTS) 모델인 Drama 3 (35B3A)을 출시했습니다. 이 모델은 MoE 구조를 가지며, DGX Spark 환경에서 잘 작동합니다. 4비트 양자화 버전도 원본에 근접한 성능을 보여주어 사용자가 데모나 로컬 환경에서 쉽게 체험할 수 있습니다.
10월 15일2
r/LocalLLaMAAI 번역분석
Stepfun Step-5-Preview 출시! (600B/27B - 1M Context)
Stepfun Step-5-Preview 모델이 출시되었으며, 600B 및 27B 파라미터 크기와 1M 컨텍스트 창을 지원합니다. 이 정보는 새로운 대규모 언어 모델의 성능과 확장성을 강조하며, 사용자들에게 실제 사람임을 증명하는 챌린지를 통해 접근하고 있습니다.
10월 15일2
r/LocalLLaMAAI 번역분석
Pi Agent에서 LFM2.5-24B-A2B 모델 사용 후기
사용자는 새로운 LFm2.5-24B-A2B LiquidAI 모델의 성능을 테스트하고, 기존에 주로 사용하던 Ornith 1.5-35B와 비교했습니다. 이 모델은 Pi Agent 환경에서 매우 빠르고 신뢰성이 높아 다양한 워크플로우에서 좋은 '작업마(workhorse)' 역할을 할 수 있음을 확인했습니다.
10월 15일1
r/LocalLLaMAAI 번역분석
Tessera-27B-B-CJK: 새로운 Qwen의 finetune 모델로 토큰 절약에 대한 혁신적인 접근 방식을 제시하다
Tessera-27B-B-CJK는 Qwen3.8-27B 코딩 에이전트를 기반으로, CJK(중국어, 일본어, 한국어)를 압축하여 사고하는 혁신적인 모델입니다. 이 접근 방식은 에이전트 루프 과정에서 필요한 토큰 사용량을 획기적으로 줄여 효율성을 높였습니다. 모델은 약어로 생각하지만, 최종 출력과 도구 호출은 일반 영어와 코드로 유지되어 사용자 시스템과의 호환성이 뛰어납니다.
10월 14일1
r/LocalLLaMAAI 번역분석
Telperion의 새로운 모델: Qwen3.8-27B-MLA 및 Qwen3.8-27B-GLA-g2
Telperion이 Qwen3.8-27B의 잠재 어텐션(latent attention) 변형 모델인 Qwen3.8-27B-MLA 및 Qwen3.8-27B-GLA-g2를 발표했습니다. 이 모델들은 KV 캐시를 최대 4배 압축하여 소비자/서버 하드웨어에서 컨텍스트 크기 또는 동시 처리량을 크게 늘릴 수 있습니다. 또한, 양자화 버전도 높은 충실도를 유지하며 제공됩니다.
10월 14일2
r/LocalLLaMAAI 번역분석
MiniCPM-V 4.7 데모로 본, 휴대폰에서 구동되는 35B 멀티모달 모델의 가능성
OpenBMB가 MiniCPM-V 4.7 데모를 통해 온디바이스(on-device) 멀티모달 모델의 가능성을 제시했습니다. 특히 35B MoE 비전-언어 모델을 모바일 기기에서 구동하는 것이 핵심이며, LES와 같은 최적화 기술로 효율성을 높였습니다.
10월 14일1
r/LocalLLaMAAI 번역분석
Mr.Chatterbox-2.7B-Chat: 빅토리아 시대 텍스트로 처음부터 학습된 모델
Mr.Chatterbox-2.7B-Chat 모델이 빅토리아 시대 텍스트를 사용하여 사전 학습 및 미세 조정되었습니다. 이 프로젝트는 역사적 정확도를 극대화하는 데 초점을 맞추었으며, 관련 문서와 코드는 외부 링크에서 확인할 수 있습니다.
10월 14일2
r/LocalLLaMAAI 번역분석
현재 사용 가능한 최고의 로컬 TTS 모델: BreezeBlue-tts-2
현재 사용 가능한 최고의 로컬 TTS 모델로 BreezeBlue-tts-2가 언급되었으나, 비상업적 라이선스라는 제약이 있습니다. 무료 사용 환경에서는 moss tts 1.5가 현재 가장 좋은 대안으로 제시되었습니다.
10월 14일1
r/LocalLLaMAAI 번역분석
AI 경쟁: 중국의 오픈 가중치 모델이 미국 폐쇄형 모델에 7개월 정도 뒤처지다
새로 공개된 오픈 소스 AI 리더보드 whatmodel.sh는 방대한 벤치마크 데이터를 기반으로 모델 성능을 비교합니다. 이 데이터는 독립적인 평가와 연구실 보고 점수를 모두 포함하며, 투명성을 높여 사용자들에게 신뢰할 수 있는 정보를 제공하는 것이 특징입니다.
10월 14일1
r/LocalLLaMAAI 번역분석
LiquidAI의 LFM2.5-24B-A2B 모델 소개
LiquidAI가 240억 개의 총 파라미터를 가지지만 활성 파라미터는 20억 개만 사용하는 LFM2.5-24B-A2B 모델을 공개했습니다. 이 모델은 온디바이스 환경에서 빠르고 사적인 에이전트 구축에 최적화되었으며, MoE 구조를 통해 높은 효율성과 성능을 자랑합니다.
10월 13일1
r/LocalLLaMAAI 번역분석
Qwen 3.8 Flash Next Q3 S - 벤치마크 생성
사용자는 Opencode 환경에서 Qwen 3.8 Flash Next IQ3_S 모델을 테스트하고 그 결과를 공유했습니다. 작은 크기의 모델임에도 불구하고, 약 90 tk/s의 높은 디코딩 속도를 달성하여 인상적인 성능을 보여주었습니다. 특히 구체적이고 단계적인 프롬프팅(계획 요청 -> 구축 요청)이 좋은 결과를 이끌어냈습니다.
10월 13일1
r/LocalLLaMAAI 번역분석
openbmb/MiniCPM-V-4.7-1B 모델 소개
MiniCPM-V 4.7은 1B 변형으로 제공되는 최신 MLLM 모델로, 단일/다중 이미지 및 비디오 이해 기능을 갖추고 있습니다. 이 모델은 효율적인 아키텍처와 온디바이스 배포 지원을 통해 성능과 추론 효율성 모두에서 높은 수준의 '기능 밀도'를 달성했습니다.
10월 12일1
r/LocalLLaMAAI 번역분석
openbmb/MiniCPM-V-4.7-35B-A3B
MiniCPM-V 4.7은 최초의 오픈소스 MoE(Mixture of Experts) 구조를 가진 MLLM 모델로, 온디바이스 추론에 최적화되었습니다. Lookahead Expert Scheduling (LES) 기술과 양자화를 결합하여 성능 저하 없이 iPhone 17 Pro Max에서 높은 디코딩 속도를 달성했습니다. 또한 LLaVA-UHD v4의 압축 기술을 활용해 효율적인 아키텍처를 갖추고 광범위한 플랫폼 지원 및 개발자 친화적 기능을 제공합니다.
10월 12일1