Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
r/LocalLLaMAAI 번역분석
Session-Adaptive Orthogonal Distillation (SAOD)? 기술이 744B (1.5TB)를 100GB 미만으로
SAOD(Session-Adaptive Orthogonal Distillation) 기술을 통해 744B 규모의 거대 모델을 100GB 미만으로 압축하는 연구를 소개합니다. 이를 통해 8GB VRAM 환경에서도 70-100B MoE 모델을 실행할 수 있는 가능성을 제시합니다.
7월 22일0
r/LocalLLaMAAI 번역분석
Laguna S 2.1 루핑(looping) 문제 해결 패치 출시 예정
Poolside가 Laguna S 2.1 모델의 루핑(looping) 문제를 해결한 Full Precision 및 FP8 업데이트 버전을 출시할 예정입니다.
7월 22일0
r/LocalLLaMAAI 번역분석
OpenCode를 이용한 Laguna S 2.1의 코딩 성능 테스트
Poolside의 Laguna S 2.1 모델을 OpenCode를 통해 코딩 성능 테스트한 결과, 기대치에 미치지 못하는 성능을 보였습니다. 모델이 생성 도중 반복적으로 멈추거나 여러 번의 프롬프트 입력이 필요한 등 불안정한 모습을 보였습니다.
7월 22일0
r/LocalLLaMAAI 번역분석
Arcee AI, 올해 말 1T 오픈 웨이트(open-weight) 모델인 Genesis-Science-1 (GS1) 출시 예정
Arcee AI와 미국 에너지부(DOE)가 과학 연구를 위한 1조 파라미터 규모의 오픈 웨이트 모델인 Genesis-Science-1(GS1) 개발을 발표했습니다. GS1은 올해 말 기술 보고서와 함께 오픈 소스로 출시될 예정이며, 국가 연구소와 기관들이 민감한 데이터를 안전하게 처리할 수 있는 독자적인 모델 환경을 제공하는 것을 목표로 합니다.
7월 22일0
r/LocalLLaMAAI 번역분석
microsoft/Fara1.5-27B · Hugging Face
Microsoft Research에서 개발한 Fara1.5-27B는 스크린샷을 기반으로 웹 브라우저를 조작하는 멀티모달 컴퓨터 사용 에이전트입니다. Qwen3.5-27B를 기반으로 하며, 시각적 인지를 통해 클릭, 타이핑 등 복잡한 웹 작업을 엔드투엔드로 수행합니다.
7월 22일0
r/LocalLLaMAAI 번역분석
Mage-Flow - 이미지 생성 및 편집을 위한 효율적인 네이티브 해상도 파운데이션 모델 - Microsoft
Microsoft가 공개한 Mage-Flow는 4B 규모의 컴팩트한 생성 스택으로, 텍스트 기반 이미지 생성 및 편집을 지원합니다. 토크나이저와 백본의 공동 설계를 통해 적은 컴퓨팅 자원으로도 고해상도 및 다양한 종횡도의 고품질 이미지를 효율적으로 생성합니다.
7월 22일0
r/LocalLLaMAAI 번역분석
Cactus Hybrid: Gemma 4가 자신이 틀렸을 때를 알 수 있도록 학습시킨 방법
Gemma 4 E2B 모델이 자신의 답변 정확도를 스스로 판단할 수 있도록 은닉 상태(hidden state)를 활용한 프로브 레이어를 학습시킨 연구 결과입니다. 이를 통해 모델은 신뢰도 점수를 제공하며, 낮은 신뢰도 시 더 큰 모델로 작업을 라우팅하는 하이브리드 전략을 가능하게 합니다.
7월 22일0
r/LocalLLaMAAI 번역분석
Kimi K3가 '사이버 가드레일' 때문에 거부했던 15가지 심각한 보안 버그를 수정하다
Kimi K3 모델이 사이버 가드레일로 인해 탐지하지 못했던 15가지의 심각한 보안 버그를 수정했다는 소식입니다. Hugging Face의 보안 사고 보고를 바탕으로 모델의 보안 취약점 개선 사례를 다룹니다.
7월 22일0
r/LocalLLaMAAI 번역분석
GLM 5.2, 공식 ProgramBench 리더보드에서 3위 달성
GLM 5.2 모델이 소스 코드 재구축 능력을 평가하는 ProgramBench 리더보드에서 3위를 달성했습니다. 바이너리 파일만으로 코드를 복원하는 도전적인 과제에서 매우 높은 성능을 보여주었습니다.
7월 22일0
r/LocalLLaMAAI 번역분석
joerowell의 Laguna XS.2 및 M.1 지원 추가 · Pull Request #25165 · ggml-org/llama.cpp
llama.cpp 프로젝트에 Laguna XS.2 및 M.1 모델 지원이 추가되었습니다. Laguna 시리즈는 에이전트 기반 코딩과 장기 작업을 위해 설계된 MoE(Mixture-of-Experts) 모델입니다.
7월 22일0
r/LocalLLaMAAI 번역분석
ASCIITermDraw-Bench | 비전, 문제 정의 및 워크플로우 설명
ASCIITermDraw-Bench는 LLM과 VLM의 ASCII 다이어그램 생성 및 편집 능력을 평가하는 새로운 벤치마크입니다. 아키텍처, 네트워크 토폴로지 등 4개 영역 80개 태스크를 통해 인간과 AI 간의 시각적 소통 능력을 구조적·의미적 점수로 정밀하게 측정합니다.
7월 22일0
r/LocalLLaMAAI 번역분석
upstage/Solar-Open2-250B · Hugging Face
Upstage가 에이전트 작업과 긴 컨텍스트 처리에 최적화된 250B MoE 모델인 Solar Open 2를 공개했습니다. 하이브리드 어텐션 아키텍처를 통해 대형 모델의 성능을 유지하면서도 소형 모델 수준의 효율적인 추론 비용을 제공합니다.
7월 22일0
r/LocalLLaMAAI 번역분석
학습되지 않았음에도 불구하고, 모델의 AA Intelligence Index 점수와 Base64 인코딩 응답 생성 능력 사이의 피어슨
새로운 오픈 벤치마크인 Encode Bench를 통해 모델의 Base64 인코딩 능력과 지능 지수 간의 상관관계를 분석합니다. 연구 결과, Base64 생성 능력은 모델의 다단계 신뢰성과 추론 능력을 측정하는 투박하지만 유용한 지표가 될 수 있음을 보여줍니다.
7월 22일0
r/LocalLLaMAAI 번역분석
토크나이저 확장: LFM2.5-8B-A1B 모델의 토크나이저 인플레이스 업그레이드
LFM2.5-8B-A1B 모델의 토크나이저를 처음부터 다시 학습하지 않고 인플레이스 방식으로 업그레이드하는 기술을 소개합니다. 어휘 사전 크기를 65K에서 128K로 확장하여 기존의 과도한 언어 분할 문제를 해결했습니다.
7월 22일0
r/LocalLLaMAAI 번역분석
7가지 조절 가능한 감정을 가진 오픈 소스 온디바이스 TTS 모델, NeuTTS-2E를 개발했습니다
7가지 조절 가능한 감정을 지원하는 125M 파라미터 규모의 오픈 소스 온디바이스 TTS 모델 NeuTTS-2E를 공개했습니다. 사용자의 명시적 지시에 따라 감정을 표현하며, 로컬 실행을 통해 프라이버시를 보호하고 효율적인 음성 생성이 가능합니다.
7월 22일0
r/LocalLLaMAAI 번역분석
총 파라미터 118B, 활성 파라미터 8B인 Laguna S 2.1이 어떻게 자신보다 10배 큰 모델들을 이기는가
Poolside가 MoE 아키텍처를 활용한 Laguna S 2.1 모델을 출시했습니다. 총 118B 파라미터를 보유했으나 활성 파라미터는 8B에 불과하여, 효율적인 추론 비용으로 대규모 모델들을 능가하는 성능을 보여줍니다.
7월 22일0
r/LocalLLaMAAI 번역분석
RTX Pro 6000 (96GB) 환경에서 Laguna-S-2.1을 개인용 에이전트 평가(agentic eval)로 테스트한 결과:
새로 출시된 Laguna-S-2.1 모델을 RTX Pro 6000 환경에서 에이전트 성능 중심으로 테스트한 결과입니다. 도구 호출 및 다단계 체인 수행 능력은 매우 뛰어나지만, 특정 지식 영역과 압박 상황에서의 근거 제시(grounding) 능력에서는 한계를 보였습니다.
7월 21일0
r/LocalLLaMAAI 번역분석
arXiv 논문 발표: "레이어를 건너뛸 것인가, 반복할 것인가? LLM에서의 Program-of-Layers 학습"
LLM의 고정된 레이어 구조를 넘어, 입력에 따라 레이어를 건너뛰거나 반복하여 실행하는 'PoLar(Program-of-Layers)' 기술을 제안합니다. 이를 통해 추론 시간 연산량과 모델의 추론 능력 사이의 유연한 트레이드오프를 달성할 수 있습니다.
7월 21일0
r/LocalLLaMAAI 번역분석
Laguna S 2.1 출시: Deepseek v4 Flash보다 저렴하고 V4 Pro보다 뛰어남
Laguna S 2.1 모델이 출시되었습니다. 이 모델은 Deepseek v4 Flash보다 저렴하면서도 V4 Pro보다 뛰어난 성능을 보여주며, 다양한 코드 벤치마크에서 높은 성적을 기록했습니다.
7월 21일0
r/LocalLLaMAAI 번역분석
poolside/Laguna-S-2.1 출시! 드디어 흥미로운 120B 경쟁 모델 등장!
Poolside에서 새로운 120B 파라미터 규모의 언어 모델인 Laguna-S-2.1을 출시했습니다. Hugging Face를 통해 모델과 llama.cpp용 GGUF 파일을 공개하며 강력한 경쟁 모델의 등장을 알렸습니다.
7월 21일1