Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
r/LocalLLaMAAI 번역분석
DiffusionGemma에 대해 제가 틀렸었습니다. 4090에서 525-575t/s 생성, 8,000t/s PP 성능
DiffusionGemma 모델 테스트 중 배치 토큰 설정이 성능과 정확도에 미치는 영향을 발견했습니다. 적절한 설정 시 RTX 4090에서 높은 생성 속도와 우수한 MMLU-Pro 성능을 보여주었습니다.
6월 20일0
r/LocalLLaMAAI 번역분석
SupraLabs에서 공개한 세계 최대 규모의 채팅 제목 데이터셋
SupraLabs가 기존 기록을 경신하는 세계 최대 규모의 채팅 제목 데이터셋을 공개했습니다. 지시어 튜닝, 분류 스타일 제목 생성, 소형 모델 벤치마킹 등에 활용할 수 있는 필터링 및 비필터링 버전을 모두 제공합니다.
6월 20일0
r/LocalLLaMAAI 번역분석
로컬 AI의 현재 상태
Reddit의 r/LocalLLaMA 커뮤니티 데이터를 분석하여 현재 로컬 AI 생태계의 트렌드와 현황을 파악한 연구 결과입니다. 약 4만 9천 개의 게시물과 80만 개의 댓글을 바탕으로 로컬 LLM 활용 양상을 정리했습니다.
6월 20일0
r/LocalLLaMAAI 번역분석
GLM 5.2: 토큰 사용량을 절반 이하로 줄이면서도 최대 지능의 98% 달성
GLM 5.2 모델은 추론 토큰 사용량을 대폭 줄이면서도 코딩 작업에서 최대 지능의 약 98%를 유지하는 효율성을 보여줍니다. 기술 보고서에 따르면 high level 설정을 통해 로컬 및 API 사용자 모두 효율적인 모델 활용이 가능합니다.
6월 20일0
r/LocalLLaMAAI 번역분석
SupraLabs에서 115K 샘플로 학습된 supra-title-FFT-preview를 출시했습니다. 이전 채팅 타이틀 데이터셋보다 거의
SupraLabs가 115K의 정제된 데이터셋으로 학습된 채팅 타이틀 생성 모델인 supra-title-FFT-preview를 출시했습니다. 이전 모델 대비 데이터 규모가 대폭 확장되어 니치한 주제에 대한 커버리지가 크게 개선되었습니다.
6월 20일0
r/LocalLLaMAAI 번역분석
Attention Algebra — 자연어를 스펙트로그램으로 변환하는 문법
자연어를 수학적 스케줄과 스펙트로그램으로 변환하여 언어의 내부 구조를 시각화하는 Attention Algebra 연구를 소개합니다. 이는 모델의 추론 체인을 진단하고, 메타 언어를 통해 모델의 추론 효율성을 극대화하는 것을 목표로 합니다.
6월 20일0
r/LocalLLaMAAI 번역분석
유효한 JSON, 틀린 답변: Qwen2.5-32B가 어려운 추출 작업에서 100% 스키마를 준수하는 JSON을 생성했지만 약 70%의 오답을
Qwen2.5-32B 모델이 엄격한 JSON 스키마를 준수하더라도 복잡한 M&A 계약서 데이터 추출 시 높은 환각률을 보인다는 연구 결과를 소개합니다. 스키마 제약 디코딩이 구조적 정확성은 보장하지만, 내용의 의미론적 정확성과 환각 문제는 별도로 해결해야 함을 강조합니다.
6월 19일0
r/LocalLLaMAAI 번역분석
유럽 위원회, 24개 EU 언어 지원 유럽 오픈소스 프런티어 AI 모델 구축 프로젝트인 Frontier AI Grand Challenge의
유럽 위원회가 24개 EU 공식 언어를 지원하는 오픈소스 프런티어 AI 모델 개발 프로젝트인 'Frontier AI Grand Challenge'의 승자로 EUROPA 컨소시엄을 선정했습니다. 이 프로젝트는 유럽의 기술 주권과 언어적 다양성을 확보하기 위해 4,000억 개 이상의 파라미터를 가진 모델을 구축하는 것을 목표로 합니다.
6월 19일0
r/LocalLLaMAAI 번역분석
연구진이 단 32개의 H100으로 Deep Research 에이전트를 학습시키고 모든 것을 오픈 소스로 공개했습니다
Ohio State University 연구진이 32개의 H100 GPU와 8K개의 합성 데이터를 활용해 학습시킨 오픈 소스 Deep Research 에이전트 QUEST-35B를 공개했습니다. 학습 레시피, 코드, 가중치 및 데이터셋을 모두 오픈 소스로 제공하며 프런티어 모델에 필적하는 성능을 보여줍니다.
6월 19일0
r/LocalLLaMAAI 번역분석
SupraLabs에서 처음부터 완전히 구축한 Vision-Language Model인 SupraVL-Nano-900k를 출시했습니다!
SupraLabs가 VLM의 작동 원리를 투명하게 이해할 수 있도록 설계된 초경량 Vision-Language Model인 SupraVL-Nano-900k를 출시했습니다. 약 90만 개의 파라미터로 구성된 이 모델은 Flickr8k 데이터셋을 통해 처음부터 학습되었으며, 전체 아키텍처를 단일 Jupyter notebook 수준으로 가볍게 구현했습니다.
6월 19일0
r/LocalLLaMAAI 번역분석
poolside/Laguna-M.1 · Hugging Face - 225B-A23B
Laguna-M.1은 에이전트 기반 코딩과 장기 작업을 위해 설계된 225B 규모의 MoE 모델입니다. 256개의 전문가를 활용한 고용량 라우팅과 글로벌 어텐션 아키텍처를 통해 강력한 코딩 에이전트 성능을 제공합니다.
6월 18일0
r/LocalLLaMAAI 번역분석
8개의 LLM, 4개의 전략적 과제, 블라인드 테스트: 최상위권의 성적은 평이했다
8개의 LLM을 대상으로 4가지 전략적 과제에 대한 블라인드 테스트를 수행한 결과, 최상위권 모델들 간의 성능 격차가 매우 미미함을 확인했습니다. 특히 비용 대비 품질 측면에서 저렴한 모델이 프론티어 모델과 대등한 성능을 보여, 특정 작업에서는 고비용 모델 사용의 경제성이 낮음을 시사합니다.
6월 18일0
r/LocalLLaMAAI 번역분석
Kwai-Keye/Keye-VL-2.0-30B-A3B-GGUF · Hugging Face
Keye-VL-2.0-30B-A3B는 긴 영상 이해와 에이전트 역량에 특화된 30B급 플래그십 멀티모달 베이스 모델입니다. DSA 아키텍처를 통해 256K 초장기 문맥에서도 효율적이고 정확한 추론을 제공하며, 영상 벤치마크에서 Gemini-3-Flash와 대등한 성능을 보여줍니다.
6월 18일0
r/LocalLLaMAAI 번역분석
GLM-5.2에 대한 짧은 생각 (보너스: 검열 질문 답변)
GLM-5.2 모델의 API 성능과 특성을 분석한 리뷰입니다. 긴 컨텍스트에서의 일관성, 빠른 추론 속도, 그리고 불필요한 장황함이 없는 깔끔한 답변 능력을 높게 평가하며 프런티어 모델로서의 가능성을 제시합니다.
6월 18일0
r/LocalLLaMAAI 번역분석
난이도 높은 HTML 데이터 추출 작업에 대해 2B에서 35B 크기의 모델들을 벤치마킹했습니다
HTML 데이터 추출 작업에서 2B~35B 크기의 소형 모델들을 벤치마킹한 결과입니다. Qwen3.6 27B가 가장 우수한 성능을 보였으며, Gemma4 e2b 및 e4b 모델이 대형 모델보다 뛰어난 성과를 기록했습니다.
6월 18일0
r/LocalLLaMAAI 번역분석
주사위를 안정적으로 굴릴 수 있도록 모델을 사후 학습(Post-training) 시켰습니다
LLM이 주사위 굴리기 요청 시 특정 숫자에 편향되는 문제를 해결하기 위해 사후 학습(Post-training)을 진행했습니다. 모델이 기존의 패턴을 따르지 않고 확률적으로 탐색(Explore)할 수 있도록 만드는 강화학습적 접근법을 다룹니다.
6월 17일0
r/LocalLLaMAAI 번역분석
Multilingual-Multimodal-NLP/LoopCoder-V2 · Hugging Face
LoopCoder-V2는 Parallel Loop Transformer(PLT)를 기반으로 한 7B 파라미터 규모의 코드 생성 모델입니다. 테스트 시간 계산 스케일링을 위해 공유된 트랜스포머 블록을 반복 적용하며, 최적의 성능을 위한 루프 횟수와 효율적인 메커니즘을 제안합니다.
6월 17일0
r/LocalLLaMAAI 번역분석
GLM-5.2는 로컬 AI의 승리입니다
753B 규모의 대형 모델인 GLM-5.2의 사양과 로컬 실행을 위한 하드웨어 요구 사항을 분석합니다. MIT 라이선스로 공개된 이 모델은 강력한 코딩 에이전트 성능과 증류(Distillation)를 통한 소형 모델 개선 가능성을 제시합니다.
6월 17일0
r/LocalLLaMAAI 번역분석
자동 조사 및 자율 에이전트를 위한 SIQ-1 Qwen3.6
Qwen-35B-A3 모델을 PPO 학습을 통해 자동 조사 및 자율 에이전트용으로 최적화한 SIQ-1 모델을 소개합니다. 검증 가능한 보상을 활용한 PPO 학습의 효과를 입증하며, 주요 벤치마크에서 뛰어난 성능을 보여줍니다.
6월 17일0
r/LocalLLaMAAI 번역분석
Triple GPU 환경에서의 Qwen 3.6 모델 벤치마크
Triple GPU(GTX-1070 8GiB x 3) 환경에서 Qwen 3.6 모델들의 추론 성능을 벤치마크한 결과입니다. 다양한 양자화 방식(GGUF)에 따른 실행 시간과 성능 지표를 비교 분석하였습니다.
6월 16일0