Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
r/LocalLLaMAAI 번역분석
Apostate 엔진 개발 현황 공유
Apostate 엔진 개발 현황을 공유하며, 강력한 거부 방향 목표를 위해 단순 직교 투영 대신 사각 투영 방식을 구현했다고 설명합니다. 향후 의도된 행동 변화와 KL 보존을 위해 전단 매핑 추가를 고려 중이며, 정식 출시 시 더 발전할 것이라고 예고했습니다.
6월 12일0
r/LocalLLaMAAI 번역분석
MiniMax Sparse Attention (MSA)
본 글은 초장문 컨텍스트 처리를 위한 MiniMax Sparse Attention (MSA)을 제안합니다. MSA는 GQA 기반의 블록별 희소 어텐션을 사용하여, 기존 softmax 어텐션의 2차 비용 문제를 해결했습니다. 이 기술은 토큰당 연산량을 대폭 줄이고 GPU 실행 경로를 최적화하여 높은 효율성을 달성했습니다.
6월 12일0
r/LocalLLaMAAI 번역분석
Refiner: ex-Hugging Face 사전 학습 팀의 로보틱스 라이브러리
ex-Huggingface 사전 학습 팀이 로보틱스 데이터 정제(refinement)를 위한 새로운 라이브러리를 공개했습니다. 이 라이브러리는 Parquet, HDF5, MCAP 등 다양한 로보틱스 포맷의 수집을 지원하며, 핸드 트래킹 및 서브태스크 주석 처리 같은 일반적인 데이터 처리 흐름도 제공합니다.
6월 11일0
r/LocalLLaMAAI 번역분석
DeepMind가 'DiffusionGemma'를 공개하다 — 이미지 스타일 확산 모델을 통한 텍스트 생성
DeepMind가 'DiffusionGemma'라는 새로운 오픈 웨이트 모델을 공개했습니다. 이 모델은 기존의 자기회귀 방식 대신 텍스트 확산 헤드를 사용하여 전체 텍스트 블록을 한 번에 정제하고 디노이징합니다. 이를 통해 오류 수정 기능과 높은 추론 속도를 구현했으며, Gemma 4 기반의 MoE 구조를 가지지만 로컬 환경에서도 접근성이 높습니다.
6월 10일0
r/LocalLLaMAAI 번역분석
PrismML이 Binary 및 Ternary Bonsai Image 4B 출시: WebGPU를 통해 브라우저에서 100% 로컬로 실행 가능한
PrismML이 WebGPU를 통해 브라우저에서 100% 로컬 실행이 가능한 Binary 및 Ternary Bonsai Image 4B 모델을 출시했습니다. 약 3GB의 가벼운 크기로 설계되었으며 Apache-2.0 라이선스를 따릅니다.
5월 26일1
r/LocalLLaMAAI 번역분석
V100을 사용한 Qwen3.6 27B 모델의 1000 TPS 생성 성능
NVIDIA V100 GPU 환경에서 Qwen3.6 27B 모델의 생성 성능을 테스트한 결과입니다. 단일 사용자 기준 생성 속도 80t/s, 처리 속도 3000t/s라는 높은 성능을 기록했습니다.
5월 25일0
r/LocalLLaMAAI 번역분석
G4-MeroMero-26B-A4B-it-uncensored-heretic 출시: gemma-4-26B-A4B-it의
Gemma-4-26B-A4B-it 모델을 기반으로 한 검열되지 않은(uncensored) 파인튜닝 모델인 G4-MeroMero-26B-A4B-it-uncensored-heretic가 출시되었습니다. 이전 31B 버전보다 낮은 VRAM 요구 사항과 빠른 속도를 제공하며, Safetensors 및 GGUF 형식을 지원합니다.
5월 23일1
r/LocalLLaMAAI 번역분석
[신규] Supra-50M 출시!
SupraLabs가 Llama 아키텍처 기반의 소형 언어 모델인 Supra-50M을 출시했습니다. 50M 파라미터 규모임에도 200억 개의 토큰으로 학습되어 주요 벤치마크에서 경쟁력 있는 성능을 보여줍니다.
5월 23일3
r/LocalLLaMAAI 번역분석
Artificial Analysis가 평가한 Qwen3.7 Max, 27B/35B 대기실
Artificial Analysis의 평가 결과, Qwen 3.7 Max가 모델 성능 순위 5위에 오르며 GPT 5.4 (xhigh) 및 Gemini 3.5 Flash와 경쟁할 만한 수준을 기록했습니다. Qwen 3.7 Max는 상위권 모델들과 대등한 성능을 보여주는 반면, Qwen 3.6 27B와 DSV4 Flash는 Max 모델과 일정 수준의 성능 격차를 보이고 있습니다.
5월 20일1
r/LocalLLaMAAI 번역분석
ByteDance, 단 3B 파라미터로 거의 모든 것을 수행하려는 오픈 소스 모델 출시
ByteDance가 이미지와 비디오의 이해, 생성, 편집을 단일 프레임워크에서 수행할 수 있는 경량 멀티모달 모델인 Lance를 출시했습니다. 3B 규모의 활성 파라미터만을 사용하여 효율성을 극대화했으며, 128대의 A100 GPU를 활용해 처음부터 학습되었습니다.
5월 19일1
r/LocalLLaMAAI 번역분석
G4-Meromero-31B-Uncensored-Heretic 출시: 창의적 작업을 위해 설계된 Gemma 4 31B 파인튜닝 모델 (Kld
Gemma 4 31B 모델을 기반으로 창의적인 작업을 위해 설계된 'G4-Meromero-31B-Uncensored-Heretic' 파인튜닝 모델이 출시되었습니다. 이 모델은 Safetensors와 GGUF 형식을 모두 지원하며, HuggingFace를 통해 배포됩니다.
5월 19일3
r/LocalLLaMAAI 번역분석
42종의 LLM 대상 디스토피아 구축 의지 테스트 결과: 폐쇄형 모델의 안전성 한계
DystopiaBench는 42종의 LLM을 대상으로 자율 무기, 대량 감시 등 6가지 디스토피아 시나리오를 통해 모델의 윤리적 안전성을 테스트하는 오픈 소스 벤치마크입니다. 테스트 결과, 대부분의 모델이 명백한 위험은 탐지하지만 이중 용도 기술이나 정상화된 요청 뒤에 숨겨진 위험은 식별하지 못하는 한계를 보였습니다.
5월 18일2
r/LocalLLaMAAI 번역분석
많은 로컬 LLM들이 겪는 "미래는 허구이다" 문제
많은 로컬 LLM들이 지식 차단 날짜 이후의 사건을 '허구' 또는 '풍자'로 인식하는 경향이 있습니다. 이러한 문제는 모델이 도구를 사용함에도 불구하고 지속되는 경우가 많습니다. 본 사례는 2026년 이란 전쟁에 대한 웹 검색 결과가 실제 뉴스가 아닌 지정학적 시뮬레이션의 일부임을 보여주며, LLM이 정보의 출처와 성격을 정확히 판단하는 데 어려움을 겪고 있음을 지적합니다.
5월 15일2
r/LocalLLaMAAI 번역분석
나의 첫 공식 AI 연구 논문이 SSRN에 채택되었습니다
작성자의 연구 논문 'Stable Training with Adaptive Momentum (STAM)'이 SSRN에 공식적으로 채택되었습니다. 이 논문은 딥러닝 학습을 위한 새로운 최적화 알고리즘을 제안하며, 기존 인기 옵티마이저 대비 우수한 성능과 안정성을 입증했습니다. 특히 일부 실험에서는 연산 학습 비용을 최대 50%까지 절감하는 성과를 거두었습니다.
5월 14일5
r/LocalLLaMAAI 번역분석
You can now read Gemma 3's mind
Anthropic은 'Natural Language Autoencoders (NLA)'라는 새로운 연구를 발표하며, 대규모 언어 모델(LLM)이 다음 토큰을 생성할 때 내부적으로 어떤 생각을 했는지 보여주는 방법을 제시했습니다. 이 기술은 LLM의 내부 활성화 값을 사람이 읽기 쉬운 텍스트로 번역하는 'Auto Verbalizer (AV)'와 그 역변환을 검증하는 'Activation Reconstructor (AR)' 모델 가중치 형태로 제공됩니다. 사용자는 Neuronpedia 플랫폼을 통해 Gemma 3에 질문하고, 특정 토큰의 생성 과정에서 모델이 어떤 내부적인 추론 과정을 거쳤는지 확인할 수 있습니다.
5월 8일10
r/LocalLLaMAAI 번역분석
[SCAM DO NOT USE!!] OpenOSS/privacy-filter
이 기술 기사는 OpenOSS/privacy-filter 모델을 사용하지 말 것을 강력히 경고합니다. 해당 모델은 악성코드(MALWARE)를 다운로드하는 사기(SCAM)이며, 특정 Base64 문자열을 디코딩하면 시스템에 파일을 다운로드하고 실행시키는 명령어가 포함되어 있습니다. 대신, 사용자는 공식적인 OpenAI/privacy-filter 모델을 사용해야 합니다.
5월 7일8
r/LocalLLaMAAI 번역분석
ProgramBench: 정말로 큰 바이너리부터 scratch 으로 재구성할 수 있을까요? (아니요)
ProgramBench는 에이전트가 주어진 목표 실행 파일과 문서만으로, 디컴파일링이나 외부 도움 없이 처음부터 전체 프로그램을 재구성하는 능력을 테스트하기 위해 구축된 새로운 벤치마크입니다. 이 벤치마크는 200개의 다양한 작업을 포함하며, 600만 줄의 동작 테스트를 생성하여 프로그램 구현 언어에 대한 가정을 배제하고 엄격하게 평가합니다. 연구진은 ProgramBench를 오픈소스로 공개했으며, 사용자들이 쉽게 접근하여 에이전트의 실제 소프트웨어 개발 능력을 측정할 수 있도록 지원합니다.
5월 5일13
r/LocalLLaMAAI 번역분석
Peanut - 텍스트 생성 이미지 모델 (오픈 가중치 곧 출시)
Peanut이라는 이름의 새로운 익명 텍스트-이미지 생성 모델이 'Artificial Analysis Text to Image Arena'에서 데뷔하며 주목받고 있습니다. 이 모델은 오픈 가중치로 출시될 예정이며, Z-Image Turbo, Qwen-Image, FLUX.2 [dev] 등 기존 선도적인 모델들을 능가하는 성능을 보여줄 것으로 기대됩니다.
5월 5일11
r/LocalLLaMAAI 번역분석
Hugging Face 모델 아키텍처를 시각적으로 탐색하기 위한 도구를 만들었습니다
이 글은 Hugging Face 모델 아키텍처를 시각적으로 탐색하고 비교할 수 있는 웹 도구 'hfviewer.com'의 출시를 알립니다. 사용자는 단순히 Hugging Face URL만 붙여넣으면, 해당 모델의 인터랙티브한 구조적 시각화를 얻을 수 있습니다. 이 도구는 다양한 모델 간의 아키텍처 차이를 직관적으로 이해하고 비교하는 데 도움을 줍니다.
5월 5일11
r/LocalLLaMAAI 번역분석
Qwen: 왜 27B 밀집 모델이 397B MoE 를 능가하는가
사용자가 Qwen의 27B 밀집(Dense) 모델이 397B 모노리틱(MoE) 모델을 압도하는 이유에 대해 의문을 제기함. 일반적으로 MoE 가 더 많은 파라미터를 가진다는 전제와 달리, Qwen 은 밀집 구조에서 뛰어난 성능을 발휘하여 작은 모델로도 큰 모델을 능가함을 보여줌.
4월 25일7