Insights

Ling-2.6-1T Will Be Open Weights

Anthropic이 개발한 초대규모 언어 모델인 Ling-2.6-1T가 오픈 가중치 (Open Weights) 로 공개될 것이 확인되었습니다. 이전 Ling 2 모델의 성공적인 전략을 이어받아, 총 파라미터 수는 1 조 개에 달하지만 실제 학습된 활성 파라미터는 500 억 개로 제한하여 효율성을 극대화했습니다. 이번에는 이를 한 단계 더 발전시킨 플래시 (Flash) 모델도 공개되며, 이 모델은 총 1040 억 개의 파라미터를 가지면서도 핵심적인 70 억 개만 활성화시켜 추론 비용을 획기적으로 낮추고 성능을 유지합니다. 이는 초대규모 모델의 접근성을 높이고, 연구자와 개발자들이 고품질의 오픈소스 모델을 활용할 수 있는 중요한 이정표가 될 것입니다.

4월 25일8

RTX 3090 한 대로 Qwen3.6-27B, 85 TPS 및 125K 컨텍스트 구현

Wasif Basharat 개발자가 단일 RTX 3090 GPU로 Qwen3.6-27B 모델을 85 토크/초 (TPS) 의 속도와 125,000 토큰 컨텍스트 윈도우, 그리고 비전 처리 기능을 성공적으로 실행하는 스택을 완성했습니다. 해당 패치가 GitHub에 추가되었으며, 관련 링크는 블로그 게시글에서 업데이트되었습니다. 저비용 하드웨어 환경에서도 고성능 LLM 추론이 가능함을 보여주는 사례입니다.

4월 25일9

딥시크 V4, 멀티모달리티 미포함…하지만 기다려본다

딥시크 V4 프로 모델의 기술 보고서에 따르면 현재 버전은 텍스트 기반이며 멀티모달리티(이미지/비디오 처리) 기능이 아직 포함되지 않았습니다. 하지만 개발자들은 이 기능의 추가를 기대하며 다음 릴리스까지 기다릴 의사를 밝혔습니다.

4월 25일8

DeepSeek-v4, 엉뚱한 384K 최대 출력 용량을 자랑하다

최근 DeepSeek-v4 모델이 최대 384K 토큰의 거대한 출력을 지원한다는 소식이 화제입니다. 이는 단순히 긴 글을 생성하는 것을 넘어, 단일 HTML 파일과 같은 복잡하고 구조적인 결과물을 한 번에 완성할 수 있음을 의미합니다. 이 기능을 활용하면 웹 페이지 전체를 프롬프트와 함께 요청하여 100KB 크기의 완전한 싱글-페이지 애플리케이션(SPA)을 즉시 얻어낼 수 있어, 개발 과정의 효율성과 생산성이 혁신적으로 높아질 것으로 기대됩니다.

4월 24일8

Qwen의 성능을 고려할 때, M5 Max 128GB를 장만할 때인가?

최근 Qwen 모델군의 눈부신 발전 속도를 목격하며, 고성능 로컬 AI 구동 환경 구축 필요성이 대두되고 있습니다. 현재 27B급 모델들이 GPT-4o와 견줄 만한 성능을 보여주면서, 클라우드 의존성을 줄이고 개인 워크스테이션에서 강력한 LLM 실험을 진행할 시점이라는 분석입니다. M1 Pro 사용자라도 향후 고성능 GPU(예: 128GB 메모리 Max 칩)로의 업그레이드를 진지하게 고려해야 할 만큼, 로컬 AI 환경이 빠르게 전문화되고 있습니다.

4월 24일16

코딩 프리미티브를 위해 QWEN 3.6 35B와 QWEN 3.6 27B 비교

MacBook Pro M5 MAX 환경에서 Qwen 3.6 35B와 27B 모델을 코딩 프라이미티브 테스트에 적용한 결과가 공유되었습니다. 35B 모델은 72 TPS로 압도적인 속도를 보여주었지만, 27B 모델이 더 정교하고 정확한 결과를 도출했습니다. 이는 단순히 파라미터 크기가 클수록 성능이 좋다는 일반적인 가정을 재고하게 만듭니다. 코딩 작업의 성격에 따라 '속도'와 '정확성' 중 무엇을 우선할지 신중히 결정해야 함을 시사합니다.

4월 24일11

Qwen 3.6 27B, 에이전트 성능에서 Sonnet 4.6에 근접한 놀라운 성과

최근 Qwen 3.6 27B 모델이 'Artificial Analysis (AA)'의 에이전트 지수(Agentic Index)에서 놀라운 성능을 보여주며, 경쟁 모델인 Anthropic의 Claude Sonnet 4.6과 동등한 수준에 도달했습니다. 이로 인해 Gemini 3.1 Pro Preview, GPT 5.2/5.3, MiniMax 2.7 등 여러 선두 모델들을 제치고 주목받고 있습니다. 특히 코딩 지수(Coding Index)의 구성이 독특하지만, Qwen 3.6 시리즈가 에이전트 활용에 초점을 맞춘 학습을 거쳤음을 시사해

4월 24일10

최신 오픈소스 LLM, Qwen3.6-27B 공개: 코딩 및 추론 능력 강화

대규모 언어 모델(LLM) 개발사에서 새로운 고성능 오픈소스 모델인 Qwen3.6-27B를 출시했습니다. 이 모델은 특히 코딩 능력과 추론 능력이 뛰어나며, 기존의 Qwen3.5-397B-A17B 등 주요 벤치마크에서 우수한 성능을 보여줍니다. Apache 2.0 라이선스를 채택하여 완전히 개방되어 있어, 개발자들이 자유롭게 활용하고 커스터마이징할 수 있다는 점이 큰 장점입니다. 다양한 모드를 지원하며, 작은 크기에도 불구하고 강력한 결과를 제공하는 것이 특징입니다.

로컬 LLM 에이전트 활용 가이드: Qwen3.6 35B와 'Plan-First' 워크플로우

본 글은 로컬 환경에서 구동되는 LLM 코딩 에이전트(PI Coding Agent)를 활용한 성공적인 개발 경험을 공유합니다. 특히 'Plan-First'라는 구조화된 스킬 파일을 도입하여, AI가 무작정 코드를 작성하는 것이 아니라 프로젝트 분석 → 질문 → TODO 계획 수립 → 단계별 실행이라는 체계적인 워크플로우를 따르도록 강제했습니다. 이 방법은 실제 프로덕션 환경에서도 높은 안정성을 보여주었으며, LLM 기반 개발의 신뢰도를 극적으로 높이는 핵심 가이드라인을 제시합니다.

미국 정부의 '적대적 증류' 우려: 오픈 모델 규제 강화 전망

과학기술정책실(OSTP) 메모를 통해, 대규모 프록시 계정 및 탈옥 기법을 이용한 모델 역량 추출(적대적 증류, Adversarial Distillation)에 대한 우려가 제기되었습니다. 이는 오픈 모델 자체보다는 독점 모델 보호에 초점을 맞춘 것으로 보이지만, 정부가 AI 모델 가중치와 능력을 국가 안보 자산으로 간주할 경우, 향후 오픈 모델의 공개 범위와 자유도에 큰 압박이 될 수 있음을 시사합니다. 개발자들은 이러한 규제 환경 변화를 인지하고, 기술적 방어 및 법률 준수 전략을 준비해야 합니다.

4월 23일8

LLM 성능 비교: Qwen 3.5 vs Gemma 4 (MoE/Dense) 최신 평가 분석

본 보고서는 다양한 LLM 모델(Qwen 3.6, Gemma 4 26B/31B, Qwen 3.5 등)의 성능을 종합적으로 비교한 후속 평가 결과입니다. 특히 MoE 구조와 밀집(Dense) 구조 모델 간의 성능 차이를 집중 분석했습니다. 테스트 결과, Qwen 3.5 27B 및 Gemma 4 31B 같은 Dense 모델들이 높은 문제 해결 능력과 효율성을 보여주었습니다. Gemma 4 31B는 도구 호출(Tool Calling) 측면에서 가장 우수하며 모든 문제를 오류 없이 수정했습니다. 다만, 이 모델은 추론 속도가 매우 느리고(

Claude Pro에서 코드 기능 제거? 로컬 LLM으로 전환하기 좋은 시기

Anthropic의 Claude Pro 플랜에서 코드 관련 기능이 제거된 것에 대응하여, 사용자들은 Kimi K2.6과 같은 고성능 모델을 저렴하게 이용하거나 Qwen 3.6 35B A3B와 같은 로컬 LLM으로 전환하는 추세입니다. 특히 OpenCode Go 코딩 플랜($20/월)을 활용하면 Kimi K2.6의 토큰을 $100 상당의 사용량에 준하는 수준으로 확보할 수 있어 비용 효율성이 높습니다.

최신 오픈소스 AI 모델 총정리: 코딩, 이미지, 오디오 등 활용 가이드

본 문서는 급변하는 오픈소스 AI 생태계에서 각 사용 사례별로 최고의 성능을 보이는 모델들을 종합적으로 정리한 리스트입니다. 텍스트-음성 변환(TTS)부터 이미지 생성, 비디오 생성에 이르기까지 다양한 분야의 최신 모델들(예: Qwen3-TTS, FLUX.1, LTX-2.3 등)의 장점과 활용법을 제시합니다. 개발자들은 이 가이드를 통해 특정 프로젝트 요구사항에 가장 적합한 오픈소스 솔루션을 빠르게 파악하고 도입할 수 있습니다.

4월 23일8

최신 오픈소스 LLM 트렌드 분석: 주목할 만한 모델들

본 글은 지난 6개월간 출시된 최신 오픈소스 대규모 언어 모델(LLM)들을 크기별로 정리하고 분석한 자료입니다. Kimi K2.6, DeepSeek V3.2, GLM-5.1 등 다양한 고성능 모델들이 등장하며 LLM 시장의 발전 속도가 매우 빠름을 보여줍니다. 특히 50B 이하 경량화된 모델들(예: Qwen3.5 9B/4B, Gemma 4 E4B)은 낮은 VRAM 환경에서도 구동이 가능하여 로컬 환경에서의 활용도를 높이고 있습니다. 사용자는 자신의 하드웨어 사양(8GB VRAM + 32GB RAM)을 바탕으로 어떤 모델들을 돌릴 수

Qwen3.6-27B 언센서드 모델 출시 및 K_P 양자화 가이드

새로운 Qwen3.6-27B Uncensored Aggressive 모델이 출시되었습니다. 이 모델은 기존의 검열(refusals) 없이 원래의 Qwen 기능을 완전히 해제한 버전입니다. 특히, 최신 양자화 기술인 K_P (K-Quantization Profile)를 적용하여 다양한 파일 크기 및 품질 옵션을 제공합니다. 본문에서는 모델 사용 시 유용한 팁을 공유하며, 이 모델이 프롬프트 명확성에 민감하므로 구체적인 지시가 필요하다고 강조합니다. 또한, '사고 과정(thinking)' 기능을 비활성화하는 방법과 다양한 양자화 옵션에

LLM 기반 만화 번역기 공개: Rust와 llama.cpp로 구현

본 프로젝트는 이미지 전체를 번역할 수 있는 고성능 만화 번역기를 소개합니다. 객체 탐지(object detection), 시각적 대규모 언어 모델 기반 OCR (Visual LLM-based OCR), 레이아웃 분석, 그리고 미세 조정된 인페인팅 모델을 결합한 파이프라인을 사용합니다. 특히, llama.cpp를 통합하여 Gemma 4 및 Qwen3.5 계열 등 다양한 LLM을 지원하며, OpenAPI 호환 API를 제공해 LM Studio나 OpenRouter 같은 외부 도구에서도 활용 가능합니다. 사용자 친화적인 인터페이스와 미

4월 23일8

Qwen 3.6-35B, 에이전트 결합으로 클라우드 모델에 근접

최근 연구 결과에 따르면, Qwen 3.6-35B와 같은 로컬 LLM을 적절한 에이전트 프레임워크(scaffold)와 결합할 경우, 클라우드 기반 최고 성능 모델과 경쟁할 수 있는 수준의 성능을 보여줍니다. 특히 코딩 능력 평가에서 Polyglot 상위 10위권에 진입하며 성공률 78.7%를 기록했습니다. 이는 단순히 모델 자체의 크기나 성능뿐 아니라, 테스트 환경(scaffold)이 적절하지 않아 발생한 '하네스 불일치(harness mismatch)'가 주요 원인일 수 있음을 시사합니다. 연구진은 향후 Terminal Bench

Dense 모델 vs. MoE, 격차 줄어드는 LLM 트렌드 분석

최근 공개된 3.6-27B와 같은 모델들을 통해 Dense 구조의 언어모델과 Mixture-of-Experts (MoE) 구조 간의 성능 격차가 빠르게 줄고 있다는 분석이 주목받고 있습니다. 전반적인 작업에서는 여전히 Dense 모델이 우위를 점하지만, MoE 모델은 벤치마크 테스트에서 꾸준히 성능을 끌어올리고 있습니다. 특히 코딩 관련 작업(예: SWE-bench Multilingual)에서 MoE의 발전 속도가 매우 두드러지며, 이는 VRAM 제약 하에 긴 컨텍스트 창이 필요한 사용자들에게 매력적인 대안으로 부상하고 있음을 시사

로컬 환경에서 구동하는 Qwen3 TTS: 표현력이 뛰어난 오픈소스 모델

이 글은 로컬 환경에서 ASR(음성인식) -> LLM(대규모 언어 모델) -> TTS(텍스트 음성 변환) 파이프라인을 구축한 경험을 공유합니다. 특히 Qwen3 TTS를 활용하여 실시간으로 입 모양 동기화(lip-synced)가 가능한 아바타 시스템을 구현했습니다. 초기에는 TTS 성능에 만족하지 못했지만, 모델의 스트리밍 구조적 장점을 활용하고 `llama.cpp`와 통합하며 안정성을 높였습니다. 또한, 단어별 타이밍과 음소 정보를 얻기 위해 CTC(Connectionist Temporal Classification) 정렬 기능을