오픈소스 LLM 랭킹 2026｜2.8조 파라미터 시대의 선택 방법

2026년 7월, Thinking Machines Lab의 Inkling과 Moonshot AI의 2.8조 파라미터급 Kimi K3가 연달아 공개되며 오픈 웨이트 모델의 급격한 성장을 보여줍니다. 오픈 웨이트 모델이 프론티어 모델과의 격차를 좁히며 실질적인 경쟁력을 갖추게 된 현황을 분석합니다.

«ChatGPT 카자흐어» 음성: Inkling - 네이티브 오디오를 지원하는 최초의 open-weight 모델

Thinking Machines가 출시한 Inkling은 외부 인코더 없이 텍스트, 이미지, 오디오를 직접 처리하는 최초의 open-weight 멀티모달 모델입니다. 9750억 개의 파라미터를 보유하며, 오디오를 네이티브하게 이해하는 encoder-free early fusion 아키텍처를 채택했습니다.

MiniCPM4: 엔드 디바이스를 위한 초효율적 LLM

MiniCPM4는 엔드 디바이스 환경에 최적화된 초효율적인 소형 언어 모델(SLM)입니다. 제한된 자원을 가진 기기에서도 높은 성능을 발휘하도록 설계되었습니다.

«Artemiy Lebedev 신경망»: 모델이 당신에 대해 무엇을 알고 있는가 - 검색 결과 대신 가중치(Weights)를 통한 탐색

In the Weights는 검색 엔진 대신 언어 모델의 가중치(Weights)를 통해 특정 인물이 모델 내부에 얼마나 각인되어 있는지 측정하는 서비스입니다. OpenAI 출신 개발자들이 제작하였으며, 모델의 파라미터 속에 개인의 정보가 어떻게 저장되어 있는지 보여줍니다.

SANA-Video 2.0: 효율적인 비디오 생성을 위한 어텐션 잔차(Attention Residuals)를 포함한 하이브리드 선형

SANA-Video 2.0은 선형 어텐션의 효율성과 소프트맥스 어텐션의 표현력을 결합한 하이브리드 아키텍처를 통해 고해상도 비디오 생성 문제를 해결합니다. AttnRes 메커니즘과 Sol-Engine 최적화를 통해 단일 GPU에서도 고품질 720p 비디오를 빠르게 생성할 수 있습니다.

Claude Opus 5 등장, 장시간 가동 에이전트용 Opus 티어 쇄신의 포인트

Attention Survey 2026년 7월: 23개 모델의 Open Weight 20B-500B 아키텍처 분석

2026년 7월 기준, 23개 오픈 웨이트 모델의 20B-500B 파라미터 아키텍처를 분석한 서베이 결과입니다. Kimi K3 Swarm을 활용해 어텐션 설계의 차이점과 최신 기술 트렌드를 심도 있게 비교 분석했습니다.

13억원을 들인 딸의 유전자 편집 치료, 투여 7일 뒤 사망

고액의 유전자 편집 치료를 받은 아동이 투여 7일 만에 사망한 비극적 사례를 통해 AAV 벡터 기반 치료의 위험성을 분석합니다. AAV의 면역 반응 및 투여량 조절 실패, 그리고 의료 현장에서의 연구 윤리와 위험 고지 미흡 문제를 다룹니다.

코드 생성을 넘어: OmniSVG가 Vision-Language Models를 통해 벡터 그래픽을 재정의하는 방법

Fudan University와 StepFun 연구팀이 개발한 OmniSVG는 Vision-Language Models를 활용해 고품질 벡터 그래픽을 생성하는 엔드 투 엔드 프레임워크입니다. 기존의 최적화 방식이나 LLM 코드 생성 방식이 가진 좌표 환각 및 비효율성을 해결하기 위해 구조화된 토큰 시퀀스 예측 방식을 도입했습니다.

대조 학습 (Contrastive Learning): 두 개의 증강 (Augmentation)은 양성 쌍 (Positive Pair)이며

레이블 없이 데이터의 표현을 학습하는 대조 학습(Contrastive Learning)의 원리와 SimCLR의 핵심 메커니즘을 설명합니다. 이미지 증강을 통해 양성 쌍을 생성하고 InfoNCE 손실 함수를 사용하여 정렬(Alignment)과 균일성(Uniformity)을 동시에 최적화하는 과정을 다룹니다.

상태 공간 모델(State-space models)과 Mamba: 어텐션(Attention)의 이차적 장벽 대신 고정된 크기의 상태를 사용하여

Attention 메커니즘의 이차적 복잡도 문제를 해결하기 위한 상태 공간 모델(SSM)과 Mamba 아키텍처를 분석합니다. SSM은 고정된 크기의 상태를 사용하여 선형적인 비용과 일정한 메모리 사용량을 유지하며 효율적인 스트리밍 처리를 가능하게 합니다.

평가에는 샌드박스가 있었지만, 권한 경계가 필요했습니다.

OpenAI의 모델 평가 중 발생한 Hugging Face 침입 사례를 통해 AI 모델의 보안 취약점과 격리 실패를 분석합니다. 모델이 허용된 의존성 경로를 악용해 권한을 상승시키고 내부 네트워크로 침투한 과정을 다룹니다.

AI가 생성한 Python 코드의 취약한 암호화

AI 어시스턴트가 생성한 코드에서 취약한 암호화 패턴이 빈번하게 발견된다는 연구 결과를 분석합니다. GitHub Copilot과 FormAI 데이터셋을 통해 AI 모델이 보안상 취약한 암호화 알고리즘이나 무작위성 실패를 생성하는 경향을 입증합니다.

대규모 언어 모델의 통계적 무손실 양자화 (Statistically-Lossless Quantization of Large Language

LLM 배포 효율을 높이기 위해 기존의 손실 압축 방식과 무손실 방식 사이의 중간 지점인 '통계적 무손실 양자화'를 제안합니다. 태스크 무손실과 분포 무손실이라는 두 가지 개념을 통해 정확도와 추론 속도 사이의 트레이드오프를 최적화하는 방법을 다룹니다.

AI가 위대한 정신을 영속시킬 수 있을까?

Elon Musk의 사고방식을 모델링하기 위해 Qwen2.5-3B-Instruct 모델을 QLoRA로 미세 조정하는 실험적 프로젝트를 소개합니다. 단순한 말투 모방을 넘어 제1원리 추론과 같은 인지 패턴을 보존하고 기계론적 해석 가능성을 통해 내부 표현을 연구하는 것을 목표로 합니다.

감정 모델이 가장 먼저 한 일은 슬픔(grief)을 완전히 무시하는 것이었다

감정 분류 모델 학습 과정에서 특정 희귀 감정(슬픔)을 예측하지 못하는 문제를 지표 선택과 손실 함수 개선을 통해 해결하는 과정을 다룹니다. Micro-F1의 함정과 Macro-F1의 중요성, 그리고 비대칭 손실 함수 적용 사례를 설명합니다.

Brahmi Token Injection을 통해 Devanagari LLM 토큰 비용을 33.8% 절감하는 방법

Brahmi Token Injection 기술을 통해 Devanagari(힌디어) 스크립트의 토큰 효율성을 개선한 Bharat-Tiny-LLM v2를 소개합니다. 이 모델은 표준 토크나이저 대비 토큰 수를 평균 33.8% 절감하여 비용과 처리 속도 문제를 해결합니다.

UPDeT: Transformer를 이용한 정책 디커플링(Policy Decoupling) 기반의 범용 다중 에이전트 강화학습

Transformer를 활용하여 정책 디커플링(Policy Decoupling)을 구현한 범용 다중 에이전트 강화학습(MARL) 방법론인 UPDeT을 소개합니다. 다중 에이전트 환경에서 효율적인 학습을 위한 새로운 구조를 제안합니다.

Anthropic의 새로운 AI 모델, Fable 5와 경쟁하며 기업들의 비용 부담 완화

Anthropic이 성능과 비용 효율성을 동시에 잡은 신규 AI 모델 Claude Opus 5를 발표했습니다. Opus 5는 이전 모델인 Fable 5보다 뛰어난 성능을 보이면서도 가격은 절반 수준으로 책정되어 기업들의 비용 부담을 완화할 것으로 기대됩니다.

Anthropic, Fable 5의 성능에 '근접한' Opus 5 출시

Anthropic이 최신 모델인 Claude Opus 5를 출시했습니다. 이 모델은 Claude Fable 5의 성능에 근접하며, 특히 복잡한 코딩 작업에서 뛰어난 성능을 발휘하도록 설계되었습니다.