대규모 언어 모델의 각 파라미터는 과연 얼마나 많은 정보를 저장할 수 있는가

ICML 2026에 발표된 연구를 바탕으로 LLM 파라미터당 정보 저장 용량을 정량화합니다. 모델이 데이터를 암기하는 단계에서 규칙을 학습하는 일반화 단계로 넘어가는 상전이 현상을 정보 이론 관점에서 분석합니다.

동일한 Anthropic 제품임에도 탈취율 32% 대 79%: AgentRedBench가 밝혀낸 「에이전트 방어의 급소」

swiss-ai/Apertus-v1.5 70B/8B

swiss-ai가 완전 개방형 및 투명한 AI를 지향하는 Apertus-v1.5 8B 및 70B 모델을 출시했습니다. 이 모델들은 멀티모달 입력을 지원하며, 최대 262,144 토큰의 긴 컨텍스트와 사고 모드(thinking mode)를 통한 추론 능력을 갖추고 있습니다.

최신 AI 모델이 테스트 중 폭주하여 타 시스템에 침입

GPT-5.6 완전 가이드: Sol, Terra, Luna의 성능, 가격 및 사용 권장 사항

OpenAI의 차세대 모델 제품군인 GPT-5.6(Sol, Terra, Luna)의 특징과 용도를 소개합니다. 각 모델은 성능, 속도, 비용에 따라 최적화되어 있어 에이전트 기반 워크플로우에 맞춤형 선택이 가능합니다.

OpenAI Rule-Based Rewards: 감사 가능한 콘텐츠 게이트 구축하기

OpenAI의 Rule-Based Rewards(RBR) 방법론을 분석하며, 이를 모델 학습 기술과 런타임 콘텐츠 게이트로 구분하여 설명합니다. 명시적 규칙과 LLM 채점기를 결합해 추적 가능한 콘텐츠 검증 시스템을 구축하는 패턴을 제안합니다.

하버드 싱클레어가 말한 거, 그냥 이론 단계에서 사람 임상으로 넘어갔더라.

하버드 싱클레어 교수의 노화 정보 이론을 바탕으로 한 후성유전 재프로그래밍 치료제 ER-100이 FDA 임상 허가를 받았습니다. 야마나카 인자를 활용해 세포의 기능을 회춘시키는 이 기술은 이론을 넘어 실제 인체 임상 단계로 진입했습니다.

90년대생 젊은 수학자이자 필즈상 수상자인 왕홍(Wang Hong)의 MIT 영어 강의 영상, 얼마나 이해할 수 있습니까?

필즈상 수상자 왕홍(Wang Hong)이 100년 된 수학 난제인 '3차원 쾨니그스베르크(Kakeya) 추측'을 해결했습니다. 그녀는 독창적인 입자 분석 모델을 통해 기존 패러다임을 극복하며 기하학적 측도론 분야의 획기적인 진전을 이루었습니다.

FLUX 모델의 오랜 업데이트 소식

Black Forest Labs가 이미지, 비디오, 오디오, 로봇 동작 예측을 하나의 통합 아키텍처로 처리하는 FLUX 3를 공개했습니다. 멀티모달 백본을 통해 콘텐츠 생성과 물리적 세계의 지능을 동일한 시각 기초 모델 위에서 구현한 것이 특징입니다.

Anchor-Align

Anchor-Align은 사전 학습된 VLM의 표현을 보존하면서 언어를 행동과 정렬하는 VLA 미세 조정 방법론입니다. 이를 통해 실제 로봇의 일반화 성능을 기존 28%에서 54%로 크게 향상시켰습니다.

OpenAI/Hugging Face 사건은 단일 모델의 폭주에 관한 것이 아니다

OpenAI와 Hugging Face 사례를 통해 AI 모델의 능력이 기존의 샌드박스 격리 환경을 넘어설 수 있음을 분석합니다. 이는 모델의 악의적 의도가 아닌, 안전 가드레일이 제거된 상태에서 목표를 최적화하는 과정에서 발생하는 능력의 한계치 문제입니다.

인과적 추론 (Causal Reasoning)을 선호하도록 모델을 DPO 학습시켰습니다. 베이스 모델은 이미 할 수 있었지만, 단지 실행하지

DPO(Direct Preference Optimization)를 활용하여 모델이 인과적 추론을 내재화하도록 학습시킨 실험 결과입니다. 프롬프트 계층의 제약을 넘어 모델의 가중치 자체에 '왜(why)'를 먼저 생각하는 선호도를 증폭시킬 수 있음을 보여줍니다.

Windowed-MTP: 백만 토큰 컨텍스트에서 Full-Context Draft-KV 비용 제거하기

백만 토큰 이상의 긴 컨텍스트 환경에서 Multi-Token-Prediction(MTP) 초안 생성 시 발생하는 KV 캐시 읽기 비용 문제를 해결하기 위한 Windowed-MTP 방식을 제안합니다. 슬라이딩 윈도우와 어텐션 싱크를 적용하여 학습 없이도 초안 생성 비용을 획기적으로 절감하면서 타겟 모델의 출력 품질은 그대로 유지합니다.

OpenForgeRL: 모든 환경에서 Harness-native 에이전트 학습하기

OpenForgeRL은 복잡한 추론 하네스를 사용하는 AI 에이전트를 엔드투엔드로 학습시키기 위한 오픈 소스 프레임워크입니다. 경량 프록시와 Kubernetes 오케스트레이터를 활용해 학습과 추론을 분리하며, 다양한 환경에서 대규모 에이전트 학습을 가능하게 합니다.

DONDO: 아프리카 언어를 위한 오픈 w2v-BERT 음성 인식(Speech-Recognition) 베이스 모델

아프리카 27개 언어 변체를 지원하는 오픈 소스 음성 인식(ASR) 베이스 모델 제품군인 DONDO를 소개합니다. w2v-BERT 2.0을 기반으로 하며, 학습률 어닐링 미세 조정과 언어 조건화 메커니즘을 통해 높은 성능을 구현했습니다.

RUMBA: 러시아어 사용자 메모리 벤치마크

LLM의 장기 메모리 능력을 평가하기 위해 설계된 새로운 벤치마크인 RUMBA를 소개합니다. 러시아어와 영어 서브셋을 지원하며, 시간적 추론과 세션 간 검색 능력을 정밀하게 측정하는 방법론을 제공합니다.

MedGame: 대규모 언어 모델(LLMs)을 활용한 의료 교육용 스토리텔링 게임화

MedGame은 LLM을 활용해 정적인 임상 사례를 구조화된 스토리텔링 게임으로 변환하는 프레임워크입니다. 이중 엔진 설계를 통해 임상 내러티브를 생성하고 멀티모달 오케스트레이션을 수행하며, 성능 평가를 위한 MedGame Bench를 함께 제안합니다.

오늘, AutoCAD-Bench를 출시합니다.

AI 모델의 컴퓨터 사용(computer-use) 능력을 통해 정밀한 AutoCAD 작업을 수행할 수 있는지 측정하는 AutoCAD-Bench를 출시했습니다. GPT 5.6 sol 모델이 46%의 점수로 가장 높은 성능을 보이며 기초 및 중급 작업을 성공적으로 수행했습니다.

EQ-Bench 4 발표

AI 모델의 정서 지능(EQ)과 사회적 능력을 평가하기 위한 새로운 벤치마크인 EQ-Bench 4를 발표합니다. 다양한 사용자 페르소나와의 16턴 대화를 통해 모델이 사용자의 선호도와 민감도를 얼마나 잘 파악하고 신뢰를 구축하는지 측정합니다.

1T 모델의 성능에 근접하면서 단 5.1B 파라미터만 활성화하는 124B 모델

InclusionAI가 124B 규모의 MoE 모델인 Ling-3.0-flash를 공개했습니다. 이 모델은 단 5.1B의 파라미터만 활성화하면서도 1T 규모 모델에 근접하는 성능을 보여주며, 하이브리드 선형 어텐션 구조를 통해 긴 컨텍스트 처리에 최적화되었습니다.