Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
RedditAI 번역요약
ICML Position Track: 더 나은 ML 리뷰를 원하시나요? 정중하게 요청하는 대신 크레딧 시스템을 통한 인센티브를 제공하세요
ICML 포지션 트랙을 통해 머신러닝 컨퍼런스의 리뷰 프로세스 개선을 위한 크레딧 시스템 도입을 제안합니다. 리뷰어와 저자에게 인센티브를 제공하여 책임감을 높이고 연구 생태계의 질을 향상시키고자 합니다.
7월 7일1
RedditAI 번역요약
UTMOS MOS 점수를 활용한 CPU TTS 벤치마크: Kokoro, Supertonic, Inflect-Nano, 그리고 Kyutai의
Kokoro, Supertonic, Inflect-Nano, Pocket TTS 등 소형 TTS 모델들을 대상으로 CPU 환경에서의 성능과 UTMOS 점수를 비교 분석한 벤치마크 결과입니다. 모델별 아키텍처에 따른 RTF 스케일링 특성과 UTMOS 지표의 한계점을 심도 있게 다룹니다.
7월 7일1
RedditAI 번역요약
LingBot-Vision: 자기지도 사전학습 (Self-supervised Pretraining)을 위한 마스크 경계 모델링 (Masked
LingBot-Vision은 자기지도 사전학습을 위해 교사 모델이 예측한 조밀한 경계 필드를 활용하여 마스킹 전략을 개선한 모델입니다. DINOv3 대비 적은 데이터로도 우수한 NYUv2 선형 프로브 성능을 보이며, 특히 인코더 초기화 측면에서 강력한 성능을 입증했습니다.
7월 7일1
RedditAI 번역요약
ELDR: PD-분리형 MoE 서빙을 위한 전문가 지역성 인식 디코딩 라우팅 (Expert-Locality-Aware Decode
PD-분리형 MoE 서빙 시 전문가 지역성을 고려하여 지연 시간을 줄이는 ELDR 라우팅 기법을 제안합니다. Prefill 단계의 전문가 활성화를 바탕으로 생성 단계의 전문가를 예측하여 최적의 워커에 요청을 할당합니다.
7월 7일1
RedditAI 번역요약
튀니지 다리자(Arabizi)를 위한 오픈 소스 바닥부터 구축한 MT 파이프라인 및 병렬 코퍼스 초기 베이스라인 구축 및 큐레이션 커뮤니티
튀니지 다리자(Arabizi)를 위한 오픈 소스 기계 번역(MT) 파이프라인과 병렬 코퍼스 베이스라인을 구축한 프로젝트입니다. 데이터 부족 문제를 해결하기 위해 SentencePiece 토크나이저와 Transformer 모델을 바닥부터 구축하여 초기 성능을 확보했습니다.
7월 6일1
RedditAI 번역요약
제안: 컨텍스트 윈도우(Context Window)보다 큰 세션을 읽기 위해 시맨틱 압축(Semantic Compression)을 입력
컨텍스트 윈도우의 한계를 극복하기 위해 디퓨전 모델의 점진적 렌더링 개념을 차용한 시맨틱 압축 방식을 제안합니다. 압축된 개요에서 세부 사항으로 나아가는 coarse-to-fine 접근법을 통해 비지역적 정보(Non-local information)를 보존하고자 합니다.
7월 5일1
RedditAI 번역요약
Contrastive Decoding Diffing (CDD): 가중치 접근 없이 로짓(logits)만으로 파인튜닝(finetuning)된
가중치나 활성화 값에 접근할 필요 없이 로짓(logits)만을 활용해 파인튜닝된 LLM의 원문 데이터를 복구하는 CDD 기법을 제안합니다. 기존의 화이트박스 방식보다 효율적이며, 다양한 모델 규모에서 높은 원문 복구 성능을 입증했습니다.
7월 5일1
RedditAI 번역요약
H64LM: PyTorch로 밑바닥부터 구현한 249M 파라미터 Mixture-of-Experts Transformer
PyTorch를 사용하여 249M 파라미터 규모의 MoE Transformer를 밑바닥부터 직접 구현한 연구 프로젝트입니다. GQA, SwiGLU, RoPE 등 현대적 LLM의 핵심 구성 요소를 직접 구현하여 모델 구조에 대한 깊은 이해를 목표로 합니다.
7월 4일1
RedditAI 번역요약
포르투갈이 자체 LLM인 Amalia (9B)를 출시했습니다!
포르투갈에서 자체 개발한 9B 파라미터 규모의 LLM인 Amalia를 출시했습니다. Hugging Face를 통해 SFT 및 DPO 모델이 공개되었으며, Apache 2.0 라이선스를 따릅니다.
7월 3일0
RedditAI 번역요약
Mistral, Leanstral-1.5-119B-A6B 출시
Mistral이 형식 검증 분야에 특화된 오픈 소스 모델 Leanstral 1.5를 출시했습니다. 6B의 활성 파라미터를 사용하여 수학적 증명 및 코드 검증에서 최첨단 성능을 보여줍니다.
7월 3일1
RedditAI 번역요약
MathFormer: 기호 수학 (Symbolic Math)이 패턴 매칭인지 추론인지에 대한 테스트
MathFormer는 4M 파라미터의 작은 seq2seq 모델로 기호 수학 작업에서 98.6%의 높은 정확도를 달성했습니다. 이는 모델이 수학적 추론 대신 구조적 토큰 변환 패턴을 학습할 가능성을 시사하며, LLM의 수학적 능력에 대한 새로운 시각을 제공합니다.
7월 2일1
RedditAI 번역요약
Google이 31B보다 큰 모델을 제공하지 않기에, Gemma4-31B를 44B(88개 레이어)로 확장했습니다
Google의 Gemma4-31B 모델을 기반으로 레이어를 확장하여 44B 규모의 모델을 직접 구축한 사례를 공유합니다. LLaMA Pro 방식의 identity-init을 적용하여 레이어를 88개로 늘렸으며, 한국어 법률 및 STEM 데이터로 미세 조정하여 새로운 도메인 지식 수용 능력을 실험했습니다.
7월 2일1
RedditAI 번역요약
속도 vs 품질: M5 Max에서 7개의 오픈 웨이트 (open-weights) 모델 벤치마킹
M5 Max 128GB 환경에서 7개의 오픈 웨이트 모델을 대상으로 코드 이해 및 생성 능력을 벤치마킹했습니다. 모델의 크기, 양자화 방식(MXFP8, MLX 등), 추론 속도와 답변 품질 사이의 트레이드오프를 분석했습니다.
7월 2일1
RedditAI 번역요약
폐쇄형 모델 제공업체가 모델 추론 외에 무엇을 추가로 수행하는지 알 수 없기 때문에, 폐쇄형 모델과 오픈 모델 사이의 격차는 흔히 가정하는
폐쇄형 모델과 오픈 모델의 벤치마크 성능 격차가 순수 모델 아키텍처 차이가 아닐 수 있음을 지적합니다. Anthropic의 Claude처럼 RAG, 프롬프트 전처리, 내부 도구 호출 등 보이지 않는 기술적 보완이 성능 향상에 기여할 가능성을 분석합니다.
7월 1일1
RedditAI 번역요약
의미론적 유사성 및 시간 슬라이스별로 분류된 최신 1,100만 편의 논문 지도
1,100만 편의 논문을 SPECTER 2로 인코딩하고 UMAP으로 시각화하여 연구 트렌드를 파악할 수 있는 지도를 구축했습니다. 시간 슬라이스 기능과 자동 수집 스크립트를 통해 최신 연구 동향을 거시적으로 탐색할 수 있습니다.
7월 1일1
RedditAI 번역요약
적응형 전문가 혼합 게이팅 (Adaptive Mixture of Experts Gate, AMG) [R]
사전 학습된 고정 k-MoE 모델에 사후 적응형 게이팅(Post-hoc Adaptive MoE Gating)을 적용하여 토큰당 전문가 수를 가변적으로 조절하는 실험적 연구입니다. Qwen3.6-35B 모델을 대상으로 llama.cpp 환경에서 제로 게이팅 방식을 통해 실증적 벤치마킹을 수행했습니다.
6월 29일1
RedditAI 번역요약
Google의 에이전트 기반 피어 리뷰어(Agentic Peer-Reviewer), ICML/STOC에서 약 10,000편의 논문 처리 —
Google이 ICML 및 STOC 컨퍼런스에서 약 10,000편의 논문을 검토하기 위해 에이전트 기반 AI 피어 리뷰어를 도입했습니다. 이 시스템은 제로샷 프롬프팅 대비 수학적 오류 탐지율을 34% 향상시키며 대규모 자동 과학 리뷰의 가능성을 입증했습니다.
6월 29일1
RedditAI 번역요약
GLM 5.2 Q1_S vs Qwen 27B Q8 비교
GLM 5.2 Q1_S와 Qwen 27B Q8 모델의 양자화 수준에 따른 성능을 비교한 테스트 결과입니다. 낮은 양자화의 작은 모델(GLM 5.2 Q1_S)이 높은 양자화의 더 큰 모델(Qwen 27B Q8)보다 복잡한 코딩 작업에서 더 뛰어난 추론 능력을 보여주었습니다.
6월 29일0
RedditAI 번역요약
모든 숫자가 화면에 들어올 때까지 Transformer를 축소하고 가중치(weights)를 편집할 수 있게 만들었습니다 [R]
Transformer의 작동 원리를 행렬 곱셈 단계부터 시각적으로 이해할 수 있도록 구현한 웹 기반 시뮬레이터입니다. 임베딩부터 로짓 생성까지의 전 과정을 스프레드시트 방식으로 보여주며 가중치 편집이 가능합니다.
6월 28일1
RedditAI 번역요약
ICED 소개: 소형 언어 모델(SLM)로 지시 이행 지능을 압축하기 위한 프레임워크
ICED는 대규모 언어 모델(LLM)의 지시 이행 및 추론 능력을 소형 언어 모델(SLM)로 효율적으로 압축하여 전달하는 학습 프레임워크입니다. 이를 통해 공개된 SLM-FRIDGE-0.5B 모델은 Qwen2.5-0.5B 아키텍처를 기반으로 높은 벤치마크 성능을 보여줍니다.
6월 28일0