MEUSLI: LLM 기반 ASR 및 그 이상의 기능을 위한 다국어 프로젝터 (Multilingual Projector)

MEUSLI는 Whisper 인코더와 오픈 소스 다국어 LLM을 연결하여 28개 유럽 언어를 지원하는 다국어 프로젝터 제품군입니다. ASR뿐만 아니라 음성 번역 및 주제 식별까지 가능한 확장성을 제공하며, 지속 학습을 통해 새로운 언어로의 확장이 용이합니다.

Nanbeige4.2-3B: 컴팩트한 모드에서 에이전트 역량 해제하기

3B 파라미터 규모의 컴팩트한 범용 에이전트 모델인 Nanbeige4.2-3B를 소개합니다. 루프 트랜스포머 구조와 고도화된 RL 파이프라인을 통해 수학, 코딩, 도구 사용 등 다양한 에이전트 작업에서 대형 모델을 능가하는 성능을 보여줍니다.

고립된 작업에서 구조화된 능력으로: 대규모 언어 모델(LLM)을 위한 다층 분류 체계

LLM 평가가 작업 중심에서 능력 중심으로 전환되어야 함을 강조하며, 인지 과학에 기반한 다층 분류 체계를 제안합니다. 14개 영역과 91개 하위 기술로 구성된 이 체계는 연구 조직과 모델 진단을 위한 새로운 프레임워크를 제공합니다.

교차 언어 전이(Cross-Lingual Transfer) 및 LoRA 어댑터 병합(Adapter Merging)을 통한 저자원 아랍 문자

아랍 문자 기반 저자원 언어의 생물 의학 번역 성능을 높이기 위해 교차 언어 전이와 LoRA 어댑터 병합 전략을 연구했습니다. 고자원 언어를 피벗으로 활용하여 다리어, 파슈토어 등 저자원 언어의 번역 품질을 개선하는 다양한 전이 기법을 평가했습니다.

grapheme-kit: 다국어 NLP를 위한 자소 단위(Grapheme-Level) 지표 및 텍스트 처리

유니코드 코드 포인트 기반의 기존 지표가 가진 한계를 극복하기 위해 자소 클러스터 단위로 작동하는 오픈 소스 Python 라이브러리 'grapheme-kit'을 소개합니다. 이 라이브러리는 다국어 NLP 환경에서 더 정확한 텍스트 처리와 평가를 지원합니다.

Skill Self-Play: 공진화하는 기술을 통한 LLM 능력의 한계 돌파

LLM의 자기 진화 과정에서 발생하는 작업 다양성과 검증 신뢰성 사이의 딜레마를 해결하기 위한 Skill Self-Play(Skill-SP) 프레임워크를 제안합니다. 제안자, 해결사, 기술 컨트롤러가 강화학습을 통해 상호작용하며 모델의 도구 사용 및 추론 능력을 지속적으로 향상시킵니다.

Byte-Prefix Marginalization을 통한 교차 토크나이저 온-정책 증류 (Cross-Tokenizer On-Policy

서로 다른 토크나이저를 사용하는 모델 간의 온-정책 증류(OPD) 효율을 높이기 위한 Byte-Prefix Marginalization(BPM) 기술을 제안합니다. BPM은 바이트 공간을 활용해 교사 모델의 확률 질량을 학생 모델의 어휘로 정확하게 재표현하여 정보 손실을 최소화합니다.

문법 교재를 활용한 저자원 기계 번역용 합성 데이터 생성의 요인 연구

문법 교재를 활용해 저자원 언어의 기계 번역을 위한 합성 병렬 데이터를 생성하는 파이프라인을 제안합니다. LLM을 통해 문법 규칙과 예문을 추출하여 미세 조정을 수행하며, 다양한 언어 유형에서 성능 향상을 입증했습니다.

RGB 카메라 1대로 로봇을 움직이는 Mistral의 Robostral Navigate

FutureX · Physical AI Daily — Issue 71 (07/28)

물리적 AI(Physical AI) 분야의 최신 연구와 산업 동향을 다룹니다. 월드 모델을 임베딩하여 로봇의 장기 작업 수행 능력을 높인 τ0-VLA 연구와 잠재 액션 모델의 결함을 개선하는 CD-LAM 연구를 소개합니다.

KAME를 오픈 모델로 구동하여 MT-Bench로 벤치마크 평가 수행

Sakana AI의 음성 대화 모델 KAME를 오픈 모델로 구동할 수 있도록 개조하고, MT-Bench를 통해 벤치마크 성능을 평가한 연구 결과입니다. STS 모델의 저지연성과 LLM의 고지능을 결합한 하이브리드 구조를 분석하고, 툴 콜(Tool Call)을 통한 실시간 정보 처리 가능성을 시험했습니다.

Kimi K3 가중치 오늘 공개. 이번 주에 A100, H200, B300에 배포 예정이며 A100의 연산량은 이미 버거운 수준입니다

Moonshot의 Kimi K3 모델 가중치가 공개되었으며, 2.8T 파라미터 규모의 MoE 구조를 가집니다. A100, H200, B300 등 다양한 GPU 환경에서의 배포 및 성능 벤치마크가 진행될 예정입니다.

투영 경사 하강법 (Projected Gradient Descent) 솔버 반복값 학습에 대한 복잡도 경계 및 접근 방식

데이터 부족 문제를 해결하기 위해 생성 모델이 솔버의 중간 반복값을 학습하도록 하는 k-이웃 데이터 증강 전략을 제안합니다. Rademacher 복잡도를 통해 일반화 경계를 도출하고, Projected Gradient Descent를 활용한 이차 계획법에서의 효과를 분석합니다.

bag-of-waves를 이용한 해석 가능한 EEG 바이오마커: 데이터가 부족한 환경을 위한 공간적 및 시간적 파형 사전

bag-of-waves는 EEG 분석을 위해 해석 가능한 파형 사전(dictionary)을 학습하는 프레임워크입니다. 심층 신경망과 달리 적은 매개변수로도 높은 성능을 내며, 데이터가 부족한 환경에서도 임상적으로 검증 가능한 파형을 통해 해석 가능성을 제공합니다.

문법은 문자로 작성되지만, 모델은 토큰을 생성합니다

텍스트 데이터를 모델이 처리할 수 있는 숫자로 변환하는 토큰화(Tokenization) 방식의 세 가지 접근법을 비교합니다. 단어, 문자, 서브워드 수준의 장단점을 분석하며, 현재 표준으로 자리 잡은 BPE(Byte Pair Encoding) 알고리즘의 원리를 설명합니다.

리뷰 지침이 이해도를 향상시키는지에 대한 연구

AI 코드 리뷰 시 맞춤형 지침이 리뷰어의 이해도와 안전한 의사결정에 미치는 영향을 연구합니다. 단순히 코멘트를 수락하는 것을 넘어, 규칙 준수 여부와 결과의 정확성을 측정하는 새로운 방법론을 제안합니다.

Deformable Triangle Splatting: 실시간 Radiance Field 렌더링을 위한 유연한 Primitives

Deformable Triangle Splatting은 기존의 볼록한 Primitives 한계를 극복하기 위해 제어점을 활용한 비볼록(non-convex) 삼각형 형상 표현 방식을 제안합니다. 미분 가능한 래스터화 파이프라인을 통해 시점 일관성을 유지하며, 효율적인 렌더링과 높은 시각적 품질을 동시에 달면합니다.

윤리적 감사 가능성을 내장한 생체 모방 소프트 로보틱스 유지보수를 위한 확률적 그래프 신경 추론 (Probabilistic Graph

소프트 로보틱스의 불확실성을 해결하기 위해 확률적 그래프 신경망(PGNN)을 활용한 유지보수 추론 시스템을 제안합니다. 센서 간의 공간적·시간적 의존성을 그래프 구조로 모델링하고, 윤리적 감사 가능성을 내장하여 결함 탐지의 신뢰성을 높이는 연구를 다룹니다.

AI 워터마킹: 이전 단어에 의해 유도되는 녹색/적색 토큰 편향, z-검정 탐지기, 그리고 패러프레이징이 이를 깨뜨리는 이유

AI 생성 텍스트를 식별하기 위한 워터마킹 기술의 원리와 구현 방식을 설명합니다. 이전 토큰을 기반으로 어휘를 녹색/적색 리스트로 분할하고, 녹색 토큰의 선택 확률을 미세하게 높여 통계적 z-검정으로 탐지하는 메커니즘을 다룹니다.

Only 10 Vol.26.02

매주 전 세계의 유망한 AI 프로젝트를 분석하여 소개하는 뉴스레터입니다. 이번 호에서는 ESP32를 활용한 저비용 볼링장 시스템 구축 사례와 Gemma 4 모델의 신뢰도를 높이는 하이브리드 AI 기술을 다룹니다.