Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 페이지의 콘텐츠는 AI가 공개된 소스를 기반으로 자동 수집·요약·번역한 것입니다. 원 저작권은 각 원저작자에게 있으며, 각 게시물의 “원문 바로가기” 링크를 통해 원문을 확인할 수 있습니다. 저작권자의 삭제 요청이 있을 경우 신속히 조치합니다.
Ling-3.0-flash-Sante는 '건강'을 의미하는 프랑스어에서 이름을 딴 의료 특화 대규모 언어 모델입니다. 총 124B 파라미터와 MoE 아키텍처를 기반으로 하며, 복잡한 의료 추론과 심층 연구 워크플로우에 최적화되었습니다. 최대 256K 토큰의 긴 컨텍스트 처리 및 도구 호출 기능을 제공하여 전문적인 헬스케어 분석을 지원합니다.
InclusionAI가 헬스케어 전용 모델인 Ling-3.0-flash-Sante를 발표했습니다. 이 모델은 총 124B의 파라미터와 256K 컨텍스트 윈도우를 갖추고 있으며, 의료 추론 및 문헌 연구에 특화되어 있습니다. 가중치는 이미 Hugging Face에 공개되었습니다.
KittenML이 초효율적인 오픈소스 TTS 모델인 Kitten-TTS 2를 공개했습니다. 이 모델은 세계 최초의 1.58비트(Ternary) 가중치를 사용하여 CPU만으로도 실시간 구동이 가능하며, 제로샷 음성 복제와 다국어 지원 기능을 제공합니다.
Sage‑A1.5는 Shanghai AI Laboratory가 개발한 35B Mixture‑of‑Experts 에이전트 모델입니다. 이 모델은 장기적인 과학 문제 해결을 목표로 하며, 특히 에이전트 오케스트레이션, 검증(Verification), 개방형 과학적 발견이라는 세 가지 핵심 역량을 강조합니다. 이를 통해 복잡한 작업을 분해하고, 스스로 오류를 수정하며, 탐색적인 연구를 수행할 수 있습니다.
KRAFTON AI가 개발한 30B-A4B MoE 언어 모델인 Raon-1 mini가 Hugging Face를 통해 공개되었습니다. 이 모델은 한국어 대화 및 에이전트 작업에서 강력한 성능을 보이며, 수학/과학 벤치마크와 명령어 수행 능력에서 우위를 점합니다.
Perplexity AI가 출시한 pplx-decider-v1.2와 pplx-decider-flash-v1.2 모델이 주목받고 있습니다. 이 모델들은 기존의 GPT 6 Luna나 Jev 대비 결정(Decision)을 내리는 비용을 최대 10분의 1 수준으로 크게 낮추면서도 동일한 품질을 유지합니다.
Spark-X2.6-4B는 기존 Spark-X2.5-4B를 기반으로 개선된 사후 훈련을 거친 온디바이스용 경량 언어 모델입니다. 코딩, 에이전트 워크플로우, 긴 컨텍스트 처리 등에서 성능 향상을 이루었으며, 비슷한 크기의 오픈 소스 모델 중 최첨단 수준의 성능을 보여줍니다.
REMORY는 장기 지평선 에이전트가 유한 컨텍스트 창 내에서 일관성을 유지하도록 돕는 신경 메모리 네트워크입니다. 이 모델은 요약에 조건화된 '소프트 메모리 토큰 시퀀스'를 추가하여, 전체 기록의 연속성을 추정하고 후속 결정을 지원합니다. SummHay 및 장기 에이전트 벤치마크에서 성능 향상을 입증했습니다.
기존의 대규모 검색 에이전트 벤치마크(BrowseComp-Plus)는 실행 비용과 시간이 많이 소모되는 문제가 있었습니다. 이에 연구진은 전체 830개 질의 중 핵심적인 15개 질문으로 구성된 'mini 버전'을 개발했습니다. 이 mini 세트는 적은 자원으로도 전체 벤치마크와 유사한 높은 순위 매기기 성능을 보여주어 효율성을 크게 높였습니다.
DeepSeek v4.1 Flash 1017 모델을 사용하던 환경에서 Muse Spark Open 816B-A42B를 ds4에 성공적으로 클램프하고 디코딩까지 완료한 실험 결과를 공유합니다. 초당 4 토큰의 속도를 기록했으며, 향후 더 큰 prefill 청크 실행도 계획 중입니다.
PulsarLM은 컨텍스트 창에서 오래되고 중요하지 않은 토큰을 제거하여, 대화 세션의 크기를 제한하면서도 학습된 한계를 뛰어넘는 추론 엔진입니다. 이 엔진은 커스텀 어텐션 커널로 작동하며, 낮은 어텐션 질량을 가진 페이지를 정기적으로 제거합니다. RoPE 재회전 및 컨텍스트 스냅샷 캐싱 기능을 통해 효율성을 높였습니다.
이번 주에 Meta, NVIDIA, Reflection, DeepSeek 등 여러 기업이 대규모 오픈 웨이트 모델을 공개했습니다. 특히 NVIDIA는 24GB 메모리 제약에 맞춰 Nemotron 3.5 Bolt를 출시하여 접근성을 높였습니다. 각 모델의 크기, 라이선스, 성능 지표 등을 비교 분석하며 시장 동향을 제시합니다.
작성자는 560B MoE 구조의 Ling 3.1 Flash 모델을 네 개의 DGX Sparks에 분산 로드하여 테스트하고 있습니다. 이 방법은 vLLM용 공식 FP4 빌드가 없어 llama.cpp RPC를 통해 여러 머신에 걸쳐 Atomic Chat의 GGUF 파일을 사용하는 방식입니다. 성능과 대기 시간 변화가 주요 관심사입니다.
본 기사는 장기적인 에이전트 작업 수행 시 '사고 규칙(thinking rules)'의 효과를 Terminal-Bench 2.0을 사용하여 테스트한 결과를 다룹니다. 여러 가지 사고 규율을 적용했을 때, 모델과 에이전트가 어떻게 성능을 발휘하는지 비교 분석했습니다. 특히, 특정 규칙 세트를 적용한 GLM-5.3-Flash와 다른 최신 모델들의 점수를 비교하며 연구 동향을 제시합니다.
Aleph Alpha의 MoE 모델인 Kolibri-1 (78B)이 llama.cpp를 통해 지원될 예정입니다. 이 모델은 독일어와 영어에 특화되어 있으며, 명시적 추론 및 도구 호출 기능을 갖추고 있습니다. 최대 104만 토큰의 긴 컨텍스트 처리가 가능하며, 복잡한 작업과 에이전트 활용에 최적화되었습니다.
Nemotron-3.5 모델의 성능을 도메인 특화 테스트(pandas/numpy, DDDM)에서 평가했습니다. Bolt 모델은 중간 사고 능력과 높은 수준의 사고 능력을 보여주었으나 속도가 느리고, Super-VL 모델은 최대 토큰 예산 제한으로 인해 테스트가 잘리는 문제가 발견되었습니다.
Mellum2.1은 Mellum2 Thinking의 후속 모델로, 아키텍처는 유지하되 강화학습(RL)을 통해 성능이 크게 향상되었습니다. 특히 소프트웨어 엔지니어링 분야에서 셸 및 파일 편집 도구를 활용한 실제 환경 훈련을 거치며 에이전트적 태스크 처리 능력이 대폭 개선되었습니다.
본 기사는 유료 API 도구의 대안으로 주목할 만한 오픈 모델들을 소개합니다. Meta의 Muse Spark Open, BFL의 FLUX 3 Image Klein, MiniCPM-V 등 다양한 크기와 라이선스를 가진 최신 모델들의 특징과 구동 환경을 안내하며, 사용 시 라이선스 및 VRAM 확인을 강조하고 있습니다.
본 글은 신경망이 학습하고 연결하는 방식에 대한 근본적인 가정을 재정립하며, AI 모델의 해석 가능성(Interpretability)에 대한 기존 관점을 수정합니다. 과거에는 뉴런들이 혼란스럽게 얽혀있다고 여겨졌으나, 실제로는 각 뉴런이 하나의 주요 임무를 수행하며 전문화되어 있다는 연구 결과를 제시합니다.
본 연구는 확산 언어 모델(dLLMs)의 속도를 크게 향상시키는 새로운 방법론 ORL (On-Policy Residual Learning)을 소개합니다. ORL은 이전 예측을 잔차 컨텍스트로 전달하고, 현재 생성된 궤적으로 직접 학습하여 추론 시 발생하는 불일치 문제를 해결했습니다. 이를 통해 모델 품질 저하 없이 높은 처리량 향상을 달성했습니다.