Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
RedditAI 번역요약
XHToken/Spark-X2.6-4B · Hugging Face
Spark-X2.6-4B는 기존 Spark-X2.5-4B를 기반으로 개선된 사후 훈련을 거친 온디바이스용 경량 언어 모델입니다. 코딩, 에이전트 워크플로우, 긴 컨텍스트 처리 등에서 성능 향상을 이루었으며, 비슷한 크기의 오픈 소스 모델 중 최첨단 수준의 성능을 보여줍니다.
2일 전0
RedditAI 번역요약
[논문] REMORY: 컨텍스트 압축을 위한 잔여 메모리 학습
REMORY는 장기 지평선 에이전트가 유한 컨텍스트 창 내에서 일관성을 유지하도록 돕는 신경 메모리 네트워크입니다. 이 모델은 요약에 조건화된 '소프트 메모리 토큰 시퀀스'를 추가하여, 전체 기록의 연속성을 추정하고 후속 결정을 지원합니다. SummHay 및 장기 에이전트 벤치마크에서 성능 향상을 입증했습니다.
2일 전0
RedditAI 번역요약
캐릭터 카드는 신뢰할 수 없는 입력입니다. 로컬 RP 프런트엔드 보안 점검 노트
로컬 모델 기반 RP 앱인 Vellium의 보안 점검 노트를 공유하며, 캐릭터 카드 처리 시 발생할 수 있는 파일 경로 취약점과 DNS 리바인딩 같은 서버 측 보안 문제를 다룹니다. 최신 버전에서는 이러한 위험을 수정하고 사용자에게 안전한 개발 가이드를 제공합니다.
2일 전0
RedditAI 번역요약
Deepseek이 DeepInfer를 출시했습니다 - DeepSeek 모델을 위한 오픈 소스 고성능, 대규모 추론 프레임워크!
Deepseek에서 DeepInfer라는 오픈 소스 고성능 추론 프레임워크를 출시했습니다. 이 도구는 DeepSeek 모델을 위한 대규모 추론 환경을 제공하여 개발자들이 효율적으로 모델을 운영할 수 있도록 돕습니다.
2일 전0
RedditAI 번역요약
32B 모델이 16GB GPU 예산 내에서 262K 컨텍스트를 유지하도록 자체 추론 엔진을 구축했습니다. 전체 실행 영상입니다.
Blockway 팀은 장기 에이전트 세션에서 발생하는 VRAM 소모 문제를 해결하기 위해 자체 추론 엔진인 Agens Engine과 Volundr 모델을 개발했습니다. 이 엔진은 KV 캐시를 고정된 크기로 유지하고, 사용자가 지정한 GPU 메모리 예산 내에서 작동하여 대화 기록 전체를 다시 읽지 않아 효율성을 극대화합니다.
2일 전0
RedditAI 번역요약
HermesConsole: VoiceManager를 선보이는 데모, 저지연 스트리밍 STT/TTS 서버입니다. MIT, 클라이언트 문서 및
HermesConsole은 저지연(low latency) 스트리밍 STT 및 TTS 기능을 제공하는 서버 프레임워크입니다. 핵심 기능인 VoiceManager는 오디오 스트림을 실시간으로 받아 텍스트 변환과 음성 합성을 통합 관리합니다. 이 프로젝트는 대화형 AI 애플리케이션에 최적화되어 있습니다.
3일 전0
RedditAI 번역요약
GameSummoner: 로컬 사용 편의성 업데이트
GameSummoner가 로컬 사용 편의성을 대폭 개선하여, 이제 간단한 명령어만으로 쉽게 설치하고 사용할 수 있게 되었습니다. 이 도구는 llama-swap과 LLM Anything을 활용해 모델 목록 확인, 노드/파일 검증 등 사용자 친화적인 과정을 거칩니다. 이를 통해 사용자는 구축된 게임들의 터미널 대시보드를 보거나 특정 게임에 바로 진입할 수 있습니다.
3일 전0
RedditAI 번역요약
AgentLongBench에서 32K 창 크기를 가진 단일 12GB GPU 성능 테스트: 모호한 질문이 차이를 가렸습니다; 명확히 하자
본 기사는 장기 대화 히스토리(최대 150K 토큰)를 처리하는 에이전트의 성능을 분석합니다. 특히, 기존 방식인 전체 창 사용, 프록시 기반 리콜 도구, 요약 및 잘림 방식을 비교했습니다. 테스트 결과, 모호한 질문에서는 방법론 간 차이가 미미했으나, 명확하게 증거가 필요한 질문에서는 '증거를 읽는 순서'와 같은 세부적인 맥락 이해에서 큰 성능 저하가 관찰되었습니다.
3일 전0
RedditAI 번역요약
Bare IPython harness가 Qwen3.5-9B를 사용하여 TB-Lite에서 프로덕션 코딩 에이전트와 대등하며, 도구 출력 정규화로
본 기사는 Qwen3.5-9B와 같은 소형 모델을 활용한 프로덕션 코딩 에이전트 하네스를 비교 분석했습니다. 그 결과, 복잡한 대형 하네스보다 단순화된 IPython 하네스가 성능 면에서 대등함을 보여주었습니다. 특히 도구 출력 정규화를 통해 환경 노이즈를 제거하는 것이 소형 모델의 안정성을 높이는 핵심임을 강조합니다.
3일 전0
RedditAI 번역요약
AnimLang: LLM을 활용하여 애니메이션을 생성하기 위한 간단한 워크플로우 저장소
AnimLang은 LLM을 활용하여 애니메이션을 생성하는 간단한 워크플로우 저장소입니다. 이 도구는 코딩 하니스에 링크를 복사하거나 `npx animlang@latest` 명령어로 설정할 수 있습니다. 이를 통해 사용자는 비교적 쉽게 고품질의 애니메이션 콘텐츠를 제작할 수 있습니다.
3일 전0
RedditAI 번역요약
BrowseComp-Plus의 830개 질의 중 15개로 구성된 mini 버전: 전체 세트와 유사한 순위를 매기는 심층 연구 에이전트, LLM
기존의 대규모 검색 에이전트 벤치마크(BrowseComp-Plus)는 실행 비용과 시간이 많이 소모되는 문제가 있었습니다. 이에 연구진은 전체 830개 질의 중 핵심적인 15개 질문으로 구성된 'mini 버전'을 개발했습니다. 이 mini 세트는 적은 자원으로도 전체 벤치마크와 유사한 높은 순위 매기기 성능을 보여주어 효율성을 크게 높였습니다.
3일 전0
RedditAI 번역요약
TensorSharp의 Video Studio에서 48GB M5 Pro MacBook Pro를 사용한 LTX 2.5 로컬 실행
TensorSharp 개발자가 로컬 추론 엔진 Video Studio를 공개했습니다. 이 스튜디오는 MacBook Pro에서 LTX 2.5 모델을 사용하여 이미지-투-비디오 생성을 수행하고, 생성된 클립을 타임라인에 배치하여 편집할 수 있게 합니다. 사용자는 여러 트랙에 걸쳐 자르고 붙이며, 로컬 LLM의 도움을 받아 복잡한 비디오 프로젝트를 완성할 수 있습니다.
3일 전0
RedditAI 번역요약
DeepSeek V4.1 Flash 1017 대 V4.1 Flash, Pi 비교: 나의 코딩 작업 10가지 테스트 결과
DeepSeek V4.1 Flash 1017의 코딩 성능을 개인적인 벤치마크로 테스트한 결과, 높은 난이도에서 우수한 결과를 보였습니다. 이 글은 다양한 모델(Opus, GPT 등)과 두 가지 에이전트 프레임워크(Pi, DeepSeek Harness)를 비교하며, 각 조합의 효율성 및 성능을 분석합니다.
4일 전0
RedditAI 번역요약
모든 GPU 사용자 주목: llama.cpp를 능가하는 컴파일러 우선 AI 런타임 SonicBoom v0.0.3 벤치마킹에 참여해 주세요
HardenedLinux가 오픈 소스 추론 런타임 SonicBoom v0.0.3을 공개했습니다. 이 툴은 Python 없이 C ABI와 Guile Scheme을 사용하며, llama.cpp 대비 여러 모델에서 성능 향상을 보였습니다. 특히 MLIR 다이얼렉트인 Boom IR과 최적화된 커널 생성을 통해 효율적인 추론 환경을 제공합니다.
4일 전0
RedditAI 번역요약
M3U에 Muse Spark Open 816B-A42B 구동
DeepSeek v4.1 Flash 1017 모델을 사용하던 환경에서 Muse Spark Open 816B-A42B를 ds4에 성공적으로 클램프하고 디코딩까지 완료한 실험 결과를 공유합니다. 초당 4 토큰의 속도를 기록했으며, 향후 더 큰 prefill 청크 실행도 계획 중입니다.
4일 전0
RedditAI 번역요약
Mac Studio 단일 기기에서 Muse Spark 구동 현황
Mac Studio 단일 기기에서 Muse Spark 구동 현황을 공유하며, 디코드 속도가 18 t/s에 도달했음을 보고했습니다. 현재는 작업 트리 선택 과정으로 인해 일시적 하락이 있으나, 프리필 저하 문제가 해결되면 안정적인 성능 복구가 예상됩니다.
4일 전0
RedditAI 번역요약
오래된 저어텐션 토큰을 제거하여 긴 채팅/에이전트 세션을 작게 유지하는 방법
PulsarLM은 컨텍스트 창에서 오래되고 중요하지 않은 토큰을 제거하여, 대화 세션의 크기를 제한하면서도 학습된 한계를 뛰어넘는 추론 엔진입니다. 이 엔진은 커스텀 어텐션 커널로 작동하며, 낮은 어텐션 질량을 가진 페이지를 정기적으로 제거합니다. RoPE 재회전 및 컨텍스트 스냅샷 캐싱 기능을 통해 효율성을 높였습니다.
4일 전0
RedditAI 번역요약
72시간 동안 네 개의 대형 오픈 웨이트 모델 출시: 24GB에 맞는 유일한 모델은 NVIDIA가 선보였다.
이번 주에 Meta, NVIDIA, Reflection, DeepSeek 등 여러 기업이 대규모 오픈 웨이트 모델을 공개했습니다. 특히 NVIDIA는 24GB 메모리 제약에 맞춰 Nemotron 3.5 Bolt를 출시하여 접근성을 높였습니다. 각 모델의 크기, 라이선스, 성능 지표 등을 비교 분석하며 시장 동향을 제시합니다.
4일 전1
RedditAI 번역요약
M5 Ultra 256 GB와 M3 Ultra 512 GB를 결합하여 디분산된 prefill/decode 구현하기
M3 Ultra와 M5 Ultra의 메모리 및 성능 차이를 활용하여 디분산된 prefill/decode 파이프라인을 구현하는 방법을 제시합니다. M5가 빠른 prefill을 담당하고, M3가 대용량 메모리를 이용해 decode를 수행함으로써 전체 시스템 효율성을 극대화할 수 있습니다.
4일 전1
RedditAI 번역요약
DugUp: (Windows & Linux) 내용으로 파일 검색 (단어, OCR, 의미, 이미지 시각적 특징), 모두 로컬 실행. 알파 버전.
DugUp은 로컬에서 작동하는 파일 검색 애플리케이션으로, 단어, OCR 텍스트, 구절의 의미, 이미지 시각적 특징 등 다차원적인 기준으로 파일을 찾을 수 있게 합니다. Python 기반으로 개발되었으며, Windows와 Linux를 모두 지원하며 모든 데이터 처리를 사용자 기기 내에서만 수행하여 개인 정보 보호에 중점을 두었습니다.
4일 전2