Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
RedditAI 번역요약
리투아니아 외국인 투자자 연례 정상회의 2026 요약 보고서
리투아니아 투자자 정상회의 요약 보고서로, 현지 기업들은 AI를 규제 준수 및 비즈니스 모델의 필수 요구사항으로 인식하고 있습니다. 엔지니어링 역량의 중요성은 강조되었으며, 기업들은 신뢰할 수 있는 인증된 폐쇄형 AI 모델을 선호하는 경향이 나타났습니다.
7시간 전0
RedditAI 번역요약
Izwi 0.1.0: Mac, Linux 및 Windows용 완전 로컬 음성 AI (TTS, ASR, 음성 채팅)
Izwi 0.1.0은 Mac, Linux, Windows에서 구동되는 완전 로컬 음성 AI 데스크톱 애플리케이션입니다. 실시간 ASR → LLM → TTS 파이프라인을 지원하며, 음성 복제 및 화자 분리 기능도 제공합니다. Rust 기반으로 네이티브하게 작동하여 개발 환경 구축의 어려움을 해소했습니다.
8시간 전0
RedditAI 번역요약
inclusionAI/Ling-3.0-flash-Sante · Hugging Face
Ling-3.0-flash-Sante는 '건강'을 의미하는 프랑스어에서 이름을 딴 의료 특화 대규모 언어 모델입니다. 총 124B 파라미터와 MoE 아키텍처를 기반으로 하며, 복잡한 의료 추론과 심층 연구 워크플로우에 최적화되었습니다. 최대 256K 토큰의 긴 컨텍스트 처리 및 도구 호출 기능을 제공하여 전문적인 헬스케어 분석을 지원합니다.
11시간 전0
RedditAI 번역요약
Ant Ling이 오늘 두 번째 모델을 발표했습니다: Ling-3.0-flash-Sante (124B, 5.1B active)
InclusionAI가 헬스케어 전용 모델인 Ling-3.0-flash-Sante를 발표했습니다. 이 모델은 총 124B의 파라미터와 256K 컨텍스트 윈도우를 갖추고 있으며, 의료 추론 및 문헌 연구에 특화되어 있습니다. 가중치는 이미 Hugging Face에 공개되었습니다.
11시간 전0
RedditAI 번역요약
LumaBrowser 2.0.4 업데이트: moss 이미지 생성, 병렬 도구 호출, llm 튜닝 등 기능 추가 및 개선 사항 다수 포함!
LumaBrowser 2.0.4 버전이 업데이트되었으며, moss 이미지 생성 기능, 병렬 도구 호출(parallel tool calling), LLM 튜닝 등 다양한 핵심 기능을 추가했습니다. 이번 업데이트는 오픈 소스 커뮤니티의 피드백을 적극적으로 반영하여 사용자 경험 개선에 중점을 두었습니다.
11시간 전0
RedditAI 번역요약
메인 에이전트가 제기한 모든 주장을 서브 에이전트에게 검증하도록 요청하여 얻은 재미있고 흥미로운 결과
LLM 에이전트의 주장을 서브 에이전트를 통해 검증하는 새로운 워크플로우를 제안합니다. 메인 에이전트가 생성한 주장(claims)을 여러 단계의 서브 에이전트들이 낮은 추론 노력으로 순차적으로 분석하여 오류를 찾아내고, 이를 바탕으로 계획을 수정하고 더 나은 구현에 도달하는 과정을 설명합니다.
23시간 전0
RedditAI 번역요약
Kitten-TTS 2: 새로운 오픈소스 SOTA 1.58비트 TTS (CPU 전용 음성 복제, 다국어 지원, 감정 제어)
KittenML이 초효율적인 오픈소스 TTS 모델인 Kitten-TTS 2를 공개했습니다. 이 모델은 세계 최초의 1.58비트(Ternary) 가중치를 사용하여 CPU만으로도 실시간 구동이 가능하며, 제로샷 음성 복제와 다국어 지원 기능을 제공합니다.
1일 전0
RedditAI 번역요약
llampart: llama-server, vLLM 및 OpenAI 호환 API를 위한 로컬 Web UI
llampart는 Svelte 5와 SvelteKit으로 구축된 오픈 소스 로컬 Web UI로, LLM과의 채팅을 위한 데스크톱 중심 인터페이스를 제공합니다. llama-server(llama.cpp), vLLM, OpenAI 호환 API 등 다양한 백엔드에 연결하여 사용하며, 대화 관리, 도구 호출, 첨부 파일 처리 등의 기능을 지원합니다.
1일 전0
RedditAI 번역요약
sglang을 사용하여 2개의 4090 GPU에서 Qwen3.6-35B-A3B를 구동한 GitLab 코드 리뷰 에이전트 공유
본 글은 sglang과 LangGraph.js를 활용하여 Qwen3.6-35B-A3B 모델을 4090 GPU 두 개에 구동한 GitLab 코드 리뷰 에이전트 구축 경험을 공유합니다. 이 시스템은 높은 처리량(초당 최대 985 토큰)과 안정성을 보여주며, 실제 코드 검토 과정에서 유용하게 활용되고 있습니다.
1일 전0
RedditAI 번역요약
DeepSeek의 오픈 소스 추론 엔진(DeepInfer)을 위한 인터랙티브 단계별 코드 설명기 제작
DeepSeek의 오픈 소스 추론 엔진 DeepInfer를 학습하기 위한 인터랙티브 코드 설명기 웹사이트와 리포지토리를 공개했습니다. 이 도구는 복잡한 Python/C++ 로직을 분해하여, paged KV cache나 speculative decoding 같은 고성능 엔진 개념이 실제 프로덕션 환경에서 어떻게 작동하는지 단계별로 이해할 수 있도록 돕습니다.
1일 전0
RedditAI 번역요약
로컬 어시스턴트를 위한 소형 온디바이스 음성 프런트엔드 구축: 원하는 웨이크 워드를 입력하고, STT 전 사용자 목소리만 유지하는 방법 (5개
본 글은 로컬 온디바이스 환경에서 작동하는 소형 음성 프런트엔드 시스템 'Alkove'를 소개합니다. 이 시스템은 웨이크 워드를 텍스트로 처리하고, 사용자 목소리만 유지하며, STT 전에 노이즈와 다른 사람의 대화를 효과적으로 제거하여 실시간 음성 에이전트의 정확도를 높이는 데 중점을 둡니다.
1일 전0
RedditAI 번역요약
iPhone에서 전문가 건너뛰기 없이 구동되는 35B MoE 모델의 성능
OpenBMB가 Lookahead Expert Scheduling (LES) 기술을 개발하여, 대규모 MoE 모델(MiniCPM-V 4.7)을 전문가 건너뛰기 없이 iPhone 같은 로컬 기기에서 구동하는 방법을 제시했습니다. LES는 다음 레이어에 필요한 전문가를 예측하고, 플래시 스토리지에서 가중치를 미리 불러와 계산 속도를 혁신적으로 개선합니다.
1일 전0
RedditAI 번역요약
InternScience/Sage-A1.5 [Qwen 3.6 35b-a3b 미세 조정]
Sage‑A1.5는 Shanghai AI Laboratory가 개발한 35B Mixture‑of‑Experts 에이전트 모델입니다. 이 모델은 장기적인 과학 문제 해결을 목표로 하며, 특히 에이전트 오케스트레이션, 검증(Verification), 개방형 과학적 발견이라는 세 가지 핵심 역량을 강조합니다. 이를 통해 복잡한 작업을 분해하고, 스스로 오류를 수정하며, 탐색적인 연구를 수행할 수 있습니다.
1일 전0
RedditAI 번역요약
KRAFTON/Raon-1-mini-preview · Hugging Face
KRAFTON AI가 개발한 30B-A4B MoE 언어 모델인 Raon-1 mini가 Hugging Face를 통해 공개되었습니다. 이 모델은 한국어 대화 및 에이전트 작업에서 강력한 성능을 보이며, 수학/과학 벤치마크와 명령어 수행 능력에서 우위를 점합니다.
1일 전0
RedditAI 번역요약
결정(Decision) 비용이 단 몇 달 만에 10분의 1로 하락했습니다
Perplexity AI가 출시한 pplx-decider-v1.2와 pplx-decider-flash-v1.2 모델이 주목받고 있습니다. 이 모델들은 기존의 GPT 6 Luna나 Jev 대비 결정(Decision)을 내리는 비용을 최대 10분의 1 수준으로 크게 낮추면서도 동일한 품질을 유지합니다.
1일 전0
RedditAI 번역요약
ChatGPT와 같은 경험을 로컬 환경에서 구축
OvertChat은 로컬 환경에서 ChatGPT와 유사한 사용자 경험을 제공하는 오픈 소스 애플리케이션입니다. 복잡한 기능 대신 세련된 인터페이스에 초점을 맞추었으며, 음성 대 변환, 웹 검색, 그리고 Codex/Claude Code 등 코딩 에이전트를 통합했습니다. 이는 사용자가 자신의 플랫폼에서 직접 호스팅할 수 있게 하여, 외부 서비스 의존성을 줄이고 개인화된 AI 작업 공간을 구축하도록 돕습니다.
2일 전0
RedditAI 번역요약
VectorDash 업데이트: Rust로 재작성되었으며, 전체 클립보드 관리, 로컬 역 이미지 검색, 웹 검색 및 AI 채팅 기능을
VectorDash가 Rust로 재작성되어 클립보드 관리, 로컬 역 이미지 검색, 웹 검색, AI 채팅 등 다양한 기능을 통합한 범용 검색 도구로 업데이트되었습니다. 이 도구는 선택적 기능으로 구성되어 사용자가 필요한 부분만 활성화할 수 있으며, 시스템 자원 효율성을 유지합니다.
2일 전0
RedditAI 번역요약
독점 추론 라이브러리 없이 RK3588 NPU 런타임을 구축했습니다: Qwen3.5-4B를 ~10 tok/s로, 벤더 SDK보다 약 2배
본 글은 Rockchip RK3588 NPU를 활용하여 독점 라이브러리 없이 로컬 LLM 추론 엔진인 open_rknpu2_lm_infer를 구축한 내용을 다룹니다. 이 엔진은 Rust와 C++로 작성되었으며, Qwen3.5-4B 모델을 벤더 SDK 대비 약 2배 빠른 속도로 구동할 수 있습니다.
2일 전0
RedditAI 번역요약
Kokon 0.10: Prompt+ 기능과 자체 LoRA 지원 추가
Kokon 0.10 버전이 출시되었으며, 짧은 아이디어를 상세 프롬프트로 확장하고 이미지를 생성하는 'Prompt+' 기능과 자체 LoRA 지원(베타) 기능을 추가했습니다. 이 업데이트는 Qwen-Image 2.1을 기반으로 하며, 사용자가 프롬프트 작성 과정을 확인하고 재사용할 수 있게 했습니다.
2일 전0
RedditAI 번역요약
Tesla K80 (2014)에서 35B MoE 모델 구동하기: C 언어로 구현
C 언어로 작성된 추론 엔진 Pantheon을 소개하며, 최신 하드웨어 없이도 Tesla K80 같은 구형 GPU에서 35B MoE 모델을 구동하는 방법을 제시합니다. 이 엔진은 외부 라이브러리 의존성 없이 작동하며, 특히 Prefix 캐싱 기능으로 후속 응답 속도를 크게 개선했습니다.
2일 전0