Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
RedditAI 번역요약
Astra + 이미지 생성 + Blender + Three.js = 🫶
Astra, 이미지 생성(image gen), Blender, Three.js를 결합하여 우주 슈팅 게임을 개발한 사례입니다. 이 조합은 아이디어 구상부터 3D 구현까지의 과정을 보여주며, 독자들에게 새로운 기술 활용법을 제시합니다.
9월 19일1
RedditAI 번역요약
프롬프트 하나로 주간 사용량이 93%에서 5%로 급감한 경험
사용자가 Astra high와 low를 사용하여 사용자 티켓 구현 사양을 계획하고 실행하는 과정에서, 오픈 소스 프로젝트 Omniagent 검토 요청 후 주간 사용량이 급감한 경험을 공유했습니다. 이는 실제로는 '주간 초기화 날짜'가 되돌아가는 버그였으며, 은행 계좌 리셋 기능을 사용한 사용자들에게 주로 나타나는 OpenAI의 공식 인정 버그로 확인되었습니다.
9월 19일1
RedditAI 번역요약
임베딩 모델 간 마이그레이션 방법 공유: 전체 코퍼스 재임베딩 없이 전환하기
기존 임베딩 모델을 새로운 모델로 마이그레이션할 때 발생하는 막대한 재임베딩 비용 문제를 해결하는 방법을 공유합니다. 이 방법은 기존 인덱스에서 일부 문서를 가져와 새 모델로 재랭킹(rerank)하여, 전체 코퍼스를 다시 처리하지 않고도 높은 검색 품질을 유지할 수 있게 합니다.
9월 19일1
RedditAI 번역요약
ChatGPT와 Blender MCP를 이용해 처음부터 환경 구축하기
GPT-6 Astra가 Blender MCP를 활용하여 텍스트 프롬프트만으로 병원 복도 환경 전체를 구축하는 과정을 보여줍니다. 이 과정은 블록아웃, 상세 꾸미기, 카메라 애니메이션, 재조명 등 전문적인 3D 제작 단계를 거치며 외부 에셋 없이 오직 디렉팅과 프롬프팅 능력에 의존합니다.
9월 16일1
RedditAI 번역요약
Qwen3-TTS 음성 복제 기능이 이제 llama.cpp 메인라인에 포함되었습니다 — 기존 데모가 마침내 실제 지원 기능이 되었습니다
Qwen3-TTS의 음성 복제 기능이 llama.cpp 메인라인에 공식 병합되었습니다. 이제 GGUF 형식을 통해 로컬 환경에서 다양한 언어로 짧은 참조 오디오를 활용한 음성 생성이 가능해졌습니다.
8월 8일2
RedditAI 번역요약
멀티 에이전트 AI를 활용한 개방형 및 검증 가능한 증거 포트폴리오 구축
멀티 에이전트 AI 시스템을 활용하여 의료 기록에 대한 개방형 및 검증 가능한 연구 포트폴리오를 구축하는 방법론을 소개합니다. 독립적 분석, 적대적 비판, 종합 과정을 통해 AI의 답변 신뢰성을 높이고 반증 가능한 연구 결과물을 생성하는 프로세스를 다룹니다.
8월 6일2
RedditAI 번역요약
Auto-fit vs 튜닝된 MoE 오프로드: 564 → 1330 pp tok/s, 디코딩 속도는 동일 (Qwen3.6-35B-A3B Q6 /
RTX 3090 환경에서 MoE 모델의 일부 레이어를 CPU로 오프로드하여 VRAM을 확보하고, 이를 통해 배치 사이즈를 키워 프롬프트 처리 속도를 2.36배 향상시킨 최적화 사례를 소개합니다.
8월 6일1
RedditAI 번역요약
OnePlus 13에서 순수 CPU로 17 tok/s를 기록하는 LFM2.5-2.6B
OnePlus 13 모바일 기기에서 2.69B 파라미터 규모의 LFM2.5 모델을 순수 CPU만으로 실행하여 17 tok/s의 속도를 기록했습니다. 사용자가 직접 구축한 450kb 크기의 경량 추론 엔진을 통해 ADB 환경에서 구동되었습니다.
8월 5일1
RedditAI 번역요약
Ollama, Mac에서 Qwen3.5 MTP 자동 활성화 지원 (이전 Metal 테스트에서는 11–27% 더 느렸음)
Ollama 0.32.6-rc0 버전에서 Apple Silicon 사용자를 위한 Qwen3.5 MTP(Multi-Token Prediction) 자동 활성화 기능이 추가되었습니다. MLX 백엔드를 통해 별도의 설정 없이도 추측적 디코딩을 지원하며, 적응형 깊이 컨트롤러를 통해 성능을 최적화합니다.
8월 5일2
RedditAI 번역요약
Llama.cpp PR 8% 속도 향상
Llama.cpp의 새로운 PR을 통해 MTP 활성화 시 샘플링 과정을 CPU에서 GPU로 이동시켜 추론 성능을 개선했습니다. 테스트 결과 RTX 5090에서는 약 8%의 속도 향상을 보였으며, NVIDIA P40 환경에서도 약 4%의 성능 개선이 확인되었습니다.
8월 4일2
RedditAI 번역요약
RTX 5090에서 Gemma4-12B를 사용하여 vLLM 및 Llama.cpp의 TTFT 성능 추월
RTX 5090 환경에서 Gemma4-12B 모델을 사용하여 vLLM 및 Llama.cpp보다 낮은 TTFT(첫 토큰 생성 시간)를 달성하는 실험적 추론 최적화 기법을 소개합니다. 새로운 커널을 통해 지연 시간을 단축하지만, TPOT(토큰 생성 속도)는 메모리 대역폭 제한으로 인해 큰 차이가 없음을 보여줍니다.
8월 3일2
RedditAI 번역요약
오프로드 상태의 DS4 Flash 전체 모델, 약 600 t/s PP 및 45-60 t/s TG. 끔찍한 PP 성능인가요?
DS4 Flash 모델을 다중 GPU 환경에서 실행할 때 발생하는 Prompt Processing(PP) 성능 저하 문제를 분석하고, 특정 포크(fork) 버전을 통해 성능을 1000 t/s까지 개선한 사례를 다룹니다. 모델별 연산 프로파일링을 통해 DSV4와 Qwen3.5 122B의 커널 연산 차이를 비교 분석합니다.
8월 3일1
RedditAI 번역요약
Twin: AI 컨텍스트 재구축을 위한 가능한 해결책
AI가 매 대화마다 컨텍스트를 재구축하는 비효율을 해결하기 위해, 분산된 이벤트를 관찰하고 상황 모델을 형성하는 오픈 소스 프로젝트 'Twin'을 소개합니다. Twin은 Slack, GitHub 등의 데이터를 분석하여 지속적인 인지적 연속성을 제공하는 것을 목표로 합니다.
8월 3일2
RedditAI 번역요약
Twin: AI 컨텍스트 재구축을 위한 가능한 해결책
AI가 매번 새로운 대화에서 컨텍스트를 재구축하는 문제를 해결하기 위해, 분산된 이벤트를 관찰하고 상황 모델을 형성하는 오픈 소스 프로젝트 'Twin'을 소개합니다. Twin은 Slack, GitHub 등의 데이터를 상관관계로 연결하여 AI에게 인지적 연속성을 제공하는 것을 목표로 합니다.
8월 3일3
RedditAI 번역요약
12개의 LLM 에이전트가 서로 죽을 대상을 결정하게 만들었습니다
12개의 서로 다른 LLM 에이전트가 생존을 위해 경쟁하는 'Deadlock' 벤치마크 실험을 소개합니다. 각 에이전트는 Docker 컨테이너 내에서 도구를 스스로 구축하며 게임을 수행하고, 시각적 구현을 위해 다양한 AI 도구와 3D 파이프라인을 활용했습니다.
8월 2일2
RedditAI 번역요약
[출시] WinterMix — native MLX 기반 Qwen3.5-122B-A10B: 94~95 GiB 양자화 모델을 능가하는 82 GiB
Apple Silicon 환경에서 최적화된 새로운 MLX 기반 Qwen3.5-122B-A10B 양자화 모델인 WinterMix가 출시되었습니다. 기존 GGUF 대비 성능 손실을 최소화하면서도 MLX 환경에서 llama.cpp보다 훨씬 빠른 추론 속도를 제공합니다.
8월 2일3
RedditAI 번역요약
엄격한 임계값으로 인해 temperature=0 점수 노이즈가 50/50의 Low/Medium 결정으로 변함
temperature=0 설정에서도 LLM의 비결정론적 특성으로 인해 임계값 경계에 있는 점수가 범주를 바꿀 수 있음을 실험을 통해 증명합니다. 특히 비전-LLM 워크플로에서 미세한 점수 차이가 안전 결정(Low/Medium)을 뒤집는 문제를 다룹니다.
8월 1일2
RedditAI 번역요약
데모: 이메일 및 캘린더 자동화
Row-Bot은 이메일 및 캘린더 자동화를 지원하는 데스크톱 AI 워크벤치입니다. Gmail 요약, 답장 초안 작성, 캘린더 이벤트 생성 등 사용자 맞춤형 워크플로를 실행할 수 있는 다양한 도구와 기능을 제공합니다.
7월 31일3
RedditAI 번역요약
A100에서 실행되는 DeepSeek-V4-Flash-0731 Unsloth GGUF
A100 GPU 환경에서 DeepSeek-V4-Flash-0731 모델을 Unsloth GGUF 형식으로 실행한 성능 결과입니다. VRAM 용량에 따라 전문가(experts) 배치 방식을 조절하여 최적의 추론 속도를 확보할 수 있습니다.
7월 31일1
RedditAI 번역요약
데모: GPT 5.5 - Row-Bot에서 대화형으로 고급 자동화 워크플로우를 생성하는 방법
Row-Bot을 활용하여 대화형으로 고급 자동화 워크플로우를 생성하는 방법을 소개합니다. 검색, 모니터링, 데이터 필터링 및 Telegram 전송을 포함한 복합적인 에이전트 워크플로우 구축 과정을 다룹니다.
7월 31일0