Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 페이지의 콘텐츠는 AI가 공개된 소스를 기반으로 자동 수집·요약·번역한 것입니다. 원 저작권은 각 원저작자에게 있으며, 각 게시물의 “원문 바로가기” 링크를 통해 원문을 확인할 수 있습니다. 저작권자의 삭제 요청이 있을 경우 신속히 조치합니다.
팀원들이 아직 접근할 수 없는 Jev에 대한 임시 대체재인 omlx 기반의 LocalJev를 제작했습니다. 이 과정에서 diffusiongemma와 Qwen MoE, Gemma 4 MoE 등 다양한 자기회귀 모델들을 벤치마킹하고 평가했으며, 로컬 환경에서도 좋은 성능과 속도를 보여 일반 API 라이브러리와 연동 가능합니다.
DeepSeek이 곧 출시할 것으로 예상되는 V5 모델은 Fable 5.1 및 Astra와 견줄 만한 성능을 목표로 합니다. 이 모델은 강화학습(RL) 성능을 향상시키면서도 비용 효율성을 높이는 데 중점을 둘 것으로 보입니다.
Bolt 플랫폼에 오픈 모델이 도입된 지 일주일 만에 빌더들 사이에서 큰 반응을 얻고 있습니다. 특히 DeepSeek V4.1 Flash가 Bolt Forge를 통해 사용 가능해지면서, 개발자들이 최고의 결과물을 내는 모델을 빠르게 선택하고 활용하는 추세입니다.
DeepSeek V4.1 Flash를 활용하여 50억 토큰 이상의 대규모 처리를 성공적으로 수행했습니다. 이로써 다른 대체 모델에 의존할 필요가 없어졌으며, @CommandCodeAI, @ollama, @opencode의 API 키 조합을 통해 효율적인 사용량을 확보했다고 언급합니다.
Qwen이 차세대 네이티브 멀티모달 모델인 Qwen3.8-Omni-Flash를 출시했습니다. 이 모델은 텍스트, 이미지, 오디오, 비디오 입력을 지원하며 1M 토큰 컨텍스트 창을 갖추고 있습니다. 특히 오디오 및 오디오+비디오 입력 처리 비용이 크게 절감된 것이 특징입니다.
AI 모델 개발사인 Mistral이 해킹당한 사건이 발생했습니다. 이로 인해 모델 가중치, 사후 학습 파이프라인, 그리고 데이터가 유출되어 최고 입찰자에게 판매되었을 가능성이 제기되었습니다.
Alibaba가 새로운 대규모 언어 모델(LLM)인 Qwen 3.8 Omni Flash를 공개했습니다. 이 모델은 멀티모달 벤치마크 테스트에서 Gemini 3.8 Flash보다 우수한 성능을 보여주며, AI 연구 분야의 주목을 받고 있습니다.
새로운 모델인 Ternary Bonsai 2 27B가 발표되었습니다. 이 모델은 Qwen3.8 27B를 기반으로 하며, 기존 대비 크기는 9배 작으면서도 벤치마크 성능의 98.2%를 유지합니다. 특히 에이전트 코딩 및 멀티모달 추론에서 강력한 성능 향상을 보였습니다.
Qwen에서 부모 모델 Qwen 3.8 27B의 성능을 98.2% 유지하는 테너리(ternary) 27B 모델을 출시했습니다. 이 모델은 에이전트 작업, 컴퓨터 사용, 긴 컨텍스트 처리 등 다양한 분야에서 뛰어난 성능을 보이며, 크기가 6GB 미만으로 M5 Max에서 초당 55 토큰의 속도로 구동 가능합니다.
Qwen3.8-Omni-Flash는 텍스트, 이미지, 오디오, 비디오 입력을 모두 지원하는 '풀 오므니' 모델입니다. 1M 컨텍스트를 제공하며, 특히 오디오 성능은 Gemini 3.8 Flash를 능가한다고 언급되었습니다. 현재 API로만 이용 가능하지만, 에이전트 워크플로우에 활용될 것으로 기대됩니다.
Orca가 Apple Silicon Mac용 DeepSeek V4.1 Flash의 공식 MLX 가중치를 출시했습니다. 이 비검열 버전은 AI 보안 연구, 레드팀 테스트 등 모델 거부 행동 자체가 방해가 되는 분야에 초점을 맞췄습니다. 다양한 양자화 옵션과 함께 유해 프롬프트 거부를 대폭 감소시킨 것이 특징입니다.
DeepSeek v4.1 Flash 지원 기능이 DwarfStar GitHub의 'main' 브랜치에 푸시되었습니다. 해당 영상은 코딩 세션 중 SSD 스트리밍 방식과 듀얼 MacBook m5 max 128GB 환경 설정을 모두 테스트하는 내용을 담고 있습니다.
DeepSeek V4.1 Flash 모델이 Union Alpha를 능가하는 성능을 보여주었으나, 실제 작업 환경에서는 예상과 다른 결과가 나타났습니다. 이 기사는 로컬 환경에서 AI 모델을 구동하는 방법에 대한 정보를 제공합니다.
주요 빅 파이브 기업들이 '안전성'이라는 명분 아래 규제를 활용하여 경쟁자를 배제하려는 경향을 보입니다. 하지만 이러한 시도는 오히려 기술적 해자가 아님을 드러내며, Mistral이나 DeepSeek 같은 도전자들이 역량으로 격차를 줄이고 권력 공백을 만들고 있습니다.
Qwen-2.5-1B-RLCD 모델을 오픈 소스로 공개하며, 획기적인 효율성을 강조합니다. 이 모델은 JSON 워크로드를 위해 타입 안전성이 필요할 때 온디바이스 추론에서 기존 대비 5배 빠른 성능을 보여줍니다.
AI 모델의 작동 원리를 '단순히 다음 토큰 예측'으로만 설명하는 주장은 오해를 야기하며 담론에 부정적인 영향을 미치고 있습니다. 실제 훈련 신호는 인간이 작성한 텍스트 외에도 매우 다양한 출처에서 비롯될 수 있기 때문입니다.
MLX-Serve 26.9.3 버전이 출시되어 Mac에서 로컬 모델 구동에 최적화된 가장 빠른 엔진임을 강조합니다. 이 엔진은 LLM, 비디오, 이미지, 음성 클론, 음악 생성 등 다양한 미디어 유형의 모델을 지원하며, Qwen Flash Next가 M4/M5Max에서 높은 처리 속도를 보여주었습니다.
개방형 소스(OSS) AI의 지속 가능성 문제는 기술적 중단 여부가 아니라, 이를 지원하는 자금 흐름에 달려 있습니다. 모든 OSS 모델은 결국 기업이나 국가가 화폐로 자금을 지원하는 구조물이며, 이 자금 지원이 끊길 수 있다는 점을 ML 커뮤니티는 인지해야 합니다.
특정 기간 동안 사용자들에게 대규모 토큰 크레딧을 제공하는 이벤트를 안내합니다. 9월 14일~16일에는 로그인만으로 6억 토큰이 지급되며, 유료 멤버십 회원은 추가적으로 최대 2.4억 토큰을 받을 수 있습니다.
Apple Silicon 환경에서 주요 오픈 웨이트 모델 3가지가 로컬 구동 시 상당한 속도 향상을 보였습니다. Qwen3.6 35B는 처리량이 57% 증가했고, GLM-5.3 Flash는 스펙 디코딩 속도가 34% 빨라졌습니다. DeepSeek V4.1은 디코드 속도가 두 배로 빨라지고 RAM 사용량도 줄었습니다.