Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 페이지의 콘텐츠는 AI가 공개된 소스를 기반으로 자동 수집·요약·번역한 것입니다. 원 저작권은 각 원저작자에게 있으며, 각 게시물의 “원문 바로가기” 링크를 통해 원문을 확인할 수 있습니다. 저작권자의 삭제 요청이 있을 경우 신속히 조치합니다.
Gemma 4는 도구 응답 이후가 아닌, 도구 호출 이전에 어시스턴트 콘텐츠를 렌더링하는 새로운 렌더러 변형을 추가했습니다. 또한 mlx 환경에서 DFlash 초안 지원이 가능해져, 추측 디코딩(speculative decoding)을 위해 은닉 상태와 원시 로짓 노출 기능을 제공하며 모델 효율성을 높였습니다.
NVIDIA가 Gemma 4를 기반으로 개발한 소형 비전-언어 모델 Nemotron 3.5 Bolt E4B를 소개합니다. 이 모델은 로컬 환경에서 빠르고 효율적인 대화, 이미지 이해 및 도구 사용을 지원하는 것이 특징입니다. 특히 최대 128K 토큰 컨텍스트 창과 추측 디코딩 기능을 포함하여 높은 성능을 제공합니다.
Ollama가 Apple Silicon에서 Phonon을 활용한 음성 생성 기능을 추가했습니다. 또한, d3 의사 결정 모델이 도입되어 분류 및 점수 매기기가 가능해졌습니다. Flint의 지원 플랫폼이 Linux와 Windows로 확장되었으며 전반적인 안정성과 호환성이 개선되었습니다.
이 업데이트는 프롬프트에서 API 값과 소스 툴 JSON의 숫자형 및 스키마 순서를 유지하는 기능을 추가했습니다. 또한, ModelOpt expert bank 조립 시 Flint NVFP4 생성을 거부하고, MLX 어텐션에 선택적 학습 싱크와 장치 인과 마스크를 도입하여 모델 처리 방식을 개선했습니다.
MLX의 CUDA 런타임 페이로드 중복 문제를 해결하기 위해, GGML 및 MLX 백엔드가 공유하는 CUDA 라이브러리를 '형제(sibling)' CUDA 페이로드로 분리했습니다. 이를 통해 인프로세스 및 서브프로세스 로딩 시 종속성 디렉터리가 효율적으로 해결되도록 개선되었습니다.
Ollama의 최신 업데이트 변경 로그를 요약합니다. 이번 버전에서는 오리진 러너 방지 기능 추가, q2_0 텐서 및 파일 형식 지원이 이루어졌습니다. 또한 클라우드 환경에서 Launch clef 기능을 구현하고, --ask 모드의 질문 키에 식별자를 사용할 수 있도록 개선되었습니다.
Ollama v0.40.6 릴리스 노트에 따르면, 여러 주요 기능이 업데이트되었습니다. 여기에는 오리진 러너 방지 기능 추가, q2_0 텐서 및 파일 형식 지원 등이 포함됩니다. 또한 클라우드 환경에서 Launch clef 기능을 구현하고 --ask 모드의 질문 키 식별자를 사용하는 등 사용 편의성이 개선되었습니다.
Ollama v0.40.5 릴리스 노트는 Nemotron 3.5 Super와 Nemotron 3.5 Bolt 같은 새로운 비전-언어 모델을 소개합니다. 또한, 클라우드 환경에서 결정 모델 사용이 가능해지고, OpenAI 호환 대화 처리 오류가 개선되었으며, llama.cpp 및 MLX도 업데이트되었습니다.
본 기사는 Ollama의 최신 버전 변경 로그를 요약합니다. 주요 업데이트로는 mlx 프레임워크의 Metal 커스텀 커널을 CUDA로 포팅한 내용과, 모델 추천 및 언어 표준화가 이루어졌습니다. 또한, OpenAI 응답 기록에 커스텀 툴 호출 수용 기능이 추가되었으며, 클라우드 결제 오류 처리도 개선되었습니다.
Ollama v0.40.4 릴리스는 여러 주요 개선 사항을 포함합니다. llama 모델에 EmbeddingGemma 2가 추가되었고, 서버 측면에서는 추론 경로의 매니페스트 및 로드 모델 재사용 기능이 강화되었습니다. 또한 MLX와 MLX-C에서 버전 업데이트 및 상태 압축 최적화가 이루어졌습니다.
이 내용은 시스템의 세션 관리와 관련된 안내 메시지를 포함하고 있습니다. 또한, MLX 프레임워크에 Kev 모델을 추가하여 의사결정 점수 산출 기능을 구현한 기술 업데이트 내용을 공유합니다.
Ollama의 최신 버전 변경 사항을 요약합니다. llama.cpp 업데이트를 통해 decision 모델 지원이 강화되었으며, 추론 경로 검증 및 로드 모델 재사용 기능이 추가되었습니다. 또한 MLX와 launch 관련 개선사항도 포함되어 전반적인 성능과 사용성이 향상되었습니다.
llama.cpp는 레거시 GGUF 모델 로딩 시 호환성을 유지하기 위해 지연 변환(lazy conversion)을 수행합니다. 이를 위해 새롭고 오래된 GGUF 버전을 임시로 보관하고, 다운그레이드 서버가 새로운 블롭 삭제를 막기 위한 섀도우 매니페스트 태그를 생성했습니다.
Ollama의 v0.40.1-rc0 버전 변경 사항을 요약합니다. 서버 기능에 proxy cloud 사용 및 balance API 지원이 추가되었고, Windows 환경에서의 메모리 읽기 문제와 symlink 관련 오류가 수정되었습니다. 또한 CLI 온보딩 과정 간소화 등 전반적인 안정성 개선이 이루어졌습니다.
Ollama v0.34.4 업데이트는 여러 성능 및 안정성 개선 사항을 포함합니다. 특히, 구조화된 출력 처리가 단일 패스로 적용되어 속도와 신뢰성이 향상되었으며, 대규모 라이브러리 사용 시 발생하던 오류가 수정되었습니다.
이 업데이트는 manifest-list 스토리지를 도입하여 실행기별 매니페스트가 하나의 태그 아래 공존할 수 있게 했습니다. 또한, Ollama GGUF를 llama.cpp 호환 자식으로 마이그레이션하는 로컬 호환성 기능을 추가하고, 다양한 데이터 타입 및 기능에 대한 지원을 강화했습니다.
Ollama v0.34.1 업데이트는 다양한 모델 로딩 및 실행 환경을 개선했습니다. 특히 mlxrunner의 메모리 관리 최적화와 llm 모듈의 토큰 반복 제한 상향 조정이 주요 변경 사항입니다. 또한, MLX 및 llama.cpp 관련 라이브러리가 업데이트되었습니다.
Ollama v0.34.1 릴리스 노트는 다양한 모델 및 애플리케이션 개선 사항을 담고 있습니다. 주요 변경점으로는 토큰 반복 제한 상향 조정, 메모리 관리 최적화, 그리고 MLX 및 llama.cpp 업데이트가 포함되었습니다. 이는 사용자 경험과 시스템 안정성을 전반적으로 향상시킵니다.
llama.cpp가 b9509 버전으로 업데이트되었습니다. 이번 업데이트는 Gemma 4 12B 멀티모달 프로젝터 사용 시 x86, CUDA, Linux, Windows 환경에서 발생하던 divide-by-zero 충돌 문제를 해결합니다.
Ollama가 GGML 대신 llama.cpp를 직접 지원하도록 아키텍처를 변경하여 GGUF 파일 호환성을 강화했습니다. 또한 Apple Silicon 가속을 위해 MLX를 도입하였으며, 현재 사전 출시 단계로 성능 및 메모리 피드백을 수집 중입니다.