안녕하세요 여러분!

저는 mistral.rs의 유지 관리자입니다. 방금 /v1/skills 엔드포인트를 통해 OpenAI 호환 에이전트 스킬 (Agent Skills) 지원을 구현했으며, 이는 로컬 오픈 모델 (open models)에서도 작동합니다.

지금까지 에이전트 스킬 (Agent Skills)은 기본적으로 폐쇄형 프론티어 모델 (closed frontier models)에 종속되어 있었습니다. 개인적이고 로컬인 지능 (local intelligence)의 중요성이 점점 커지는 상황에서, 이번 업데이트는 여러분이 직접 실행하는 오픈 모델에도 동일한 기능을 제공합니다. mistral.rs를 사용하면 도메인 지침 (domain instructions)과 스크립트를 패키징하여 프론티어 API (frontier API)의 개입 없이 로컬 모델이 실제로 이를 실행하도록 할 수 있습니다.

OpenAI의 /v1/skills API와 완전히 호환되므로, 기존 코드에 최소한의 어려움으로 mistral.rs를 바로 적용할 수 있습니다.

관련 도구들도 지원합니다: 프롬프트에 파일을 첨부하기 위한 /v1/files 또는 input_file 기능이 있으며, mistral.rs는 또한 OpenAI 호환 방식을 사용하여 모델이 생성된 파일을 다시 보낼 수 있도록 허용합니다.

또한 mistral.rs를 시도하는 것이 그 어느 때보다 쉬워졌습니다. NVIDIA CUDA, Apple Silicon, 그리고 CPU를 위한 사전 빌드된 바이너리 (prebuilt binaries)를 포함하고 있습니다!

Linux/Mac

curl --proto '=https' --tlsv1.2 -sSf https://raw.githubusercontent.com/EricLBuehler/mistral.rs/master/install.sh | sh

Windows

irm https://raw.githubusercontent.com/EricLBuehler/mistral.rs/master/install.ps1 | iex

그 다음:
mistralrs serve --agent --isq 4 -m google/gemma-4-E4B-it

여러분의 피드백을 듣게 되어 매우 기쁩니다! 다음 릴리스에서 보고 싶은 기능에 대한 제안이 있으신가요?

GitHub 확인하기: https://github.com/EricLBuehler/mistral.rs
문서 및 퀵스타트 (Docs & Quickstart): https://ericlbuehler.github.io/mistral.rs/
submitted by /u/EricBuehler
[link] [comments]