Perplexity의 최근 오픈 소스 기여작 몇 가지:
요약
Perplexity가 여러 최신 오픈 소스 모델과 도구를 공개했습니다. 여기에는 SoTA 멀티모달 의사 결정 모델인 pplx-decider-v1-27b와 최고 성능의 컨텍스트 임베딩 모델이 포함됩니다. 또한 Apple silicon용 고성능 로컬 추론 엔진 Lily, 온디바이스 PII 분류기 PII-Tracer 등 다양한 연구 결과물이 공개되었습니다.
핵심 포인트
- pplx-decider-v1-27b: SoTA 멀티모달 의사 결정 모델로 벤치마크 최고 성능 기록
- Lily: Apple silicon 전용 로컬 추론 엔진으로 높은 속도 개선 달성
- PII-Tracer: 온디바이스 PII 분류기로, 다국어 및 하이브리드 컴퓨팅 환경 지원
- WANDR/Numbat/Bumblebee 등 다양한 에이전트 및 보안 관련 벤치마크/툴 공개
최근 Perplexity에서 나온 오픈 소스 기여작 몇 가지:
•pplx-decider-v1-27b: SoTA(State-of-the-Art) 멀티모달 의사 결정 모델. 11개 벤치마크 평균 85.7%를 기록하며 Jev를 앞섰습니다.
•pplx-embed-v2-context-9b-preview: SoTA 컨텍스트 임베딩으로, ConTEB와 turbopuffer context-bench에서 최고 성능을 보였습니다.
•Lily: Apple silicon용 로컬 추론 엔진. pytorch나 mlx 없이 rust와 커스텀 metal kernel로 구현되었으며, M5 Max에서 MLX-LM 대비 프리필(prefill) 1.23배 빠르고 디코드(decode)는 1.35배 빠릅니다.
•PII-Tracer: 온디바이스 PII 분류기 (0.6B). 하이브리드 컴퓨팅 작업이 Mac에 머무를지 결정하며, 모든 5개 공개 벤치마크에서 OpenAI의 Privacy Filter를 능가합니다. 또한 PII-TRACE 벤치마크와 함께 출시되었으며, 13개 언어로 13k 대화를 다룹니다.
•WANDR: 광범위하고 깊은 리서치 에이전트용 벤치마크. 170k의 출처 기반 기록이 필요한 500개의 태스크를 포함합니다.
•Numbat: 노트북 및 워크스테이션용 에이전트 탐지 및 대응 시스템. macOS, linux, windows용 단일 실행 파일로 52개 규칙을 제공합니다.
•Bumblebee: 개발 머신용 읽기 전용 공급망 스캐너. 패키지, MCP 설정, 그리고 편집기 및 브라우저 확장 기능을 다룹니다.
곧 더 많은 오픈 소스 기여작이 나올 예정입니다!
AI 자동 생성 콘텐츠
본 콘텐츠는 X 토픽: MCP의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기