LiquidAI/LFM2.5-Encoder 250M/350M

LFM2.5-Encoder-350M은 LFM2 아키텍처를 기반으로 구축된 다국어 양방향 인코더로, 최대의 다운스트림 품질을 위한 더 큰 인코더입니다. 이는 15개 언어에 걸쳐 작업별 모델(분류, 토큰 분류, 검색, 재순위 지정, 의미 유사성)로 미세 조정되도록 설계된 마스크드 언어 모델이며 완전한 양방향 어텐션을 갖추고 있어 온디바이스에서 효율적으로 실행할 수 있습니다.

크기에 비해 성능이 매우 우수합니다. 비슷한 크기의 최고급 인코더들과 견줄 만하며, 자체 검색(retrieval) 계열 제품들보다 훨씬 앞서 나갑니다.
일반 목적용입니다. 8k 컨텍스트를 지원하며 NLI, 패러프레이즈, 감성 분석 및 다국어 작업 전반에서 강력한 성능을 보입니다.
빠르고 온디바이스 구동이 가능합니다. ModernBERT의 처리량에 필적하거나 능가하며, CPU 환경에서는 긴 컨텍스트 길이에서 우위를 점하고; WebGPU를 통해 브라우저에서도 실행됩니다.

https://huggingface.co/LiquidAI/LFM2.5-Encoder-230M-GGUF
https://github.com/ggml-org/llama.cpp/pull/29862
예시 (hf에서):
❯ uv run fill-mask.py LFM2.5-Encoder-350M-F16.gguf "The capital of France is [MASK]." top-5 at [MASK]: # 1 11.42 ' Paris' # 2 10.43 'Paris' # 3 9.65 ' Nice' # 4 8.94 ' Strasbourg' # 5 8.62 ' Lyon'
제출자: /u/jacek2023
[링크] [댓글]