LFM2.5 2.6B 모델을 에이전트 작업(도구 호출) 및 OpenCode 코딩에 테스트함
요약
Liquid AI의 LFM2.5 2.6B 모델을 llama.cpp를 통해 도구 호출 및 코딩 성능을 테스트했습니다. M5 Pro 환경에서 높은 추론 속도를 기록했으나, 도구 호출 및 OpenCode 작업에서는 경쟁 모델 대비 성능이 낮게 나타났습니다.
핵심 포인트
- LFM2.5 2.6B 모델은 M5 Pro에서 약 90t/s의 빠른 속도 기록
- Q8 양자화 시 약 4GB의 낮은 메모리 점유율 확인
- 도구 호출 성능이 Qwen3.5 4B(Q4 양자화) 대비 열세
- OpenCode 작업 시 작업 디렉토리 인식 및 도구 호출 문제 발생
Liquid AI의 LFM2.5 (2.6B dense model)를 llama.cpp를 사용하여 도구 호출 (tool calling) 및 추론 (reasoning) 성능을 테스트했습니다. M5 Pro에서 Q8 양자화 시 약 90t/s의 속도를 기록했으며, 메모리는 약 4GB를 사용했습니다. 특히 도구 호출 측면에서 이 모델은 (공식 벤치마크의 경쟁 모델 중 하나인) Q4 양자화된 Qwen3.5 4B에 비해 성능이 크게 뒤처졌습니다. OpenCode에서는 LFM2.5가 실제 도구 호출을 수행하는 데 많은 문제를 겪었으며, 작업 디렉토리 (working directory)에 대해 진심으로 혼란스러워했습니다. 더 자세한 내용은 여기에서 확인하세요:
/u/curiousily_ 님이 제출함 [link] [comments]AI 자동 생성 콘텐츠
본 콘텐츠는 r/LocalLLaMA의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기