Q8_0 GGUF 형식으로 양자화된(quantized) 다음 편집 자동 완성용 1.5B 파라미터 모델입니다.

Sweep Next-Edit는 사용자가 편집을 수행하기 전에 다음 코드 편집을 예측합니다. 이 모델은 (추측 디코딩 (speculative decoding)을 통해) 노트북에서 500ms 미만으로 로컬 실행되며, 다음 편집 벤치마크에서 자기보다 4배 이상 큰 모델들보다 뛰어난 성능을 보여줍니다. 자세한 내용은 여기서 확인하세요.

run_model.py와 모델 파일을 다운로드한 후, 다음을 실행하세요:

uv pip install llama-cpp-python huggingface_hub
python run_model.py

형식 (Format): GGUF (Q8_0 양자화 (quantization))
파라미터 (Parameters): 1.5B
컨텍스트 길이 (Context Length): 8192 토큰 (tokens)
베이스 모델 (Base Model): Qwen2.5-Coder

이 모델은 파일 컨텍스트 (file context), 최근 디프 (recent diffs), 그리고 현재 상태를 포함한 특정 프롬프트 형식을 사용하여 다음 편집을 예측합니다. 전체 예시는 run_model.py를 참조하세요.

• 블로그 포스트 (Blog Post) - 기술적 세부 사항 및 벤치마크
• JetBrains 플러그인 (JetBrains Plugin) - Sweep AI JetBrains 플러그인
• HN 스레드 (HN Thread) - VSCode, Neovim 및 Emacs 구현에 대한 논의
• 트위터 포스트 (Twitter Post) - 기타 질문하기

Apache 2.0

• 지난달 다운로드 수
• 1,298