https://x.com/Badtheorylabs/status/2079306502897074249 에이전트 코딩 (agentic coding) 및 구조적 도구 사용 (structural tool use)을 위해 구축된 27B 오픈 웨이트 (open-weight) 에이전트 모델입니다. 전체 모델은 fp16 기반의 8B 모델보다 작은 2.5 bits per parameter (bpp) 미만의 단일 8.39GB 파일에 담겨 있으며, 27B 모델 지능의 92.2%를 유지합니다. BTL-3는 실제 에이전트가 작동하는 루프인 추론 (reason), 실행 (act), 결과 검사 (inspect the result), 복구 (recover), 지속 (continue) 과정을 위해 학습되었습니다. 이 모델은 단일, 순차적, 병렬 도구 호출 (tool calls)을 처리하며, 도구 호출을 하지 않는 것이 올바른 선택인 경우도 인지합니다. HumanEval: 95.12% pass@1, BFCL v4 AST: 88.5% (전체 1,240개 케이스 세트), 다중 도구 호출 (Multiple tool calls): 95.5%, 도구 호출 절제 (Tool-call abstention): 91.2%, 262K 컨텍스트 (context) 아키텍처를 갖추고 있습니다. 두 가지 에디션이 오늘 모두 공개되었습니다. BTL-3는 Transformers 및 vLLM을 위한 최대 품질의 체크포인트 (checkpoint)입니다. BTL-3 Compact는 전체 모델이 하나의 독립된 8.39GB GGUF 파일로 구성되어 있습니다. 별도의 베이스 다운로드나 재구성 과정이 필요 없습니다. 파일 하나와 명령어 하나로 실행 가능한 에이전트입니다. 27B 모델을 이 정도로 압축하는 것은 보통 모델을 망가뜨립니다. 표준 양자화 (quantization)로는 불가능했기에, 우리는 자체적인 스택을 구축했습니다: packed AVQ2 디코더 텐서 (decoder tensors), affine INT4, 측정된 정밀도 아일랜드 (precision islands), packed 어휘 행렬 (vocabulary matrices), rank-32 출력 보정 (output correction), 행동 복구 (behavioral repair)를 적용했습니다. 내보내기 시 2,416개의 텐서에 대해 바이트 검증 (byte-verified)을 완료했습니다. 그 후 에이전트가 생존하는지 테스트했습니다. 새로운 밀봉된 100회 도구 계약 게이트 (tool-contract gate)에서, Compact 모델은 단일, 병렬, 순차 및 절제 호출에서 교사 모델(teacher)의 정확한 행동의 100%를 유지하며 92.2%의 성능을 보존했습니다. RTX PRO 6000에서 43 tok/s의 생성 속도를 보여줍니다. 완전히 로컬 (local)에서 작동하며, 어떤 데이터도 사용자의 기기를 떠나지 않습니다. BTL-3: https://huggingface.co/badtheorylabs/ BTL-3 Compact: https://huggingface.co/badtheorylabs/ BTL-3-Compact 런타임 (Runtime) + 소스: https://github.com/Badtheorylabs/ BTL-3는 Apache-2.0 모델이며, 런타임은 MIT 라이선스입니다. /u/soteko 제출 [link] [comments]