중첩된 도구 호출 확인을 위한 소규모 CLI

저는 chat completions 호환 엔드포인트를 확인하는 작은 Python CLI인 toolcall-check의 작성자입니다. 이 도구는 두 개의 강제 함수 호출, 두 개의 스트리밍 호출, 그리고 로컬 결과를 반환하고 정확한 정상 답변을 확인하는 단일 턴 트립을 수행합니다. 중첩된 인자 값은 JSON 타입을 유지하며, 실패 시에는 개인 HTML 보고서에 정리된 추적(sanitized traces)을 보관합니다. 포함된 데모는 실제 HTTP 경로를 통해 합성 로컬 고정값(synthetic local fixture)과 실행되므로, 실제 모델과의 호환성보다는 보고서 동작을 보여줍니다.

CompatCanary가 이미 강제 호출, 스트리밍 및 구조화된 출력을 포함하는 광범위한 호환성 검사를 다루고 있습니다. 저는 이 도구를 중첩 인자 무결성(nested argument integrity), 스트리밍 조각 재구성(streamed fragment reconstruction), 반환 트립, 그리고 증거에 초점을 맞췄습니다. 아직 원격 모델을 대상으로 테스트하지는 않았습니다. 고정된 프로브와 엄격한 [DONE] 요구사항에 대한 피드백이 유용할 것입니다.

https://github.com/Arthur031221/toolcall-check
제출자: /u/Arthur122103 r/LocalLLaMA에 제출됨
[링크] [댓글]