또 다른 추론 엔진! Xyntetik-Runner 소개

요약

새로운 추론 엔진인 Xyntetik-Runner를 소개하며, 이 엔진은 제한적인 하드웨어 환경에서도 안정적으로 작동하도록 설계되었습니다. 특히 잘린 툴 호출 문제 해결과 스키마 강제 적용을 통해 에이전트 워크플로우의 신뢰성을 크게 높였습니다. Metal, CUDA, Intel + AMD CPU 등 다양한 OS/HW에서 구동 가능하며, LoRa 학습 및 메모리 효율성도 개선했습니다.

핵심 포인트

• 잘린 툴 호출 문제 해결: 유효한 JSON을 바로 반환하여 에이전트 신뢰성 향상.
• 스키마 강제 적용: 잘못된 토큰 발생 방지 및 파싱/재시도 루프 제거.
• 다양한 환경 지원: Metal, CUDA, Intel + AMD CPU 등 여러 OS/HW에서 작동 가능.
• 메모리 효율성: 유휴 상태일 때 메모리를 소모하지 않아 노트북 사용에 적합함.