Gemma 4 채팅 템플릿 툴 관련 버그 발견 및 수정
요약
Gemma 4 모델이 커스텀 도구(tool)를 호출하는 과정에서 채팅 템플릿의 버그가 발견되었습니다. 기존 Gemma의 기본 채팅 템플릿은 `anyOf: [$ref, null]`과 같이 최상위 레벨에 명시적인 `type` 필드가 없는 JSON 스키마 구조를 올바르게 처리하지 못하고, 유용한 스키마 정보를 빈 `type: ""`으로 변환하는 문제가 있었습니다. 작성자는 Jinja 템플릿을 수정하여 `$ref`, `anyOf`, `oneOf`, `$defs` 등 중요한 JSON 스키마 키워드를 보존함으로써 이 문제를 해결했습니다.
핵심 포인트
- Gemma 4의 기본 채팅 템플릿은 특정 JSON 스키마 패턴(예: nullable refs)을 처리할 때 유용한 정보를 손실시킵니다.
- 문제는 모델 자체의 추론 능력보다는, 도구 파라미터를 프롬프트로 변환하는 채팅 템플릿(Jinja)에 있었습니다.
- 작성자는 Jinja 템플릿을 수정하여 `$ref`, `anyOf`, `oneOf`, `$defs` 등 복잡한 JSON 스키마 구조를 정확하게 보존하도록 개선했습니다.
- 이 수정 사항은 Gemma 4가 커스텀 도구를 완벽하게 호출할 수 있도록 하는 핵심적인 업데이트입니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Reddit AI Engineering의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기