GLM 5.1에서 GLM 5.2로 넘어오면서 추론 토큰 (reasoning tokens)의 수가 16.7k에서 36.7k로 두 배 이상 증가했다는 수치에 따르면, 오래된 Xeon 설정을 사용하는 저와 같은 로컬 사용자에게 GLM 5.2는 수학 문제 질문에 응답하기를 12시간 동안 기다리다 모델을 종료해야 할 정도로 사용할 수 없는 수준이 되었습니다.

하지만 그 후 z_ai 기술 보고서 (technical report)의 이 그래프를 보게 되었는데, 이는 기본적으로 높은 수준 (high level)에서 최대 노력 (max effort)의 절반도 안 되는 토큰을 사용하면서도, 적어도 코딩 작업에서는 최대 지능의 약 98%를 얻을 수 있음을 시사합니다. 따라서 로컬 사용자와 API 사용자 모두에게 high level을 시도해 보라고 권장합니다. 왜냐하면 기본적으로 GLM 5.2는 max level로 설정되어 있기 때문입니다.
https://preview.redd.it/eha9j6vd9e8h1.png?width=6166&format=png&auto=webp&s=204c3261fada0c3eac8e4ab52fed7b45c1831b7b
submitted by /u/perelmanych
[link] [comments]