Nemotron-3.5-Bolt-74-A9B 및 Nemotron-3.5-Super-VL 테스트 결과
요약
Nemotron-3.5 모델의 성능을 도메인 특화 테스트(pandas/numpy, DDDM)에서 평가했습니다. Bolt 모델은 중간 사고 능력과 높은 수준의 사고 능력을 보여주었으나 속도가 느리고, Super-VL 모델은 최대 토큰 예산 제한으로 인해 테스트가 잘리는 문제가 발견되었습니다.
핵심 포인트
- Nemotron-3.5는 도메인 특화 테스트에서 성능이 미흡함.
- Bolt 모델은 중간/고수준 사고 능력은 있으나 속도 문제와 추가적인 하드웨어 검토가 필요함.
- Super-VL 모델은 최대 토큰 예산(16k) 제한으로 인해 테스트 진행에 어려움이 있음.
Nemotron-3.5의 성능은 제가 만든 도메인 특화 테스트 중 pandas/numpy와 DDDM(data-driven decision-making) 섹션에서 특히 좋지 않습니다. Bolt 모델의 중간 사고 능력은 Nemotron nano보다 떨어집니다. 높은 수준의 사고 능력은 약간 더 낫지만 (통계적으로 유의미한 수준은 아님), 속도가 너무 느립니다. Super-VL 모델은 기본 최대 토큰 예산(16k) 때문에 테스트당 3번 잘림이 발생했습니다. 이 값이 상향되거나 제한이 풀린다면, 이를 해결하고 더 나은 점수를 얻을 수 있을 것입니다. 만약 Super-VL에 사용할 하드웨어가 있다면, 여러 번의 반복과 테스트를 거쳐 보는 것이 가치가 있습니다. 여기에는 아직 발견되지 않은 잠재력이 더 있는 것 같습니다. 저의 경우와 하드웨어로는 Bolt 모델이 제가 사용할 수 없는 모델 목록에 추가될 뿐입니다. 다른 주요 모델들과 비교한 PTA 지수는 다음과 같습니다. https://preview.redd.it/9kgojbqgvtvh1.png?width=2992&format=png&auto=webp&s=66fc9bbd4fac8aa7d7562fda158949fc6c17602d https://preview.redd.it/1uym4mu2xtvh1.png?width=2990&format=png&auto=webp&s=bb7cfa1e3222ca9d307ec2df771ec7917c930d16 /u/norenEnmotalen 제출 [링크] [댓글]
AI 자동 생성 콘텐츠
본 콘텐츠는 Reddit AI Engineering의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기