카메라 에이전트가 사용하는 모든 소형 모델을 4코어 CPU에서 테스트한 결과: 더 큰 모델은 성능 저하를 보였다

요약

본 기사는 GPU가 없는 환경(4 vCPU CPU 머신)에서 카메라 에이전트 시스템을 구동할 때 다양한 소형 모델들의 성능을 테스트한 결과를 공유합니다. 언어, 비전, 음성 인식 등 여러 모듈의 효율성을 측정했으며, 특히 Qwen3-VL과 Parakeet TDT 0.6B v3 같은 특정 모델의 장단점을 분석했습니다.

핵심 포인트

• CPU 환경에서는 대형 모델보다 소형 모델이 더 안정적입니다.
• Qwen3-VL은 환각(hallucination)을 보이지 않지만, CPU에서 프레임당 18초가 걸려 실시간 사용에 부적합합니다.
• Parakeet TDT 0.6B v3는 음성 인식 오류율과 처리 속도를 크게 개선하여 효율성을 높였습니다.