TinyGiantALM: 자원 제약 환경에서의 의도 인지 추론을 위한 소형 오디오-언어 모델

요약

자원 제약 환경을 위해 설계된 1.5B 규모의 소형 오디오-언어 모델 TinyGiantALM을 소개합니다. Query-guided Projector와 Semantic Gating을 통해 사용자 의도에 맞춘 특징 정제 프레임워크를 제안합니다. MMAR 벤치마크에서 7B-13B 규모의 모델을 능가하는 성능을 입증했습니다.

핵심 포인트

• 1.5B 규모의 효율적인 소형 오디오-언어 모델 제안
• Query-guided Projector를 통한 의도 인지 특징 정제
• MMAR 벤치마크에서 기존 7B-13B 모델 대비 우수한 성능 달성
• 엣지 디바이스 배포를 위한 실질적인 구조적 정밀함 제공