개수는 존재하지만 정렬되지 않음: VLM의 계수 실패 이해 및 교정

요약

본 논문은 VLM이 사물 개수(counting)에서 어려움을 겪는 현상을 분석하고, 그 원인을 내부 표현과 언어화된 출력 사이의 격차로 규명했습니다. 비선형 프로브 학습을 통해 모델이 잘못된 답을 내놓아도 올바른 정보를 인코딩함을 확인했으며, 이를 바탕으로 오류 감지 기반 자체 교정 방법을 제안하여 계수 정확도를 향상시켰습니다.

핵심 포인트

• VLM은 개수(counting)에서 어려움을 겪는 것이 내부 지식 부족 때문이 아닐 수 있다.
• 비선형 프로브를 통해 모델이 올바른 정보를 인코딩하고 있음을 확인했다.
• 오류 감지 기반 자체 교정 방법으로 계수 정확도를 크게 향상시킬 수 있다.
• 활성화 기반 오류 프로빙은 VLM의 내부 지식 이해에 유용한 도구이다.