실시간 비디오 트래킹을 2배 더 저렴하게 만들기 위해 tamserve를 만들었습니다 [P]

요약

SAM 2 스타일 트래커는 정확도가 높지만, 라이브 카메라 환경에서 높은 비용과 GPU 메모리 고갈 문제가 발생합니다. tamserve는 모델 복사본을 공유하고 메모리를 일정하게 유지하여 무기한 실행이 가능하도록 설계되었습니다. 그 결과, 동일한 정확도에서도 기존 코드 대비 최대 3.8배 빠른 효율성을 제공하며 확장성이 뛰어납니다.

핵심 포인트

• 모델 복사본 공유를 통해 GPU 메모리 사용을 안정화했습니다.
• 기존 방식보다 최대 3.8배 빠르며 비용 효율성을 높였습니다.
• 카메라 재연결 및 GPU 전반에 걸친 확장이 가능합니다.
• 실시간 비디오 트래킹의 상업적 활용도를 크게 개선했습니다.