Alibaba DAMO Academy의 ZipEnhancer 노이즈 제거 모델을 ModelScope 파이프라인에서 분리하여 고성능
요약
Alibaba DAMO Academy의 ZipEnhancer 모델을 ModelScope 파이프라인에서 분리하여 고성능 FastAPI 서비스로 재구축했습니다. PyTorch 기반의 추론 로직 최적화와 FP16 적용을 통해 메모리 효율성을 극대화했습니다.
핵심 포인트
- ModelScope 의존성 제거 및 순수 PyTorch 추론 구현
- FP16 적용으로 VRAM 사용량 약 40% 절감
- 슬라이딩 윈도우 전략으로 긴 오디오의 OOM 방지
- FastAPI를 활용한 고성능 노이즈 제거 서비스 패키징
Alibaba DAMO Academy의 ZipEnhancer 노이즈 제거 (denoising) 모델을 ModelScope 파이프라인 (pipeline)에서 분리하여, 고성능 FastAPI 노이즈 제거 서비스로 패키징했습니다.
Alibaba DAMO Academy의 ZipEnhancer 노이즈 제거 모델은 보통 ModelScope의 파이프라인 (pipeline) 안에서만 사용할 수 있어 내부 구조가 불투명하고 속도가 느립니다. 이 프로젝트는 모델 가중치 (weights)를 추출하고, 순수 PyTorch를 사용하여 추론 (inference) 로직을 다시 작성한 뒤 FastAPI 서비스로 패키징했습니다. FP16 반정밀도 (half-precision)를 적용하여 비디오 메모리 (VRAM) 사용량을 약 40% 줄였습니다. 또한 4초 슬라이딩 윈도우 (sliding window)와 75% 중첩 (overlap) 분할 전략을 사용하여, 아무리 긴 오디오라도 메모리 초과 (out of memory) 없이 처리할 수 있습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 X @qingq77 (검증됨)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기