데드라인 거부: 분산 추론 파이프라인에서의 네트워크 주도적 정확도 붕괴 (Denial of Deadline: Network-Driven
요약
분산 추론 시스템에서 지연 시간 데드라인을 악용하여 정확도를 떨어뜨리는 '정확도 붕괴(accuracy collapse)' 공격을 분석합니다. 특정 워크로드 공격이 공유 자원의 경합을 유발해 고정밀 예측값을 폐기하게 만듦을 입증했습니다.
핵심 포인트
- 분산 추론의 Fast/Slow Path 구조에서 새로운 공격 표면 발견
- 워크로드 공격을 통한 지연 시간 증가 및 고정밀 예측값 폐기 유도
- 자율 주행 객체 추적 시스템에서 심각한 정확도 저하 확인
- 모델 가중치 접근 없이도 예측 품질을 저하시킬 수 있는 위험성
추론 시스템은 애플리케이션의 지연 시간 데드라인(latency deadline) 내에 예측값을 반환하는 빠른 경로(fast path)와, 더 강력한 원격 하드웨어에서 더 높은 연산 메서드를 실행하여 그 결과를 제시간에 반환하고 빠른 경로의 예측값과 결합할 수 있는 고정밀 느린 경로(slow path)를 점점 더 많이 결합하고 있습니다. 여러 애플리케이션 도메인에 걸쳐, 우리는 이러한 추론 아키텍처를 빠른 경로(fast path), 느린 경로(slow path), 그리고 두 가지 기능을 가진 조정 계층(coordination layer)으로 추상화합니다. 이 조정 계층의 기능은 느린 경로를 호출하는 라우터(router)와 반환된 예측값을 포함할지 여부를 결정하는 머저(merger)입니다. 본 연구에서는 이 새로운 조정 계층이 새로운 공격 표면(attack surface)을 노출한다는 것을 보여줍니다. 즉, Yo-Yo 버스트(Yo-Yo bursts)와 같이 형태가 지정된 워크로드 공격(shaped workload attacks)이 느린 경로를 따라 공유 자원에서 발생하는 경합(contention)을 악용하여, 선량한 사용자의 느린 경로 예측값이 지연 시간 데드라인을 넘기도록 만들 수 있습니다. 그러면 머저(merger)는 해당 예측값을 폐기하는 반면, 빠른 경로(fast path)는 계속해서 적시에 출력을 반환합니다. 우리는 이로 인해 발생하는 느린 경로의 정확도 이점 상실을 정확도 붕괴(accuracy collapse)라고 부릅니다. 우리는 자율 주행 분야의 2계층 에지-클라우드 다중 객체 추적(multi-object tracking) 파이프라인에서 정확도 붕괴를 입증합니다. 시뮬레이션 결과, 약 4,000개의 버스트 형태(burst-shaped) 요청은 선량한 사용자의 p99 지연 시간을 92ms에서 2s로 증가시켜, 느린 경로의 클라우드 추론 이점을 거의 제거하고 객체 추적 품질을 평균 7.0 HOTA 포인트 감소시킵니다. 우리는 더 나아가 공격의 대상이 되는 비디오 간격에 따라 정확도 저하가 크게 달라질 수 있으며(2.0-18.7 HOTA 포인트), 특정 희귀 클래스(예: 정지 표지판)는 공격 전 예측 정확도의 거의 절반을 잃는다는 것을 발견했습니다. 이러한 결과는 워크로드 공격이 모델 가중치(model weights)나 피해자 데이터에 대한 접근 없이도 예측 품질을 저하시킬 수 있음을 보여주며, 이러한 신흥 추론 파이프라인 아키텍처에서의 라우팅(routing), 머징(merging), 스케줄링(scheduling) 및 자원 격리(resource isolation)에 대한 공격 및 방어 연구의 필요성을 시사합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기