FairCompressAgent: FPGA 배포를 위한 공정성 인식 모델 압축 에이전트 프레임워크
요약
본 논문은 공정성(fairness)을 고려한 모델 압축에 필요한 다양한 기법들을 통합한 에이전트 프레임워크인 FairCompressAgent (FCA)를 제안합니다. FCA는 가지치기, 양자화, 희소 저랭크 분해 등의 방법을 하나의 인터페이스로 묶어 최적의 압축 구성을 선택하고 평가할 수 있습니다.
핵심 포인트
- 공정성 인식 모델 압축을 위한 에이전트 프레임워크(FCA) 제안
- 가지치기, 양자화 등 여러 기법을 통합하여 사용 가능
- 압축 과정에서 정확도와 공정성을 동시에 고려한 최적 구성 선택
- 요구사항 업데이트 및 피드백 기반의 상호작용적 개선 지원
공정성을 인식하는 모델 압축은 정확도, 공정성, 그리고 배포 비용의 균형을 맞추는 방법과 구성을 선택해야 합니다. 이러한 결정은 압축 방법들이 조합되거나 사용자의 요구사항이 변경될 때 더욱 어려워집니다. 본 논문에서는 공정성을 인식하는 가지치기(pruning), 점진적 양자화(incremental quantization), 그리고 희소 저랭크 분해(sparse low-rank factorization)를 공통 연산자 인터페이스를 통해 통합하는 에이전트 프레임워크인 FairCompressAgent (FCA)를 제안합니다. 언어 모델 플래너는 모델 프로파일과 측정된 결과를 사용하여 압축 구성을 선택하며, 실행 계층은 압축, 미세 조정(fine-tuning), 평가, 그리고 제약 기반 선택을 수행합니다. FCA는 또한 요구사항 업데이트를 지원하고 요청을 충족할 수 없을 경우 남아있는 위반 정도를 보고합니다. VGG-11 모델에 대해 Fitzpatrick-17k 데이터셋으로 실험을 진행하여 40개의 측정된 구성에 걸쳐 네 가지 검색 방법을 비교했습니다. 정확도 제약 조건이 있는 요청 하에서, FCA는 추론 텐서 저장 공간을 59.54% 줄인 압축 모델을 선택했으며, 검증 평균 정밀도(validation average precision)는 0.5141에서 0.5233으로 증가했고, 동등 기회(equalized opportunity, EOpp)는 0.2251에서 0.2168로 감소했습니다. 이는 각각의 중지 정책 하에서 평균적으로 7.33 대 12개의 후보 평가를 통해 얻은 일회성 계획(one-shot planning)과 동일한 최종 선택에 도달합니다. 반복적인 미세 조정, 제외 테스트(held-out testing), 그리고 온라인 요구사항 업데이트는 이 압축 워크플로우의 안정성과 상호 작용적 사용을 특징지어줍니다. 그 결과는 측정된 피드백과 명시적인 제약 조건이 공정성을 인식하는 압축 구성의 선택 및 상호작용적 개선을 어떻게 지원하는지를 보여줍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기