Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 논문은 공정성(fairness)을 고려한 모델 압축에 필요한 다양한 기법들을 통합한 에이전트 프레임워크인 FairCompressAgent (FCA)를 제안합니다. FCA는 가지치기, 양자화, 희소 저랭크 분해 등의 방법을 하나의 인터페이스로 묶어 최적의 압축 구성을 선택하고 평가할 수 있습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기공정성을 인식하는 모델 압축은 정확도, 공정성, 그리고 배포 비용의 균형을 맞추는 방법과 구성을 선택해야 합니다. 이러한 결정은 압축 방법들이 조합되거나 사용자의 요구사항이 변경될 때 더욱 어려워집니다. 본 논문에서는 공정성을 인식하는 가지치기(pruning), 점진적 양자화(incremental quantization), 그리고 희소 저랭크 분해(sparse low-rank factorization)를 공통 연산자 인터페이스를 통해 통합하는 에이전트 프레임워크인 FairCompressAgent (FCA)를 제안합니다. 언어 모델 플래너는 모델 프로파일과 측정된 결과를 사용하여 압축 구성을 선택하며, 실행 계층은 압축, 미세 조정(fine-tuning), 평가, 그리고 제약 기반 선택을 수행합니다. FCA는 또한 요구사항 업데이트를 지원하고 요청을 충족할 수 없을 경우 남아있는 위반 정도를 보고합니다. VGG-11 모델에 대해 Fitzpatrick-17k 데이터셋으로 실험을 진행하여 40개의 측정된 구성에 걸쳐 네 가지 검색 방법을 비교했습니다. 정확도 제약 조건이 있는 요청 하에서, FCA는 추론 텐서 저장 공간을 59.54% 줄인 압축 모델을 선택했으며, 검증 평균 정밀도(validation average precision)는 0.5141에서 0.5233으로 증가했고, 동등 기회(equalized opportunity, EOpp)는 0.2251에서 0.2168로 감소했습니다. 이는 각각의 중지 정책 하에서 평균적으로 7.33 대 12개의 후보 평가를 통해 얻은 일회성 계획(one-shot planning)과 동일한 최종 선택에 도달합니다. 반복적인 미세 조정, 제외 테스트(held-out testing), 그리고 온라인 요구사항 업데이트는 이 압축 워크플로우의 안정성과 상호 작용적 사용을 특징지어줍니다. 그 결과는 측정된 피드백과 명시적인 제약 조건이 공정성을 인식하는 압축 구성의 선택 및 상호작용적 개선을 어떻게 지원하는지를 보여줍니다.