Influcoder: 디코더의 기울기 영향 순위를 인코더로 추출하여 데이터 기여도 분석
요약
본 논문은 대규모 데이터셋의 샘플 기여도를 분석하는 Data Attribution(DA) 방법론을 다룹니다. 기존 영향 함수 기반 방법론들이 처리 속도와 저장 공간 효율성 문제로 인해 실제 구현에 어려움이 있었는데, 이를 해결하기 위해 Influcoder라는 빠르고 비용 효율적인 접근 방식을 제안합니다.
핵심 포인트
- 데이터 기여도 분석(DA)은 고품질 데이터셋 구축의 핵심입니다.
- 기존 영향 함수 기반 방법론은 대규모 환경에서 비효율적입니다.
- Influcoder는 빠른 속도와 낮은 비용으로 DA를 가능하게 합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기