정확도 및 지연 시간 인지적 사용자 인센티브를 통한 AI 추론의 친환경화

AI 서비스의 광범위한 사용은 환경적 지속 가능성에 대한 우려를 불러일으켰으며, 최근 연구들에 따르면 AI 추론 (AI inference)의 탄소 배출이 주요 원인으로 지목되었습니다. 본 논문은 탄소 배출과 두 가지 QoE (Quality of Experience, 사용자 경험 품질) 파라미터 사이의 트레이드오프 (tradeoff)를 고려하면서, 추론 품질 및 지연 시간 (latency)에 대한 사용자의 가치 평가와 환경 의식을 기반으로 한 AI 추론 인센티브 설계 프레임워크를 소개합니다. 우리의 접근 방식은 AI 모델의 크기와 복잡성, 그리고 추론 요청을 처리하기 위한 자원 할당에 따라 달라지는 다양한 트레이드오프를 수용할 수 있습니다. 이러한 인센티브는 탄소 배출 감소를 대가로 사용자에게 할인을 제공하는 실용적인 2단계 서비스 구독 (two-tier service subscription)을 통해 제공될 수 있습니다. 할인된 서비스 옵션은 AI 제공업체에게 탄소 집약도 (carbon intensity)가 높은 기간 동안 일정 비율의 추론 요청을 더 낮은 품질과 더 높은 지연 시간으로 처리할 수 있는 유연성을 부여합니다.