정형 데이터를 위한 인컨텍스트 러닝 (In-Context Learning)의 알고리즘적 구제 (Algorithmic Recourse)

예측 모델이 신용 승인과 같이 이해관계가 큰 환경에 점점 더 많이 배치됨에 따라, 영향을 받는 개인에게 구제책 (recourse)을 제공하는 사후 분석 (post-hoc) 방법론에 대한 필요성이 커지고 있습니다. 이러한 모델 중 다수는 특징 (features)이 실제 세계의 속성에 대응하는 정형 데이터 (tabular data)를 기반으로 작동합니다. 최근 인컨텍스트 러닝 (In-Context Learning, ICL)은 명시적인 학습 없이 추론 시점에 라벨이 지정된 예시들을 조건화함으로써 대규모 언어 모델 (Large Language Models, LLMs)이 정형 데이터 예측을 수행할 수 있게 했습니다. 그러나 ICL 환경에서의 정형 데이터 의사결정을 위한 알고리즘적 구제 (algorithmic recourse)는 여전히 거의 탐구되지 않은 상태입니다. 본 연구에서는 ICL 환경의 정형 데이터를 위한 알고리즘적 구제에 관한 첫 번째 연구를 제시합니다. 우리는 이론적 분석을 수행하여 구제가 여전히 잘 정의되고 유계 (bounded)되어 있음을 보여주며, 컨텍스트 크기 (context size)가 증가함에 따라 구제가 고전적인 솔루션으로 어떻게 수렴하는지 규명합니다. 실무적으로는 블랙박스 ICL 모델에 대해 실행 가능하고 희소한 (sparse) 구제를 효율적으로 생성하는 새로운 0차 구제 (zeroth-order recourse) 프레임워크인 '인컨텍스트 러닝을 위한 적응형 서브스페이스 구제 (Adaptive Subspace Recourse for In-Context Learning, ASR-ICL)'를 제안합니다. 제안된 프레임워크는 다중 클래스 (multi-class) 정형 데이터 작업으로 자연스럽게 확장됩니다. 여러 실제 데이터셋과 모델을 통한 실험 결과, ASR-ICL은 더 적은 쿼리 (queries)로도 기존 방법론과 대등한 구제 품질을 달성함을 입증하였으며, 예측된 수렴 동작을 경험적으로 확인하여 우리의 이론적 분석을 뒷받침합니다.