표 형식 파운데이션 모델이 전략적 표 형식 데이터와 만날 때: 사전 정렬 접근 방식

사전 학습된 사전 데이터 적합 네트워크 (PFN, Prior-Data Fitted Networks) 기반의 표 형식 파운데이션 모델 (Tabular Foundation Models)은 다양한 표 형식 작업에서 강력한 일반화 성능을 보여주었으나, 일반적으로 데이터 분포가 배포된 분류기 (Classifier)와 독립적인 extit{비전략적 (non-strategic)} 환경을 위해 설계되었습니다. 그러나 많은 실제 의사결정 시나리오에서 개인은 유리한 결과를 얻기 위해 배포 후 자신의 특징 (Features)을 전략적으로 수정할 수 있으며, 이는 배포 후 분포 변화 (Post-deployment distribution shift)를 유발합니다. 본 논문은 PFN 스타일의 표 형식 파운데이션 모델이 이러한 extit{전략적 (strategic)} 표 형식 데이터에 일반화될 수 있는지를 연구합니다. 우리는 전략적 조작이 사전 학습 중에 학습된 비전략적 사전 분포 (Non-strategic prior)와 조작 후의 전략적 사전 분포 (Post-manipulation strategic prior) 사이의 불일치를 생성하며, 이것이 체계적인 예측 편향 (Systematic prediction bias)으로 이어진다는 것을 보여줍니다. 이 문제를 해결하기 위해, 우리는 재학습 없이 표 형식 파운데이션 모델을 전략적 환경에 적응시키는 추론 시간 전략 인식 프레임워크인 extbf{Strategic Prior-data Fitted Network (SPN)}를 제안합니다. SPN은 조작 후의 입력을 근사하기 위해 전략적 인컨텍스트 예시 (Strategic in-context examples)를 구성하며, PFN의 예측을 유도된 전략적 분포와 정렬합니다. 실제 및 합성 표 형식 데이터셋에 대한 실험 결과, SPN은 표 형식 파운데이션 모델 및 전통적인 표 형식 방법론 모두와 비교했을 때 전략적 조작 하에서 강건성 (Robustness)과 예측 성능을 일관되게 향상시킴을 보여줍니다.