내재적 자기 수정(Intrinsic Self-Correction)은 언제 도움이 되는가? 작업 민감도 분석

내재적 자기 수정 (Intrinsic self-correction, SC)은 외부 피드백 없이 모델이 자신의 초기 답변을 다시 검토하도록 유도함으로써 대규모 언어 모델 (Large Language Model, LLM)의 출력을 개선하는 것을 목표로 합니다. 최근 연구들은 모델이 자신의 초기 응답이 올바른지 판단하는 데 종종 어려움을 겪는다는 점을 보여주며, 이 접근 방식의 신뢰성에 의문을 제기해 왔습니다. 본 연구에서 우리는 SC에 대해 작업 민감도 (task-sensitive) 관점을 취합니다. SC가 일반적으로 작동하는지 묻는 대신, 우리는 SC가 서로 다른 메커니즘을 통해 작동할 수 있는 설정들을 조사합니다: 명시적 제약 조건 (explicit constraints) 검증, 복잡한 추론 과정 (reasoning process) 재검토, 또는 단어 게임 작업에서 경쟁하는 전략에 대한 두 번째 의견 제공 등이 이에 해당합니다. 여러 벤치마크와 모델에 걸쳐 조사한 결과, 기반이 되는 작업 구조가 이러한 수정 모드들을 용이하게 할 때 SC가 일관된 성능 향상을 가져올 수 있음을 발견했습니다. 이러한 결과는 SC를 초기 모델 출력을 개선하기 위한 일률적으로 신뢰할 수 있는 방법이라기보다, 주어진 작업에서 수정 단계가 수행할 수 있는 역할에 따라 유용성이 결정되는 작업 의존적 추론 시간 전략 (task-dependent inference-time strategy)으로 이해하는 것이 가장 적절함을 시사합니다.