위치: 메커니즘 해석 가능성은 인과적 주장을 위해 식별 가정을 공개해야 한다
요약
최근 메커니즘 해석 가능성 연구들은 회로, 매개자 등 인과적 용어를 사용하며 발전하고 있지만, 이들의 주장은 명시적인 식별 가정(identification assumptions)을 요구합니다. 본 논문은 여러 관련 논문을 감사한 결과, 대부분의 연구가 이러한 가정을 명확히 밝히지 않고 검증 지표를 통해 인과적 지원으로 제시하는 패턴을 발견했습니다. 따라서 저자들은 주장된 인과성을 뒷받침하기 위해 식별 전략과 그 가정들을 투명하게 공개해야 하는 새로운 규범(disclosure norm)을 제안합니다.
핵심 포인트
- 메커니즘 해석 가능성 연구가 인과적 용어(회로, 매개자 등)를 사용하며 발전하고 있다.
- 대부분의 관련 논문은 주장의 근거가 되는 명시적인 식별 가정을 공개하지 않고 검증 지표만 제시하는 경향이 있다.
- 저자들은 인과적 주장을 할 때, 어떤 전략을 사용하여 해당 주장을 '식별'했는지(identification)를 명확히 밝혀야 한다고 주장한다.
- 제안된 규범에 따르면, 연구는 가정을 열거하고, 그 가정이 실패할 경우 결론이 어떻게 달라지는지까지 설명해야 한다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기