ICML 2026 위치 논문을 통한 답변 또는 회피를 넘어선 제 3 의 길을 제안합니다: 신뢰할 수 있는 AI 의 기초로 충실한 불확실성

요약

이 논문은 ICML 2026에서 발표된 포지션 페이퍼로, 기존의 '답변(answer)' 또는 '회피/불확실성 표명(abstain)'이라는 이분법적 접근 방식을 넘어선 세 번째 길을 제시합니다. 핵심 제안은 AI 시스템에 '충실한 불확실성(faithful uncertainty)' 개념을 통합하여, 이를 신뢰할 수 있는 인공지능(Trustworthy AI)의 근본적인 기반으로 삼는 것입니다.

핵심 포인트

• 기존의 답변-또는-회피 이분법적 접근 방식에 대한 대안 제시
• AI 시스템의 신뢰성 확보를 위한 핵심 요소로 '충실한 불확실성' 강조
• 불확실성을 단순히 오류가 아닌, 모델이 가진 지식 경계를 나타내는 중요한 정보로 활용할 것을 제안함.