신뢰할 수 있는 추론을 통한 허용적 안전성: 보장된 상호작용 로봇 공학을 위한 검증 가능한 믿음 공간 (Belief-Space) 신경 안전 필터

사람과 상호작용하는 자율 로봇은 개인의 선호도, 목표, 역량 및 협력 의지와 같이 인간에 의해 유발되는 불확실성 하에서 안전하고 효율적인 결정을 내려야 합니다. 안전 필터 (Safety filters)는 상호작용 로봇 공학에서 안전을 보장하기 위한 대중적인 접근 방식인데, 이는 모듈형 설계가 안전과 성능을 분리하여 로봇이 작업 효율성에 미치는 영향을 최소화하면서도 사람 주변에서 안전하게 작동할 수 있게 해주기 때문입니다. 전통적인 안전 필터는 일반적으로 물리적 공간 (physical space)에서만 작동하며 로봇의 온라인 학습 및 적응 능력을 간과하는 반면, 최근 제안된 믿음 공간 안전 필터 (Belief-Space Safety Filter, BeliefSF)는 로봇의 불확실성을 온라인에서 능동적으로 줄이는 런타임 추론 (runtime inference)과 폐루프 (closed-loop)를 형성하여 로봇의 안전성을 추론함으로써 필터링의 보수성을 줄입니다. 그러나 BeliefSF를 배포하는 로봇에 대해 공식적인 안전 보장 (formal safety guarantees)을 제공하는 것은 런타임 추론의 오류와 믿음 공간의 고차원성을 처리하기 위해 필요한 안전 필터의 신경망 근사 (neural approximation)로 인해 여전히 큰 과제로 남아 있습니다. 본 논문에서는 로봇의 런타임 추론 모듈의 신뢰성을 명시적으로 고려하면서, 컨포멀 예측 (conformal prediction)을 사용하여 BeliefSF의 고확률 안전성 (high-probability safety)을 인증하는 알고리즘적 접근 방식을 제안합니다. 우리의 방법은 추론이 신뢰할 수 있을 것으로 예상되는 영역에 검증을 집중함으로써 믿음 공간 안전 필터링의 구조를 활용합니다. 이는 표준 컨포멀 예측의 단순성과 샘플 복잡도 (sample complexity)를 유지하면서도, 실질적으로 훨씬 덜 보수적인 안전 필터를 인증할 수 있습니다. 시뮬레이션된 인간-차량 상호작용 벤치마크를 통해, 우리의 접근 방식이 표준 컨포멀 예측 베이스라인보다 현저히 더 허용적인 (permissive) 믿음 공간 안전 필터를 검증함을 보여줍니다.