Embodied AI의 신뢰성 확보: 테스트에서 형식 검증(Formal Verification)까지의 커뮤니티 아젠다

Embodied AI (체화된 인공지면) 시스템이 오픈 월드 환경에 점점 더 많이 배치되고 있지만, 이들의 신뢰성(Reliability)을 보장하는 것은 여전히 근본적인 과제로 남아 있습니다. "테스트와 형식 검증(Formal Verification)을 통한 Embodied AI의 신뢰성 확보"라는 주제의 AAAI'26 Bridge Program에서 논의된 내용을 바탕으로, 본 기사는 Embodied AI의 신뢰성이 밀접하게 결합된 시스템 구성 요소 전반에 걸쳐 발생하는 불확실성, 인간과의 상호작용, 그리고 창발적 행동(Emergent behaviors)으로 인해 발생하는 본질적인 라이프사이클 보증(Lifecycle assurance) 문제라고 주장합니다. 우리는 신뢰할 수 있는 Embodied AI를 향한 세 가지 상호 보완적인 방향을 식별했습니다: (1) 검증된 사양(Specifications)과 의미 있는 커버리지 지표(Coverage metrics)에 의해 지원되는 신뢰할 수 있는 시나리오 기반 테스트(Scenario-based testing), (2) 시스템 동작 및 환경 컨텍스트의 구조화된 심볼릭 표현(Symbolic representations)을 통해 가능해지는 구성적 검증(Compositional verification), (3) 배포 중 불확실성과 분포 변화(Distribution shifts)에 적응할 수 있는 런타임 보증(Runtime assurance) 메커니즘입니다. 이러한 접근 방식들을 독립적으로 다루기보다는, 공유된 뉴로-심볼릭 표현(Neuro-symbolic representations)과 시스템 라이프사이클 전반에 걸친 지속적인 피드백을 통해 테스트, 검증 및 런타임 적응을 연결하는 통합된 보증 워크플로우를 옹호합니다. 이러한 통합은 복잡한 실제 환경에서 안전하고 신뢰할 수 있게 작동할 수 있는 신뢰할 수 있는 Embodied AI 시스템을 구축하기 위한 토대를 제공합니다.