Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
궤도 데이터 센터의 자율 AI 시스템을 위한 런타임 헌법적 AI 검증 프레임워크인 'Glass Box'를 제안합니다. 물리 기반 제약 조건과 선형 시제 논리(LTL)를 활용하여 우주선의 안전한 행동을 보장하고 설명 가능한 감사 로그를 생성합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기우주 산업은 아무도 완전히 예상하지 못한 방향으로 조용히 나아가고 있습니다. 바로 지구 상공 550km에서 인간의 개입 없이(no human in the loop) 수천 개의 자율 AI 워크로드를 실행하는 궤도 데이터 센터(orbital data centers)입니다. Microsoft, AWS, 그리고 점점 늘어나는 궤도 컴퓨팅 벤처들은 클라우드 규모의 프로세싱을 지상에서 궤도로 옮기고 있습니다. 하지만 이들 중 누구도 아직 거버넌스(governance) 문제를 해결하지 못했습니다. 궤도 데이터 센터 규모의 자율 AI 시스템이 우주에서 잘못된 결정을 내릴 때, 그 결정이 되돌릴 수 없게 되기 전에 무엇이 이를 막을 수 있을까요?
우리는 Glass Box를 소개합니다. 이는 온보드(onboard) AI 정책으로부터 생성된 모든 후보 행동을 가로채어, 단 하나의 명령이 우주선 하위 시스템(subsystem)에 도달하기 전에 6가지 물리 기반 헌법적 제약 조건(physics-grounded constitutional constraints)과 7가지 선형 시제 논리 (Linear Temporal Logic, LTL) 안전 불변량(safety invariants)을 기준으로 평가하는 런타임 헌법적 AI (constitutional AI) 검증 레이어입니다. 승인된 모든 행동은 [0,1] 범위 내의 가중치가 부여된 설명 가능성 점수 E(a_t)와 완전한 헌법적 감사 로그(constitutional audit log)를 포함합니다.
우리는 Project October를 통해 Glass Box를 입증했습니다. 이는 CubeSat급 우주선을 위한 완전히 시뮬레이션된 5계층 자율 궤도 지능 아키텍처입니다. 우리는 Glass Box의 검증 오버헤드가 모델 크기나 우주선 상태 차원과 무관하게 헌법적 규칙의 수인 O(N_c)임을 증명합니다. 또한 헌법적 제약 문법(constitutional constraint grammar)의 완전한 형식적 명세, Z3 및 NuSMV 모델 체킹(model checking)으로 검증된 7가지 LTL 안전 불변량, 그리고 배터리 상태가 저하된 상태에서 일식 진입(eclipse-entry) 시 Glass Box가 안전하지 않은 추론 요청을 가로채는 상세한 작업 예시를 제시합니다.
궤도 컴퓨팅이 데이터 센터 인프라 규모로 확장됨에 따라, 런타임 헌법적 검증은 더 이상 연구 단계의 참신함이 아닙니다. 이는 모든 자율 궤도 플랫폼이 결국 필요로 하게 될 미션 크리티컬(mission-critical) 안전 인프라입니다.