사회적으로 민감한 영역 내 파운데이션 모델을 위한 로보틱스 기반 가드레일 (Robotics-Inspired Guardrails)

파운데이션 모델 (Foundation models)은 교육, 정신 건강, 돌봄과 같이 실패가 종종 누적적이고 문맥 의존적인 사회적으로 민감한 영역에 점점 더 많이 배치되고 있습니다. 학습 단계의 정렬 (alignment)부터 프롬프팅 (prompting), 디코딩 제약 (decoding constraints), 사후 중재 (post-hoc moderation)에 이르는 기존의 가드레일 (guardrail) 접근 방식은 주로 강제 가능한 행동 보장보다는 경험적인 위험 감소를 제공하며, 안전을 상호작용 궤적 (interaction trajectories)의 특성이라기보다 개별 출력의 특성으로 취급하는 경향이 큽니다. 우리는 불확실한 폐루프 시스템 (closed-loop systems) 내에서 제약 조건 강제를 위한 공식적인 구조를 도입하기 위해 로보틱스 (robotics)에서 영감을 얻어, 가드레일을 상호작용 궤적에 대한 런타임 행동 제어 (runtime behavioral control) 문제로 재정의합니다. 우리는 이러한 아이디어를 Grounded Observer 프레임워크로 구체화하고 이를 세 가지 실제 배포 사례인 일상 대화 (small talk), 가정 내 자폐증 치료, 학교 내 행동 완화 (behavioral de-escalation)에 적용했습니다. 다양한 환경 전반에서 이 프레임워크는 다양한 사회적 문맥에 적응하는 동시에 바람직하지 않은 상호작용 체제로의 이탈을 완화하는 런타임 개입 (runtime interventions)을 가능하게 합니다. 우리는 프레임워크의 확장 방안을 논의하고 더 강력한 보장을 향한 연구 방향을 제안합니다.