퍼지 모델 불가지론적 설명(Fuzzy Model-Agnostic Explanation) 및 LLM 에이전트 지원 인터페이스 기반의 설명 가능한

복잡한 시나리오에서 정밀하고 신뢰할 수 있는 제어에 대한 수요가 증가함에 따라, 블랙박스 (closed box) 모델을 사용하는 데이터 기반 접근 방식과 수학적으로 엄격하지만 복잡한 설계를 포함하여 점점 더 정교한 제어기(controller)들이 개발되어 왔습니다. 이러한 복잡성은 제어기의 동작에 대해 인간이 이해할 수 있는 통찰력을 제공할 수 있는 설명 가능한 제어 (explainable control)의 필요성을 강조합니다. 본 논문에서는 제어기가 제어 동작을 결정하는 방식과 그 근저에 있는 작동 메커니즘을 설명하기 위한 설명 가능한 제어 프레임워크 (XCF)와 이를 지원하는 알고리즘 및 사용자 인터페이스를 제안합니다. 본 연구의 새로운 기여는 세 가지입니다: 첫째, XCF는 폐루프 시스템 (closed-loop systems) 내 제어기에 대해 모델 불가지론적 (model-agnostic) 설명을 제공하도록 설계되었으며, 시스템 응답 역학 (system response dynamics)에 따라 로컬 설명 (local explanations)을 선택적으로 정교화할 수 있습니다. 둘째, 설계된 프레임워크를 기반으로 제어 시스템을 위한 계층적 퍼지 모델 불가지론적 설명 (hierarchical fuzzy model-agnostic explanation for control systems, HFMAE-C)이라는 새로운 설명 방법을 제안합니다. HFMAE-C는 퍼지 로직 (fuzzy logic) 시스템을 사용하여 제어기의 동작과 시스템 역학을 근사화하며, IF-THEN 규칙을 통해 샘플 (sample), 로컬 (local), 도메인 (domain) 및 유니버스 (universe) 수준의 설명을 제공하여 제어기의 결정 로직을 드러내고, 시스템 상태가 제어 동작에 기여하는 정도를 정량화하는 돌출도 (salience) 값을 제공합니다. 셋째, 사용자 요구사항을 자동으로 분석하고, 적절한 알고리즘을 선택하며, 생성된 설명을 자연어 보고서로 해석하고, 대화형 컨설팅을 제공하는 대규모 언어 모델 (LLM) 에이전트 지원 사용자 인터페이스를 개발했습니다. 역진자 시스템 (inverted pendulum system) 및 Turtlebot 장애물 회피에 대한 사례 연구는 시뮬레이션된 사용자 실험과 주류 설명 가능한 제어 접근 방식과의 정량적 비교를 통해 제안된 방법의 효과를 입증합니다.