본문으로 건너뛰기
arXiv논문2026. 11. 21. 09:10
한계는 모델이 아닌 입력에 있다: 산업용 컨트롤러의 자연어 인터페이스에서의 상태 의존적 명령어 안전성 대표 이미지

한계는 모델이 아닌 입력에 있다: 산업용 컨트롤러의 자연어 인터페이스에서의 상태 의존적 명령어 안전성

원문 발행 2026. 11. 19. 01:16원문 언어 영어AI 한국어 번역arXiv Codex (cs.SE) 원문 보기

요약

산업용 컨트롤러의 안전 명령 판단 시, 모델이 장비의 현재 상태(machine state)를 받지 못하면 부정확한 결정을 내릴 수 있습니다. 본 글은 '답변 가능성 감사(answerability audit)'라는 방법을 제안하며, 모델에 필요한 정보가 제공되었는지 확인합니다. 이 감사는 안전 규칙과 비교하는 시스템을 보완하여 정보 부족 문제와 모델 오류를 분리 평가할 수 있게 합니다.

핵심 포인트

  • LLM은 장비의 현재 상태(machine state) 정보를 받지 못하면 명령 판단에 한계가 있습니다.
  • '답변 가능성 감사'는 모델 입력에 필요한 정보 제공 여부를 검증하는 새로운 방법론입니다.
  • 테스트 결과, 상태 정보를 포함했을 때 모델 성능이 개선되었으나 완벽한 신뢰성을 확보하지 못했습니다.
  • 본 감사는 행동을 안전 규칙과 비교하는 시스템의 보완적인 평가 도구로 활용됩니다.

AI 자동 생성 콘텐츠

본 콘텐츠는 arXiv Codex (cs.SE)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
0

댓글

0