규제된 프로세스 자동화를 위한 신경-기호 에이전트: 과제와 연구 의제
요약
본 논문은 LLM 기반 에이전트가 규제 산업의 품질 관리 프로세스를 자동화하는 과정에서, 기존의 외부 모니터링 방식으로는 부족하다고 지적합니다. 대신, 도메인에 내재된 기호적 구조(규정, 컴플라이언스 제약 등)를 에이전트 의사결정의 핵심 아키텍처 구성 요소로 활용해야 한다고 주장합니다.
핵심 포인트
- LLM 에이전트는 규제 산업 자동화에 진입하고 있다.
- 기호적 구조는 외부 모니터링이 아닌, 의사결정의 핵심 아키텍처여야 한다.
- '구축 단계 컴플라이언스(compliance-by-construction)' 패러다임을 제안한다.
- 신경-기호 연구 과제 해결을 통해 구축 단계 컴플라이언스를 구현할 수 있다.
LLM 기반 에이전트는 판단 집약적인 품질 관리 프로세스를 자동화하는 규제 산업에 진입하고 있습니다. 우리는 이들 도메인에 이미 내재된 규정, 타입 지정 프로세스 모델, 컴플라이언스 제약 조건과 같은 기호적 구조들이 단순히 외부 모니터링 메커니즘으로 취급되어서는 안 되며, 에이전트의 의사 결정 및 행동을 형성하는 핵심 아키텍처 구성 요소로 다루어져야 한다고 주장합니다. 우리는 가드레일 기반 모니터링에 상보적인 패러다임인 '구축 단계 컴플라이언스(compliance-by-construction)'를 제안합니다. 이는 제어 흐름 위반을 방지하는 구조적 토대이며, 가드레일은 여전히 의미론적 오류를 포착하는 데 필수적입니다. 우리는 기초 및 역량 수준에서 신경-기호적 연구 과제들의 체계적인 집합을 식별하고, 이들을 공동으로 해결하는 것이 구축 단계 컴플라이언스를 가능하게 함을 보여줍니다. 우리는 신경-기호 커뮤니티가 규제된 프로세스 자동화를 고영향 연구 도메인으로 다루는 데 참여할 것을 촉구합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기