Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 논문은 AI 시스템의 거버넌스 측면에서 감사 가능한 신뢰성 수준을 확보하기 위한 경량 방법론을 제안합니다. 이 방법론은 형식적 프레임워크와 라이프사이클 거버넌스 절차 두 가지 구성 요소로 이루어져 있습니다. 이를 통해 AI의 변화를 시간 흐름에 따라 문서화하고 모니터링할 수 있는 증거 기반을 제공합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기AI 거버넌스는 시간이 지남에 따라 AI 시스템이 적절한 신뢰성을 유지하는지, 관찰된 변화가 허용 가능한지, 그리고 이러한 판단을 투명하고 논쟁 가능하게 문서화해야 하는지에 대한 판단을 점점 더 요구하고 있습니다. 하지만 현재의 AI 신뢰성 관련 연구는 라이프사이클 모니터링 및 재평가를 지원하기에는 너무 높은 수준이거나, 거버넌스 요구사항과 연결되기에는 너무 좁은 측정 지표 중심에 머물러 있습니다. 따라서 우리는 AI 거버넌스에서 감사 가능한 신뢰성 수준을 위한 경량 방법론을 제안합니다. 이 방법론은 두 가지 구성 요소로 이루어져 있습니다: 신뢰성 수준을 표현하고 학습하기 위한 형식적 프레임워크와, 시간 경과에 따라 이를 문서화, 모니터링 및 재평가하기 위한 경량 AI 라이프사이클 거버넌스 절차입니다. 이 형식적 프레임워크는 측정 가능한 차원의 문맥 민감 프로토콜을 통해 거버넌스 관련 신뢰성을 모델링하고, 신뢰성 수준을 신뢰성 프로필에 대한 해석 가능한 규칙으로 학습합니다. 결정 트리(decision trees)를 해석 가능한 개념 증명 모델 클래스로 사용하여, 이 방법론은 명시적인 신뢰성 평탄화 구간(plateaus), 읽기 쉬운 수준 전환, 그리고 두 가지 간단한 라이프사이클 진단(boundary margins 및 profile drift)을 도출합니다. 거버넌스 절차는 이러한 형식적 객체들을 설계 시점 라벨링(design-time labeling), 배포 후 모니터링, 재평가 및 보고를 위한 적합성 지향 워크플로우에 통합합니다. 또한 프로토콜 설계, 검증, 모니터링 및 재평가를 위한 인간의 책임과 통제 게이트를 할당합니다. 우리는 성능 저하(degradation), 충격(shocks), 업데이트, 이질적인 모니터링 주기(heterogeneous monitoring cadences), 시스템 비교가 포함된 합성 AI 라이프사이클 추적을 통해 이 방법론을 설명합니다. 우리의 방법론은 법률적 판단이나 다른 전문가의 판단을 대체하는 것이 아닙니다: 이는 AI 거버넌스와 관련된 변화를 시간 경과에 따라 문서화하고 추적하기 위한 증거 기반을 제공함으로써 적합성 문서화와 라이프사이클 모니터링을 지원합니다.