TrustX 에이전트 위험 분류 프레임워크 (ARC): 내부 생성 에이전트 AI 시스템의 위험 계층화

요약

본 논문은 기업 및 공공 부문의 에이전트 AI 시스템 확산에 대응하여, 기존 위험 프레임워크의 한계를 극복하는 'TrustX 에이전트 위험 분류 프레임워크(ARC)'를 제안합니다. 이 프레임워크는 7가지 유형의 에이전트에 적용 가능하며, 12차원 점수 루브릭을 통해 위험을 정량화하고, 이를 기반으로 통제 권고 사항을 도출하는 것이 핵심입니다.

핵심 포인트

• 에이전트 AI 시스템 확산에 대응한 새로운 위험 분류 프레임워크(ARC) 제시
• 위험 평가를 위한 12차원 점수 루브릭과 5단계 자율성 프레임워크 결합
• 거버넌스 출력을 통해 매핑된 통제 권고 사항 제공
• AI 거버넌스 실무자, 개발자, 규제 담당자를 대상으로 함