기업 및 공공 부문 전반에 걸쳐 에이전트형 AI 시스템이 확산되면서, 일반적인 목적의 AI 위험 프레임워크로는 이를 분류하고 관리하는 역량을 초과하게 되었습니다. 본 논문에서는 TrustX 에이전트 위험 분류 프레임워크를 소개합니다. 이는 구조적이고 반복 가능한 도구로, 7가지 유형의 에이전트형 AI 시스템에 적용할 수 있으며 기존의 기초적인 AI 거버넌스 프레임워크에 기반을 두고 있습니다. 이 프레임워크의 핵심은 위험을 강력하게 정량화하는 12차원 점수 루브릭입니다. 이 루브릭은 GPA + IAT 분류 모델 및 기존 문헌에서 파생된 5단계 자율성 프레임워크와 같은 다른 구성 요소들과 결합됩니다. 이러한 입력값들은 매핑된 통제 권고 사항을 가진 3단계 거버넌스 출력을 생성합니다. 또한, 이 유형의 에이전트형 AI 시스템에 특화된 미묘한 차이를 고려하기 위해 전문 코딩 어시스턴트 확장 기능도 포함되었습니다. 이후 실제 사례를 들어 저희 프레임워크가 어떻게 작동하는지 보여줍니다. ARC는 AI 거버넌스 실무자, 위험 책임자, 개발자 및 규제 담당자를 대상으로 하며, 저희가 이를 계속 확장하고 더욱 견고하게 만들면서 정기적으로 반복 개선될 것입니다. 커뮤니티에서는 다음 링크에서 대화형 프레임워크에 접근할 수 있습니다: https://arc.responsible.ai/