싱가포르 통화청(Monetary Authority of Singapore, MAS)은 금융 기관 및 핀테크(FinTech) 기업들과 함께 준비한 금융 분야 AI 에이전트(AI agents) 보호 조치에 관한 백서를 발표했습니다.

'런타임 시 에이전트 금융 보호 조치(Safeguards for Agentic Finance at Runtime, SAFR)'라는 제목의 이 문서는 금융 서비스 기업들이 금융 업무를 수행할 때 AI 에이전트를 안전하고 보안이 유지되며 신뢰할 수 있는 방식으로 사용할 수 있도록 돕기 위한 프레임워크(framework)를 설정합니다.

SAFR는 금융 부문에서 AI 도구의 책임 있는 개발 및 사용에 초점을 맞춘 MAS의 BuildFin.ai 이니셔티브(initiative)를 통해 개발되었습니다.

이 백서는 스스로 행동할 수 있고 인간이 직접 감독하기 어려운 속도로 작동할 수 있는 AI 에이전트의 사용이 증가하고 있는 상황을 다룹니다.

이러한 맥락에서, 기업들은 해당 시스템이 위임된 권한과 리스크 한도 내에서 작동하도록 유지하기 위해 실시간으로 작동하는 보호 조치가 필요하다고 명시하고 있습니다.

이 프레임워크에 따라, 거버넌스 체크포인트(governance checkpoints)를 사용하여 AI 에이전트가 제안한 행동이 실행되기 전에 이를 확인하고 기록합니다.

SAFR는 MAS의 Project Mindforge 산하 AI 리스크 관리(AI Risk Management) 툴킷(toolkit)을 기반으로 하며, AI 에이전트가 행동을 취하는 순간에 제어 장치(controls)를 어떻게 운영에 적용할 수 있는지에 집중합니다.

백서는 정책 기반 실행(policy bound execution), 실시간 검증(real time validation), 감사 가능성(auditability) 및 상호 운용성(interoperability)과 같은 보호 조치를 설명하며, 기업들이 AI 에이전트를 보다 일관된 방식으로 사용할 수 있도록 이러한 조치들을 운영 체제에 어떻게 통합할 수 있는지 기술합니다.

프로젝트 참여자들은 다양한 유스케이스(use cases)에 이 프레임워크를 적용했습니다.

여기에는 자율 에이전트가 설정된 권한 내에서 일상적인 거래를 처리하여 운영의 마찰을 줄일 수 있는 결제 및 자금 관리(treasury) 기능이 포함됩니다.

다른 사례로는 AI 에이전트가 문서를 평가하고 엄격하게 정의된 작업 내에서 구조화된 검토서를 작성하여 컴플라이언스(compliance) 체크를 지원하는 자산 관리 및 자문 프로세스가 포함되었습니다.

또한 이 프레임워크는 AI 에이전트가 승인된 콘텐츠 한도 내에서 고객 인사이트를 준비하고 자료 초안을 작성하여 직원이 고객을 더 효율적으로 지원할 수 있도록 하는 고객 참여 업무에도 사용되었습니다.

MAS는 해당 작업에 관심이 있는 업계 참여자들이 BuildFin.ai 워킹 그룹(work group)에 참여하여 SAFR의 후속 버전에 기여할 수 있다고 밝혔습니다.

최근 발표된 Future of Finance Institute (FFI)는 업계 파일럿(pilot) 및 샌드박스(sandbox) 테스트 조직을 지원함으로써 해당 프레임워크의 도입을 도울 것으로 기대됩니다.

"Singaporean regulator outlines safety guardrails for financial AI agents"는 원래 GlobalData 소유 브랜드인 Retail Banker International에서 작성 및 게시되었습니다.