새로운 모델 위험 규정집에서 AI 에이전트가 빠졌다. 이는 실수(간과)가 아니라, 우리가 처리해야 할 임무이다.

미국 은행 규제 당국은 지난 4월, 모델 위험 관리를 정의했던 15년 된 지침을 대체했습니다. 이 대체된 내용에서 가장 중요한 부분은 각주입니다. 즉, 생성형 AI(generative AI)와 에이전트 기반 AI(agentic AI)는 적용 범위에서 제외되었다는 것입니다. 이것은 간과한 것이 아닙니다. 이는 우리에게 주어진 과제입니다.

이것이 아닌 것: SR 26-2는 법률이 아니라 감독 지침이며, 주로 자산 규모가 300억 달러를 넘는 은행 기관을 위해 작성되었습니다. '적용 범위에서 제외'된다는 것이 규제가 없다는 의미는 아닙니다. 소비자 보호부터 안전성 및 건전성에 이르기까지 기존 의무 사항들은 여전히 은행이 배포하는 모든 것에 적용됩니다. 하지만 이 방향성은 은행업계를 훨씬 넘어 영향을 미칩니다. 현재로서는 모든 산업 분야에서 에이전트 거버넌스(agent governance)는 실무자 주도로 이루어질 것입니다.

2026년 4월 17일, 연방준비제도(Federal Reserve), OCC, 그리고 FDIC는 모델 위험 관리에 대한 개정된 지침인 SR 26-2를 발표했습니다. 이는 2011년에 발간되어 한 세대의 리스크 팀에게 모델 인벤토리, 검증(validation), 효과적인 도전 과제가 무엇인지 가르쳐준 SR 11-7을 대체하는 것입니다. 15년간의 감독 경험이 하나의 문서에 압축된 것입니다.

그리고 각주에서, 해당 기관들은 이 자리에서 가장 큰 이슈인 생성형 AI와 에이전트 기반 AI 모델이 “새롭고 빠르게 진화하고 있기 때문에, 본 지침의 적용 범위 내에 있지 않다”는 점을 언급하며 우회합니다.

귀하의 조직이 가장 빠르게 배포하는 시스템들이 바로 이 핵심 프레임워크가 다루지 않는 시스템들입니다.

각주를 두 번 읽으십시오

각주는 제외되는 것으로 끝나지 않습니다. 다음 문장은 은행 기관 자체의 “리스크 관리 및 거버넌스 관행이 본 문서에서 다뤄지지 않은 모든 도구, 프로세스 또는 시스템에 대한 적절한 거버넌스 및 통제 결정에 지침을 제공해야 한다”고 명시합니다.

규제 당국은 AI 에이전트에 대한 규칙을 작성하지 않았습니다. 그들은 실무자들에게 펜을 건네주었습니다.

이것이 SR 26-2의 실제 내용입니다. 나머지 부분은 진정으로 유용합니다. 즉, 더 날카로운 위험 기반 접근 방식, 중요성(materiality)에 대한 사고방식, 그리고 소규모 기관을 위한 비례성 원칙 등이 포함되어 있습니다. 하지만 주석이야말로 리더십이 존재하는 곳입니다. 규제 당국들은 평범한 감독 언어로 이렇게 말하고 있는 것입니다: 여러분은 이 시스템들을 우리가 지금 규칙으로 만들 수 있는 것보다 더 잘 이해하고 있다는 겁니다. 우리에게 '좋은 모습'을 보여주세요.

에이전트가 단순히 또 다른 모델인 이유

모델 위험 관리는 산출물(artifacts)을 위해 구축되었습니다. 모델이란 버전 관리(version), 최초 사용 전 검증(validate before first use), 그리고 주기적인 모니터링이 가능한 '사물'입니다. 입력값을 받아 추정치를 반환합니다. 최악의 날은 잘못된 숫자 하나가 나오는 것입니다.

하지만 에이전트는 본질적으로 다릅니다. 목표, 도구, 자격 증명(credentials), 그리고 기억을 가지고 있습니다. API를 호출하고, 데이터를 이동시키며, 이메일을 초안 작성하고, 프로덕션 시스템에 접근합니다. 최악의 날은 잘못된 답변이 나오는 것이 아닙니다. 아무도 알아차리기 전에 기계 속도로 수천 번 실행되는 '잘못된 행동(wrong action)'입니다.

이것이 단순히 SR 11-7의 사고방식을 에이전트에 무리하게 적용하는 것이 작동하지 않는 이유입니다. 거버넌스 단위가 더 이상 모델 자체가 아닙니다. 그것은 행위자(actor)입니다.

월요일 아침 제가 할 일

모델 위험 관리의 핵심 골격은 여전히 유효합니다. 단지 그 초점을 산출물(artifacts)이 아닌 '행동'에 맞추어야 합니다. 다음 다섯 가지 조치들이 이 골격을 빌려와 확장하는 것입니다:

1. 모델뿐만 아니라 에이전트도 관리하라(Inventory agents, not just models). 모든 에이전트는 이름과 소유자, 도구 및 권한 목록, 접근할 수 있는 데이터, 그리고 잠재적 피해 범위(blast radius)를 갖는다. 대부분의 조직은 오늘날 이러한 목록을 작성할 수 없다.
2. 자율성 및 잠재적 피해 범위를 기준으로 등급화하라(Tier by autonomy and blast radius). SR 26-2의 중요성 사고방식(materiality thinking)이 직접 적용된다: 문서를 요약하는 에이전트는 돈을 이동시키는 에이전트가 아니다. 거버넌스 노력은 참신함(novelty)이 아닌 결과에 따라 이루어져야 한다.
3. 출력뿐만 아니라 행동을 검증하라(Validate behavior, not just outputs). 단일 응답이 아닌 궤적(trajectories)을 테스트해야 한다. 권한 범위를 넓히기 전에 에이전트가 수행하도록 허용된 행동에 대해 레드팀(Red-team) 테스트를 진행하라.
4. 효과적인 견제 장치를 유지하라(Keep effective challenge). 누가 에이전트가 무엇을 할 수 있도록 허용되는지 질문할 독립적인 주체가 필요하며, 단지 얼마나 잘 수행하는지만 검토해서는 안 된다. 에이전트의 개발자가 유일한 검토자가 될 수는 없다.
5. 킬 스위치와 감사 추적(audit trail)을 갖추고 실시간으로 모니터링하라(Monitor in real time, with a kill switch and an audit trail). 주기적인 검토 주기는 정적인 결과물(static artifact)을 가정한다. 에이전트는 지속적인 관찰, 명확한 에스컬레이션 체계, 그리고 사고를 재구성할 수 있는 로그가 필요하다.

이 모든 것은 규제 기관을 기다리지 않는다. World Economic Forum의 에이전트 평가 및 거버넌스에 대한 작업과 Sophos와 같은 기업에서 나오는 보안 연구는 실무 커뮤니티가 이미 이러한 기반을 구축하고 있음을 보여준다. 문제는 귀하의 조직이 자체적으로 구축할 것인지, 아니면 다른 누군가가 만든 것을 물려받을지 여부이다.

격차는 기회다(The gap is the opportunity)

채택은 기다리는 것이 아니다. Wharton과 GBK에 따르면 기업 리더 중 약 4분의 3이 생성형 AI로부터 긍정적인 투자수익률(ROI)을 보고하는 반면, BCG는 규모 있는 수준에서 AI 가치를 달성하는 회사가 약 5%에 불과하다고 밝히고 있다. 제가 파악한 이 격차의 차이는 더 나은 모델 자체가 아니다. 그것은 운영 규율(operating discipline)이며, 저는 거버넌스가 그 핵심에 있다고 믿는다.

언젠가 은행 및 그 이상의 분야에서 AI 에이전트에 대한 SR 서신이 나올 것이다. 오늘날의 격차를 과제로 여기는 리더들이 그것이 인용하는 관행을 작성할 것이다. 기다리는 이들은 그것들을 물려받게 될 것이다.

저는 제가 어느 쪽에 서고 싶은지 알고 있다.

출처

• SR 26-2, 모델 위험 관리 개정 지침 (Federal Reserve, OCC, FDIC, 2026년 4월 17일)
• [AI 에이전트의 실천: 평가 및 거버넌스 기반 (World Economic Forum, 2025)]
• [확대되는 AI 가치 격차 (BCG, 2025)]
• 2025년 AI 도입 보고서 (Wharton Human-AI Research 및 GBK Collective)