은행을 위한 안전장치(Guardrail)에 대한 설명

요약

브라질 은행의 안전장치(guardrail)는 브라질 중앙은행(BCB)이 규제하는 AI 거버넌스 메커니즘입니다. 이 메커니즘은 2001년 법률 보완법(Lei Complementar nº 105/2001)에 근거하여, 자동화된 신용 및 운영 의사결정 시스템에서 투명성, 감사 가능성(auditability), 위험 완화를 요구합니다. 이는 독립적인 규정이 아니라 BCB의 AI 전략의 필수적인 부분이며, AI 법적 프레임워크(Marco Legal de IA) (PL 2338/2023) 및 금융 기관에서의 AI 윤리 사용 지침과 연계되어 있습니다.

요약해서 말하자면 (TL;DR)

• BCB는 순환 공문(Circular nº 4.198/2023)을 통해 감독 대상 기관에 대한 AI 기술적 및 조직적 안전장치를 요구합니다.
• LC 105/2001은 민감 데이터 보호와 금융 시스템 내 자동화된 결정의 설명 가능성(explicability) 요구사항의 근거가 됩니다.
• 은행들은 신용, KYC(고객확인), 사기 탐지에 사용되는 AI 모델에 대한 감사 가능한 기록을 유지해야 합니다.
• BCB는 LC 105/2001 제46조 및 법률 nº 13.506/2017에 따라 안전장치 미비로 인한 행정 처벌을 적용합니다.
• BCB 규정 지침(Instrução Normativa BCB nº 120/2024)에 따라 고위험 모델에 대한 윤리 및 편향 영향 평가는 의무 사항입니다.
• 안전장치는 배포 시뿐만 아니라 지속적으로 테스트되어야 합니다. 이는 기술 감독 보고서(Relatório de Supervisão de Tecnologia) (BCB, 2024)의 지침과 일치합니다.

BCB가 정의하는 은행을 위한 안전장치란 무엇인가?

은행을 위한 안전장치란 AI 시스템이 안전하고, 공정하며, 투명하게 운영되고 브라질 법규를 준수하도록 보장하는 기술적, 절차적 및 거버넌스 통제 세트를 의미합니다. 이는 특정 도구가 아니라 '책임성 프레임워크(framework de responsabilização)'입니다. 여기에는 사전 배포 검증(validação pré-deploy), 성능 및 편향에 대한 지속적인 모니터링, 중요한 결정에서의 인간 개입(fallback humano), 그리고 데이터, 기능(features) 및 결정의 추적 가능한 문서화가 포함됩니다. BCB는 이를 명시적으로

주요 법적 요구사항은 무엇인가요?

주요 법적 근거는 LC 105/2001이며, 특히 제1조에 명시되어 있습니다. 이는 고객을 위한 투명성 의무 및 BCB의 건전성 통제(controle prudencial)에 지장을 주지 않는 범위 내에서 은행 비밀주의를 부과합니다. 이는 설명 가능성(explicabilidade) 요구사항을 뒷받침합니다. 즉, 알고리즘이 기밀이라 할지라도, 은행은 신용 거부나 계좌 동결에 대해 이해하기 쉬운 방식으로 정당화할 수 있어야 합니다. 법률 nº 13.709/2018(LGPD)은 개인 데이터에 대한 이 요구사항을 보완하며, BCB 규정 nº 120/2024는 신용 모델의 편향성 평가 기준을 상세히 설명합니다.

BCB는 guardrails를 어떻게 감독하나요?

감독은 주제별 감사(auditorias temáticas) (예: “신용 제공 프로세스에서의 AI”), 분기별 AI 거버넌스 보고서 분석, 그리고 현장 검사(inspeções in loco)를 통해 이루어집니다. BCB는 객관적인 지표들을 사용합니다: 자동화된 결정에 대한 인간 개입률, 고객 이의 제기에 대한 평균 응답 시간, 견고성 테스트(robustez) 커버리지 (예: 적대적 테스트(adversarial testing)). 2023년부터 현재까지 12개 기관이 guardrails 문서화 실패로 통보받았으며, 오늘날까지 벌금은 부과되지 않았지만 최대 90일 이내에 수정 계획을 제출해야 하는 요구사항이 있습니다.

자주 묻는 질문

자주 묻는 질문

• 질문: Guardrails는 대형 은행에만 의무적인가요?

• 답변: 아닙니다. Circular 4.198/2023은 규모와 관계없이 BCB(중앙은행)의 허가를 받은 모든 기관, 심지어 운영 승인을 받은 핀테크에도 적용됩니다.

• 질문: BCB는 AI 모델에 대한 제3자 인증을 요구하나요?

• 답변: 외부 인증에 대한 법적 요구 사항은 없지만, BCB는 고위험(high impact) 모델에 대해 독립적인 평가를 권장합니다 (BCB의 AI 보고서, p. 27, 2024).

• 질문: Guardrails가 LGPD 준수 필요성을 대체하나요?

• 답변: 아닙니다. 둘은 상호 보완적입니다. LGPD는 개인 데이터 처리를 규율하며, BCB의 guardrails는 금융 시스템 내 자동화된 결정의 무결성(integrity), 보안(security) 및 공정성(equity)을 규율합니다.

• 질문: 새로운 guardrail 요구 사항에 적응할 기한이 있나요?

• 답변: 네. Instrução Normativa BCB nº 120/2024는 2024년 3월 1일에 발효되었으며, 완전한 적응을 위한 기간은 180일(2024년 8월 27일까지)입니다. 이는 BCB에 제출하는 거버넌스 보고서를 통해 확인됩니다.

핵심 사실

• BCB는 2023년 2월에 AI에 대한 최초의 구체적인 지침(Circular 4.198/2023)을 발표했습니다.

• LC 105/2001은 LC 169/2019에 의해 개정되어 BCB가 기술 문제에서 제재 권한을 강화했습니다.

• 신용 점수 산정에 사용되는 AI 모델은 고객이 요청할 때 개별적인 설명을 제공할 수 있어야 합니다 (art. 3º, Inciso IV, IN BCB 120/2024).

• BCB는 2023년부터 감독 기관에 열린 AI 테스트 실험실(Plataforma BCB Lab)을 운영하고 있습니다.

• BCB의 어떤 규정도 알고리즘의 “오픈 소스”를 요구하지는 않지만, 통제된 접근성을 가진 내부 및 외부 감사 능력을 요구합니다.## 출처

• Lei Complementar nº 105, de 2001년 1월 10일 — Planalto.gov.br

• Circular nº 4.198, de 2023년 2월 21일 — Bacen.gov.br

• Instrução Normativa BCB nº 120, de 2024년 3월 1일 — Bacen.gov.br

• 보고서 “브라질 금융 시스템의 인공지능”, BCB, 2024년 — Bacen.gov.br/publicacoes

• RAGJur: 판결 nº 23.105/2023 — 연방 감사원(TCU)이 IFs에서의 AI 거버넌스에 대해 다룬 내용

자세히 알아보기는 https://g.cloud

최초 게시일: g.cloud — 인간에게 도달하기 전에 모든 AI 응답이 거치는 안전장치(guardrail).