Phoebe Seers 작성

런던, 6월 30일 (Reuters) - Bank of England는 화요일, 점점 더 유능해지는 에이전틱 시스템(agentic systems)이 금융 시스템에 초래할 수 있는 위험을 억제하기 위해 맞춤형 AI 규제가 필요함을 시사했으며, 이는 해당 기술을 감독하는 방식에 있어 잠재적인 변화를 의미합니다.

기존 프레임워크가 AI 위험을 완화하기에 충분하다는 입장을 수년간 고수해 온 것과 달리, Sarah Breeden 부총재는 에이전틱 결제(agentic payments) 및 트레이딩(trading)과 같은 분야의 급격한 발전이 더 정교한 규제 대응을 요구할 수 있는 잠재적 공백을 드러냈다고 말했습니다.

에이전틱 AI(Agentic AI)는 의사결정을 내리고 자율적으로 작동할 수 있습니다.

Breeden은 포르투갈에서 열린 중앙은행 포럼(European Central Bank Forum)에서 "우리의 프레임워크는 자율 에이전트(autonomous agents)를 고려하여 구축되지 않았으며, 모든 에이전트의 행동에 대해 인간 참여(human in the loop)에 의존하는 것은 현실적이지 않을 가능성이 높습니다"라고 말했습니다.

강화된 복구 및 킬 스위치(KILL SWITCHES)

Breeden은 Bank of England(BoE)가 은행들이 핵심 시스템에 대해 "강화된 복구(enhanced recovery)"가 필요한지 검토 중이라고 밝혔으며, 이는 장애 발생 시 한 은행이 다른 은행의 기본 기능을 인수할 수 있도록 하는 것을 의미합니다.

검토 중인 다른 조치로는 새로운 가드레일(guardrails)과 회로 차단기(circuit breakers) 또는 킬 스위치(kill switches)가 포함되며, 이는 "결함이 있는 AI 모델이 시장 붕괴를 초래할 경우 시장 전체의 거래를 제한하거나 중단시킬 수 있는" 장치입니다.

Cambridge Centre for Alternative Finance의 조사에 따르면, 금융 기업의 52%가 이미 에이전틱 AI를 사용하고 있습니다. 상거래에서 에이전트는 일반적으로 제품을 추천하는 데 사용되며, 트레이딩에서 기업들은 주로 저위험 운영 작업에 자율 AI를 사용하고 있지만, Breeden은 이러한 상황이 빠르게 변할 수 있다고 말했습니다.

"만약 AI 에이전트들이 동일한 프롬프트(prompts)나 트리거(triggers)에 유사하게 반응한다면, 특히 그들의 목표가 원래의 목표나 공공 정책 목표에서 벗어날 경우 스트레스 상황에서 변동성을 증폭시킬 수 있습니다."

규제 기관과 글로벌 표준 설정 기구(standard-setting bodies)는 Anthropic이 Mythos를 출시한 이후 금융 부문 전반에 걸친 AI 도입이 초래할 위험에 대해 반복적으로 경고해 왔습니다. 분석가들은 이 모델이 은행 산업에 상당한 사이버 보안(cybersecurity) 과제를 불러올 수 있다고 말합니다.

금융안정위원회(Financial Stability Board)는 지난 6월 초, AI 에이전트(AI agents)의 위험에 대비하기 위한 더 엄격한 보호 장치를 촉구하며, 이들이 인간의 감독(human oversight)에 별도의 도전 과제를 제기한다고 밝혔습니다.

(Phoebe Seers 보도; Barbara Lewis 및 Tommy Reggiori Wilkes 편집)