영국 중앙은행(Bank of England)은 트레이딩 봇(trading bots)이 금융 시장의 붕괴를 초래하는 것을 방지하기 위해 AI "킬 스위치(kill switch)" 도입을 검토하고 있습니다.

Sarah Breeden 부총재는 관리들이 모든 AI 트레이더들이 동시에 유사한 거래를 실행하려고 할 때 어떤 일이 발생할지에 대해 시뮬레이션(simulations)을 수행하고 있다고 밝혔습니다.

그녀는 포르투갈 신트라(Sintra)에서 열린 행사에서 중앙은행 관계자들에게 금융 시장이 압박을 받을 때 AI의 능력이 "변동성(volatility)을 증폭시킬 수 있다"고 말했습니다.

그 결과, 영국 중앙은행은 독일 연방은행(Bundesbank) 및 국제결제은행(Bank for International Settlements)과 함께 AI 도구에 의한 이른바 "군집 행동(herding behaviour)"에 대응하는 방법을 연구해 왔습니다.

Breeden 씨는 컨퍼런스에서 중앙은행들이 "결함이 있는 AI 모델이 시장 붕괴를 일으킬 경우 시장 전반의 거래를 제한하거나 중단시키는 서킷 브레이커(circuit breakers) 또는 킬 스위치(kill switches)와 같은 "완화 조치(mitigants)"를 탐색하고 있다"고 말했습니다.

증가하는 리스크

Claude 챗봇의 개발사인 Anthropic이 사이버 능력으로 인해 대중에게 공개하기에는 너무 위험하다고 간주되는 Mythos라는 새로운 시스템을 공개한 이후, 최근 몇 주 동안 AI의 능력에 대한 우려가 커졌습니다.

영국 은행들은 백악관이 해커들에 의해 오용될 수 있다는 우려로 인해 해당 AI에 대한 전 세계적 접근을 차단함에 따라 현재까지 이 기술에 접근할 수 없는 상태입니다.

트레이딩 기업들은 주로 연구와 같은 저위험 운영 업무에 자율형 AI를 사용하지만, Breeden 씨는 이것이 빠르게 변하여 시장에 영향을 미칠 수 있다고 경고했습니다.

이미 점점 더 많은 거래가 시장 움직임에 반응하여 거의 즉각적으로 거래를 실행할 수 있는 알고리즘(algorithms)에 의해 주도되고 있습니다.

영국 중앙은행의 시뮬레이션은 이제 지속적인 인간의 감독 없이 목표를 설정하고, 계획을 세우며, 행동을 취할 수 있는 봇인 "에이전틱(agentic)" AI를 트레이딩 데스크에 통합하는 방안을 검토하고 있습니다.

Breeden 씨는 다음과 같이 말했습니다: "AI 능력이 향상됨에 따라, 우리는 기존의 기술 중립적(technology-agnostic) 규제 프레임워크(regulatory frameworks)가 여전히 충분한지 계속해서 질문해야 합니다."

Breeden 씨는 2019년에는 AI 봇의 역량이 약 7개월마다 두 배로 증가했으나, 2024년 기준으로 이 주기가 약 4개월로 단축되었다고 말했습니다. 그녀는 "이미 기하급수적으로 증가하고 있는 역량이 더욱 가속화되는 것으로 보인다"라고 덧붙였습니다.

영국 중앙은행은 이전에 알고리즘 매매 (algorithmic trading)가 시장에 미치는 영향에 대해 조사한 바 있습니다. 2016년에는 파운드화의 플래시 크래시 (flash crash)를 조사했으며, 이는 평소 조용한 시간대에 일련의 컴퓨터 알고리즘들이 동시에 거래를 실행하면서 발생했을 가능성이 높다고 밝혔습니다.

주요 증권 거래소에서 패닉 셀링 (panic selling)을 중단시키기 위해 설계된 서킷 브레이커 (circuit-breakers)는 최근 기술주들의 급격한 매도세 이후 주목받고 있습니다. 한국의 벤치마크 지수인 코스피 (Kospi) 지수는 지난주 변동성이 확대되는 과정에서 서킷 브레이커가 두 차례 발동되었는데, 이는 2000년 이후 단 11번만 사용되었던 사례입니다.