Phoebe Seers 작성

런던, 7월 6일 (로이터) - 월요일, 한 고위 관계자는 ChatGPT, Claude, Gemini와 같은 거대 언어 모델 (Large Language Models, LLM)이 소비자 금융 결정에 점점 더 큰 영향을 미침에 따라, 이들을 범용 AI 도구로서 규제해야 할지 영국이 검토해야 한다고 밝혔습니다.

금융감독청 (Financial Conduct Authority, FCA)의 Sheldon Mills 상임 이사는 또한 소수의 기술 제공업체에 대한 기업들의 의존도가 시스템 전반의 잠재적 리스크를 초래함에 따라 기존의 규칙서 (rulebook) 또한 진화해야 할 것이라고 말했습니다.

AI가 금융 부문에 미치는 영향에 대한 Mills의 검토는, Anthropic의 Mythos와 같은 프런티어 AI (Frontier AI) 모델과 관련된 사이버 및 운영 리스크부터 제한된 인간의 개입만으로 행동할 수 있는 에이전틱 시스템 (Agentic systems)의 도입이 제기하는 과제에 이르기까지, 전 세계 규제 당국이 AI의 영향력과 씨름하고 있는 가운데 이루어졌습니다.

그는 소비자들의 범용 거대 언어 모델 사용이 증가하고 있다는 점을 강조했습니다. 검토 결과에 따르면, 규제 대상 금융 서비스에 적용되는 보호 조치가 해당 서비스에는 적용되지 않는다는 인식이 부족함에도 불구하고, 영국 소비자의 4분의 1 이상이 OpenAI의 ChatGPT, Anthropic의 Claude, Google의 Gemini와 같은 도구들을 금융 자문 용도로 신뢰하고 있는 것으로 나타났습니다.

OpenAI, Anthropic, Google은 즉각적인 논평을 제공하지 않았습니다.

Mills는 FCA가 현재 규제 범위 밖에 있는 범용 모델의 규모, 성격 및 영향을 검토함으로써, 향후 3~6개월 이내에 규제 경계 (regulatory perimeter)를 "확보하고 적응"시킬지 여부를 고려할 것을 권고했습니다.

FCA의 의장인 Ashley Alder는 "우리는 급변하는 환경과 우리가 AI에 대해 취해온 원칙 기반의 결과 중심적 접근 방식에 발맞추어 나갈 필요가 있다"라고 말했습니다.

집중 리스크 (CONCENTRATION RISK)

최근 조사에 따르면 전 세계 금융 기업의 81%가 어느 정도 수준에서 AI를 도입하고 있으며, 40%는 확장 또는 전환의 더 진보된 단계에 있는 것으로 나타났습니다.

대부분의 사용 사례(use cases)가 저위험 백오피스(back-office) 기능에 집중되어 있는 반면, 영국 기업들은 불만 처리 및 투자 가이드 제공을 포함하여 고객 대면 역할(customer-facing roles)에 AI를 점점 더 많이 배치하고 있습니다.

Mills의 검토 보고서는 또한 금융 부문의 광범위한 AI 도입이 기업들로 하여금 핵심 운영 역량을 위해 소수의 기술 제공업체에 의존하게 만들 수 있다고 경고했습니다.

보고서는 동일한 모델, 클라우드 제공업체 또는 기술 인프라에 대한 공동 의존이 금융 시스템 전반에 걸쳐 상관관계가 있는 행동(correlated behaviour), 군집 현상(herding) 및 공통 장애 지점(common points of failure)을 생성할 수 있다고 밝혔습니다.

(보도: Phoebe Seers, 편집: Iain Withers, 편집: Louise Heavens)