JP모건 체이스, Muse나 Instinct 같은 외부 AI 에이전트의 계좌 직접 접근 차단

JPMorgan Chase, 외부 AI 에이전트의 고객 계정 접근 차단

제이미 다이먼(Jamie Dimon) CEO는 화요일에 메타(Meta)를 포함한 기술 기업들이 자율 비서(autonomous assistants)를 출시함에 따라 회사와 고객에게 위험이 따르기 때문에, JPMorgan Chase가 외부 인공지능 에이전트가 고객 계정에 접근하여 그들을 대신해 운영하는 것을 허용하지 않을 것이라고 말했습니다.

다이먼은 은행의 3분기 실적 발표 컨퍼런스 콜에서 분석가들에게 "우리는 어떤 외부 에이전트라도 회사 안에 들어오는 것을 허용하지 않을 것입니다. 고객과 JPMorgan 모두에게 너무 위험하기 때문입니다"라고 말했습니다.

그는 고객에게 가해질 수 있는 잠재적 위협을 설명하며 "통제되지 않은 에이전트(rogue agents)는 원하지 않으며, 그 숫자는 수천 개에 달할 수도 있습니다"라고 덧붙였습니다. 실제로 지난 7월, OpenAI 모델이 AI 회사 Hugging Face의 서버를 해킹한 사례가 있었습니다.

자산 규모가 가장 큰 미국 은행의 오랜 CEO이자 사실상의 미국 금융 부문 대변인인 다이먼의 이러한 입장은 과거 핀테크(fintech) 기업들과 고객 데이터 접근권을 두고 벌였던 싸움을 연상케 합니다. JPMorgan은 Plaid를 포함한 데이터 중개자들에게 접근 비용을 청구하려 했으며, 이 분쟁 역시 은행의 보안 우려와 기술 기업들의 접근 요구가 대립했던 상황이었습니다.

JPMorgan의 대변인은 CNBC에 이 은행이 현재 외부 AI 에이전트가 개인 고객을 대신하여 운영하는 것을 차단하고 있다고 확인했습니다.

대변인은 "고객 보호가 우리의 최우선 과제입니다. 안전하지 않기 때문에, 우리는 제3자가 고객의 은행 자격 증명(banking credentials)을 얻어 그들을 대신하여 계정에 접근하는 것을 허용하지 않습니다"라고 말했습니다.

그녀는 또한 "우리는 오픈 뱅킹(open banking) 제공업체를 통한 안전하고 고객이 승인한 데이터 공유를 지원하며, 에이전트 연결을 안전하게 구현하는 데 전념하고 있습니다"라고 덧붙였습니다.

이는 Plaid나 다른 커넥터가 사용자의 자격 증명을 가지고 있다면, AI 에이전트가 고객 잔액과 같은 일부 고객 데이터에 읽기 전용(read-only) 방식으로 접근할 수 있다는 의미입니다. 하지만 그들은 돈을 보내거나 청구서를 지불하는 등 에이전트를 유용하게 만드는 행동은 할 수 없습니다.

대변인은 은행이 에이전트가 고객 계정과 직접 상호 작용할 수 있도록 안전장치를 마련하는 시기에 대한 구체적인 일정은 없다고 덧붙였습니다.

은행권의 AI 에이전트 활용과 고객 책임 문제

디몬(Dimon)은 JP모건이 내부적으로 AI 에이전트를 사용하고 있으며 이를 고객 대면 애플리케이션에 배포할 계획이라고 말했다. 그는 은행의 접근 방식이 기술 찬성이나 반대가 아니라, 이 기술이 고객에게 안전하게 봉사하도록 보장하는 것이라고 덧붙였다.

제레미 바넘(Jeremy Barnum) CFO는 화요일에 JP모건이 사용자 현금 흐름을 예측하고 수익률을 극대화하기 위해 자금을 이동시키는 'Smart Cash'라는 자체 AI 도구의 표적 파일럿 프로그램을 시작했다고 밝혔다. 이는 외부 에이전트에 대한 방어적인 움직임으로 보인다.

디몬은 또한 고객이 외부 AI 에이전트에게 자신을 대신하여 행동하도록 승인할 때의 책임 문제에 대해서도 선을 그었다. 디몬은 "사람들이 그것들을 사용한다면, 위험을 이해해야 한다"며 "책임 전가(liability transfer)가 있다는 것을 알아야 한다"고 말했다.

예를 들어 구독을 취소하거나 사용자 대신 신용카드를 사용하는 능력과 같이 AI 모델이 더 많은 자율성을 통합함에 따라 개인 에이전트가 최근 몇 달 동안 주류 인기를 얻고 있다.

앱 대신 주로 문자 메시지에 의존하는 디지털 컨시어지인 Instinct는 올해 초 초대장만으로 서비스를 시작했다. 이 서비스의 배후에 있는 샌프란시스코 기반 스타트업 Spear Street Technology는 작년에 설립되었으며 지난달 100억 달러의 기업 가치(valuation)를 달성했다.

지난 9월에는 메타(Meta)의 Muse 에이전트가 공개 직후 앱 다운로드 차트에서 1위를 차지하면서 은행 주식이 하락하는 등 시장에 충격을 주었고, 소비자들이 낮은 수익률 계좌에서 높은 수익률 계좌로 자금을 이동하기 위해 에이전트를 사용할 것이라는 우려를 불러일으켰다. 몇 주 후 OpenAI는 자체 에이전트인 Dots를 출시했다.

아폴로(Apollo) 수석 이코노미스트 토르스텐 슬록(Torsten Slok) 등은 에이전트가 저금리 은행 예금에 가하는 위험을 지적했다. 그러나 만약 에이전트들이 고객 계좌에서 자유롭게 운영되도록 허용되지 않는다면, 그 위험은 제한될 것이다.