OpenAI는 지난 1월 사용자의 건강 데이터로 이 작업을 수행했습니다. 이제 금융 데이터도 원하고 있습니다.

OpenAI는 오늘 ChatGPT 사용자가 Chase, Fidelity, Capital One, Schwab을 포함한 12,000개 기관에서 사용하는 금융 브릿징 플랫폼인 Plaid를 통해 은행 계좌를 연결할 수 있다고 발표했습니다. 연결되면 ChatGPT는 사용자의 잔액, 거래 내역, 활성 구독, 투자 포트폴리오, 그리고 모기지(mortgages) 및 신용카드 부채와 같은 부채(liabilities)에 대한 전체적인 뷰를 갖게 됩니다. 그 대가로 사용자는 지출 대시보드, 개인화된 금융 조언, 그리고 습관의 비정상적인 변화를 감지할 수 있는 챗봇을 제공받습니다.

할 수 있는 것과 할 수 없는 것

OpenAI는 경계 설정을 신중하게 하고 있습니다. ChatGPT는 사용자의 계좌를 변경하거나 전체 계좌 번호를 볼 수 없습니다. 사용자는 언제든지 연결을 해제할 수 있고, 저장된 금융 기억(financial memories)을 삭제할 수 있으며, 모델 학습(model training)을 위해 데이터가 사용되는 것을 거부(opt out)할 수 있습니다.

볼 수 있는 것은 그 외의 모든 것입니다. 잔액, 모든 거래, 주식 포트폴리오, 갚아야 할 돈 등입니다. 그리고 일단 연결되면, OpenAI는 사용자가 연결을 해제한 후 데이터를 삭제하기까지 최대 30일의 시간을 갖습니다. 이는 연결을 끊는 것이 생각만큼 깔끔하지 않다는 것을 의미합니다.

학습 옵트인(training opt-in) 또한 주의 깊게 읽어볼 가치가 있습니다. 기본 설정이 완전히 명확하지 않으며, 사용자의 금융 데이터를 OpenAI의 학습 파이프라인(training pipeline)과 공유하는 것에 대한 라벨인 "모두를 위해 모델 개선(Improve the model for everyone)"은 중대한 결정에 대해 매우 우호적인 프레이밍(framing)을 하고 있습니다.

패턴

지난 1월 OpenAI는 사용자가 건강 관련 질문을 위해 의료 기록을 연결할 수 있는 기능인 ChatGPT Health를 출시했습니다. 회사는 이것이 진단이나 치료를 목적으로 하지 않는다는 점을 명시하며 주의를 기울였습니다. 그 이후에 뒤따른 개인정보 보호 문제들, 즉 OpenAI가 실제로 이 데이터를 어떻게 사용하는지, 어떻게 보호되는지, 유출 사고가 발생하면 어떻게 되는지에 대한 질문들은 완전히 답변되지 않았습니다.

이제 동일한 플레이북(playbook)이 당신의 은행 계좌에도 적용됩니다. OpenAI는 사용자가 자신의 데이터를 제어할 수 있다고 말합니다. 하지만 이 회사가 AI 학습 이외에 해당 금융 정보로 무엇을 하는지, 혹은 시스템 침해(system breach)에 대비한 추가적인 보호 조치가 존재하는지에 대해서는 명시하지 않았습니다. 바로 이 부분이 사람들이 계속해서 질문하게 될 지점입니다.

이 모든 데이터는 나중에 어떻게 되는가

OpenAI는 스스로 인정하듯, 결국 수익을 창출해야 하는 기업입니다. 이제 이 회사는 수백만 명의 사용자들에 대해 지출 습관, 부채 수준, 투자 행동, 구독 패턴, 거래 내역에 숨겨진 소득 신호 등 상세한 금융 프로필(financial profile)을 구축할 잠재력을 갖게 되었습니다.

이는 매우 가치 있는 데이터셋(dataset)입니다. 이번 발표는 이 데이터에 대해 상업적으로 어떤 가드레일(guardrails)이 존재하는지, OpenAI의 비즈니스 모델이 변경될 경우 해당 데이터가 어떻게 되는지, 또는 향후 잠재적인 인수(acquisition)나 구조조정(restructuring) 상황에서 어떤 보호 조치가 유지되는지에 대해 다루지 않고 있습니다.

은행 계좌를 ChatGPT에 연결하는 것은 진정으로 유용할 수도 있습니다. 지출 대시보드(spending dashboard)는 실제 기능이며, 금융 조언도 유익할 수 있습니다. 하지만 OpenAI는 상업적 압박을 받는 기업이 장기적으로 건강 데이터와 금융 데이터 각각을 어떻게 다루는지에 대해 명확한 답변을 내놓지 않은 채, 이제 당신의 건강 데이터와 금융 데이터를 수집하게 되었습니다.