360 억 토큰, 300 만 고객, 6 명의 엔지니어

요약: 인프라는 어렵고, 다중 테넌트 인프라는 더 어렵습니다.

이전으로의 마이그레이션과 그것이 성공한 이유

10 배의 레버리지를 통해 더 많은 기업가들을 지원하기 위해
Durable 은 하루 만에 고객들에게 새로운 프로덕션 에이전트를 배포합니다.

AI 기능과 에이전트는 하루에 약 11 억 토큰 (연간 3600 억 토큰) 을 처리합니다.
엔지니어, 제품 관리자, 디자이너 각각에게 10 배의 레버리지 제공.
셀프 호스팅 대비 인프라 비용이 3~4 배 낮음. 이는 커스텀 도메인을 위한 SSL 단말기 (SSL termination) 수천 달러를 지불하는 비용을 포함합니다.

SaaS 규모에서 제공하는 커스텀 도메인과 SSL, 이전에는 여러 지리적 위치에 걸쳐 클러스터를 유지하기 위해 인프라 엔지니어가 필요했습니다.

다중 지역 클러스터 관리: 한 고객에 대한 DDoS 공격이 다른 사이트의 성능을 저하시키지 않도록 합니다.

수백만 개의 테넌트를 대상으로 하는 다중 테넌트 리스크로서의 보안 및 봇 보호.

관측 가능성과 비용 귀속 (Observability and cost attribution)

Durable 은 초기부터 간단한 목표를 가지고 있었습니다.