유럽의 SaaS 기업이 미국 고객에게 2분기 또는 6분기에 판매할 수 있는지 결정하는 세 가지 엔지니어링 결정
이번 달 유럽 자금 조달 현황을 살펴보면 하나의 패턴이 나타납니다. 산업용 AI(Industrial AI) 및 공급망 소프트웨어(supply-chain software) 기업들이 계속해서 성장 라운드(growth rounds)를 유치하고 있으며, 사용 목적 항목에는 "북미 지역 확장(North American expansion)"이라고 적혀 있습니다. 영업 계획은 명확합니다. 하지만 엔지니어링 계획은 보통 그렇지 못하며, 첫 번째 미국 기업 보안 설문 조사에서 그 문제가 드러납니다.
이 설문조사는 고객 데이터가 어디에 저장되는지, 어떤 엔지니어가 접근할 수 있는지, 그리고 SOC 2 보고서를 제시할 수 있는지를 묻습니다. eu-central-1의 단일 배포(single deployment)로 구축된 백엔드는 미국 고객에게 첫 번째 질문에 대한 좋은 답변이 없으며, 나머지 두 질문에 대해서도 느린 답변을 하게 만듭니다.
자금 조달 발표에는 백엔드 작업이 포함되지 않는다
단일 리전 배포는 시드(seed) 단계와 시리즈 A(Series A) 단계에서는 적절한 선택입니다. 포스트그레스 클러스터(Postgres cluster) 하나, 쿠버네티스 클러스터(Kubernetes cluster) 하나, 테라폼 상태(Terraform state) 하나면 충분합니다. 아무도 초기에 다중 리전(multi-region)을 구축해서는 안 됩니다.
문제가 시작되는 것은 두 번째 리전이 매출 요구 사항이 될 때입니다. 세 가지 문제가 동시에 무너집니다.
첫 번째는 지연 시간(latency) 문제입니다. 프랑크푸르트와 미국 동부 해안 간의 왕복 시간은 애플리케이션이 어떤 작업을 수행하기 전에 대략 90ms가 걸립니다. 대시보드를 렌더링하기 위해 여섯 개의 순차적인 API 호출을 하는 ML 기반 UI는 이를 반 초에 달하는 순수 네트워크 시간으로 만듭니다. 오하이오의 공장 현장에 있는 산업용 사용자들은 이 차이를 알아챌 것입니다.
두 번째 문제는 데이터 위치입니다. 미국 제조업체들은 운영 데이터를 미국 내에 보관하기를 원하며, 이는 유럽 고객들이 EU 내에 보관하기를 원하는 방식과 같습니다. 개인 데이터의 경우 GDPR(General Data Protection Regulation)이 EU 외부 전송을 규제하며, EU-US 데이터 프라이버시 프레임워크(EU-US Data Privacy Framework)가 인증된 미국 수신자를 다룹니다. 개인 정보가 아닌 산업용 데이터의 경우에는 법규가 없지만, 계약 조항은 존재하며, 가장 큰 잠재 고객이 이를 요구할 것입니다.
세 번째는 감사 범위(audit scope)입니다. SOC 2 Type II 보고서는 관찰 기간을 다루며, 일반적으로 3개월에서 12개월 사이입니다. 만약 첫 미국 거래가 구매 단계에 있을 때 이 보고서를 추진하기로 결정한다면, 해당 보고서는 거래가 종료된 훨씬 이후에나 존재하게 됩니다. 통제(접근 검토, 변경 관리, 로깅)는 기간 시작부터 작동해야 합니다.
팀들이 리트로핏할 때 발견한 문제점 (What we've seen when teams retrofit)
이 실패 패턴은 저희가 만나는 빠르게 성장하는 B2B SaaS 기업들 전반에 걸쳐 일관되게 나타납니다. 팀들은 Terraform을 복사하여 두 번째 리전으로 프로덕션 스택을 클론한 다음, 애플리케이션이 모든 곳에서 단일 데이터베이스를 가정하고 있다는 사실을 발견합니다.
테넌트 간 쿼리(Cross-tenant queries)는 관리자 패널에 존재합니다. 백그라운드 작업은 고객 테이블과 공유 참조 테이블을 결합합니다. 기능 플래그(Feature flags)는 하나의 Postgres 인스턴스 내의 테이블에서 읽어옵니다. 이 각각은 고립된 상태에서의 작은 수정 사항입니다. 하지만 이 모든 것을 합치면, 로드맵까지 소유하고 있는 사람들에게 1/4 분량의 작업이 되며, 이는 회사가 약속한 미국 매출과 직결되는 부분입니다.
신속하게 움직이는 팀들은 이를 자체 오너십을 가진 경계가 명확한 플랫폼 프로젝트(bounded platform project)로 취급합니다. 여기에는 인프라 및 백엔드 기술, 주로 Terraform, Kubernetes, PostgreSQL, 그리고 Node.js 또는 Python 서비스 계층이 필요합니다. 저희 모델에서는 이러한 역할들을 3~4주 동안 채용하고 배치하기 때문에, 해당 프로젝트가 동일한 5명의 사람들과 제품 작업(product work)을 두고 경쟁할 필요가 없습니다.
글로벌 클러스터가 아닌 셀(Cell) 구축
저희의 권장 사항은 셀 아키텍처입니다. 각 리전은 데이터 플레인(data plane)의 완전하고 독립적인 사본을 실행합니다. 얇은 글로벌 제어 평면(global control plane)만이 어떤 테넌트가 어느 셀에 거주하는지, 그리고 그 외에는 아무것도 알지 못해야 합니다.
글로벌 제어 평면 (Global control plane)
(테넌트 디렉토리, 인증, 결제)
|
...
이것은 의도적으로 지루한 내용입니다. 저희는 이 사용 사례에 대해 Aurora Global Database나 CockroachDB 멀티리전과 같은 능동-능동(Active-Active) 글로벌 데이터베이스보다 단일 리전(Single-Region) 백엔드를 선호합니다. 왜냐하면 데이터 레지던시(data residency)를 원하는 고객들은 자신들의 행(row)이 다른 곳에 복제되는 것을 원하지 않으며, 글로벌 쓰기 경로(global write path)는 증가하는 엔지니어링 팀이 소유해서는 안 되는 장애 모드(failure mode)를 추가하기 때문입니다.
가장 저렴한 단계는 스택을 리전별로 인스턴스화할 수 있도록 만드는 것입니다. 모든 것을 모듈(module)로 감싸고, 프로바이더(provider)를 전달합니다.
provider "aws" {
alias = "eu"
region = "eu-central-1"
...
셀(cell)별로 별도의 원격 상태(remote state)를 유지해야 합니다. 미국 셀에서 발생한 잘못된 terraform apply가 EU 상태를 잠그거나 손상시킬 수 없어야 하며, 파급 범위(blast radius)는 한 리전으로 제한되어야 합니다.
결정 2: 테넌트별 라우팅을 한 곳에서 처리하기
모든 요청에는 일반적으로 JWT의 클레임(claim) 형태로 테넌트 ID가 필요합니다. 제어 평면(control plane)은 이 ID를 셀에 매핑합니다. NestJS 게이트웨이에서는 이것이 작은 서비스입니다.
@Injectable()
export class CellRouter {
constructor(private readonly directory: TenantDirectory) {}
...
디렉터리(directory)는 아주 작은 테이블로 구성됩니다: 테넌트 ID, 셀, 생성 시점. 이것이 유일한 글로벌 데이터 저장소이며, 고객 콘텐츠를 포함하지 않으며, 공격적으로 캐싱됩니다. 일단 테넌트가 특정 셀에 고정되면, 이를 이동시키는 것은 부하 분산(load balancing)의 우연이 아니라 명시적인 마이그레이션입니다.
결정 3: 셀별로 모델과 이미지를 다이제스트(digest)로 승격시키기
ML 모델을 제공하는 경우, 아티팩트(artifact)는 코드와 동일한 규율을 갖춰야 합니다. 태그(tag)가 아닌 다이제스트(image@sha256:...)를 사용하여 컨테이너 이미지를 배포하고, eu-1을 거쳐 us-1까지 동일한 다이제스트로 승격시키십시오. 모델 버전을 배포 구성에 저장하여 특정 날짜의 주어진 테넌트에게 "어떤 모델이 이 예측값을 생성했는지" 답변할 수 있어야 합니다.
이것 없이는 두 리전이 서서히 편차(drift)를 보입니다. EU 셀은 지난주 재훈련된 모델을 실행하고, US 셀은 이전 모델을 실행하며, 고객 지원 티켓 하나가 이틀간의 조사로 변질됩니다.
첫 미국 계약을 체결하기 전에 할 일
먼저 크로스 테넌트 쿼리(cross-tenant queries)를 분리하세요. 테넌트 테이블을 가로지르는 조인(joins)이나 모든 테넌트를 한 번에 읽는 관리 도구(admin tool)의 코드를 검색(grep)하세요. 이들은 셀(cells) 환경에서 살아남기 어려운 쿼리들입니다.
감사가 나중에 예정되어 있더라도 SOC 2 증거(evidence) 수집을 일찍 시작하세요. 접근 검토(Access reviews), 풀 리퀘스트 승인(pull request approvals), 인프라 변경 로그(infrastructure change logs)는 처음부터 GitHub와 Terraform에서 자동화된다면 생성하기 쉽지만, 나중에 재구성하는 것은 비용이 많이 듭니다.
게임 데이(game day)를 실행하세요. 스테이징 환경에서 미국 셀(US cell)을 다운시키고 유럽 셀(EU cell)에 영향을 주지 않는지 확인하세요. 만약 영향을 준다면, 고객보다 먼저 숨겨진 글로벌 종속성(global dependency)을 발견한 것입니다.
핵심 요점 (Key Takeaways)
- 초기에는 단일 리전(Single-region)이 맞습니다. 실수는 미국 시장을 겨냥하는 라운드가 발표된 후에도 애플리케이션을 그것에 종속시키는 것입니다.
- 글로벌 데이터베이스 없이도 데이터 레지던시(data residency)를 제공하며 장애 영역(failure domain)을 한 리전으로 유지하는 얇은 글로벌 테넌트 디렉토리(thin global tenant directory)를 가진 셀이 있습니다.
- 리전을 Terraform 모듈 매개변수(parameter)로 만들고, 이미지 다이제스트(image digest)로 배포하며, 각 테넌트를 셀에 고정하세요. 이 세 가지 모두 두 번째 리전 이전에는 쉽지만 이후에는 고통스럽습니다.
- 크로스 테넌트 쿼리(Cross-tenant queries)와 공유 참조 테이블(shared reference tables)이 진짜 작업입니다. 날짜를 약속하기 전에 이것들을 찾으세요.
- SOC 2 Type II는 시간 창(time window)입니다. 늦게 시작하는 통제(Controls)는 첫 보고서 제출 시점을 같은 만큼 뒤로 미룹니다.
_SifrVentures는 기술 기업을 위한 전담 엔지니어링 팀을 구축합니다. 베를린에 기반을 두고 있습니다. 작동 방식 알아보기 | 블로그에서 더 읽기