OpenAI는 단 하나의 PostgreSQL primary와 50개의 read replicas만으로 ChatGPT에서 8억 명의 사용자를

요약

OpenAI가 단일 PostgreSQL primary와 50개의 read replica만으로 ChatGPT의 방대한 트래픽을 처리하는 아키텍처를 공개했습니다. 이들은 샤딩과 같은 복잡한 방법을 사용하지 않고, PgBouncer 최적화와 캐시 잠금 기법을 활용하여 단일 마스터의 한계를 성공적으로 극복했음을 강조합니다.

핵심 포인트

• 샤딩보다 기본 최적화가 중요함을 보여줍니다.
• PgBouncer 및 캐시 잠금으로 트래픽 부하를 관리했습니다.
• 단순한 아키텍처로 대규모 사용자 트래픽 처리가 가능합니다.