AWS, 클라우드 컴퓨팅을 위한 AI 기반 자동 스케일링 출시

Amazon Web Services (AWS)가 Elastic Compute Cloud (EC2) 서비스에 대한 주요 업데이트를 공식적으로 출시하며, 개발자들에게 상당한 비용 절감을 약속하는 새로운 AI 기반 자동 스케일링 기능을 도입했습니다. 10월 24일에 발표된 이 기능은 'Intelligent Adaptive Scaling' (IAS)이라는 이름으로 불리며, 단순 임계값 기반 규칙에 의존하기보다 머신러닝 모델을 사용하여 워크로드 급증(workload spikes)을 95%의 정확도로 예측하고 리소스를 실시간으로 조정합니다.

이 개발은 클라우드 인프라가 용량을 관리하는 방식에 중대한 변화를 가져왔으며, 반응적(reactive) 방식에서 예측적(predictive) 자원 할당 방식으로 전환하고 있습니다.

예측적 자원 관리로의 전환

수년 동안 클라우드 자동 스케일링은 CPU 사용률이나 요청 속도와 같은 정적 지표에 의존하여 스케일링 이벤트를 트리거해 왔습니다. 이러한 방식은 효과적이지만, 종종 인스턴스가 급격하게 늘어나거나 줄어드는 '쓰나미 현상(thundering herds)'을 초래하여 지연 시간 급증과 컴퓨팅 주기 낭비를 야기합니다. AWS의 새로운 IAS 기능은 기존 SageMaker AI 플랫폼과 통합되어 과거 사용 패턴, 계절적 추세, 심지어 제품 출시나 뉴스 주기와 같은 외부 이벤트까지 분석합니다.

AWS 인프라 부문 VP인 Sarah Chen 박사는 기자 간담회에서

스타트업에게 클라우드 비용은 급여 다음으로 가장 큰 운영 지출 항목인 경우가 많습니다. 수동 튜닝이나 복잡한 스크립팅 없이 리소스 사용량을 자동으로 최적화할 수 있는 능력은 판도를 바꾸는 요소입니다. 일반적인 SaaS 스타트업은 사용자 활동이 10배 증가하는 상황에 대비해 서버를 과도하게 프로비저닝(over-provision)하여, 실제로는 90%의 시간 동안 유휴 용량에 대한 비용을 지불합니다. IAS를 사용하면 시스템이 인스턴스를 동적으로 적정 규모로 조정(right-sizes)하여 필요한 순간에 정확히 리소스를 사용할 수 있도록 보장합니다.

이는 현재 경제 상황에서 특히 중요하며, CTO와 CFO들이 모든 항목을 면밀히 검토하고 있는 시점입니다. 이 기능은 US-East 및 US-West 리전에서 즉시 사용 가능하며, 2024년 1분기까지 전 세계적으로 출시될 예정입니다. AWS는 또한 AI 예측 레이어에 대한 소액의 프리미엄을 포함하도록 가격 모델을 업데이트했으며, 이는 사용 첫 달 내 컴퓨팅 비용 절감으로 상쇄된다고 주장합니다.

산업 영향 및 경쟁 구도

IAS의 도입은 Microsoft Azure와 Google Cloud Platform (GCP) 같은 경쟁사들에게 압박을 가하고 있습니다. 이들 모두 현재 유사한 AI 통합 관리 도구를 테스트하고 있기 때문입니다. Azure가 최근 'FinOps' 도구에 초점을 맞추고 있고, GCP가 '탄소 인식 컴퓨팅(Carbon-Aware Computing)' 이니셔티브를 추진하는 것은 비슷한 방향으로 나아가고 있지만, AWS가 딥러닝을 핵심 스케일링 메커니즘에 직접 통합한 것은 자율 인프라의 새로운 기준점을 제시합니다.

Gartner의 분석가들은 이러한 추세가 인프라 자체를 지능화하는 클라우드 네이티브 개발 전반의 혁신을 대표한다고 언급했습니다. TechVentures의 수석 분석가인 Mark Thompson은

향후 계획

AWS는 내년 초까지 IAS를 서버리스 함수와 컨테이너 서비스(EKS)로 확장할 계획입니다. 또한 회사는 제3자 모니터링 도구와의 파트너십을 탐색하여 맞춤형 학습 데이터를 허용함으로써, 기업들이 자체 애플리케이션 아키텍처에 기반하여 AI 모델을 미세 조정(fine-tune)할 수 있도록 할 것입니다. AI가 애플리케이션 로직부터 인프라 관리까지 기술 스택의 모든 계층에 계속 침투함에 따라, 이번 업데이트는 자율 클라우드 컴퓨팅의 새로운 시대를 알립니다. 개발자들에게 보내는 메시지는 명확합니다. 클라우드가 더 스마트해지고 있으며, 운영 비용도 저렴해지고 있다는 것입니다.