AWS에는 기계 학습(Machine Learning) 모델의 개발부터 운영까지를 지원하는 "Amazon SageMaker AI"라는 서비스가 있습니다. 이전에 소개된 Amazon Bedrock은 주로 기존의 기반 모델(Foundation Model)을 활용하여 생성형 AI 애플리케이션을 구축하기 위한 서비스였습니다. 반면, Amazon SageMaker AI는 자체 데이터를 사용하여 기계 학습 모델을 개발 및 학습시키고, 실제 시스템에서 이용 가능한 상태로 만드는 것을 목표로 하는 서비스입니다.
SageMaker AI에는 데이터 준비, 모델 학습, 성능 평가, 배포(Deployment), 모니터링 등 기계 학습의 각 공정을 지원하는 기능들이 많이 마련되어 있습니다. 본 글에서는 각각의 기능 역할과 실제 활용 예시에 대해 정리합니다.
※ 2026년 11월 시점의 정보를 기반으로 작성되었습니다. 일부 기능은 신규 고객 대상 제공이 종료된 부분이 있으니 이 점도 함께 설명드립니다.
Amazon SageMaker AI는 기계 학습 모델의 구축, 학습, 배포, 운영을 지원하는 관리형 서비스(Managed Service)입니다. 기계 학습(Machine Learning: ML)이란 데이터로부터 규칙성이나 패턴을 학습하여 미지의 데이터에 대한 예측이나 분류 등을 수행하는 기술입니다. 예를 들어, 과거 판매 데이터를 이용해 다음 달 매출을 예측하거나, 고객의 거래 내역에서 비정상적인 거래를 탐지할 때 활용할 수 있습니다.
일반적으로 기계 학습 시스템을 구축하려면, 학습용 서버, 데이터 저장소, 모델 실행 환경 등을 준비해야 합니다. SageMaker AI에서는 이러한 환경들을 AWS의 관리형 기능으로 이용할 수 있기 때문에, 개발자는 인프라 관리에 대한 부담을 줄이면서 기계 학습 모델의 개발과 개선에 집중할 수 있습니다.
참고로, 2024년 12월에 기존의 "Amazon SageMaker"가 "Amazon SageMaker AI"로 명칭 변경되었습니다. 현재의 "Amazon SageMaker"는 기계 학습뿐만 아니라 데이터 분석이나 데이터 관리 등 더 광범위한 플랫폼을 지칭합니다. 본 글에서는 그중 기계 학습 기능인 Amazon SageMaker AI를 대상으로 합니다.
기계 학습 모델 개발은 일반적으로 "데이터 수집 → 데이터 전처리(Data Preprocessing) → 모델 학습 → 모델 평가 → 배포 → 모니터링"의 공정을 거칩니다.
예를 들어, EC 사이트의 매출을 예측하는 경우, 과거 판매 실적, 상품 가격, 캠페인 정보 등을 수집하여 해당 데이터로부터 매출을 예측하는 모델을 만듭니다. 학습된 모델의 성능을 평가한 후, 애플리케이션에서 이용할 수 있도록 배포하고, 실제 운영 환경에서 예측 정확도를 모니터링합니다.
기본적인 구성은 다음과 같습니다.
Amazon S3
(학습 데이터 저장)
↓
...
여기서 말하는 "추론(Inference)"이란, 학습된 모델에 새로운 데이터를 입력하여 예측 결과를 얻는 처리 과정입니다. 또한, "엔드포인트(Endpoint)"란 애플리케이션이 모델을 호출하기 위한 연결 지점을 의미합니다.
SageMaker AI에는 이 일련의 공정을 지원하는 기능들이 마련되어 있습니다.
SageMaker Studio는 기계 학습 모델의 개발 및 관리를 수행하는 웹 기반 개발 환경입니다. JupyterLab이나 코드 에디터 등을 이용하여 데이터 분석, 프로그램 작성, 모델 학습, 실험 결과 확인 등 다양한 작업을 할 수 있습니다. 예를 들어, Python으로 매출 예측 모델을 개발할 경우, Studio 상에서 데이터를 불러오고 학습 프로그램을 실행하여 예측 정확도를 확인할 수 있습니다. 또한, 학습 작업(Training Job)이나 추론 엔드포인트 등의 관리도 가능합니다.
비슷한 명칭의 개발 환경으로는 다음과 같은 것들이 있습니다.
| 명칭 | 역할 |
|---|
| SageMaker Studio | 기계 학습의 개발 및 관리를 수행하는 환경 |
| ... | |
기계 학습 개발에 중점을 둔다면 SageMaker Studio가, 데이터 분석부터 AI 개발까지 통합적으로 다루고 싶다면 SageMaker Unified Studio가 선택지가 됩니다. 참고로, Studio Classic은 이미 유지보수가 종료되었으므로 신규 개발에서는 현재의 Studio를 전제로 고려해야 합니다.
SageMaker Canvas는 프로그램 코드를 거의 작성하지 않고도 기계 학습 모델을 구축할 수 있는 기능입니다. 화면상의 조작만으로 데이터 준비, 모델 생성, 예측 결과 확인 등을 할 수 있습니다. 예를 들어, 매출 데이터를 불러와서 예측하고 싶은 항목을 지정함으로써 매출 예측 모델을 만들 수 있습니다.
Canvas는 프로그램 코드를 세밀하게 구현하기보다는, 데이터로부터 예측 모델을 먼저 만들고 시험해 보고 싶을 때 적합합니다. 다만, 자동으로 모델이 생성되더라도 학습 데이터의 품질이나 예측 결과의 타당성은 반드시 확인해야 합니다.
Data Wrangler는 기계 학습에 사용되는 데이터의 준비 및 가공을 지원하는 기능입니다. 기계 학습에서는 수집한 데이터를 그대로 학습에 이용할 수 없습니다. 예를 들어, 공백(결측값)이 있는 데이터, 중복된 데이터, 숫자와 문자열이 혼재된 데이터 등은 필요에 따라 정리해야 합니다.
Data Wrangler를 사용하면 결측값 보완 및 삭제, 불필요한 열 제거, 문자열의 숫자 변환, 데이터 결합, 데이터 분포 분석 등을 수행할 수 있습니다. 예를 들어, 고객 구매 이력으로부터 매출 예측 모델을 만들 경우, 공백 처리나 날짜 데이터 변환 등에 활용할 수 있습니다.
참고로 Data Wrangler는 현재 SageMaker Canvas에 통합되어 있습니다. 이전에는 Studio Classic에서 독립된 화면으로 이용했지만, 새로운 Studio 환경에서는 Canvas를 통해 데이터 준비 기능을 이용하게 됩니다.
Ground Truth는 기계 학습에 사용되는 데이터에 라벨을 부여하는 기능입니다. 여기서 '라벨'이란 학습 데이터에 붙여진 정답 정보를 의미합니다. 예를 들어, 개와 고양이를 분류하는 이미지 인식 모델을 만들 경우, 각 이미지에 '개', '고양이'라는 정답 라벨을 붙입니다. 이처럼 정답 정보가 있는 데이터를 사용하여 학습하는 방법을 '지도 학습(Supervised Learning)'이라고 부릅니다.
Ground Truth에서는 사람의 라벨링 작업을 관리하고, 기계 학습도 활용하면서 학습용 데이터셋을 만들 수 있습니다. 이미지 분류, 객체 탐지, 문장 분류 등에 대응합니다. 다만, Ground Truth는 2026년 6월 30일부터 신규 고객 대상 제공이 종료되며, 기존 고객만 계속 이용할 수 있습니다.
Feature Store는 기계 학습에서 사용되는 특징량(Feature)을 저장하고 공유하기 위한 기능입니다. '특징량(Feature)'이란 기계 학습 모델이 예측이나 분류를 수행할 때 사용하는 데이터 항목을 말합니다. 예를 들어, 상품의 매출을 예측하는 경우, 상품 가격, 지난 7일간 판매 수, 요일, 캠페인 여부, 재고 수 등이 특징량이 됩니다.
Feature Store에서는 이러한 특징량들을 저장하고 여러 모델이나 애플리케이션에서 재사용할 수 있습니다. 예를 들어, 매출 예측 모델과 재고 관리 모델이 공통된 특징량을 사용할 경우, 각 시스템에서 동일한 데이터 가공 처리를 반복할 필요가 없어집니다.
| 저장 방식 | 주요 용도 |
|---|
| Online Store | 낮은 지연 시간으로 특징량을 가져오는 실시간 추론 |
| Offline Store | 모델 학습이나 대량 데이터 분석, 배치 추론 |
학습 시와 추론 시에 사용하는 특징량의 정의가 다르면 예측 정확도가 떨어질 수 있습니다. Feature Store는 특징량을 공통화함으로써 이러한 문제를 완화하는 역할도 합니다.
Autopilot은 기계 학습 모델 구축을 자동화하는 기능입니다. 기계 학습에서는 데이터 전처리, 알고리즘 선택, 모델 학습, 성능 비교 등 많은 작업이 필요합니다. Autopilot에서는 이러한 처리를 자동으로 실행할 수 있습니다. 이 시스템을 'AutoML (Automated Machine Learning)'이라고 부릅니다.
예를 들어, 고객의 구매 이력을 바탕으로 다음에도 상품을 구매할지 여부를 예측하는 모델을 만들 경우, Autopilot은 여러 모델 후보를 학습하고 성능을 비교할 수 있습니다. 또한, 학습률과 같은 설정값을 조정하는 '하이퍼파라미터 최적화(Hyperparameter Optimization)'도 수행할 수 있습니다.
참고로 Autopilot의 화면 조작 기능은 SageMaker Canvas로 이관되었습니다. 한편, Autopilot의 API는 계속 이용 가능하며, 프로그램으로부터 AutoML 작업을 실행할 수 있습니다. Canvas가 화면 조작을 중심한 기계 학습 환경인 반면, Autopilot은 모델 구축을 자동화하는 기능군입니다.
JumpStart는 사전 학습된 AI 모델이나 기계 학습 샘플을 이용할 수 있는 기능입니다. 기계 학습 모델을 처음부터 개발하려면 데이터 준비와 학습 처리에 시간이 걸립니다. JumpStart에서는 이미 학습된 모델을 선택하여 사용하거나, 필요에 따라 추가 학습을 할 수 있습니다.
예를 들어, 이미지 분류 모델이나 언어 모델을 이용하여 자체 애플리케이션을 개발할 때 사용할 수 있습니다. 또한, 샘플 노트북과 구성 템플릿도 제공됩니다.
Autopilot이 데이터로부터 모델 후보를 자동으로 구축하는 것과 달리, JumpStart는 기존의 학습된 모델을 기반으로 개발합니다. 다만, 모델마다 라이선스나 이용 조건이 다르므로 상업적으로 이용할 경우에는 확인이 필요합니다.
Training Jobs는 기계 학습 모델을 학습시키기 위한 처리 기능을 수행합니다. 학습 데이터, 사용할 알고리즘, 실행 환경 등을 지정하면, SageMaker AI가 필요한 계산 리소스를 준비하여 학습 처리를 실행합니다. 예를 들어, Python의 scikit-learn이나 PyTorch 등을 사용하여 자체적인 기계 학습 모델을 학습시킬 수 있습니다.
학습 시에는 CPU나 GPU 등의 계산 자원을 사용합니다. 대량의 데이터를 처리할 경우에는 여러 인스턴스를 활용하는 분산 학습(distributed learning)도 선택할 수 있습니다. 또한, 학습률이나 배치 크기 같은 하이퍼파라미터(hyperparameter)를 변경하면서 여러 학습 작업을 실행하여 성능이 높은 설정을 찾아낼 수도 있습니다.
HyperPod는 대규모 기계 학습 모델의 학습이나 커스터마이징에 사용되는 계산 환경을 제공하는 기능입니다. 특히 LLM(대규모 언어 모델)처럼 많은 GPU나 전용 AI 가속기(accelerator)를 필요로 하는 처리에 적합합니다.
대규모 모델 학습에서는 여러 서버를 장시간 가동해야 하며 도중에 하드웨어 장애가 발생할 수도 있습니다. HyperPod는 이러한 대규모 학습 환경의 구축과 장애 대응을 지원합니다. 예를 들어, 자체적인 대규모 언어 모델을 학습시키거나 기존 기반 모델(foundation model)을 대규모 데이터로 추가 학습시킬 때 활용할 수 있습니다.
일반적인 매출 예측 모델 등이라면, 일반적인 Training Jobs만으로 충분한 경우도 많아 반드시 HyperPod를 사용할 필요는 없습니다.
Experiments는 기계 학습 실험 결과를 기록하고 관리하는 기능입니다. 모델 개발 과정에서는 서로 다른 알고리즘이나 학습 조건을 여러 번 시도할 수 있습니다. 예를 들어, 동일한 매출 예측 모델이라 하더라도 학습 데이터의 기간이나 하이퍼파라미터를 변경하면 예측 정확도가 달라질 수 있습니다. Experiments를 사용하면 각 학습 조건과 평가 결과를 기록하고 비교할 수 있습니다.
또한, SageMaker AI에서는 MLflow도 이용할 수 있습니다. MLflow는 기계 학습의 실험, 평가 지표(metric), 모델 등을 관리하기 위한 오픈소스 기술입니다. SageMaker AI에서는 관리형 MLflow(managed MLflow)를 사용하여 실험 결과 추적이나 비교 등을 수행할 수 있습니다. 새로운 MLflow 환경을 구축하는 경우에는 기존 Tracking Server 외에도 현재 제공되는 MLflow Apps도 선택지가 됩니다.
Clarify는 기계 학습 모델의 편향(bias)이나 예측 결과의 설명 가능성(Explainability)을 분석하는 기능입니다. 기계 학습 모델은 학습 데이터에 포함된 편향을 학습할 수 있습니다. 예를 들어, 채용 후보자 평가 모델을 만들 경우, 과거 채용 판단에 특정 속성에 대한 편향이 포함되어 있다면, 모델의 예측에도 편향이 생길 가능성이 있습니다.
Clarify에서는 학습 데이터나 예측 결과에 대해 그룹 간의 편향을 평가하기 위한 지표를 산출할 수 있습니다. 또한, 예측 결과에 대해 어떤 특성(feature)이 어느 정도 영향을 미쳤는지 분석할 수 있습니다. 이러한 분석을 '설명 가능성(Explainability)'이라고 부릅니다.
예를 들어, 주택 가격을 예측하는 모델이라면, 면적, 건축 연한, 역으로부터의 거리 등이 예측 가격에 어느 정도 영향을 미쳤는지 조사할 수 있습니다.
참고로, Clarify는 2026년 6월 30일부터 신규 고객 대상 제공이 종료됩니다. 새로운 개발에서는 예측 근거 분석에 SHAP, 편향 평가에 pandas나 scikit-learn, 실험 이력 관리에 MLflow 등의 사용을 검토합니다. 기반 모델(foundation model)의 평가에는 Amazon Bedrock Evaluations도 사용할 수 있지만, 기존 예측형 기계 학습 모델의 편향 탐지를 직접적으로 대체하는 것은 아닙니다.
Pipelines는 기계 학습 개발 과정을 자동화하는 기능입니다. 예를 들어, 모델을 주기적으로 재학습할 경우, 데이터 전처리, 모델 학습, 평가, 등록 등의 처리를 매번 수동으로 실행하는 것은 비효율적입니다. Pipelines를 사용하면 각 처리 단계를 정의하고 일련의 워크플로우(workflow)로 실행할 수 있습니다.
예를 들어, 매월 새로운 판매 데이터를 사용하여 매출 예측 모델을 재학습할 때 활용할 수 있습니다. 또한, 평가 결과에 따라 처리를 분기(branch)시킬 수도 있으며, 예측 정확도가 기준치 이하일 경우 모델 등록 처리를 중단하도록 설정할 수 있습니다.
이처럼 기계 학습 모델의 개발 및 운영을 자동화하고 지속적으로 개선하는 개념을 'MLOps'라고 부릅니다. Pipelines는 MLOps를 실현하기 위한 기능 중 하나입니다.
Model Registry는 기계 학습 모델의 버전이나 승인 상태를 관리하는 기능입니다. 기계 학습에서는 데이터 추가나 학습 조건 변경에 따라 여러 개의 모델이 생성됩니다. 예를 들어, 매출 예측 모델을 매월 재학습할 경우, 1월 버전, 2월 버전, 3월 버전과 같이 여러 모델이 존재하게 됩니다.
Model Registry를 사용하면 각 모델을 등록하고 버전, 평가 결과, 승인 상태 등을 관리할 수 있습니다. 예를 들어, 새로 학습한 모델의 평가 결과를 확인하여 일정 기준을 충족했을 경우에만 프로덕션 환경 배포를 허가할 수 있습니다.
Pipelines와 연동함으로써 모델 등록 및 승인 후 배포까지 자동화하는 것도 가능합니다.
Model Cards는 기계 학습 모델에 관한 정보를 문서화하는 기능입니다. 모델의 학습 조건이나 평가 결과뿐만 아니라, 사용 목적, 예상되는 활용 범위, 위험 요소(risk), 제약 사항 등을 기록할 수 있습니다.
예를 들어, 부정 거래를 탐지하는 모델이라면 어떤 데이터로 학습했는지, 어느 정도의 탐지 정확도가 있는지, 어떤 조건에서 정확도가 떨어지는지를 기록할 수 있습니다. Model Registry가 모델의 버전이나 승인 상태를 관리한다면, Model Cards는 모델의 특징과 평가 정보를 문서 형태로 관리하는 역할을 합니다.
학습된 모델을 실제 애플리케이션에서 사용하기 위해서는 추론 환경(inference environment)이 필요합니다. SageMaker AI에서는 용도에 따라 여러 가지 추론 방식을 선택할 수 있습니다.
| 추론 방식 | 특징 | 주요 활용 예시 |
|---|
| Real-Time Inference | 상시 가동되는 엔드포인트에서 낮은 지연 시간(low latency)의 추론을 실행 | 웹 서비스의 실시간 예측 |
| ... | | |
| 예를 들어, EC 사이트에서 상품의 구매 확률을 실시간으로 예측하는 경우 Real-Time Inference가 적합합니다. 반면, 매일 밤 수십만 건의 고객 데이터를 한 번에 분석할 경우에는 Batch Transform이 선택지가 됩니다. | | |
Serverless Inference는 접근 빈도가 낮은 경우 유용하지만, 사용 시작 시 응답이 느려지는 콜드 스타트(cold start) 등의 제약이 있습니다. 또한, 모델이나 필요한 추론 성능에 따라 대응하는 추론 방식이 다를 수 있습니다.
Model Monitor는 프로덕션 환경에서 가동되는 기계 학습 모델의 품질을 감시하는 기능입니다. 기계 학습 모델은 한 번 학습했다고 해서 영원히 같은 정확도로 예측할 수 있는 것은 아닙니다. 예를 들어, 과거 고객 데이터를 사용하여 구매 예측 모델을 만들었더라도, 고객의 구매 행동이 변화하면 예측 정확도가 떨어질 수 있습니다.
Model Monitor를 사용하면 입력 데이터의 품질, 모델의 예측 정확도, 편향(bias)의 변화, 특징량 기여도의 변화 등을 감시할 수 있습니다. 예를 들어, 모델의 예측 정확도가 기준치 이하로 떨어졌을 때 알림을 보내고 재학습을 검토하는 시스템 등에 활용될 수 있습니다.
다만, Model Monitor는 2026년 6월 30일부터 신규 고객 대상 제공이 종료됩니다. 기존 고객은 계속 이용할 수 있으나, 신규 개발에서는 오픈소스 모니터링 솔루션이나 MLflow, Amazon CloudWatch 등을 조합하는 방법을 검토해야 합니다.
여기서는 과거 판매 데이터를 기반으로 상품의 수요를 예측하는 시스템을 가정해 보겠습니다.
Amazon S3
(과거 판매 데이터)
↓
...
예를 들어, 상품 ID, 판매일, 가격, 캠페인 정보, 판매 수량 등을 학습 데이터로 사용합니다. 학습 데이터를 사용하여 모델을 만든 후, 학습에 사용하지 않은 데이터로 예측 정확도를 확인합니다.
SageMaker Model Registry
(승인된 모델)
↓
...
학습된 모델을 추론 엔드포인트에 배포하면, 애플리케이션에서 새로운 데이터를 전송하여 예측 결과를 얻을 수 있습니다. 예를 들어, 현재 재고 수량, 판매 가격, 과거 판매 수량 등을 전송하면, 모델이 향후 수요를 예측합니다. 이때, 예측에 사용되는 데이터 항목은 모델 학습 시 정의한 특징량(feature)과 일치해야 합니다.
새로운 판매 데이터를 확보
↓
SageMaker Pipelines
...
파이프라인(Pipelines)을 이용하면 데이터 준비부터 모델 평가 및 등록까지의 처리를 자동화할 수 있습니다. 프로덕션 환경의 모델에 대해서는 예측 오차나 입력 데이터 분포를 지속적으로 모니터링하고, 필요에 따라 재학습합니다. 다만, 자동으로 재학습된 모델이 반드시 개선된다고 할 수는 없으므로, 신구 모델 비교 및 승인 처리 과정을 통합하는 것이 중요합니다.
SageMaker AI를 사용할 경우, 먼저 AWS Management Console에서 대상 리전을 선택하고 SageMaker Studio의 도메인이나 사용자 환경을 설정해야 합니다. 다음으로 필요한 IAM 역할과 S3에 대한 접근 권한을 설정하고, Studio의 JupyterLab 등을 실행합니다.
Studio 상에서는 Python 등을 사용하여 데이터 분석, 모델 생성, 학습, 평가를 수행할 수 있습니다. 참고로, Studio 초기 설정을 위해서는 실행 역할(Execution Role)이나 스토리지 등의 설정이 필요하며, 이용하는 컴퓨팅 리소스에 따라 요금이 발생합니다.
SageMaker AI에서는 AWS SDK인 Boto3을 이용하여 배포된 머신러닝 모델을 호출할 수 있습니다. 아래는 JSON 형식의 입력을 받는 추론 엔드포인트(inference endpoint)를 호출하는 예시입니다.
import boto3
import json
# SageMaker Runtime 클라이언트를 생성
...
이 코드는 사전에 추론 엔드포인트가 생성되어 있다는 것을 전제로 합니다. JSON의 항목명이나 구조는 설명용 예시이며, 실제로는 배포된 모델의 추론 프로그램이 수용하는 형식에 맞추어야 합니다.
EndpointName에는 배포된 엔드포인트의 이름을 지정하고, ContentType에는 전송할 데이터 형식을 지정합니다. invoke_endpoint()를 통해 모델에 데이터를 전송하고 예측 결과를 가져옵니다. 실행하려면 Boto3 설치, AWS 인증 정보 설정, 그리고 sagemaker:InvokeEndpoint와 같은 IAM 권한이 필요합니다.
Amazon Bedrock과 Amazon SageMaker AI는 둘 다 AWS에서 AI를 다루기 위한 서비스이지만, 주요 목적이 다릅니다.
| 비교 항목 | Amazon Bedrock | Amazon SageMaker AI |
|---|
| 주된 목적 | 생성형 AI 애플리케이션 개발 | 머신러닝 모델의 개발 및 운영 |
| ... | | |
| 예를 들어, 사내 문서를 참조하여 질문에 답변하는 AI 챗봇을 구축하고 싶다면 Amazon Bedrock이 유력한 선택지가 됩니다. 반면, 과거 매출 데이터를 사용하여 자체 수요 예측 모델을 만들고 싶다면 Amazon SageMaker AI가 적합합니다. | | |
다만, SageMaker AI에서도 LLM과 같은 기반 모델(Foundation Model)을 학습 및 배포할 수 있으며, Bedrock에서도 지원 모델의 커스터마이징이 가능합니다. 두 서비스가 완전히 용도가 분리되어 있는 것은 아닙니다.
SageMaker AI에서는 주로 이용하는 컴퓨팅 리소스, 실행 시간, 데이터 저장량 등에 따라 요금이 발생합니다.
| 과금 대상 | 주요 요금 발생 조건 |
|---|
| Training Jobs | 학습 인스턴스의 종류 및 가동 시간 |
| ... | |
| 특히 주의해야 할 것은 실시간 추론 엔드포인트입니다. 일반적으로 인스턴스가 가동되는 동안에는 추론 요청이 발생하지 않아도 요금이 부과됩니다. 또한, Studio에서 사용하는 개발 환경 역시 노트북을 닫았다고 해서 컴퓨팅 리소스가 정지하지 않는 경우가 있을 수 있습니다. | |
정확한 요금은 이용하는 리전, 인스턴스 타입, 이용 시간 등에 따라 다르므로, AWS 공식 요금표에서 확인해야 합니다.
머신러닝 모델은 학습 데이터에 포함된 특징이나 경향을 바탕으로 예측합니다. 따라서 잘못되거나 편향된 데이터를 사용하면 예측 결과에도 문제가 발생할 수 있습니다. 또한, 학습 시 본래는 예측 시점에서 얻을 수 없는 정보를 포함하는 '데이터 누수(Data Leakage)'에도 주의가 필요합니다.
학습 시와 추론 시에 특징량(Feature)의 정의나 데이터 가공 방법이 다르면 예측 정확도가 떨어질 수 있습니다. 예를 들어, 학습 시에는 상품 가격을 세금 포함(税込)으로 처리했는데, 프로덕션 환경에서는 세금 제외(税抜) 가격을 입력하면 모델의 예측이 부정확해질 수 있습니다. Feature Store 등을 이용하여 특징량의 정의를 통일하는 것이 중요합니다.
모델을 배포한 후에도 실제 데이터의 경향이 바뀌면 예측 정확도가 떨어지는 경우가 발생할 수 있습니다. 따라서 프로덕션 운영에서는 모델 성능을 주기적으로 확인하고, 필요에 따라 재학습이나 모델 업데이트를 수행해야 합니다.
SageMaker AI에서는 학습 작업(training job)이나 추론 엔드포인트가 S3와 같은 AWS 서비스에 접근하는 경우가 있습니다. 따라서 실행 역할에는 필요한 리소스에 한정된 IAM 권한을 설정해야 합니다. 또한, 민감도가 높은 데이터를 다룰 경우에는 VPC, 암호화, 로그 관리 등을 포함하여 설계하는 것이 중요합니다.
SageMaker AI에서는 기존에 제공되어 오던 일부 기능의 신규 고객 대상 제공이 종료되었습니다.
| 기능 | 2026년 11월 기준 상황 |
|---|
| SageMaker Clarify | 신규 고객 대상 제공 종료. 기존 고객은 계속 이용 가능 |
| ... | |
| 기존 기술 문서나 샘플 코드에는 이러한 구형 기능을 전제로 한 것도 있습니다. 새롭게 시스템을 구축할 때는 해당 기능의 제공 현황과 대체 수단을 확인해야 합니다. | |
Amazon SageMaker AI는 기계 학습 모델의 개발부터 프로덕션 운영까지를 지원하는 AWS의 관리형 서비스(managed service)입니다. 단순히 모델을 학습시키는 것뿐만 아니라, 학습 데이터 준비, 실험 결과 비교, 모델 등록, 배포(deploy), 성능 모니터링 등 기계 학습에 필요한 일련의 과정을 다룰 수 있습니다.
주요 기능을 정리하면 다음과 같습니다.
| 기능 | 주요 역할 |
|---|
| Studio | 기계 학습 개발 및 관리 환경 |
| ... | |
| 이 중 Clarify, Ground Truth, Model Monitor는 신규 고객 대상 제공이 종료되었으므로, 기존 시스템에 대한 이해와 신규 개발 시의 선택지를 구분할 필요가 있습니다. | |
SageMaker AI를 이해하는 데 중요한 것은 개별 기능 이름만 암기하는 것이 아니라, 데이터 준비부터 모델 학습, 평가, 배포(deploy), 모니터링까지의 과정을 파악하는 것입니다. 각 과정에서 어떤 기능을 사용하는지 알면 실제 기계 학습 시스템의 구성도 이해하기 쉬워집니다.
다음 시간에는 AWS의 개발 및 운영을 생성형 AI로 지원하는 "Amazon Q Developer"에 대해 정리하겠습니다.
- Amazon SageMaker AI 공식 문서
- SageMaker AI 주요 기능
- Amazon SageMaker Studio
- Amazon SageMaker Data Wrangler
- Amazon SageMaker Autopilot
- Amazon SageMaker JumpStart
- Amazon SageMaker Pipelines
- Amazon SageMaker Model Registry
- Amazon SageMaker Clarify 제공 현황
- Amazon SageMaker Ground Truth
- Amazon SageMaker Model Monitor 제공 현황
- SageMaker AI 추론 방식
- Amazon SageMaker AI 요금