Bedrock vs SageMaker: AWS AI 초보자 가이드 — 어디서부터 시작해야 할까

당신은 AWS 여정을 시작했습니다. 어디에서나 AI에 대한 이야기를 듣게 될 것이며, 두 가지 이름이 계속해서 등장할 것입니다: 바로 Bedrock과 SageMaker입니다. 모두가 당신이 이미 그것들이 무엇인지 알고 있다고 가정하는 것 같습니다.

당신은 모릅니다. 그리고 그것은 완전히 괜찮습니다 — 저도 몰랐으니까요.

이 글에서 저는 두 서비스에 대한 명확한 개요를 제공하고, 어떤 서비스로 시작하는 것이 더 합리적인지 설명하며, 비용 부담 없이 두 가지를 모두 직접 경험해 볼 수 있는 방법을 알려드리겠습니다.

📌 더 나아가기 전에:

만약 당신이 클라우드(Cloud)와 AWS에 대한 완전 초보자라면, 먼저 "AWS 시작하는 법 (완전 초보자용)"을 읽고 준비가 되었을 때 다시 돌아오기를 권장합니다. 이러한 기초가 갖춰져 있을 때 개념이 훨씬 더 잘 이해될 것입니다.

Bedrock과 SageMaker — 정확히 무엇인가요?

두 서비스 모두 AI 및 머신러닝 (ML) 애플리케이션을 구축, 커스터마이징 및 배포할 수 있도록 설계된 완전 관리형 AWS 서비스입니다.

Bedrock과 SageMaker는 각각 다음과 같은 기능을 제공합니다:

✨ Anthropic Claude 및 Meta Llama를 포함하여, 사전 학습되어 바로 사용할 수 있는 옵션이 있는 최첨단 파운데이션 모델 (Foundation Models, FMs)에 대한 액세스

✨ 미세 조정 (Fine-tuning) 및 모델을 자체 데이터 소스에 연결할 수 있는 검색 증강 생성 (Retrieval-Augmented Generation, RAG)과 같이 특정 요구 사항에 맞춰 모델을 조정할 수 있는 기능

✨ 다른 AWS 서비스와의 원활한 통합

하지만 유사점은 여기서 끝납니다. 이들은 경쟁 관계가 아닙니다. Bedrock과 SageMaker는 서로 다른 문제를 해결하며 매우 다른 추상화 계층 (Levels of abstraction)에서 작동합니다.

계층별로 생각하기

AWS에서 AI를 다룰 때는 스택을 계층으로 시각화하는 것이 도움이 됩니다:

• 인프라 계층 (Infrastructure layer) → 모델이 구축되고 학습되는 곳
• 모델 액세스 계층 (Model access layer) → 사전 학습된 모델에 액세스하고 사용하는 곳
• 애플리케이션 계층 (Application layer) → AI 기능이 제품에 통합되는 곳

SageMaker는 인프라 계층에 더 가깝게 위치합니다. Bedrock은 애플리케이션 계층에 더 가깝게 위치합니다. 각 서비스를 살펴볼 때 이 점을 염두에 두시기 바랍니다.

Amazon Bedrock

**Bedrock**은 생성형 AI (Generative AI)를 쉽게 사용할 수 있도록 처음부터 설계된 서버리스 (Serverless) 플랫폼으로, 사전 학습된 모델 (Pre-trained models)을 즉시 사용 가능한 옵션으로 제공합니다. 모델 학습 (Model training) 과정 없이 API를 통해 강력한 파운데이션 모델 (Foundation models)에 접근할 수 있습니다.

모델을 처음부터 직접 구축하는 대신, 다음과 같은 과정을 거칩니다:

• 모델 선택 (Claude, Titan, Llama 등)
• API를 통해 프롬프트 (Prompts) 전송
• 응답 수신

가장 큰 장점은 속도입니다. 관리해야 할 인프라 (Infrastructure)가 없고, 프로덕션 (Production) 적용 시간이 빠르며, 사용한 만큼(API 호출량)만 비용을 지불하면 됩니다.

Bedrock은 머신러닝 (ML) 전문 지식은 부족하지만 빠르게 무언가를 구축하고 싶을 때 (챗봇, 앱 내 AI 기능, 신속한 프로토타입 제작 등) 이상적입니다.

제품 문서의 질문에 답변하는 고객 지원 어시스턴트, 요청에 따라 마케팅 문구를 초안 작성하는 콘텐츠 도구, 또는 키워드 대신 자연어 (Natural language)를 이해하는 내부 검색 기능 등을 상상해 보세요. 이 모든 것은 Bedrock이 잘 처리할 수 있는 문제들입니다. 원하는 것을 설명하고, 모델을 선택하면 바로 구축을 시작할 수 있습니다.

만약 _"AI를 직접 만드는 것이 아니라, 그냥 사용하고 싶다"_라고 생각하신다면, Bedrock이 여러분의 시작점입니다.

Amazon SageMaker AI

Amazon SageMaker AI (이전 명칭 Amazon SageMaker)는 완전히 관리되는 인프라, 도구 및 워크플로 (Workflows)를 갖춘 완전한 머신러닝 (Machine learning) 플랫폼입니다. 이 서비스는 다음과 같은 작업에 필요한 모든 것을 제공합니다:

• 자체 데이터셋 준비 및 처리 (Prepare and process their own datasets)
• 처음부터 모델 학습 (Train models from scratch)
• 독점 데이터(Proprietary data)를 사용한 기존 모델 미세 조정 (Fine-tune existing models)
• 모델 성능의 배포, 모니터링 및 장기적 관리 (Deploy, monitor, and manage model performance over time)

Bedrock이 속도와 단순함에 초점을 맞춘다면, SageMaker는 제어(Control)와 맞춤 설정(Customisation)에 초점을 맞춥니다. SageMaker에서는 전체 머신러닝 (ML) 라이프사이클을 관리하며, 이는 더 강력한 권한을 의미하는 동시에 더 높은 복잡성을 의미합니다. Bedrock도 제한된 모델 세트에 대해 미세 조정 (Fine-tuning)을 지원한다는 점을 언급할 가치가 있지만, 이는 관리형의 가벼운 프로세스입니다 (모델의 어조나 스타일을 조정하는 데 매우 유용합니다). 반면 SageMaker는 커스텀 학습 스크립트(Custom training scripts)와 모델 가중치(Model weights)에 대한 완전한 접근을 포함하여 학습 프로세스에 대한 완전한 제어권을 제공하며, 이는 작업이 진정으로 이를 필요로 할 때 필요한 기능입니다.

커스텀 머신러닝 (ML) 파이프라인이 필요하거나, 독점 데이터셋을 사용하거나, 팀에 전담 머신러닝 (ML) 전문가가 있는 경우 SageMaker가 적합한 도구입니다. 병원이 자체 환자 기록을 바탕으로 재입원 위험 모델을 구축하거나, 제조업체가 센서 데이터로 장비 고장을 예측하거나, 법무 팀이 수천 개의 라벨링된 계약서를 바탕으로 분류기 (Classifier)를 학습시키는 상황을 상상해 보세요. 이것들은 기성 모델 (Off-the-shelf model)로는 해결할 수 없고 학습 프로세스에 대한 완전한 제어가 중요한, SageMaker를 위해 설계된 실제 세계의 문제들입니다.

만약 _"내 모델이 정확히 어떻게 작동하는지 이해해야 해"_라고 생각한다면, SageMaker가 당신의 플랫폼입니다.

두 서비스가 함께 작동할 수 있나요?

네, 그리고 많은 실제 아키텍처에서 실제로 함께 작동합니다.

일반적인 패턴은 다음과 같습니다: Bedrock을 사용하여 빠르게 프로토타입을 만들고 AI 기능이 구축할 가치가 있는지 검증합니다. 아이디어가 검증되면, 미세 조정 (Fine-tune), 성능 최적화, 또는 모델에 대한 완전한 제어가 필요할 때 SageMaker를 도입합니다. 하나를 영원히 선택하는 것이 아닙니다. 지금 당장 눈앞에 놓인 문제에 어떤 것이 적합한지를 선택하는 것입니다.

초보자는 어디서부터 시작해야 할까요

지금까지 내용을 따라오셨다면, 답은 아마 명확할 것입니다: Bedrock부터 시작하세요. 💡

인프라 설정이 필요 없고, 즉시 구축을 시작할 수 있으며, (학습 작업을 구성하는 방법 대신) AI가 실제로 어떻게 작동하는지 배우는 데 집중할 수 있도록 충분한 복잡성을 제거해 줍니다. 그뿐만 아니라, 이것은 여러분이 이것저것 시도해 보고, 직접 부딪혀 보며, 그 과정에서 무언가를 망가뜨려 보는 재미를 느낄 수 있는 여유를 제공합니다.

그렇다고 해서 SageMaker를 완전히 건너뛰지는 마세요. 개념적인 수준에서라도 SageMaker가 무엇을 하는지 이해하면, AWS AI 서비스들이 어떻게 서로 맞물려 있는지에 대한 훨씬 강력한 멘탈 모델 (Mental Model)을 가질 수 있습니다. 기초가 탄탄할수록 상황이 복잡해질 때 더 빠르게 움직일 수 있습니다. 그리고 제 말을 믿으세요, 상황은 반드시 복잡해질 것입니다.

무료로 기초 다지기

AWS는 시작을 돕기 위해 매우 다양한 무료 리소스를 제공합니다. 제가 가장 추천하는 플랫폼은 **AWS Skill Builder**로, 이곳에서는 개발자, 의사 결정자, 모델 빌더, 공공 부문, EU 정부 등 다양한 전문가를 지원하고 각기 다른 요구 사항을 충족하도록 설계된 생성형 AI (Generative AI) 구조화 학습 플랜을 찾을 수 있습니다.

📌 비용 문제에 대하여: Skill Builder에는 무료 콘텐츠와 유료 콘텐츠가 모두 있습니다. 기초 과정은 구독이 필요 없는 진정한 무료 과정입니다. 다만, 더 긴 학습 플랜 내의 일부 모듈은 유료 구독이 필요합니다.

AI 여정을 위한 훌륭한 입문점은 **생성형 AI의 기초 (Fundamentals of Generative AI)**입니다. 다음 내용을 다루는 3시간 분량의 무료 콘텐츠입니다:

• 머신러닝 (ML) 및 생성형 AI (Generative AI)의 기초
• 파운데이션 모델 (Foundation Models) 및 Amazon Bedrock의 활용
• 책임감 있는 AI (Responsible AI)
• AI 솔루션을 위한 보안, 컴플라이언스 (Compliance) 및 거버넌스 (Governance)

이미 프로그래밍에 익숙하다면, 다음 내용을 다루는 20시간 분량의 체계적인 경로인 **개발자를 위한 생성형 AI 학습 플랜 (Generative AI Learning Plan for Developers)**을 놓치지 마세요:

• 생성형 AI (Generative AI) 소개 — 가능성의 예술 (Art of the Possible)
• 생성형 AI 프로젝트 계획하기
• Amazon Bedrock 시작하기
• 프롬프트 엔지니어링 (Prompt Engineering)의 기초
• Amazon Bedrock을 사용한 Amazon Nova 모델 탐색
• Amazon Bedrock을 사용한 생성형 AI 애플리케이션 구축 (실습 포함) (참고: 이 모듈은 구독이 필요합니다)
• Amazon Q Developer 시작하기
• Amazon SageMaker 노트북 (Notebooks) 소개

Cloud Quest로 직접 실습하기

이론만으로는 한계가 있습니다. 어느 시점에는 무언가를 직접 망가뜨려 보기도 하고 재미있게 즐겨야 하지 않겠어요?

그것이 바로 AWS Cloud Quest가 존재하는 이유입니다. 이는 온라인 오픈 월드 역할 수행 게임 (RPG)으로, 슬라이드가 아닌 AWS 콘솔 내의 실제 과업을 수행하며 실무 문제를 해결함으로써 클라우드 개념을 학습할 수 있습니다. 솔직히 말해서, 들리는 것만큼이나 정말 재미있습니다.

이제 막 시작하는 단계라면 **Cloud Practitioner**부터 시작하세요. 기초 지식을 통합하고 실제 클라우드 챌린지를 통해 핵심 AWS 서비스에 대한 실습 경험을 제공합니다.

특히 Bedrock과 SageMaker에 집중하고 싶다면, **Generative AI Practitioner**를 선택하시면 됩니다.

여기에서 여러분은 10가지의 실제 AI 과제를 수행하게 됩니다. 과정을 마치면 다음과 같은 방법들을 알게 될 것입니다:

✨ AI 기반 어시스턴트 (챗봇 및 가상 비서) 구축

✨ 검색 증강 생성 (RAG, Retrieval-Augmented Generation)을 사용하여 모델을 기업 데이터에 연결하는 방법

✨ 더 나은 모델 출력을 위해 프롬프트 (Prompt)를 작성하고 최적화하는 방법

✨ 다양한 문제 유형에 따라 Amazon Bedrock의 파운데이션 모델 (Foundation Models) 중 선택하는 방법

✨ 책임감 있는 AI를 위한 가드레일 (Guardrails) 및 보안 원칙 적용

가장 좋았던 점: 저는 결국 다양한 과제를 수행하면서 Bedrock뿐만 아니라 SageMaker와 Amazon Q (AWS의 개발용 AI 어시스턴트)까지 다루게 되었습니다. 사용 사례는 매우 실제적이었습니다. 직원의 질문을 필터링하고 회사 핸드북에서 직접 답변을 추출하는 인사(HR) 어시스턴트, 그리고 영업 팀이 자체 데이터를 이해할 수 있도록 돕는 엔터프라이즈 도구 등이 있었습니다. 이들을 직접 구축하고 실행해 본 경험은 제가 이 서비스들을 이해하는 방식을 바꾸어 놓았습니다.