이전에는 Hugging Face에서 모델을 발견한 후 SageMaker Studio를 시작하려면 여러 단계를 거쳐야 했습니다. 여기에는 AWS Management Console에서 Amazon SageMaker AI를 열고, 도메인을 생성하고, AWS Identity and Access Management (IAM) 권한을 구성하며, 때로는 graphics processing unit (GPU) 할당량을 요청하는 과정이 포함되었습니다. 빠르게 반복 작업을 수행하고자 하는 개발자들에게 이러한 마찰은 영감에서 실험으로 나아가는 경로를 늦춥니다. 이번 통합은 발견에서 엔터프라이즈 배포로 이어지는 더 직접적인 경로를 만들어냅니다.

“Arcee에서 우리는 개발자와 기업이 실제로 실행하는 것을 소유할 수 있도록 오픈 모델을 구축합니다. 즉, 가중치(weights)를 검사하고, 자체 데이터로 사후 학습(post-train)을 수행하며, 자체 조건에 따라 배포할 수 있게 하는 것입니다. 이번 통합은 그 약속의 마지막 단계를 완성합니다. Hugging Face의 오픈 모델에서 클릭 한 번으로 SageMaker Studio로 바로 이동한 다음, 별도의 연결 작업 없이 자신의 AWS 환경 내에서 미세 조정(fine-tuning)하거나 배포하는 경험은 오픈 모델에 부족했던 바로 그 경험입니다. 당신이 소유한 오픈 가중치(Open weights)가 당신이 제어하는 클라우드에서 실행되는 것, 이것이 바로 우리 고객들이 요구해 온 조합입니다.”

— Mark McQuade, Arcee AI 설립자 겸 CEO

클릭 한 번으로 Studio에 진입할 수 있는 경험이 출시됨에 따라, 지원되는 Hugging Face 모델 페이지에서 Customize on SageMaker AI 또는 Deploy on SageMaker AI를 선택하면 콘솔로 직접 연결됩니다. 그러면 SageMaker AI가 몇 초 내에 사전 구성된 권한을 가진 새로운 도메인을 자동으로 프로비저닝하고 모델 컨텍스트를 그대로 유지하며 전달합니다.

이번 출시는 Hugging Face 모델에서 작동 가능한 SageMaker Studio 워크플로로 가는 경로를 단축하는 세 가지 기능을 도입합니다.

이제 Hugging Face에서 모델을 탐색할 때, 지원되는 모델 옆에 SageMaker Studio 워크플로로 직접 연결되는 액션 버튼이 표시됩니다:

**SageMaker AI에서 사용자 정의 (Customize on SageMaker AI)**를 클릭하면, 선택한 모델이 미리 로드되어 미세 조정 (fine-tune)할 준비가 된 상태로 Studio의 모델 사용자 정의 (Model Customization) 페이지가 열립니다. **SageMaker AI에 배포 (Deploy on SageMaker AI)**를 클릭하면, 엔드포인트 배포 (endpoint deployment)를 위해 모델이 사전 구성된 상태로 Studio의 배포 (Deployment) 페이지가 열립니다.

각 진입점은 컨텍스트 (context)를 유지하므로, Studio 내부로 들어간 후 모델을 다시 검색할 필요가 없습니다.

이 워크플로를 통해 생성된 새로운 Studio 환경에는 모델 사용자 정의 (model customization), 학습 작업 (training jobs), 노트북 실험 (notebook experimentation), 엔드포인트 배포 (endpoint deployment)를 포함한 SageMaker AI의 모든 기능을 사용할 수 있도록 권한이 이미 구성되어 있습니다. 사용자를 위해 새로운 관리형 정책 (managed policy)인 AmazonSageMakerModelCustomizationCoreAccess가 생성되어 연결됩니다. 이 정책은 지도 미세 조정 (SFT, supervised fine-tuning), 직접 선호도 최적화 (DPO, direct preference optimization), 검증 가능한 보상을 통한 강화학습 (RLVR, reinforcement learning with verifiable rewards), AI 피드백을 통한 강화학습 (RLAIF, reinforcement learning from AI feedback)을 사용하는 서버리스 모델 사용자 정의 작업을 위한 권한을 제공하며, SageMaker AI 또는 Amazon Bedrock 엔드포인트로의 지원되는 배포를 포함합니다. 이를 통해 실험을 시작하기 전에 AWS Identity and Access Management (IAM) 역할 (role) 및 정책 (policy)을 수동으로 생성하고 구성해야 하는 번거로움을 완화해 줍니다. 기존 Studio 환경의 경우, 문서로 직접 연결되는 실행 가능한 메시지가 이러한 권한을 추가할 수 있도록 안내합니다.

배포 또는 학습을 위한 인스턴스 유형 (instance types)을 선택할 때, 이제 Studio UI에서 인스턴스 선택 목록에 할당량 (quota) 가용성을 직접 표시합니다. 계정의 현재 제한 범위 내에서 어떤 GPU 인스턴스 유형 (G5, G6)을 사용할 수 있는지 즉시 확인할 수 있습니다. 별도로 서비스 할당량 (Service Quotas) 페이지로 이동할 필요가 없습니다. 여전히 한도 증액을 요청해야 하는 경우, 해당 인스턴스 유형에 대한 서비스 할당량 (Service Quotas) 페이지로 직접 리디렉션됩니다.

Hugging Face에서 시작하여 모델을 사용자 정의하거나 배포하는 과정을 살펴보겠습니다.

Hugging Face 모델 페이지에서 지원되는 모델에 대해 **SageMaker AI에서 사용자 정의 (Customize on SageMaker AI)**를 선택합니다.

기존 자격 증명(credentials)을 사용하여 AWS에 로그인하라는 메시지가 표시됩니다. 이미 활성화된 콘솔 세션이 있는 경우, 이 단계는 자동으로 건너뛰어집니다. 자세한 내용은 AWS Management Console 로그인(Sign in to the AWS Management Console)을 참조하십시오.

모델이 미리 선택된 상태로 SageMaker Studio 내의 모델 사용자 정의 (Model Customization) 페이지로 직접 이동합니다. 다음으로 학습 데이터 (training data), 하이퍼파라미터 (hyperparameters), 인스턴스 유형 (instance type)과 같은 미세 조정 (fine-tuning) 파라미터를 구성한 다음, 사용자 정의 작업 (customization job)을 제출합니다.

또는, **SageMaker AI에서 배포 (Deploy on SageMaker AI)**를 선택하면 모델이 미리 구성된 상태로 Studio의 엔드포인트 배포 (endpoint deployment) 페이지가 열립니다. 인스턴스 유형을 선택하고 (할당량 가시성 포함), 설정을 검토한 후 배포합니다.

엔드포인트를 배포한 후에는 Studio의 엔드포인트 테스트 인터페이스에서 직접 추론 (inference)을 테스트할 수 있습니다.

오늘 바로 이 경험을 시도해 볼 수 있습니다:

• Hugging Face에서 모델을 찾아보세요.
• 지원되는 모델에서 SageMaker AI에서 사용자 정의 (Customize on SageMaker AI) 또는 SageMaker AI에서 배포 (Deploy on SageMaker AI) 버튼을 찾으세요.
• 간소화된 로그인 흐름을 선택하고 따르세요.
• 완전히 구성된 SageMaker Studio 환경에서 구축을 시작하세요.

원클릭 Studio 랜딩 경험의 출시로 모델을 발견하고 실험하는 사이의 마찰을 최소화합니다. Hugging Face를 SageMaker Studio 워크플로에 직접 연결함으로써 개발자는 자신의 흐름을 유지할 수 있습니다. 컨텍스트 스위칭 (context switching), 수동 환경 설정, 권한 문제 해결이 필요 없습니다.

시작하려면 Amazon SageMaker Studio 페이지를 방문하거나 Hugging Face에서 모델을 탐색하고 SageMaker AI에서 배포 (Deploy) 또는 사용자 정의 (Customize)를 선택하십시오.