오픈 웨이트 모델 학습 및 추론을 위한 엔드투엔드 인프라
요약
본 문서는 코딩 에이전트를 활용하여 모델 학습부터 추론까지의 전 과정을 지원하는 엔드투엔드 인프라 구축 방법을 안내합니다. `ac2.sdk`와 `ac2.runtime` 같은 패키지를 사용하여 데이터셋 관리, 에이전트 정의, 평가 및 배포를 체계적으로 수행할 수 있습니다.
핵심 포인트
- 코딩 에이전트를 활용하여 학습부터 추론까지의 전 과정을 시작할 수 있다.
- `ac2.sdk`와 `ac2.runtime`을 통해 데이터셋, 에이전트 프레임워크를 관리한다.
- 모델 학습 시 GRPO, 지도 미세 조정 등 다양한 방법을 선택 가능하다.
- OpenTelemetry 기반의 관측 가능성 SDK로 모든 과정을 추적하고 분석할 수 있다.
코딩 에이전트를 활용하여 시작하기
가장 빠르게 시작하는 방법은 코딩 에이전트에게 AC2 설정을 맡기는 것입니다. 이 프롬프트를 Claude Code, Cursor, Codex 또는 모든 코딩 에이전트에 붙여넣으세요:
패키지
— 데이터셋, 워크로드, 세션, 트레이스 및 비밀 정보를 위한 플랫폼 클라이언트입니다. ac2.sdk
— 에이전트, 환경, 오케스트레이터, 태스크, 그레이더 및 에피소드를 위한 에이전트 프레임워크입니다. ac2.runtime
— OpenTelemetry 기반의 관측 가능성 SDK입니다. 타이밍, 입력, 출력 및 중첩된 스팬을 캡처하기 위해 모든 함수에 @traced를 추가하세요. ClickHouse와 Langfuse로 내보냅니다.
빠른 시작 (Quickstart)
SDK를 설치하고 모델을 학습시키세요.
런타임 (Runtime)
에이전트, 환경, 오케스트레이터 및 평가 태스크를 정의하세요.
SDK
Python에서 데이터셋, 배포(deployments), 실행(runs), 트레이스 및 비밀 정보를 관리하세요.
MCP 서버
편집기에서 평가 및 학습 트레이스를 분석하세요.
워크플로우 선택 (Choose a workflow)
에이전트 평가 (Evaluate an agent)
평가(evals)를 실행하고, 트레이스를 그레이드하며, 동작을 비교하세요.
모델 학습 (Train a model)
GRPO, 지도 미세 조정(supervised fine-tuning), 또는 온폴리시 자가 증류(on-policy self-distillation) 중 하나를 선택하세요.
추론 라우팅 (Route inference)
모델을 배포하고 정책(Policies)과 엔드포인트(Endpoints)를 통해 트래픽을 라우팅하세요.
FAQ
실패한 실행, 데이터셋, 패키지 설치 및 정리와 관련된 답변을 찾으세요.
AI 자동 생성 콘텐츠
본 콘텐츠는 HN AI Research의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기