microsoft/onnxruntime
요약
ONNX Runtime은 PyTorch, TensorFlow 등 다양한 딥러닝 프레임워크와 scikit-learn 같은 클래식 머신러닝 라이브러리의 모델을 지원하는 크로스 플랫폼 AI 가속기입니다. 이 런타임은 하드웨어 가속기 활용과 그래프 최적화를 통해 최고의 성능을 제공하며, 추론(Inference)뿐만 아니라 PyTorch 스크립트에 단 한 줄 추가만으로 트랜스포머 모델의 학습 시간까지 가속할 수 있습니다. 다양한 OS와 드라이버에 호환되며, 개발자가 빠르고 비용 효율적인 AI 서비스를 구축하는 데 핵심적인 역할을 합니다.
핵심 포인트
- 다양한 프레임워크 지원: PyTorch, TensorFlow/Keras 같은 딥러닝 모델부터 scikit-learn, LightGBM 등 클래식 ML 라이브러리까지 폭넓게 지원합니다.
- 최적의 성능 제공: 하드웨어 가속기(hardware accelerators) 활용과 그래프 최적화(graph optimizations)를 통해 플랫폼에 관계없이 최고의 추론 성능을 보장합니다.
- 학습 및 추론 모두 지원: 기존 PyTorch 학습 스크립트에 간단한 추가만으로도 다중 노드 NVIDIA GPU 환경에서 트랜스포머 모델의 학습 시간 가속이 가능합니다.
- 운영체제 호환성: Windows, Linux 등 다양한 OS와 드라이버에 걸쳐 최적화된 성능을 제공하는 크로스 플랫폼 솔루션입니다.
ONNX Runtime은 크로스 플랫폼(cross-platform) 추론 및 학습 머신러닝 가속기입니다.
ONNX Runtime 추론을 사용하면 PyTorch나 TensorFlow/Keras 같은 딥러닝 프레임워크는 물론, scikit-learn, LightGBM, XGBoost와 같은 고전적인 머신러닝 라이브러리의 모델까지 지원하여 더 빠른 고객 경험과 비용 절감을 가능하게 합니다. ONNX Runtime은 다양한 하드웨어(hardware), 드라이버(driver) 및 운영 체제(operating system)와 호환되며, 그래프 최적화(graph optimizations) 및 변환(transforms)과 함께 사용 가능한 경우 하드웨어 가속기(hardware accelerators)를 활용하여 최적의 성능을 제공합니다.
ONNX Runtime 학습은 기존 PyTorch 학습 스크립트에 한 줄만 추가하는 것만으로 트랜스포머 모델(transformer models)에 대한 멀티 노드 NVIDIA GPU에서의 모델 학습 시간을 가속화할 수 있습니다.
일반 정보: onnxruntime.ai
사용 설명서 및 튜토리얼: onnxruntime.ai/docs
YouTube 비디오 튜토리얼: youtube.com/@ONNXRuntime
동반 샘플 저장소(Companion sample repositories):
- ONNX Runtime 추론(Inferencing): microsoft/onnxruntime-inference-examples
- ONNX Runtime 학습(Training): microsoft/onnxruntime-training-examples
현재 릴리스 및 이전 릴리스는 다음에서 확인할 수 있습니다: https://github.com/microsoft/onnxruntime/releases.
예정된 릴리스에 대한 세부 정보, 여기에는 릴리스 날짜, 발표 내용, 기능(features) 및 기능 요청 제출 지침이 포함됩니다. 다음 릴리스 로드맵을 방문해 주십시오: https://onnxruntime.ai/roadmap.
본 프로젝트의 Windows 배포판은 제품 및 서비스 개선에 도움을 주기 위해 사용 데이터를 수집하여 Microsoft로 전송할 수 있습니다. 자세한 내용은 개인정보 보호정책(privacy statement)을 참조하십시오.
기여를 환영합니다! 기여 지침(contribution guidelines)을 확인해 주십시오.
기능 요청이나 버그 보고는 GitHub Issue를 제출해 주십시오.
일반적인 토론이나 질문은 GitHub Discussions를 사용해 주십시오.
본 프로젝트는 Microsoft Open Source Code of Conduct를 채택했습니다. 더 많은 정보는 Code of Conduct FAQ를 참조하거나, 추가 질문이나 의견이 있는 경우 opencode@microsoft.com으로 문의해 주십시오.
본 프로젝트는 MIT License에 따라 라이선스가 부여됩니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 GitHub Trending All (daily)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기