GPU를 손상시키지 않고 LLM을 파인튜닝할 수 있는 9개의 GITHUB 레포지토리

대부분의 파인튜닝 가이드는 값비싼 하드웨어에 접근할 수 있다고 가정합니다. 이 레포지토리는 그렇지 않다고 가정합니다.

Unsloth — 2배 빠른 학습 속도, 80% 적은 메모리 사용량. 현재 가장 인기 있는 파인튜닝 최적화 라이브러리입니다.

Axolotl — 복잡한 파인튜닝 설정을 하나의 깔끔한 YAML 파일로 통합합니다. 사용자 지정 데이터셋에 가장 유연한 옵션입니다.

LLaMA-Factory — 100개 이상의 LLM을 기본 지원합니다. GUI가 포함되어 있습니다. 처음 시작하는 사람에게 가장 쉬운 진입점입니다.

PEFT — Hugging Face의 파라미터 효율적 파인튜닝 라이브러리입니다. LoRA, QLoRA 및 모든 어댑터 방식을 한 곳에서 제공합니다.

TRL — 인간 피드백 기반 강화학습(RLHF)을 통한 파인튜닝. 대부분의 RLHF 구현의 기반이 되는 라이브러리입니다.

Torchtune — Meta의 네이티브 PyTorch 파인튜닝 라이브러리입니다. 깔끔하고, 최소한의 의존성을 가집니다. 프로덕션 준비가 되어 있습니다.

LitGPT — Lightning AI의 파인튜닝 프레임워크입니다. 20개 이상의 LLM에 대한 사전 학습된 가중치가 포함되어 있습니다.

Mergekit — 추가적인 학습 없이 여러 개의 파인튜닝된 모델을 하나로 병합합니다. 파인튜닝에서 가장 과소평가된 기술 중 하나입니다.

SWIFT — ModelScope의 확장 가능한 파인튜닝 프레임워크입니다. 중국어 언어 모델과 멀티모달에 대한 강력한 지원을 제공합니다.

총 9개의 레포지토리입니다. 모두 무료이며, 모두 오픈 소스입니다. 이 주말에 하나를 골라 무언가를 파인튜닝해 보세요.

다른 파인튜닝 서비스 비용을 지불하기 전에 이것을 북마크하세요.

@cyrilXBT를 팔로우하여 시간이 아까운 모든 오픈 소스 ML 도구가 등장하는 순간마다 확인하세요.