Hugging Face Blog·· 2024-01-10精选AI 评分72
Hugging Face 介绍如何用 Unsloth 将 LLM 微调提速至 2 倍
Make LLM Fine-tuning 2x faster with Unsloth and 🤗 TRL
AI 导读
Hugging Face 博客介绍社区开发的轻量微调库 Unsloth，与 Hub、transformers、PEFT、TRL 完全兼容，可配合 SFTTrainer、DPOTrainer、PPOTrainer 使用。
推荐理由
原文给出 Unsloth 与 TRL 的完整用法和 59 组基准数据，微调提速与显存收益可直接迁移到自己的 QLoRA 工作流。
来源：Hugging Face Blog · huggingface.co