Hugging Face Blog·· 2024-02-23精选AI 评分65
Hugging Face 发布 Gemma 模型 LoRA/QLoRA 微调教程
Fine-Tuning Gemma Models in Hugging Face
AI 导读
Hugging Face 发布 Gemma 模型微调教程，演示用 Transformers、PEFT 与 trl 的 SFTTrainer，通过 LoRA 和 4-bit QLoRA（bitsandbytes、nf4 量化）在 google/gemma-2b 上以 english_quotes 数据集训练模型按指定格式输出名言和作者。
推荐理由
Hugging Face 官方用 LoRA 和 4-bit QLoRA 给出 Gemma 微调的完整可复现代码，覆盖 GPU 和 TPU 两种路径。
来源：Hugging Face Blog · huggingface.co