跳到正文
原文
Hugging Face Blog·· 2024-02-19精选AI 评分61

Hugging Face PEFT 新增多種 LoRA adapter 合并方法

🤗 PEFT welcomes new merging methods

AI 导读

Hugging Face 在 PEFT 中为 LoRA adapter 新增多種合并方法,可通过 add_weighted_adapter() 调用,包括 cat、linear、svd、ties、dare_linear、dare_ties、magnitude_prune 及其 svd 变体。

推荐理由

官方详细介绍 PEFT 新增的多种 LoRA 合并方法及代码示例,还给出不同场景下的实测选择建议,便于直接复用。

来源:Hugging Face Blog · huggingface.co