跳到正文
原文
Hugging Face Blog·· 2026-02-26AI 评分53

Hugging Face 详解 transformers 库对 Mixture of Experts(MoE)的支持

Mixture of Experts (MoEs) in Transformers

AI 导读

Hugging Face 博客介绍 transformers 库如何让 MoE 稀疏架构成为一等公民,涵盖权重加载重构、Expert Backend、专家并行和 MoE 训练支持。

来源:Hugging Face Blog · huggingface.co