Hugging Face Blog·· 2025-09-11精选AI 评分73
Hugging Face 详解 transformers 为支持 OpenAI GPT-OSS 所做的效率升级
Tricks from OpenAI gpt-oss YOU 🫵 can use with transformers
AI 导读
Hugging Face 发文介绍为支持 OpenAI GPT-OSS 对 transformers 库的多项升级,包括从 Hub 下载预编译内核、原生 MXFP4 量化、张量并行与专家并行、动态滑动窗口 KV 缓存、Continuous Batching 和更快的模型加载。
推荐理由
Hugging Face 官方详解为支持 gpt-oss 对 transformers 做的各项升级,多数特性可复用到其他模型。
来源:Hugging Face Blog · huggingface.co