Hugging Face Blog·· 2024-07-30AI 评分57
Hugging Face 讲解用 Quanto 和 Diffusers 降低 Transformer 扩散模型显存占用
Memory-efficient Diffusion Transformers with Quanto and Diffusers
AI 导读
Hugging Face 发布教程，介绍如何用 Quanto 对 Diffusers 中的 Transformer 扩散管线（PixArt-Sigma、Stable Diffusion 3、Aura Flow）做 FP8/INT8/INT4 量化以降低显存占用。
来源：Hugging Face Blog · huggingface.co