Hugging Face Blog·· 2023-05-25AI 评分44
用 NNCF 和 🤗 Optimum 在 Intel CPU 上优化 Stable Diffusion
Optimizing Stable Diffusion for Intel CPUs with NNCF and 🤗 Optimum
AI 导读
Hugging Face 与 OpenVINO NNCF 合作提出 Stable Diffusion 的 CPU 优化工作流,通过量化感知训练(QAT)结合知识蒸馏和 Token Merging,相比 PyTorch 实现 5.1x 推理加速和 4x 模型体积缩减。
来源:Hugging Face Blog · huggingface.co