跳到正文
原文
Hugging Face Blog·· 2023-06-15精选AI 评分66

Hugging Face 讲解如何在 iPhone、iPad 和 Mac 上用 Core ML 加速 Stable Diffusion

Faster Stable Diffusion with Core ML on iPhone, iPad, and Mac

AI 导读

Apple 在 WWDC'23 中更新 Core ML 与 coremltools 的压缩优化能力,配合开源仓库 ml-stable-diffusion,支持将 Stable Diffusion 量化为 8/6/4/2-bit palettization,推荐 6-bit 以在精度损失很小的前提下加快推理并节省内存。

推荐理由

作者亲测 6-bit palettization 带来的生成速度提升,并给出完整转换命令和 Hub 模型,读者可按步骤迁移到自己微调的模型。

来源:Hugging Face Blog · huggingface.co