Hugging Face Blog·· 2022-11-02AI 评分52
Optimum Intel 集成 OpenVINO,支持 Transformer 模型量化与推理加速
Accelerate your models with 🤗 Optimum Intel and OpenVINO
AI 导读
Hugging Face 宣布将 Intel OpenVINO 加入 Optimum Intel,基于 OpenVINO 2022.2,可用 OVModels 在多种 Intel 处理器上运行托管在 hub 或本地的 Transformers 模型,并通过 NNCF 进行量化。
来源:Hugging Face Blog · huggingface.co