跳到正文
原文
Hugging Face Blog·· 2022-05-10AI 评分53

Optimum 1.2 支持 Transformers pipelines 加速推理

Accelerated Inference with Optimum and Transformers Pipelines

AI 导读

Hugging Face 发布 Optimum 1.2,为 Transformers pipelines 增加 ONNX Runtime 推理支持,用户只需将 AutoModelForXxx 替换为 ORTModelForXxx 即可使用相同 API。

来源:Hugging Face Blog · huggingface.co