Hugging Face Blog·· 2021-01-18AI 评分44
Hugging Face 如何将 Transformer 推理速度提升 100 倍以服务 API 客户
How we sped up transformer inference 100x for 🤗 API customers
AI 导读
Hugging Face 团队通过两层优化，为其 Accelerated Inference API 用户将 Transformer 推理速度提升共 100 倍。
来源：Hugging Face Blog · huggingface.co