Hugging Face Blog·· 2022-07-27精选AI 评分65
Hugging Face 讲解如何用 XLA 让 TensorFlow 文本生成提速最高 100 倍
Faster Text Generation with TensorFlow and XLA
AI 导读
Hugging Face 宣布 🤗 transformers 的 TensorFlow 文本生成支持 XLA 编译，部分场景提速超过 100 倍，多数情况下甚至快过 PyTorch 最高 9 倍。
推荐理由
官方详解 TensorFlow 文本生成用 XLA 加速的用法与坑，给出 padding 控制形状和一行代码启用的可复用方法。
来源：Hugging Face Blog · huggingface.co