Hugging Face Blog·· 2024-02-29AI 评分28
使用 Optimum Habana 在 Intel Gaudi 2 AI 加速器上运行 Llama 2 文本生成 pipeline
Text-Generation Pipeline on Intel® Gaudi® 2 AI Accelerator
AI 导读
Hugging Face 展示如何在 Intel Gaudi 2 AI 加速器上，用 Optimum Habana 和自定义 pipeline 类运行 Llama 2 系列（7b、13b、70b）进行文本生成，几行代码即可完成。
来源：Hugging Face Blog · huggingface.co